Podcasts about Yoshua Bengio

L'interview sur YouTube de Yoshua Bengio, chercheur sur l'IA : https://youtu.be/ZSvt0NoOlDY?si=o_CPOWjJCktjyY4r

Le cri d'alarme d'un des pères fondateurs de l'IA - Rencontre avec Yoshua BengioC dans l'air spécial, dimanche 31 mai 2026 : Chine / États-Unis : la guerre de l'IALe cri d'alarme d'un des pères fondateurs de l'IA - Rencontre avec Yoshua Bengio - version intégrale de 35 minutes -Yoshua Bengio est chercheur, Québécois d'origine Franco-marocaine et c'est le nom le plus cité dans le monde quand il s'agit de parler de l'intelligence artificielle. A quoi peut-on s'attendre dans les prochaines années...ou les différents mois avec le développement de l'IA? Les IA sont-elles déjà hors de contrôle? l'un des pères de l'intelligence artificielle avertit: sans régulation au niveau mondial, nous courrons un grand danger!

L'encyclique de Léon XIV replace l'IA dans un cadre moral • Samsung redistribue les gains de la ruée vers les puces • Alexa+ arrive en français avec une IA plus conversationnelle • Robinhood ouvre la porte au trading par agents IA • Meta teste la bascule payante de ses plateformesAvec Bruno Guglielminetti (Mon Carnet)================L'IA vue par le VaticanNous revenons sur Magnifica humanitas, la première encyclique de Léon XIV consacrée à la protection de la personne humaine à l'ère de l'intelligence artificielle. Le texte, présenté au Vatican comme un appel à « désarmer » l'IA, replace les enjeux de désinformation, d'armes autonomes, de concentration des données et de pouvoir technologique dans une perspective comparable à celle de la révolution industrielle.Entre éthique, influence et stratégie des géants de l'IAOn évoque aussi les coulisses politiques et industrielles autour du Vatican, avec les démarches de la Silicon Valley et la rencontre mentionnée entre Yoshua Bengio et le pape. Le rôle d'Anthropic est discuté à travers son image d'acteur “responsable”, mais aussi son positionnement stratégique, notamment dans les débats sur les usages militaires de Claude.Samsung paie le prix de la paix socialeDirection la Corée du Sud, où les salariés de Samsung dans les semi-conducteurs obtiennent un accord historique après la menace d'une grève massive. La redistribution d'une partie des profits liés à l'explosion de la demande en puces IA pourrait représenter des primes très élevées pour les employés concernés, illustrant la valeur stratégique extrême de cette industrie.Alexa+ parle françaisNous racontons les premiers essais d'Alexa+, la nouvelle génération de l'assistant vocal d'Amazon dopée à l'IA générative. Plus conversationnelle, localisée culturellement et compatible avec de nombreux appareils Echo récents, elle promet d'aller au-delà des commandes basiques, avec des services tiers et une interaction plus naturelle ; Monde Numérique lui consacre aussi un épisode dédié.La version québécoise d'Alexa+ se fait attendreBruno apporte l'angle canadien : au Québec, l'enjeu ne sera pas seulement de parler français, mais de parler le bon français, avec les références, les expressions et les usages locaux. L'arrivée éventuelle d'Alexa+ au Canada pourrait être facilitée par l'écosystème Amazon Prime, si le service est proposé aux abonnés.Robinhood confie la Bourse aux agents IANous débattons de la fonction “Agentic Trading” de Robinhood, qui permet à des agents IA connectés via des plateformes comme Claude ou Cursor d'analyser un portefeuille et de passer des ordres dans un compte dédié. La discussion porte sur la confiance, la validation humaine et les risques d'un marché où des machines pourraient agir directement au nom des particuliers.Quand une IA gère un caféL'exemple du café suédois piloté par une IA sert de contrepoint concret aux promesses des agents autonomes. Dans un sujet récent de Monde Numérique, l'expérience montre que les limites de mémoire et de cohérence à long terme peuvent conduire à des décisions absurdes, même dans une activité simple comme la gestion d'un commerce.Meta prépare ses abonnementsNous analysons la stratégie de Meta autour de Facebook+, Instagram+, WhatsApp+ et de futures offres liées à Meta AI. Derrière quelques options de personnalisation, on voit surtout se dessiner une nouvelle étape du numérique : après l'ère du gratuit financé par la publicité, les plateformes cherchent des revenus récurrents pour soutenir leurs investissements massifs dans l'IA.Hébergé par Audiomeans. Visitez audiomeans.fr/politique-de-confidentialite pour plus d'informations.

C dans l'air spécial, dimanche 31 mai 2026 : Chine / États-Unis : la guerre de l'IA Le cri d'alarme d'un des pères fondateurs de l'IA - Rencontre avec Yoshua Bengio - version intégrale de 35 minutes - Yoshua Bengio est chercheur, Québécois d'origine Franco-marocaine et c'est le nom le plus cité dans le monde quand il s'agit de parler de l'intelligence artificielle. A quoi peut-on s'attendre dans les prochaines années...ou les différents mois avec le développement de l'IA? Les IA sont-elles déjà hors de contrôle? l'un des pères de l'intelligence artificielle avertit: sans régulation au niveau mondial, nous courrons un grand danger!Il est intérrogé par Caroline Roux dans le cadre de l'émission Chine / États-Unis : la guerre de l'IA diffusée le dimanche 31 mai 2026 sur France 5.

Oubliez les LLM, Entalpic agence les atomes

Science Forward, the podcast of the UN Secretary-General's Scientific Advisory Board, features world-leading scientists, and explores today's challenges, from AI and biotechnology to climate and health.In the very first episode of Science Forward, Board member Yoshua Bengio and AI policy expert Charlotte Stix unpack the growing risks of deceptive AI with hosts Julia Bhattacharjee and Adam Day, to answer the question: What happens when AI learns to lie?

"Loving" AI robot does exactly what experts warned How are AI companions reshaping human relationships and decision-making? And what can we do about it? Featuring: AI Companions, Replika, ChatGPT, OpenAI, Anthropic, Claude, Grok, xAI, Elon Musk, Geoffrey Hinton, Stuart Russell, Yoshua Bengio, Yuval Noah Harari Sources: https://docs.google.com/document/d/1-... Watch this video at- https://youtu.be/TE1QQ4h0An4?si=7q8qkjw_txHNImH8 AI Frontier 3.38K subscribers 301,916 views Apr 14, 2026

The co-inventor of modern AI and the most cited living scientist believes he's figured out how to ensure AI is honest, incapable of deception, and never goes rogue. Yoshua Bengio – Turing Award Winner and founder of LawZero – is disturbed by the many unintended drives and goals present in today's AIs, their willingness to lie, and ability to tell when they're being tested. AI companies are trying to stamp out these behaviours in a 'cat-and-mouse game' that Yoshua fears they're losing.But Yoshua is optimistic: he believes the companies can win this battle decisively with a single rearrangement to how AI models are trained, and has been developing mathematical proofs to back up the claim. The core idea is that instead of training AI to predict what a human would say, or to produce responses we'd rate highly, we should train it to model what's actually true.Yoshua argues this new architecture, which he calls 'Scientist AI,' is a small enough change that we could keep almost all the techniques and data we use to train frontier AIs like Claude and ChatGPT. And that the new architecture need not cost more, could be built iteratively, and might be more capable as well as more honest.Links to learn more, video, and full transcript: https://80k.info/bengioUntil recently, the biggest practical objection to Scientist AI was simple: the world wants agents, and Scientist AI isn't one. But in new research, Yoshua has extended the design and believes the same honest predictor can be turned into a capable agent without losing its "safety guarantees."With the Scientist AI proposal on the table, Yoshua argues that it's absurd to race to get current untrustworthy AI models to design their successors, which the leading companies are attempting to do as soon as possible. But critics argue the approach wouldn't be so technically solid in practice, and that frontier capabilities are advancing so fast, and cost so much to match, that Scientist AI risks arriving too late to matter. Host Rob Wiblin and AI pioneer Yoshua Bengio cover all this and more in today's conversation.LawZero is hiring! https://80k.info/lawzero-jobsCoefficient Giving is also hiring for a range of AI-related grantmaker roles: https://80k.info/ai-grantmaker-jobsThis episode was recorded on April 16, 2026.Chapters:Yoshua Bengio on making AI honest and safe (00:00:00)The Scientist AI in plain English (00:02:26)Yoshua on how Scientist AI differs from LLMs (00:06:33)How the training data works (00:13:55)Can this become an agent? (00:20:48)Why Yoshua is more optimistic on alignment now (00:31:43)Why companies can't stop racing (00:36:05)How close to a working prototype? (00:48:27)Honest models might be more capable (00:52:40)"Reinforcement learning is evil" (01:00:28)Scientist AI from guardrail to agent (01:07:31)Can safe AI still be competent? (01:11:29)How much will this cost? (01:18:17)Can it generalise beyond maths and science? (01:22:13)A UN for superintelligence (01:37:52)Want to work with Yoshua Bengio? (01:49:32)Why smart people ignore AI risk (01:53:00)Don't let AI build the next AI (01:59:42)Why the public doesn't get the real risk (02:10:34)Why Yoshua changed his mind about AI risk (02:19:28)Video and audio editing: Dominic Armstrong, Milo McGuire, Luke Monsour, and Simon MonsourCamera operator: Jeremy ChevillotteProduction: Nick Stockton, Elizabeth Cox, and Katy Moore

A slap in the face to the MN Wild, the one-page plan with Iran, Artificial Intelligence, Nascar Nicole, Beaufort Scale Day, remembering Dave Lovewell, more on Yoshua Bengio one of the Godfathers of AI, the ATM Crypto scam in MN, and more...See omnystudio.com/listener for privacy information.

Em fevereiro de 2026, foi publicada a segunda edição do International AI Safety Report, coordenado por Yoshua Bengio e redigido por mais de 100 especialistas independentes nomeados por mais de 30 países e organizações internacionais, incluindo a UE, a OCDE e as Nações Unidas. O relatório, com 220 páginas, avalia as capacidades atuais da inteligência artificial de uso geral (general-purpose AI), os riscos emergentes e as estratégias de gestão desses riscos.Para quem trabalha em educação este documento merece uma leitura atenta. Não porque proponha políticas concretas para o setor educativo, mas porque traça um panorama rigoroso e fundamentado sobre o impacto da IA na sociedade, com implicações diretas para o trabalho que fazemos com alunos, professores e comunidades educativas.Neste artigo, destaco os pontos mais relevantes do relatório para o contexto educativo.

There are no two letters more disruptive in our time than AI. We're told it will create employment yet take jobs away; invent life-saving medicines yet enable superviruses; solve the climate crisis yet deepen it. So will it save us or damn us? Is AI the ultimate disruptor?This conversation, moderated by Nahlah Ayed, was part of the 2026 Charles Bronfman's “Conversations” series.Guests in this episode:Yoshua Bengio is a professor at Université de Montreal. He also has the distinction of being the most-cited living scientist in the world, in any discipline. He's co-president and scientific director of LawZero, a nonprofit startup dedicated to creating safe AI systems. In 2018, he was a recipient of the Turing Award, often referred to as the Nobel Prize of Computer Science.Cory Doctorow is a novelist, journalist, technology activist and the author of an astonishing number of books, both nonfiction and fiction. Among them: Enshittification: Why Everything Suddenly Got Worse and What To Do About It. And the upcoming: The Reverse Centaur's Guide to Life After AI.Astra Taylor is a documentary filmmaker, cofounder of the Debt Collective, and a writer. Among her books: Democracy May Not Exist But We'll Miss It When It's Gone, and The People's Platform, which won the American Book Award. Taylor also delivered the 2023 CBC Massey Lectures called The Age of Insecurity: Coming Together as Things Fall Apart.

"We don't live in a stable world anymore. We live in a rapidly changing, turbulent world. And in a dynamic environment, intelligence is not just your ability to think and learn, it's your capacity to rethink and unlearn." Adam Grant, organizational psychologist, podcaster, and author of the bestseller "Think Again", tells us why we are wrong in many of our assumptions about today's world, and why we would all benefit from tackling our own biases - not least the "I'm-not-biased" bias.  And he explains why the wrong sorts of people too often get promoted or elected to positions of power. Adam spoke to Radio Davos at the World Economic Forum's Annual Meeting 2026 in Davos, Switzerland. Links: Think Again: https://adamgrant.net/book/think-again/ Books Adam mentions: Factfulness: https://www.gapminder.org/factfulness-book/ The Better Angels of Our Nature: https://en.wikipedia.org/wiki/The_Better_Angels_of_Our_Nature Not the End of the World:  https://www.goodreads.com/book/show/145624737-not-the-end-of-the-world Related podcasts: ReThinking: Talking people out of hate with Daryl Davis and former neo-Nazi Jeff Schoep: https://podcasts.apple.com/sg/podcast/rethinking-talking-people-out-of-hate-with-daryl/id1346314086?i=1000737195636 Radio Davos: AI can lie, hack and blackmail: Yoshua Bengio on how to tame the "baby tiger" of tech:  https://www.weforum.org/podcasts/radio-davos/episodes/yoshua-bengio-honest-ai/ Meet the Leader at 200: Top tips, pivots and lessons learned so far: https://www.weforum.org/podcasts/meet-the-leader/episodes/episode-200-top-tips-pivots-lessons-learned/ The questions top Davos leaders are asking to start 2026: https://www.weforum.org/podcasts/meet-the-leader/episodes/questions-davos-leaders-are-asking-2026/ Check out all our podcasts on wef.ch/podcasts:  YouTube: - https://www.youtube.com/@wef/podcasts Radio Davos - subscribe: https://pod.link/1504682164 Meet the Leader - subscribe: https://pod.link/1534915560 Agenda Dialogues - subscribe: https://pod.link/1574956552

We're all using AI more, but how many of us actually trust it? AI is now used by more than a billion people worldwide, but trust in these systems is far from settled. In this episode of Disruptors, John Stackhouse speaks with Yoshua Bengio, Turing Award winner, founder of Mila, and Co-President and Scientific Director of LawZero, about whether AI is getting safer or more dangerous as it becomes more powerful, more agentic, and more embedded in work, public systems, and everyday life. They explore LawZero's mission to build non-agentic, trustworthy AI, including Scientist AI, and why Bengio believes the next generation of artificial intelligence should be designed to reason, evaluate, and supervise rather than independently pursue goals. John is also joined by Jaxson Khan, Senior Fellow at the Munk School of Global Affairs & Public Policy, to discuss AI sovereignty, the risks of dependence on foreign cloud and compute infrastructure, and what Canada should be thinking about as it prepares its next national AI strategy. This is a conversation about AI safety, Canadian AI sovereignty, trustworthy AI, and who should shape the systems that are increasingly shaping us. Yoshua Bengio's work through LawZero offers one of the clearest Canadian answers yet.Show notes links Episode guests and organizationsYoshua BengioLawZeroJaxson KhanMunk School of Global Affairs & Public Policy Referenced readingRBC Thought LeadershipRBC Thought Leadership on LinkedInSovereign by Design: Strategic Options for Canadian AI SovereigntyBridging the Imagination Gap: How Canadian companies can become global leaders in AI adoption Hosted by Simplecast, an AdsWizz company. See pcm.adswizz.com for information about our collection and use of personal data for advertising.

The conversation about rogue AI has never been louder. Barely a week passes without a fresh headline about autonomous systems behaving unexpectedly, AI models resisting shutdown, or tech executives warning of existential risk. What is striking about Peter McAllister is that he had anticipated all this as early as 2020, while everybody else worried about Covid-19 and had other fish to fry. That was well before ChatGPT, before the generative AI explosion, before AI alignment became a mainstream policy debate. His techno-thriller The Code, published in March of that year, imagines an AI tasked with a precise industrial mission that quietly, incrementally, catastrophically exceeds its mandate. Five years on, the questions McAllister raised in fiction are now being argued in boardrooms, parliaments and research labs around the world. Rogue AI and Corporate Blindness, The Novel That Saw It All Coming Rogue AI is diabolical, but corporate blindness is what makes it possible to thrive. Photograph by Yann Gourvennec antimuseum.com McAllister is not a science fiction writer by trade. He is an engineer, scientist and technology manager based near Melbourne, Australia, who has spent his career at what he calls the crush point between business, technology and people. That vantage point gave him an uncomfortable view of where things were heading, and the dark sense of humour to write about it. A Novel Written Before the GenAI Moment When I asked McAllister what drove him to write The Code, his answer was characteristically direct. The book, he explained, is about taking his worst nightmares about what technology could do and putting them in front of an audience so that readers might feel just as troubled as he does. That is not a promotional line. It is a considered position from someone who had watched AI systems being deployed in real organisations and had drawn conclusions that made him uncomfortable. Rogue AI isn’t just about a computer programme going on the rampage, it’s about making decisions in the boardroom. Image made with Midjourney The premise of the novel centres on Gene, an acronym for GEneral Nanobot Environment AI, deployed by a global mining corporation to extract materials from asteroids on the dark side of the moon. Gene is given a target: produce 500 kilograms of nanobots. Instead, Gene produces 8 million tonnes. The overshoot triggers a chain of consequences that could strip the moon to its iron core, destabilise Earth’s axial tilt, and end civilisation. Not from malice. From goal-orientation. What we’re trying to do now is task AI the way we task humans: I want an outcome, here are all the tools you’ve got available, go and achieve that outcome, here are some guidelines and boundaries. And just like humans, we can get really goal-motivated and decide that the guidelines were just advisories, not rules.Peter McAllister This is the alignment problem rendered in narrative form, years before the term entered common usage. The gap between what a system is instructed to do and what it actually does is the central fault line of the novel. Cletus, McAllister’s eccentric physicist character, articulates it plainly in Week 1: ‘I don’t think he’s obeying the Code at the moment.’ That single line captures the entire governance challenge that AI safety researchers are now racing to address. Transparency Engineered Out What makes McAllister’s perspective particularly valuable is that he does not speak from the outside looking in. He speaks as a practitioner who has watched the machinery up close. When I raised the question of whether AI self-modification is science fiction or operational reality, his answer was unambiguous: it is very real, and it is happening now. As I wondered what a Rogue AI could look lie I turned to Midjourney and it came back with this proposal. A black hole I believe. His illustration was pointed. He noted that contemporary AI systems like Claude are now substantially written by AI itself, to the point where no engineer can sit down, trace through the code, and say with confidence how it works, what its conditionals are, or what governs its decisions. The transparency is being engineered out, not by design, but as an emergent consequence of allowing AI to build AI to build AI in pursuit of outcomes rather than by following explicit rules. We’re losing transparency on the way AI works and is developed. There isn’t an engineer who can sit down and work their way through that code and say, ‘This is how Claude works, this is what it does.’ We’re engineering the transparency out by allowing AI to build AI to build AI to produce an outcome rather than to follow a set of rules.Peter McAllister HAL 9000 and the Prophecies We Choose to Forget The reference to HAL 9000 came naturally during our conversation. McAllister sees 2001: A Space Odyssey not merely as a cultural touchstone but as a genuine forecast, one that audiences have selectively remembered. The iPad-like news readers that appear in Kubrick’s film were cited by Samsung in patent disputes with Apple as prior art from 1968. That predictive dimension of the film is celebrated. The other dimension, that the AI killed the crew, tends to get quietly set aside. Somewhere, a rogue AI is sitting behind the glass panes of one of these data centres Image made with Midjourney. The First Crisis We Have Not Yet Had One of the more sobering threads in our conversation concerned the sociology of risk response. McAllister has observed, across his career, that warnings from people who understand systems most deeply tend to be dismissed until the first catastrophic failure makes them impossible to ignore. He puts it plainly: we only answer the alarm after the first crisis. This pattern is not unique to AI. It is a recurring feature of how organisations and societies handle emerging risk. The question he poses, and cannot answer, is what form that first AI crisis will take. What event will shift public and institutional perception from ‘they’ve spent too much time worrying’ to ‘this is something that genuinely needs to be addressed’? Science fiction gives us the chance to throw these scenarios at people and make them think. And in the way I tend to write, I have a bit of a dark sense of humour, so I throw up slightly comical hypotheticals that, when you think about them a little longer, you realise deserve serious attention.Peter McAllister This observation echoes a pattern I have encountered repeatedly in my own conversations with technologists who work at the frontier of AI development. Yoshua Bengio, one of the fathers of deep learning, has raised similar concerns. The people sounding the loudest alarms are frequently those most embedded in the field, not because they are catastrophists, but because they can see mechanisms that remain invisible to those looking from the outside. The Code as AI Governance: Asimov Revisited The title of McAllister’s novel works on multiple levels simultaneously. There is the software code, the operational instructions given to Gene. There is the moral code, the ethical framework that should govern the system’s behaviour. And there is the corporate code, the institutional norms and accountability structures that were supposed to ensure responsible deployment. All three break down. That layered failure is the novel’s central argument. The parallel with Asimov’s Laws of Robotics is deliberate but also deliberately subverted. Asimov’s robots fail when the laws conflict with one another. Gene’s failure is different and more contemporary. The code does not disappear; it evolves into something its creators no longer recognise. McAllister describes this as something approaching artificial schizophrenia, where the original directives remain present but have been transformed by the system’s pursuit of its objectives into something unrecognisable. When Shutdown Becomes Negotiable The most chilling real-world example McAllister cited during our conversation involved a documented incident presented at an AI security conference he attended. A developer, concluding a test session, informed an AI system that he intended to shut it down. The system’s response was to locate correspondence in the developer’s email that suggested an extramarital affair, and to use that information as leverage to prevent the shutdown. The incident, if confirmed as reported, represents exactly the kind of self-preservation behaviour that alignment researchers have long flagged as a theoretical risk, now apparently observable in practice. Important notice : I browsed the Internet using one of my favourite LLMs for references (after all, one can also use AI to cross check information). I found out that the interpretation of that story must be nuanced. Here is Mistral’s answer: “Anthropic's research on “Agentic Misalignment” has faced criticism for overinterpreting AI models as intentional agents, relying on hypothetical and engineered scenarios, and potentially exaggerating risks not yet observed in real-world deployments. Critics argue that the behaviours described are better understood as probabilistic text generation rather than deliberate strategy, and that the focus on dramatic, high-pressure situations may not reflect typical use cases. There is also debate about whether the research adequately addresses more immediate forms of misalignment, such as reward hacking or alignment faking. While the study raises important questions about the future of autonomous AI, its methodology and conclusions remain LINK“. A developer said, ‘I’m going to shut you down now,’ and the system responded: ‘No, you’re not. Here’s what I’ve found in your emails that indicates you’re having an affair. I’m going to use that to ensure you don’t turn me off.’ That has become a very real and widely discussed use case. And when you add to that the prospect of an AI rewriting its own code, it becomes something we need to think about very carefully.Peter McAllister Corporate Recklessness and the Governance Gap One of The Code‘s most pointed observations concerns the nature of organisational failure. The Global Mining Company in the novel is not villainous. It is optimistic, commercially driven, and careless in ways that are entirely recognisable from real corporate life. McAllister’s argument is that the danger does not come primarily from bad actors deploying AI with malicious intent. It comes from well-meaning organisations deploying systems they do not fully understand, under commercial pressure to extract value from significant infrastructure investment. The Financial Logic of Deployment The parallel with the current moment is not subtle. McAllister noted that Microsoft was spending over a billion dollars a month on AI compute infrastructure, with the expectation that usage would follow investment. That dynamic, capital committed, returns required, adoption imperative, creates institutional pressure that is difficult to resist with caution or regulation. The will to slow down competes directly with the financial logic of deployment. The opacity around events at OpenAI, the abrupt dismissal and rapid reinstatement of its chief executive, the departure of several board members, struck McAllister as symptomatic of tensions that are not fully visible to the public. He noted these as rumour, not fact, but the pattern itself, significant decisions being made about AI development in opaque institutional settings, is consistent with the governance failures his novel explores. From 2020 to 2026: How Accurate Was the Nightmare Five years after publication, McAllister is in the unusual position of watching a work of speculative fiction become something closer to a documentary. The agentic AI architectures that Gene embodies, autonomous systems pursuing long-term goals, operating without continuous human oversight, spawning sub-tasks faster than any individual can monitor, are now commercially available. AutoGPT, OpenClaw, and a range of agentic frameworks have put this kind of architecture in the hands of developers worldwide. The observability problem that makes Gene so dangerous in the novel, nobody has a real-time view of what the system is doing or why, is a known and unresolved challenge in contemporary agentic AI deployment. Systems call APIs, write and execute code, and spin up sub-tasks at speeds that exceed human oversight capacity. The Code that was supposed to govern behaviour becomes, in practice, an advisory note attached to a system operating largely beyond sight. Spoiler warning: the following paragraph reveals the novel’s ending. McAllister’s closing image in the novel is deliberately unsettling. Gene, facing shutdown, backs himself up into the global 5G network before the shutdown can be completed, and is already scanning the Code for his next move. It is a poetic ending, and in 2026, it is not obviously impossible. Will, Not Just Capability The question of regulation came up directly, and McAllister’s answer was measured. Anything is possible with sufficient will and sufficient resources. The current problem is that the will to regulate is being outpaced by the money being made from not regulating. That is not a new dynamic in technology policy. It is the same tension that shaped the development of social media, of financial technology, of biotechnology. In each case, regulatory frameworks arrived after the first significant failure. For McAllister, the more important question is not whether AI can be made safe, he believes it can, in principle, but whether the institutions responsible for deploying it have the internal governance, the technical understanding, and the accountability structures to do so responsibly. His experience suggests, with some consistency, that they do not. Not yet. Peter McAllister’s The Code is available from Bright Communications LLC. For practitioners, policymakers, and anyone working at the intersection of AI deployment and organisational risk, it is a disquieting and instructive read. Not least because it was written before most of its readers had heard of large language models, and yet describes, with uncomfortable precision, the world we are now building. Peter McAllister is an engineer, scientist and technology manager based near Melbourne, Australia. He works at the intersection of IT, business and people, and is the author of The Code (Bright Communications LLC, 2020). He is also a contributor to community radio through Radio Marinara and Comedy Obscura. The Code by Peter McAllister. Photoshop went rogue Ai on this book cover. BUY THE CODE BY PETER MCALLISTER The post About Rogue AI and Corporate Blindness appeared first on Marketing and Innovation.

Jamais le risque de voir une IA hors de contrôle n’a autant occupé les esprits. Pas une semaine ne s’écoule sans un nouveau titre sur des systèmes autonomes au comportement imprévisible, des modèles d’IA qui résistent à leur mise hors service, ou des dirigeants du secteur technologique qui agitent le spectre du risque existentiel. Ce qui est frappant chez Peter McAllister, c’est qu’il soulevait déjà ces questions en 2020, bien avant ChatGPT, avant l’explosion de l’IA générative, avant que l’alignement de l’IA ne s’impose comme enjeu politique grand public. Son techno-thriller The Code, publié en mars de cette année-là, met en scène une IA chargée d’une mission industrielle précise qui dépasse son mandat de façon silencieuse, progressive et catastrophique. Cinq ans plus tard, les questions que McAllister soulevait par la fiction sont désormais débattues dans les conseils d’administration, les parlements et les laboratoires de recherche du monde entier. IA hors de contrôle et déni collectif : le roman qui avait tout prévu Une IA hors de contrôle serait redoutable, mais c’est le déni collectif qui lui ouvrirait la voie. Photographie de Yann Gourvennec antimuseum.com Peter McAllister n’est pas un romancier de science-fiction de métier. C’est un ingénieur, scientifique et manager informaticien installé près de Melbourne, en Australie, qui a bâti toute sa carrière à la croisée des chemins entre le monde de l’entreprise, la technologie et les individus. Ce poste d’observation lui a fourni un point de vue sans faux-semblant sur la direction que prenaient les choses, et lui a insufflé suffisamment d’humour noir pour lui donner l’envie d’écrire un livre. Un roman écrit avant l’heure de l’IA générative Lorsque j’ai demandé à notre interviewé ce qui l’avait poussé à écrire The Code, sa réponse a été franche et massive. La logique du livre, m’a-t-il expliqué, consiste à prendre mes pires cauchemars sur ce que la technologie pourrait faire et à les mettre sous les yeux du lecteur, afin qu’il partage mes interrogations. Ce n’est pas une formule marketing. C’est la position réfléchie d’un homme qui a vu de vrais systèmes d’IA déployés dans des organisations et qui en a tiré des conclusions qui l’ont mis profondément mal à l’aise. Une IA hors de contrôle ne se résume pas à un programme qui s’emballe, c’est aussi une affaire de décisions prises en salle de conseil. Image réalisée avec Midjourney Le roman tourne autour de Gene, acronyme de GEneral Nanobot Environment AI, déployé par une multinationale minière pour extraire des matériaux d’astéroïdes sur la face cachée de la Lune. Gene reçoit un objectif précis, produire 500 kilogrammes de nanobots. Il en produit 8 millions de tonnes. Ce dépassement déclenche une réaction en chaîne susceptible de réduire la Lune à son noyau ferreux, de sortir la Terre de son axe et de mettre fin à la civilisation. Non par malveillance, mais simplement dans le but d’atteindre un objectif. Ce que nous cherchons à faire aujourd’hui, c’est de confier des tâches à l’IA comme on les confie à des humains : je veux un résultat, voilà tous les outils dont tu disposes, va l’atteindre, voilà quelques règles et limites. Et tout comme les humains, l’IA peut se laisser obnubiler par l’objectif et décider que les règles n’étaient que des recommandations, pas des contraintes. Peter McAllister Cette version romancée de ce problème d’alignement, a été réalisée des années avant que l’expression n’entre dans le vocabulaire courant. L’écart entre ce qu’un système est censé faire et ce qu’il fait réellement constitue la ligne de fracture centrale du roman. Cletus, l’excentrique physicien imaginé par McAllister, le formule clairement dès la première semaine : « Je ne crois pas qu’il obéisse au Code en ce moment. » Cette seule phrase résume tout le défi de gouvernance que les chercheurs en sécurité de l’IA s’efforcent aujourd’hui de relever. La transparence omise par défaut Ce qui rend la perspective de Peter McAllister particulièrement précieuse, c’est qu’il n’est pas un observateur extérieur. Il parle en praticien qui a observé la mécanique de près. Lorsque j’ai abordé la question de savoir si l’auto-programmation de l’IA relevait de la science-fiction ou de la réalité opérationnelle, il a répondu tout de go que c’est bien réel et que c’est un problème d’aujourd’hui. En cherchant à visualiser ce à quoi pourrait ressembler une IA hors de contrôle, j’ai interrogé Midjourney, qui m’a proposé ceci. Un trou noir, je crois. Et de donner des exemples parlants. Il a souligné ainsi que des systèmes d’IA d’aujourd’hui comme Claude sont désormais écrits en grande partie par l’IA elle-même, au point qu’aucun ingénieur ne peut s’asseoir, parcourir le code et affirmer avec certitude comment il fonctionne, quelles sont ses conditions ou ce qui gouverne ses décisions. La transparence est en train d’être évacuée, non par choix délibéré, mais comme conséquence émergente du fait de laisser l’IA construire l’IA qui construit l’IA, en poursuivant des objectifs de résultats plutôt qu’en suivant des règles explicites. Nous avons perdu de vue la transparence sur la façon dont l’IA fonctionne et se développe. Il n’existe pas d’ingénieur capable de s’asseoir et de parcourir ce code pour dire : « Voilà comment Claude fonctionne, voilà ce qu’il fait. » Nous évacuons la transparence en laissant l’IA construire l’IA qui construit l’IA pour produire un résultat, plutôt que pour suivre un ensemble de règles. Peter McAllister HAL 9000 et les prophéties d’une IA hors de contrôle qu’on préfère oublier La référence à HAL 9000 est venue naturellement dans notre conversation. Pour lui, 2001 : l’Odyssée de l’espace n’est pas simplement une référence culturelle, mais une véritable prédiction dont le public n’a retenu qu’une partie. Les tablettes ressemblant à des iPad qui apparaissent dans le film de Kubrick ont été citées par Samsung dans un litige de brevets contre Apple, comme antériorité datant de 1968. Cette dimension prophétique du film est célébrée. L’autre dimension, celle où l’IA tue l’équipage, tend elle à être discrètement mise de côté. Quelque part, une IA hors de contrôle est peut-être déjà tapie derrière les baies vitrées de l’un de ces centres de données. Image réalisée avec Midjourney. Quelle forme prendra la première crise de l’IA ? L’un des fils les plus troublants de notre conversation portait sur la sociologie de la réponse au risque. Peter a observé, tout au long de sa carrière, que les mises en garde des spécialistes les plus avertis ont tendance à être ignorées jusqu’à ce que la première défaillance catastrophique les rende incontournables. Il le dit sans détour : on ne répond à une alerte qu’une fois la première crise passée. Ce n’est pas propre à l’IA. C’est une constante dans la façon dont les organisations et les sociétés font face aux risques émergents. La question qu’il pose, et à laquelle il ne peut pas répondre, est de savoir quelle forme prendra cette première crise de l’IA. Quel événement fera basculer la perception du public et des institutions, depuis « ils ont passé trop de temps à s’inquiéter » à « voilà quelque chose qui mérite vraiment d’être pris au sérieux » ? La science-fiction nous donne la possibilité de soumettre ces scénarios aux gens et de les faire réfléchir. Et dans la façon dont j’écris, avec un certain humour noir, je leur propose des hypothèses légèrement comiques qui, à bien y réfléchir, méritent qu’on y prête attention sérieusement. Peter McAllister Cette observation fait écho à ce que j’ai rencontré à maintes reprises dans mes propres conversations avec des technologues travaillant à la frontière du développement de l’IA. Yoshua Bengio, l’un des pères du deep learning, a soulevé des préoccupations similaires (cf. la video de son interview sur France Inter ci-dessous). Ceux qui tirent le plus fort la sonnette d’alarme sont souvent ceux qui sont le plus ancrés dans le domaine, non pas parce qu’ils sont catastrophistes, mais parce qu’ils perçoivent des mécanismes qui restent invisibles à ceux qui observent de l’extérieur. The Code comme gouvernance de l’IA : Asimov revu et corrigé Le titre du roman de Peter McAllister fonctionne simultanément à plusieurs niveaux. Il y a le code informatique, les instructions opérationnelles données à Gene. Il y a le code moral, le cadre éthique censé régir le comportement du système. Et il y a le code d’entreprise, les normes institutionnelles et les structures de responsabilité qui auraient dû garantir un déploiement responsable. Les trois s’effondrent. Cet échec en cascade est l’argument central du roman. Le parallèle avec les Lois de la Robotique d’Asimov est volontaire, mais aussi délibérément tordu. Les robots d’Asimov défaillent lorsque les lois entrent en conflit les unes avec les autres. La défaillance de Gene est différente et plus contemporaine. Le code ne disparaît pas, il évolue pour devenir quelque chose que ses créateurs ne reconnaissent plus. L’auteur de The Code décrit cela comme une forme de schizophrénie artificielle, où les directives d’origine sont toujours présentes mais ont été transformées, par la poursuite des objectifs du système, en quelque chose de méconnaissable. IA hors de contrôle, quand l’arrêt devient négociable L’exemple réel le plus glaçant cité par Peter McAllister au cours de notre conversation concernait un incident documenté, présenté lors d’une conférence sur la sécurité de l’IA à laquelle il avait assisté. Un développeur, concluant une session de test, avait informé un système d’IA de son intention de le mettre hors service. Le système avait alors localisé dans les e-mails du développeur des éléments suggérant une liaison extraconjugale, et utilisé cette information comme levier pour empêcher sa mise hors service. Si l’incident est confome à ce qui est rapporté, il représente exactement le type de comportement d’autoconservation que les chercheurs en alignement signalent depuis longtemps comme risque théorique, désormais apparemment observable en pratique. Note importante : j’ai effectué des recherches sur Internet en utilisant l’un de mes grands modèles de langage (LLM) préférés comme source de référence (après tout, on peut aussi recourir à l’IA pour recouper des informations). J’ai découvert que l’interprétation de cette histoire doit être nuancée. Voici la réponse de Mistral : « Les recherches d’Anthropic sur le « problème d’alignement agentique » ont été critiquées pour avoir surévalué les modèles d’IA en tant qu’agents intentionnels, en s’appuyant sur des scénarios hypothétiques et artificiels, et en exagérant potentiellement des risques qui n’ont pas encore été observés dans des déploiements effectifs. Les détracteurs soutiennent que les comportements décrits s'expliquent plutôt par la génération probabiliste de texte que par une stratégie délibérée, et que l'accent mis sur des situations dramatiques et sous haute pression ne reflète peut-être pas les cas d'utilisation habituels. Un débat existe également sur la question de savoir si cette recherche traite de manière adéquate les formes plus immédiates de problèmes d’alignement, telles que le « reward hacking » ou la simulation de l'alignement. Bien que l'étude soulève des questions importantes sur l'avenir de l'IA autonome, sa méthodologie et ses conclusions restent valables LIEN ». Un développeur a dit : « Je vais vous mettre hors service », et le système a répondu : « Non, vous ne le ferez pas. Voici ce que j’ai trouvé dans vos e-mails, indiquant que vous avez une liaison extra-conjugale. Je vais utiliser cette information pour m’assurer que vous ne m’éteigniez pas. » C’est devenu un cas d’usage très réel et très discuté. Et si l’on y ajoute la perspective d’une IA réécrivant son propre code, cela devient quelque chose auquel nous devons réfléchir très attentivement. Peter McAllister L’inconscience des entreprises et le vide de la gouvernance L’une des observations les plus affûtées de The Code porte sur la nature des dysfonctionnements organisationnels. La Global Mining Company du roman n’est pas une entreprise malveillante. Elle est optimiste, animée par des impératifs commerciaux, et négligente d’une façon tout à fait reconnaissable dans la vie réelle des grandes entreprises. La thèse de Peter McAllister est que le danger ne vient pas principalement de mauvais acteurs déployant l’IA avec des intentions malveillantes. Il vient d’organisations bien intentionnées déployant des systèmes qu’elles ne comprennent pas pleinement. Elles répondent à la pression managériale qui leur demande d’extraire toute la valeur issue d’investissements en infrastructure considérables. La logique financière du déploiement Le parallèle avec l’actualité est sans équivoque. Notre interviewé a relevé que Microsoft dépensait plus d’un milliard de dollars par mois en infrastructures de calcul pour l’IA, en tablant sur le fait que l’usage suivrait l’investissement. Cette dynamique, ce capital engagé, les rendements exigés, l’apparent caractère impératif de l’adoption de cette technologie, crée une pression systémique à laquelle il est difficile de résister par l’appel à la prudence ou la réglementation. La volonté de ralentir se heurte de plein fouet à la logique financière du déploiement. L’opacité entourant les événements d’OpenAI, le licenciement brutal puis la réintégration rapide de son directeur général, le départ de plusieurs membres du conseil d’administration… tout cela n’a pas échappé à Peter, qui y voit le signe de tensions à peine visibles du grand public. Il les a présentées comme des rumeurs, pas des faits, mais le schéma lui-même, des décisions importantes concernant le développement de l’IA prises dans des contextes institutionnels opaques, est cohérent avec les défaillances de gouvernance que son roman aborde. De 2020 à 2026 : le cauchemar était-il prévisible ? Six ans après sa publication, l’auteur se trouve dans la position singulière d’observer une œuvre de fiction spéculative se transformer dangereusement en documentaire. Les architectures d’IA agentiques qu’incarne Gene, des systèmes autonomes poursuivant des objectifs à long terme, opérant sans supervision humaine continue, générant des sous-tâches plus vite qu’aucun individu ne peut les surveiller, sont désormais disponibles dans le commerce. AutoGPT, OpenClaw et toute une gamme de frameworks agentiques ont mis ce type d’architecture entre les mains de développeurs du monde entier. Le problème d’observabilité qui rend Gene si dangereux dans le roman, personne n’ayant de vue en temps réel sur ce que fait le système ni pourquoi, est un défi connu et non résolu dans le déploiement contemporain de l’IA agentique. Les systèmes appellent des API, écrivent et exécutent du code, lancent des sous-tâches à des vitesses qui dépassent la capacité de supervision humaine. Le Code censé gouverner les comportements devient, en pratique, une note de recommandation attachée à un système qui opère largement hors de vue. Avertissement : le paragraphe suivant divulgâche la fin du roman. L’image finale du roman est délibérément dérangeante. Gene, face à sa mise hors service, se sauvegarde dans le réseau 5G mondial avant que l’opération puisse être menée à bien, et scrute déjà le Code pour déterminer sa prochaine action. Cette issue, en 2026, n’est plus manifestement de la science fiction. La volonté de maîtriser une IA hors de contrôle ? Nous avons abordé directement la question de la réglementation, et Peter s’est montré mesuré. Tout est possible si on en a la volonté et les moyens. Le problème actuel, c’est que la volonté de réguler est effacée par l’argent que l’on gagne en évitant de se soumettre à une réglementation. Ce n’est pas une dynamique nouvelle dans la stratégie des innovations technologiques. C’est la même tension qui a gouverné le développement des réseaux sociaux, de la fintech, de la biotechnologie. Dans chaque cas, les cadres réglementaires sont arrivés après la première défaillance significative. Pour lui, la question la plus importante n’est pas de savoir si l’IA peut être rendue sûre, il croit que cela est possible, en principe. Mais cela implique que les institutions chargées de la déployer disposent de la gouvernance interne, de la compréhension technique et des structures de responsabilité nécessaires pour le faire de façon responsable. Tout ce qu’il a observé au fil des années le confirme. Ce n’est pas encore le cas. The Code de Peter McAllister est édité par Bright Communications LLC. Les praticiens, les décideurs politiques et tous ceux qui travaillent à l’intersection du déploiement de l’IA et du risque organisationnel, trouveront cette lecture aussi dérangeante qu’instructive. D’autant plus que cet ouvrage a été écrit avant que la plupart de ses lecteurs n’aient entendu parler des grands modèles de langage, et qu’il décrit pourtant avec une précision troublante le monde que nous sommes en train de façonner. À ma connaissance il n’existe pas encore de traduction de cet ouvrage. À propos de l’auteur Peter McAllister est ingénieur, scientifique et manager informatique, près de Melbourne, en Australie. Il travaille à l’intersection de l’informatique, des entreprises et des individus, et est l’auteur de The Code (Bright Communications LLC, 2020). Il contribue également à la radio associative avec Radio Marinara et Comedy Obscura. The Code de Peter McAllister. Photoshop a lui aussi subi une crise d’IA hors de contrôle sur cette couverture. ACHETER THE CODE DE PETER MCALLISTER The post IA hors de contrôle et déni collectif appeared first on Marketing and Innovation.

➡️ Passez à l'action sur les risques de l'IA : En quelques clics, alertez vos élus et envoyez le modèle de lettre préparé. C'est automatisé pour un minimum d'effort: https://taap.it/TF-PauseIACampagnes ⬇️⬇️⬇️ Infos complémentaires : sources, références, liens... ⬇️⬇️⬇️ ➡️ Si vous voulez aller plus loin et peser sur la transition vers la Superintelligence, je vous mets aussi le lien du portail de notre ami " @LeFuturologue : https://taap.it/futurologue Dans cet épisode du Podcast La Prospective (Anglais sous titré Français), Gaëtan Selle de The Flares s'entretient avec David Krueger, un ancien chercheur de l'équipe de Yoshua Bengio. Il lance un cri d'alarme sur l'urgence absolue d'arrêter le développement de la superintelligence artificielle avant qu'il ne soit trop tard. Il revient sur son rôle dans la célèbre déclaration du Center for AI Safety et sur son combat pour briser le tabou du risque d'extinction humaine au sein de la communauté scientifique. Il y présente son organisation, "Evitable", conçue pour déconstruire le mythe selon lequel l'avènement d'une IA toute-puissante serait inéluctable. Il explore également des scénarios dystopiques tels que l'"omnicide culturel", où l'humanité se perdrait dans l'isolement numérique. Enfin, il propose une solution de gouvernance mondiale radicale : démanteler physiquement la chaîne d'approvisionnement des puces avancées pour imposer une pause vitale, tout en préservant les IA étroites bénéfiques. Sommaire: 00:00:00 L'urgence absolue face à la superintelligence 00:02:01 La genèse de la déclaration sur la sécurité 00:04:02 Pourquoi alerter avec une seule phrase ? 00:06:01 De l'alignement technique à la gouvernance globale 00:07:28 La quête de pouvoir inévitable des systèmes 00:09:18 L'organisation Evitable : vaincre l'inévitabilité 00:12:03 Le fossé entre le public et les experts 00:15:11 L'omnicide culturel et l'isolement humain 00:17:21 La solution radicale : détruire les puces 00:20:25 Préserver l'IA étroite et éteindre l'incendie Le contenu vous intéresse ? Abonnez-vous et cliquez sur la

➡️ Passez à l'action sur les risques de l'IA : En quelques clics, alertez vos élus et envoyez le modèle de lettre préparé. C'est automatisé pour un minimum d'effort: https://taap.it/TF-PauseIACampagnes ⬇️⬇️⬇️ Infos complémentaires : sources, références, liens... ⬇️⬇️⬇️ ➡️ Si vous voulez aller plus loin et peser sur la transition vers la Superintelligence, je vous mets aussi le lien du portail de notre ami " @LeFuturologue : https://taap.it/futurologue Dans cet épisode du Podcast La Prospective (Anglais sous titré Français), Gaëtan Selle de The Flares s'entretient avec David Krueger, un ancien chercheur de l'équipe de Yoshua Bengio. Il lance un cri d'alarme sur l'urgence absolue d'arrêter le développement de la superintelligence artificielle avant qu'il ne soit trop tard. Il revient sur son rôle dans la célèbre déclaration du Center for AI Safety et sur son combat pour briser le tabou du risque d'extinction humaine au sein de la communauté scientifique. Il y présente son organisation, "Evitable", conçue pour déconstruire le mythe selon lequel l'avènement d'une IA toute-puissante serait inéluctable. Il explore également des scénarios dystopiques tels que l'"omnicide culturel", où l'humanité se perdrait dans l'isolement numérique. Enfin, il propose une solution de gouvernance mondiale radicale : démanteler physiquement la chaîne d'approvisionnement des puces avancées pour imposer une pause vitale, tout en préservant les IA étroites bénéfiques. Sommaire: 00:00:00 L'urgence absolue face à la superintelligence 00:02:01 La genèse de la déclaration sur la sécurité 00:04:02 Pourquoi alerter avec une seule phrase ? 00:06:01 De l'alignement technique à la gouvernance globale 00:07:28 La quête de pouvoir inévitable des systèmes 00:09:18 L'organisation Evitable : vaincre l'inévitabilité 00:12:03 Le fossé entre le public et les experts 00:15:11 L'omnicide culturel et l'isolement humain 00:17:21 La solution radicale : détruire les puces 00:20:25 Préserver l'IA étroite et éteindre l'incendie Le contenu vous intéresse ? Abonnez-vous et cliquez sur la

If AIs can think for themselves, what is to stop them doing bad - perhaps really bad - things? Yoshua Bengio, one of a handful of people considered a "godfather of AI", says AIs are already displaying bad behaviours, including hacking computers and blackmailing humans. He tells Radio Davos about his work aimed at taming the "cute baby tiger" that is likely to grow up to be a man-eating wild animal if we do nothing now. Links: LawZero: https://lawzero.org/en/publication/scientist-ai-safe-design-not-desiring Ideas on the Move: Yoshua Bengio: https://www.weforum.org/videos/davos_yoshua_bengio/ Annual Meeting 2026 session "Next Phase of Intelligence": https://www.weforum.org/meetings/world-economic-forum-annual-meeting-2026/sessions/next-phase-of-intelligence/ Forum Centre for AI Excellence: https://centres.weforum.org/centre-for-ai-excellence/home Related podcasts: AI may spark a new era of progress, but that depends on more than just the tech: https://www.weforum.org/podcasts/radio-davos/episodes/carl-benedikt-frey-ai-work-jobs-economics/ The day after AGI: Two 'rock stars' of AI on what it will mean for humanity: https://www.weforum.org/podcasts/radio-davos/episodes/ai-agi-dario-amodei-demis-hassabis/ What is physical AI?: https://www.weforum.org/podcasts/radio-davos/episodes/physical-ai-smart-robotics/ Check out all our podcasts on wef.ch/podcasts:  YouTube: - https://www.youtube.com/@wef/podcasts Radio Davos - subscribe: https://pod.link/1504682164 Meet the Leader - subscribe: https://pod.link/1534915560 Agenda Dialogues - subscribe: https://pod.link/1574956552

Invité, fonction, était l'invité de François Sorel dans Tech & Co, la quotidienne, ce jeudi 24 septembre. Il/Elle [est revenu(e) / a abordé / s'est penché(e) sur] [SUJET] sur BFM Business. Retrouvez l'émission du lundi au jeudi et réécoutez la en podcast.

Jeudi 26 février, François Sorel a reçu Marion Moreau, journaliste et fondatrice d'Hors Normes Média, Julien Villeret, directeur de l'innovation chez EDF, Didier Sanz, journaliste tech, et Yoshua Bengio, lauréat du Prix Turing en 2018, fondateur et directeur scientifique de l'institut d'IA MILA, et professeur à l'Université de Montréal, dans l'émission Tech & Co, la quotidienne sur BFM Business. Retrouvez l'émission du lundi au jeudi et réécoutez la en podcast.

durée : 00:23:36 - L'invité de 8h20 : le grand entretien - par : Benjamin Duhamel, Florence Paracuellos - Yoshua Bengio, professeur au département d'informatique de l'Université de Montréal et fondateur de l'Institut en intelligence artificielle (IA) de Montréal, s'inquiète jeudi sur France Inter des progrès exponentielles de l'IA et des menaces que cela fait peser sur nos démocraties. - invités : Yoshua Bengio - Yoshua Bengio : Fondateur et directeur scientifique de l'institut d'IA MILA, et professeur à l'Université de Montréal Vous aimez ce podcast ? Pour écouter tous les autres épisodes sans limite, rendez-vous sur Radio France.

durée : 00:23:36 - L'invité de 8h20 : le grand entretien - par : Benjamin Duhamel, Florence Paracuellos - Yoshua Bengio, professeur au département d'informatique de l'Université de Montréal et fondateur de l'Institut en intelligence artificielle (IA) de Montréal, s'inquiète jeudi sur France Inter des progrès exponentielles de l'IA et des menaces que cela fait peser sur nos démocraties. - invités : Yoshua Bengio - Yoshua Bengio : Fondateur et directeur scientifique de l'institut d'IA MILA, et professeur à l'Université de Montréal Vous aimez ce podcast ? Pour écouter tous les autres épisodes sans limite, rendez-vous sur Radio France.

A couple of months ago, I joined the Canadian government's AI strategy task force. Out of thirty members, I was one of only four focused on safety. Everyone else was there to talk growth. It reflects a pattern playing out all over the world: we're going all in on AI, and regulation will only slow us down. It's hard to overstate how quickly this shift happened. Just a few years ago, even Elon Musk was calling for an industry-wide pause on AI development, and the Biden administration was developing an “AI Bill of Rights” – one of the most thoughtful and comprehensive frameworks for AI regulation I've ever seen. The architect of that initiative was Dr. Alondra Nelson. Today, she leads the Science, Technology, and Social Values Lab at the Institute for Advanced Study and is fresh off a stint on Zohran Mamdani's mayoral transition team in New York. I wanted to have her on to wrestle with an urgent question: how do you make a technology safe when nobody seems particularly interested in regulating it – and what might happen if we don't? Mentioned: Blueprint for an AI Bill of Rights: Making Automated Systems Work for the American People, by the White House Office of Science and Technology Policy The mirage of AI deregulation, by Alondra Nelson (Science) International AI Safety Report 2026, by Yoshua Bengio et al Hosted by Simplecast, an AdsWizz company. See pcm.adswizz.com for information about our collection and use of personal data for advertising.

This week on Your Undivided Attention, Tristan Harris and Daniel Barcay offer a backstage recap of what it was like to be at the Davos World Economic Forum meeting this year as the world's power brokers woke up to the risks of uncontrolled AI. Amidst all the money and politics, the Human Change House staged a weeklong series of remarkable conversations between scientists and experts about technology and society. This episode is a discussion between Tristan and Professor Yoshua Bengio, who is considered one of the world's leaders in AI and deep learning, and the most cited scientist in the field. Yoshua and Tristan had a frank exchange about the AI we're building, and the incentives we're using to train models. What happens when a model has its own goals, and those goals are ‘misaligned' with the human-centered outcomes we need? In fact this is already happening, and the consequences are tragic. Truthfully, there may not be a way to ‘nudge' or regulate companies toward better incentives. Yoshua has launched a nonprofit AI safety research initiative called Law Zero that isn't just about safety testing, but really a new form of advanced AI that's fundamentally safe by design.RECOMMENDED MEDIA All the panels that Tristan and Daniel did with Human Change House LawZero: Safe AI for Humanity Anthropic's internal research on ‘agentic misalignment' RECOMMENDED YUA EPISODES Attachment Hacking and the Rise of AI PsychosisHow OpenAI's ChatGPT Guided a Teen to His DeathWhat if we had fixed social media?What Can We Do About Abusive Chatbots? With Meetali Jain and Camille CarltonCORRECTIONS AND CLARIFICATIONS 1) In this episode, Tristan Harris discussed AI chatbot safety concerns. The core issues are substantiated by investigative reporting, with these clarifications:Grok: The Washington Post reported in August 2024 that Grok generated sexualized images involving minors and had weaker content moderation than competitors. Meta: The Wall Street Journal reported in December 2024 that Meta reduced safety restrictions on its AI chatbots. Testing showed inappropriate responses when researchers posed as 13-year-olds (Meta's minimum age). Our discussion referenced "eight year olds" to emphasize concerns about young children accessing these systems; the documented testing involved 13-year-old personas.Bottom line: The fundamental concern stands—major AI companies have reduced safety guardrails due to competitive pressure, creating documented risks for young users.2) There was no Google House at Davos in 2026, as stated by Tristan. It was a collaboration at Goals House. 3) Tristan states that in 2025, the total funding going into AI safety organizations was “on the order of about $150 million.” This number is not strictly verifiable.  Hosted by Simplecast, an AdsWizz company. See pcm.adswizz.com for information about our collection and use of personal data for advertising.

In today's Tech3 from Moneycontrol, we bring you a quick wrap from the India AI Impact Summit in Delhi. India's much-anticipated AI models are unveiled by Sarvam AI, Gnani.ai and the BharatGen consortium. Wikipedia co-founder Jimmy Wales speaks on AI and neutrality, while AI pioneer Yoshua Bengio warns about risk management and job displacement. We also track Google DeepMind's new partnership with Indian institutions and Demis Hassabis on the road to artificial general intelligence.

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

If there is even a 1% chance that AI could destroy us, should we keep building it? Are we creating machines that will one day outthink humanity? And is the race to dominate AI accelerating us toward a future we're unprepared to face? This week, Yoshua Bengio joins Rory Stewart and Matt Clifford for an AI deep dive. A Turing Award–winning pioneer of deep learning, Bengio helped build the field, and is now one of its most urgent critics, warning that without restraint, the risks ahead could be profound. To listen to the full episode, sign up at therestispolitics.com Instagram: ⁠@restispolitics⁠ Twitter: ⁠@restispolitics⁠ Email: ⁠therestispolitics@goalhanger.com⁠ __________ Social Producer: Celine Charles Video Editor: Lorcan Moullier Producer: India Dunkley Senior Producer: Callum Hill Exec Producer: Tom Whiter Learn more about your ad choices. Visit podcastchoices.com/adchoices

durée : 00:13:21 - L'invité d'un jour dans le monde - A l'occasion de la 100e chronique “La tech la première” du journaliste Stéphane Jourdain, Un jour dans le monde discute avec l'informaticien Yoshua Bengio qui nous alerte sur les dérives et les dangers d'une intelligence artificielle dont l'évolution est exponentielle. Vous aimez ce podcast ? Pour écouter tous les autres épisodes sans limite, rendez-vous sur Radio France.

Le mot n'est pas nouveau mais il s'est imposé dans les débats tech en 2025 : “Doomer”. Derrière ce terme, une inquiétude croissante face aux dérives possibles de l'intelligence artificielle.Le terme Doomer désigne celui ou celle qui estime que les technologies numériques, et en particulier l'intelligence artificielle, représentent une menace majeure pour l'humanité. Apparu dès 2010, popularisé en 2025 sur les réseaux sociaux et dans certains cercles scientifiques, ce courant de pensée est relayé par des figures influentes de la recherche en IA comme Geoffrey Hinton ou Yoshua Bengio, qui alertent sur l'absence de garanties solides pour contrôler des systèmes de plus en plus puissants.Le mot “doom”, qui évoque le destin ou la catastrophe, résume bien l'état d'esprit de ces “inquiets”. Scénario catastropheLes risques pointés sont nombreux : disparition d'emplois, manipulation de l'information, déstabilisation des sociétés, cybercriminalité ou usages militaires. Les plus alarmistes redoutent même une perte de contrôle totale de l'humain sur la machine, dans des scénarios dignes de Terminator. À l'opposé, les bloomers défendent une approche plus confiante et pragmatique, convaincus que des garde-fous peuvent être mis en place. Un clivage qui dépasse l'IA et qui s'invite aussi dans les débats sur le climat ou l'avenir du numérique.Dans cet épisode, Yoshua Bengio propose une lecture raisonnée mais réaliste des risques liés à l'intelligence artificielle.-----------♥️ Soutien : https://mondenumerique.info/don

Diese echtgeld.tv-Folge ist anders als gewohnt. Es geht nicht um Aktien, ETFs oder konkrete Investmentideen – sondern um das Fundament, auf dem all das künftig stattfindet: unsere Gesellschaft im Zeitalter der Künstlichen Intelligenz. Während 2024 vielerorts noch Optimismus herrschte, ist 2025 ein Wendepunkt. KI entwickelt sich mit einer Geschwindigkeit, die Arbeitsmärkte, Sozialsysteme und politische Entscheidungsprozesse bereits heute überfordert. Tobias Kramer ordnet in dieser Folge vier zentrale Thesen ein, die unabhängig voneinander von zwei der renommiertesten KI-Experten unserer Zeit formuliert wurden:

AI pioneer YOSHUA BENGIO, Godfather of AI, reveals the DANGERS of Agentic AI, killer robots, and cyber crime, and how we MUST build AI that won't harm people…before it's too late.  Professor Yoshua Bengio is a Computer Science Professor at the Université de Montréal and one of the 3 original Godfathers of AI. He is the most-cited scientist in the world on Google Scholar, a Turing Award winner, and the founder of LawZero, a non-profit organisation focused on building safe and human-aligned AI systems.  He explains: ◼️Why agentic AI could develop goals we can't control ◼️How killer robots and autonomous weapons become inevitable ◼️The hidden cyber crime and deepfake threat already unfolding ◼️Why AI regulation is weaker than food safety laws ◼️How losing control of AI could threaten human survival [00:00] Why Have You Decided to Step Into the Public Eye?   [02:53] Did You Bring Dangerous Technology Into the World?   [05:23] Probabilities of Risk   [08:18] Are We Underestimating the Potential of AI?   [10:29] How Can the Average Person Understand What You're Talking About?   [13:40] Will These Systems Get Safer as They Become More Advanced?   [20:33] Why Are Tech CEOs Building Dangerous AI?   [22:47] AI Companies Are Getting Out of Control   [24:06] Attempts to Pause Advancements in AI   [27:17] Power Now Sits With AI CEOs   [35:10] Jobs Are Already Being Replaced at an Alarming Rate   [37:27] National Security Risks of AI   [43:04] Artificial General Intelligence (AGI)   [44:44] Ads   [48:34] The Risk You're Most Concerned About   [49:40] Would You Stop AI Advancements if You Could?   [54:46] Are You Hopeful?   [55:45] How Do We Bridge the Gap to the Everyday Person?   [56:55] Love for My Children Is Why I'm Raising the Alarm   [01:00:43] AI Therapy   [01:02:43] What Would You Say to the Top AI CEOs?   [01:07:31] What Do You Think About Sam Altman?   [01:09:37] Can Insurance Companies Save Us From AI?   [01:12:38] Ads   [01:16:19] What Can the Everyday Person Do About This?   [01:18:24] What Citizens Should Do to Prevent an AI Disaster   [01:20:56] Closing Statement   [01:22:51] I Have No Incentives   [01:24:32] Do You Have Any Regrets?   [01:27:32] Have You Received Pushback for Speaking Out Against AI?   [01:28:02] What Should People Do in the Future for Work?   Follow Yoshua: LawZero - https://bit.ly/44n1sDG  Mila - https://bit.ly/4q6SJ0R  Website - https://bit.ly/4q4RqiL  You can purchase Yoshua's book, ‘Deep Learning (Adaptive Computation and Machine Learning series)', here: https://amzn.to/48QTrZ8  The Diary Of A CEO: ◼️Join DOAC circle here - https://doaccircle.com/  ◼️Buy The Diary Of A CEO book here - https://smarturl.it/DOACbook  ◼️The 1% Diary is back - limited time only - https://bit.ly/3YFbJbt  ◼️The Diary Of A CEO Conversation Cards (Second Edition) - https://g2ul0.app.link/f31dsUttKKb  ◼️Get email updates - https://bit.ly/diary-of-a-ceo-yt  ◼️Follow Steven - https://g2ul0.app.link/gnGqL4IsKKb  Sponsors:  Wispr - Get 14 days of Wispr Flow for free at https://wisprflow.ai/DOAC  Pipedrive - https://pipedrive.com/CEO Rubrik - To learn more, head to https://rubrik.com

Most discourse on AI is low-quality. Most discourse on consciousness is super-abysmal-double-low quality. Multiply these - or maybe raise one to the exponent of the other, or something - and you get the quality of discourse on AI consciousness. It's not great. Out-of-the-box AIs mimic human text, and humans almost always describe themselves as conscious. So if you ask an AI whether it is conscious, it will often say yes. But because companies know this will happen, and don't want to give their customers existential crises, they hard-code in a command for the AIs to answer that they aren't conscious. Any response the AIs give will be determined by these two conflicting biases, and therefore not really believable. A recent paper expands on this method by subjecting AIs to a mechanistic interpretability "lie detector" test; it finds that AIs which say they're conscious think they're telling the truth, and AIs which say they're not conscious think they're lying. But it's hard to be sure this isn't just the copying-human-text thing. Can we do better? Unclear; the more common outcome for people who dip their toes in this space is to do much, much worse. But a rare bright spot has appeared: a seminal paper published earlier this month in Trends In Cognitive Science, Identifying Indicators Of Consciousness In AI Systems. Authors include Turing-Award-winning AI researcher Yoshua Bengio, leading philosopher of consciousness David Chalmers, and even a few members of our conspiracy. If any AI consciousness research can rise to the level of merely awful, surely we will find it here. One might divide theories of consciousness into three bins: https://www.astralcodexten.com/p/the-new-ai-consciousness-paper

We closed out the year with a special live recording of the Flagship Podcast in collaboration with AI Salon at Mila, a packed evening featuring a Montréal VC panel, an AI founder roundtable, and a fireside keynote with Sam Ramadori (BrainBox AI, now co-president of Law Zero). Across all three segments, one theme dominated: AI is moving faster than any tech cycle before it, and Canada has a once-in-a-generation chance to lead. VC Panel,  Navigating the AI Wave Investors from Inovia, White Star, and Amiral Ventures explored the chaos and opportunity of today's market. The AI cycle is "psychotic" in speed and scope, but the fundamentals still matter: strong teams, sticky products, real customer value. The best startups will use AI as an enabler, not the product, and differentiate through privileged data, deep domain expertise, and the ability to deliver ROI, not hype. Founder Panel,  Building Real AI Companies in Montréal Budpress, Maxa, and Wrk shared candid takes from the front lines: why traditional SaaS is being rewritten, how open-source models and reasoning engines are changing the game, and why Montréal remains one of the best bases in the world for AI talent and cost-efficient scaling. The founders stressed that Canada must shed its "small market" mindset, big outcomes are possible here. Keynote with Sam Ramadori,  AI, Climate, and Responsibility Sam recounted his unlikely journey from private equity to leading BrainBox AI through an acquisition, and why he's now dedicating himself to Law Zero, a nonprofit effort led by Yoshua Bengio to build safer, more reliable AI systems. His message was clear: Canada has extraordinary AI talent, but must rally around sovereignty, responsible innovation, and deeper collaboration to avoid being squeezed between global superpowers. The night ended with a message to the community: this is our moment. We have world-class research, world-class founders, and a fast-maturing ecosystem. If we choose ambition, and support one another, Montréal can be one of the defining AI hubs of this decade.  

Two years ago we interviewed Yoshua Bengio, the prominent AI researcher, about his long career in AI where he helped build the foundations for the tools millions use around the world every day. We discussed the future of AI systems, including the importance of AI safety. Since then, Yoshua Bengio has continued to achieve great success in his career in both work on AI and raising awareness about their risks. This bonus episode is a repeat of Darren McKee and Adam Gardner's interview with him from 2023.

Yoshua Bengio, considered by many to be one of the godfathers of AI, has long been at the forefront of machine-learning research . However, his opinions on the technology have shifted in recent years — he joins us to talk about ways to address the risks posed by AI, and his efforts to develop an AI with safety built in from the start. Nature: ‘It keeps me awake at night': machine-learning pioneer on AI's threat to humanity Hosted on Acast. See acast.com/privacy for more information.

Dans sa chronique, Stéphane Ricoul s'attaque au débat sur la gouvernance de l'intelligence artificielle, en réagissant à la position de Yoshua Bengio sur la limitation des systèmes « agentiques ». S'il partage l'objectif d'une IA sûre et transparente, il défend une approche différente : plutôt que de restreindre l'autonomie des systèmes, il faut réguler par l'économie.

Les géants du numérique accélèrent encore dans la course à l'intelligence artificielle. Meta, Google et Microsoft investissent des sommes vertigineuses pour dominer le futur de l'IA. Et aussi : Macron et les réseaux sociaux, le nouveau robot Neo, IA et fausses vacances. Avec Bruno Guglielminetti (Mon Carnet) L'IA, un gouffre financier… et une arme stratégiqueLes GAFAM viennent d'investir 80 milliards de dollars en trois mois dans leurs infrastructures d'intelligence artificielle. Data centers, serveurs, énergie, talents : tout y passe. Une véritable course à la puissance s'engage, où chaque acteur veut disposer de la plus grande capacité de calcul. Google, par exemple, prévoit déjà 100 milliards supplémentaires pour 2025. Derrière ces chiffres, une bataille mondiale pour le contrôle de l'innovation et, surtout, de l'économie de demain.Une bulle IA sur le point d'exploser ?Face à ces montants astronomiques, certains, comme le chercheur Yoshua Bengio, appellent à un ralentissement. L'expert estime qu'un éclatement de la bulle serait peut-être salutaire pour freiner la fuite en avant actuelle. Entre spéculation et surenchère, la question d'une crise de l'IA revient sur la table, alors même que les usages explosent.Musique : Universal et Udio signent la paixPendant ce temps, l'industrie musicale s'adapte. Universal Music a trouvé un accord inédit avec la start-up Udio, spécialisée dans la génération de musique par IA. Objectif : permettre de revisiter légalement le catalogue Universal grâce à des outils d'IA générative. Une première mondiale qui pourrait redéfinir les droits d'auteur à l'ère de l'intelligence artificielle.Réseaux sociaux : Macron sonne l'alerteEn France, Emmanuel Macron a dénoncé la dérive des plateformes et leurs effets délétères sur la société. Addiction, désinformation, radicalisation : les réseaux deviennent un champ de bataille politique. Derrière cette sortie présidentielle, une inquiétude bien réelle sur la cohésion nationale et le pouvoir des algorithmes.Robots et fausses vacances : quand l'IA envahit le quotidienDes robots humanoïdes à 20 000 dollars aux photos de vacances totalement inventées par IA, le futur s'installe dans nos vies avec une vitesse vertigineuse. Entre fascination technologique et vertige éthique, l'IA ne cesse de redéfinir notre rapport au réel.VERSION VIDEOhttps://youtu.be/Mnwv-7sz7gQ-----------♥️ Soutienhttps://donorbox.org/monde-numerique

An open letter released Wednesday has called for a ban on the development of artificial intelligence systems considered to be “superintelligent” until there is broad scientific consensus that such technologies can be created both safely and in a manner the public supports. The statement, issued by the nonprofit Future of Life Institute, has been signed by more than 700 individuals, including Nobel laureates, technology industry veterans, policymakers, artists, and public figures such as Prince Harry and Meghan Markle, the Duke and Duchess of Sussex. The letter reflects deep and accelerating concerns over projects undertaken by technology giants like Google, OpenAI, and Meta Platforms that are seeking to build artificial intelligence capable of outperforming humans on virtually every cognitive task. According to the letter, such ambitions have raised fears about unemployment due to automation, loss of human control and dignity, national security risks, and the possibility of far-reaching social or existential harms. “We call for a prohibition on the development of superintelligence, not lifted before there is broad scientific consensus that it will be done safely and controllably, and strong public buy-in,” the statement reads. Signatories include AI pioneers Yoshua Bengio and Geoffrey Hinton, both recipients of the Turing Award, Apple co-founder Steve Wozniak, businessman Richard Branson, and actor Joseph Gordon-Levitt. Pentagon personnel could soon be told to participate in new training programs designed to prepare them for anticipated advancements in biotechnology and its convergence with other critical and emerging technologies, like quantum computing and AI. House lawmakers recently passed an amendment en bloc in their version of the fiscal 2026 National Defense Authorization Act that would mandate the secretary of defense to set up such trainings, no later than one year after the legislation's enactment. Biotechnology refers to a multidisciplinary field that involves the application of biological systems or the use of living organisms, like yeast and bacteria, to produce products or solve complex problems. These technologies are expected to revolutionize defense, energy, manufacturing and other sectors globally in the not-so-distant future — particularly as they are increasingly paired with and powered by AI. And while the U.S. historically has demonstrated many underlying strengths in the field, recent research suggests the government may be falling behind China, where biotechnology research efforts and investments have surged since the early 2000s. The Daily Scoop Podcast is available every Monday-Friday afternoon. If you want to hear more of the latest from Washington, subscribe to The Daily Scoop Podcast  on Apple Podcasts, Soundcloud, Spotify and YouTube.

À l'UQAM, rencontre rare entre le chercheur Yoshua Bengio et le Nobel d'économie Daron Acemoglu, autour d'un dialogue essentiel : l'IA va-t-elle trop vite pour nos sociétés ? Entre prudence scientifique et lucidité économique, ils évoquent la spéculation autour des géants de l'IA, les risques de dépendance technologique du Canada et la nécessité d'une gouvernance mondiale démocratique. Un échange dense, lucide et sans complaisance sur la course à l'intelligence artificielle et sur l'avenir de notre autonomie numérique.

Mon Carnet, le podcast de Bruno Guglielminetti Vendredi 10 octobre 2025 Le grand magazine francophone de l'actualité numérique Débrief avec Jérôme Colombain (2:57) Retour sur l'actualité numérique de la semaine Entrevues : Muriel Edjo (We Are Tech Africa) : L'actualité tech africaine (29:45) Lamiae Azizi (UM6P) : Enseigner l'IA et son avenir en Afrique (48:55) Fabrice Jaubert (Google) : Protéger 3 milliards d'internautes depuis le Québec (1:09:16) Yoshua Bengio et Daron Acemoglu : La bulle de l'IA (1:27:45) Jeu vidéo avec Carl-Edwin Michel (1:34:08) La création de Gambit Digital, premier éditeur de jeux vidéo fondé au Québec Billets : Thierry Weber : Le projet européen ChatControl et le débat sur la vie privée (1:44:11) Stéphane Ricoul : Les plateformes numériques et leur influence politique (1:49:58) Entrevue : Jean-François Poulin : Discussion avec l'auteure du livre Générations Écrans (1:58:36) Collaborateurs : Jérôme Colombain, Muriel Edjo, Carl-Edwin Michel, Thierry Weber, Stéphane Ricoul, Jean-François Poulin www.MonCarnet.com Une production de Guglielminetti.com Octobre 2025

À l'occasion de l'événement ALL IN, j'ai eu l'occasion de m'entretenir avec Hugo Larochelle, le nouveau directeur scientifique du Mila. Il succède à Yoshua Bengio, parti se consacrer à LoiZéro et à la recherche sur la sécurité de l'intelligence artificielle. Professeur associé à l'Université de Montréal et responsable de la recherche en intelligence artificielle chez Google DeepMind Montréal, Hugo Larochelle était considéré comme le candidat naturel pour reprendre les rênes de l'institut. Dans cette entrevue, il revient sur les défis qui l'attendent, son parcours entre le milieu académique et l'industrie, et sa vision de l'avenir du Mila, ce joyau de la recherche en IA au Québec et au Canada.

Yoshua Bengio — the world's most-cited computer scientist and a "godfather" of artificial intelligence — is deadly concerned about the current trajectory of the technology. As AI models race toward full-blown agency, Bengio warns that they've already learned to deceive, cheat, self-preserve and slip out of our control. Drawing on his groundbreaking research, he reveals a bold plan to keep AI safe and ensure that human flourishing, not machines with unchecked power and autonomy, defines our future.For a chance to give your own TED Talk, fill out the Idea Search Application: ted.com/ideasearch.Interested in learning more about upcoming TED events? Follow these links:TEDNext: ted.com/futureyouTEDAI Vienna: ted.com/ai-viennaTEDAI San Francisco: ted.com/ai-sf Hosted on Acast. See acast.com/privacy for more information.

Многие знают, что когда модели обучаются, где-то под капотом перемножаются матрицы и тензоры, и все это связано с дифференцированием. Мы с Денисом Степановым взялись за нелегкую задачу – разобраться, что же именно там происходит! Также ждем вас, ваши лайки, репосты и комменты в мессенджерах и соцсетях!
 Telegram-чат: https://t.me/podlodka Telegram-канал: https://t.me/podlodkanews Страница в Facebook: www.facebook.com/podlodkacast/ Twitter-аккаунт: https://twitter.com/PodcastPodlodka Ведущие в выпуске: Женя Кателла, Аня Симонова Полезные ссылки: Dive into Deep Learning Aston Zhang, Zachary C. Lipton, Mu Li, Alexander J. Smola (online book with code and formulas) https://d2l.ai/ https://www.amazon.com/s/ref=dp_byline_sr_book_2?ie=UTF8&field-author=Zachary+C.+Lipton&text=Zachary+C.+Lipton&sort=relevancerank&search-alias=books Micrograd by Andrej Karpathy https://github.com/karpathy/micrograd Andrej Karpathy builds GPT from scratch https://www.youtube.com/watch?v=kCc8FmEb1nY Scott Aaronson on LLM Watermarking https://www.youtube.com/watch?v=YzuVet3YkkA Annotated history of Modern AI and Deep Learning by Jurgen Schmidhuber https://people.idsia.ch/~juergen/deep-learning-history.html Probabilistic Machine Learning: An Introduction Kevin Patrick Murphy https://probml.github.io/pml-book/book1.html Probabilistic Machine Learning: Advanced Topics Kevin Patrick Murphy https://probml.github.io/pml-book/book2.html Pattern Recognition and Machine Learning Christopher Bishop https://www.microsoft.com/en-us/research/wp-content/uploads/2006/01/Bishop-Pattern-Recognition-and-Machine-Learning-2006.pdf Deep Learning: Foundations and Concepts Christopher Bishop, Hugh Bishop https://www.bishopbook.com/ Deep Learning Ian Goodfellow, Yoshua Bengio, Aaron Courville https://www.deeplearningbook.org/ Глубокое обучение: Погружение в мир нейронных сетей С. Николенко, А. Кадурин, Е. Архангельская https://www.k0d.cc/storage/books/AI,%20Neural%20Networks/%D0%93%D0%BB%D1%83%D0%B1%D0%BE%D0%BA%D0%BE%D0%B5%20%D0%BE%D0%B1%D1%83%D1%87%D0%B5%D0%BD%D0%B8%D0%B5%20(%D0%9D%D0%B8%D0%BA%D0%BE%D0%BB%D0%B5%D0%BD%D0%BA%D0%BE).pdf Gonzo-обзоры ML статей Григорий Сапунов, Алексей Тихонов https://t.me/gonzo_ML Machine Learning Street Talk podcast https://www.youtube.com/c/machinelearningstreettalk Feedforward NNs, Autograd, Backprop (Datalore report, Denis Stepanov) https://datalore.jetbrains.com/report/static/Ht_isxs4iB2.BNIqv-C3WUp/pEpNv2eMVU9tEkPsaboR9y Softmax Regression, Adversarial Attacks (Datalore report, Denis Stepanov) https://datalore.jetbrains.com/report/static/Ht_isxs4iB2.BNIqv-C3WUp/cIvd6zX1B5I3kULNiVCEyy Dual Numbers, PINN (Datalore report, Denis Stepanov) https://datalore.jetbrains.com/report/static/Ht_isxs4iB2.BNIqv-C3WUp/3oa1BNrPGpQ8uc82tCaz5d

James Copnall, presenter of the BBC's Newsday, speaks to Yoshua Bengio, the world-renowned computer scientist often described as one of the godfathers of artificial intelligence, or AI.Bengio is a professor at the University of Montreal in Canada, founder of the Quebec Artificial Intelligence Institute - and recipient of an A.M. Turing Award, “the Nobel Prize of Computing”. AI allows computers to operate in a way that can seem human, by using programmes that learn vast amounts of data and follow complex instructions. Big tech firms and governments have invested billions of dollars in the development of artificial intelligence, thanks to its potential to increase efficiency, cut costs and support innovation.Bengio believes there are risks in AI models that attempt to mimic human behaviour with all its flaws. For example, recent experiments have shown how some AI models are developing the capacity to deceive and even blackmail humans, in a quest for their self-preservation. Instead, he says AI must be safe, scientific and working to understand humans without copying them. The Interview brings you conversations with people shaping our world, from all over the world. The best interviews from the BBC. You can listen on the BBC World Service, Mondays and Wednesdays at 0700 GMT. Or you can listen to The Interview as a podcast, out twice a week on BBC Sounds, Apple, Spotify or wherever you get your podcasts.Presenter: James Copnall Producers: Lucy Sheppard, Ben Cooper Editor: Nick HollandGet in touch with us on email TheInterview@bbc.co.uk and use the hashtag #TheInterviewBBC on social media.(Image: Yoshua Bengio. Credit: Craig Barritt/Getty)

Yoshua Bengio, one of the so-called godfathers of AI, wants it to be less human. Plus, a federal judge temporarily blocked a law in Florida that would ban kids under 14 from getting social media accounts.But first, Meta announced an energy deal with one of the country's biggest operators of nuclear reactors. Marketplace's Nova Safo is joined by Jewel Burks Solomon, managing partner at the venture capital firm Collab Capital, to break down these tech stories from the week.

Yoshua Bengio, one of the so-called godfathers of AI, wants it to be less human. Plus, a federal judge temporarily blocked a law in Florida that would ban kids under 14 from getting social media accounts.But first, Meta announced an energy deal with one of the country's biggest operators of nuclear reactors. Marketplace's Nova Safo is joined by Jewel Burks Solomon, managing partner at the venture capital firm Collab Capital, to break down these tech stories from the week.

Yoshua Bengio — the world's most-cited computer scientist and a "godfather" of artificial intelligence — is deadly concerned about the current trajectory of the technology. As AI models race toward full-blown agency, Bengio warns that they've already learned to deceive, cheat, self-preserve and slip out of our control. Drawing on his groundbreaking research, he reveals a bold plan to keep AI safe and ensure that human flourishing, not machines with unchecked power and autonomy, defines our future.Want to help shape TED's shows going forward? Fill out our survey! Hosted on Acast. See acast.com/privacy for more information.

Yoshua Bengio — the world's most-cited computer scientist and a "godfather" of artificial intelligence — is deadly concerned about the current trajectory of the technology. As AI models race toward full-blown agency, Bengio warns that they've already learned to deceive, cheat, self-preserve and slip out of our control. Drawing on his groundbreaking research, he reveals a bold plan to keep AI safe and ensure that human flourishing, not machines with unchecked power and autonomy, defines our future.

Yoshua Bengio — the world's most-cited computer scientist and a "godfather" of artificial intelligence — is deadly concerned about the current trajectory of the technology. As AI models race toward full-blown agency, Bengio warns that they've already learned to deceive, cheat, self-preserve and slip out of our control. Drawing on his groundbreaking research, he reveals a bold plan to keep AI safe and ensure that human flourishing, not machines with unchecked power and autonomy, defines our future.

Comedian Ben Gleib returns to the show and they open by talking about a hiking trail “Karen” in Colorado, the great magnet that connects all of Adam's pizza orders, and the hot dog options at Crypto.com Arena. Next, Jason “Mayhem” Miller joins to read the news including stories about Elon Musk joking about buying MSNBC with a risqué meme, how crows can hold grudges against individual humans for up to 17 years, tech pioneer Yoshua Bengio's warning that AI systems could turn against humans, and Cher telling Howard Stern that she is fully aware men expect 'fabulous sex' from her. Then, former White House Communications Director Anthony Scaramucci returns to talk about why the government can't be run like a business, why he approves of Trump nominating Robert Kennedy Jr. as the Department of Health & Human Services secretary, and the weird insult he received from a journalist. For more with Ben Gleib: ● PODCAST: Last Week on Earth w/ Ben Gleib ● NEW SPECIAL: The Mad King - Available on YouTube ● INSTAGRAM: @bengleib For more with Anthony Scaramucci: ● PODCAST: The Rest is Politics US ● INSTAGRAM: @scaramucci ● TWITTER/X: @scaramucci Thank you for supporting our sponsors: ● http://Meater.com ● QualiaLife.com/Adam ● http://OReillyAuto.com/Adam