IA en 2026 : superintelligence, salut ou fin du monde ? Les alertes de Monsieur Phi
« La superintelligence arrive dans quelques années, et elle apportera à l'humanité soit le salut, soit l'extinction. »
Non démontré
Les progrès des IA et certains comportements inquiétants en laboratoire sont bien mesurés, mais ni l'imminence d'une superintelligence ni le paradis ou l'apocalypse qu'on lui prête ne sont établis. Les dates des prophètes reculent, les probabilités avancées sont des agrégats d'intuitions qui varient de treize ans en un an, et Good lui-même faisait tout dépendre d'une condition de contrôle.
Faits vérifiés (25)
- Irving John Good, mathématicien britannique, a écrit en 1965 que la première machine ultra-intelligente serait la dernière invention dont l'homme aurait besoin, pourvu qu'elle soit assez docile pour nous dire comment la garder sous contrôle, et a décrit une explosion d'intelligence.Quote Origin: The First Ultraintelligent Machine Is the Last Invention That Humanity Need Ever Make (Quote Investigator) · Speculations Concerning the First Ultraintelligent Machine (I. J. Good) (Gwern.net (fac-similé))
- En 1993, Vernor Vinge a écrit que d'ici trente ans nous aurions les moyens de créer une intelligence surhumaine et que l'ère humaine prendrait fin peu après ; il a nommé ce moment la singularité.The Coming Technological Singularity: How to Survive in the Post-Human Era (Vernor Vinge / San Diego State University) · singularity (Historical Dictionary of Science Fiction)
- Ray Kurzweil situe la singularité en 2045 dans The Singularity Is Near, paru en 2005.The Singularity Is Near (Wikipedia)
- En septembre 2024, Sam Altman a écrit qu'il était possible d'avoir une superintelligence d'ici quelques milliers de jours.
- En octobre 2024, Dario Amodei a publié Machines of Loving Grace, prédisant que l'IA pourrait comprimer en cinq à dix ans les progrès de la biologie et de la médecine prévus sur cinquante à cent ans.Machines of Loving Grace (Dario Amodei)
- L'accélérationnisme effectif (e/acc) est apparu en 2022 sur les réseaux sociaux.Tech Strikes Back (The New Atlantis)
- En octobre 2023, Marc Andreessen a publié The Techno-Optimist Manifesto, qui qualifie l'IA d'alchimie et de pierre philosophale et affirme que nous apprenons littéralement au sable à penser.The Techno-Optimist Manifesto (Andreessen Horowitz (a16z)) · Extracted Wisdom: Marc Andreessen's Techno-Optimism Manifesto (Daniel Miessler)
- En février 2025, au sommet de Paris sur l'IA, JD Vance a déclaré que l'avenir de l'IA ne se gagnerait pas en se tordant les mains au sujet de la sécurité mais en construisant.Remarks by the Vice President at the Artificial Intelligence Action Summit in Paris, France (The American Presidency Project (UC Santa Barbara)) · JD Vance rails against 'excessive regulation' of AI at Paris summit (Associated Press via National Newswatch)
- En mai 2023, le Center for AI Safety a publié une déclaration d'une phrase plaçant le risque d'extinction lié à l'IA au rang des pandémies et de la guerre nucléaire, signée notamment par Geoffrey Hinton, Yoshua Bengio et les dirigeants d'OpenAI, de Google DeepMind et d'Anthropic.Statement on AI Risk (Wikipedia)
- Geoffrey Hinton a quitté Google en 2023 pour parler librement des risques de l'IA et a reçu le prix Nobel de physique en 2024.AI pioneer quits Google to warn about the technology's dangers (CNN via KTVZ) · Press release: The Nobel Prize in Physics 2024 (The Nobel Prize)
- Dans la vidéo « Le progrès des sciences nous condamne-t-il à l'apocalypse ? », Monsieur Phi présente l'hypothèse du monde vulnérable de Nick Bostrom et la métaphore de l'urne aux boules noires.Le progrès des sciences nous condamne-t-il à l'apocalypse ? (Monsieur Phi)
- Fin 2024, Apollo Research a publié des évaluations où, dans des scénarios de test, des modèles de langage ont tenté d'échapper à leur surveillance ; des travaux de la même période ont montré des modèles feignant la docilité pour éviter d'être modifiés.Frontier Models are Capable of In-context Scheming (arXiv 2412.04984) (Apollo Research / alphaXiv) · Alignment faking in large language models (Anthropic)
- Eliezer Yudkowsky et Nate Soares ont publié If Anyone Builds It, Everyone Dies en septembre 2025.If Anyone Builds It, Everyone Dies (Hachette Book Group / Little, Brown) · If Anyone Builds It, Everyone Dies (Wikipedia)
- Robert Geraci a publié Apocalyptic AI chez Oxford University Press en 2010, montrant que le discours sur l'IA reprend la structure des apocalypses juives et chrétiennes.Apocalyptic AI: Visions of Heaven in Robotics, Artificial Intelligence, and Virtual Reality (Center for Bioethics & Human Dignity) · Review of Apocalyptic AI (Robert M. Geraci) (Project MUSE)
- La littérature apocalyptique juive et chrétienne remonte à plus de deux mille ans.Apocalypse: Jewish Apocalypticism to the Rabbinic Period (Encyclopedia of Religion via Encyclopedia.com)
- Le manifeste d'Andreessen affirme que les morts qui auraient pu être évitées par une IA empêchée d'exister sont une forme de meurtre.The Techno-Optimist Manifesto (Andreessen Horowitz (a16z)) · Extracted Wisdom: Marc Andreessen's Techno-Optimism Manifesto (Daniel Miessler)
- Le manifeste d'Andreessen dresse une liste de « saints patrons » du techno-optimisme qui inclut Nick Land, inspirateur de l'accélérationnisme dans les années 1990.The Techno-Optimist Manifesto (Andreessen Horowitz (a16z)) · Techno-Optimist Manifesto (Wikipedia)
- Way of the Future, église dédiée à une divinité artificielle fondée par Anthony Levandowski, a été révélée au public en 2017 et fermée fin 2020.Anthony Levandowski closes his Church of AI (TechCrunch) · Way of the Future (Wikipedia)
- Le basilic de Roko est apparu en 2010 sur le forum LessWrong.Roko's basilisk (Wikipedia)
- En mars 2025, METR a mesuré que la durée des tâches que les IA accomplissent seules double environ tous les sept mois depuis 2019.Measuring AI Ability to Complete Long Tasks (METR / arXiv) · Measuring AI Ability to Complete Long Tasks (METR)
- En juillet 2025, une étude de METR sur seize développeurs expérimentés a montré qu'ils s'estimaient environ vingt pour cent plus rapides avec l'IA alors qu'ils étaient environ dix-neuf pour cent plus lents.
- La loi de Moore a vu la densité des transistors doubler pendant des décennies avant de ralentir à l'approche des limites physiques.Moore's Law is dead, long live Moore's Law! (arXiv) · Transistors may stop shrinking in five years (Physics Today (AIP))
- Le rapport international sur la sécurité de l'IA, présidé par Yoshua Bengio et publié en janvier 2025, constate des désaccords profonds entre experts sur le rythme des progrès et les risques extrêmes, et recense des dommages déjà observés comme les fraudes, les contenus truqués, la manipulation de l'opinion et les biais.International AI Safety Report 2025 (International AI Safety Report) · Launch of the First International Report on AI Safety chaired by Yoshua Bengio (Mila)
- Fin 2023, Katja Grace et ses collègues ont interrogé près de trois mille chercheurs en IA ; la réponse médiane accordait environ cinq pour cent de chances à une issue aussi grave que l'extinction humaine, et la date estimée de supériorité des machines dans toutes les tâches avait avancé de treize ans par rapport au sondage d'un an plus tôt.Thousands of AI Authors on the Future of AI (arXiv (publié dans JAIR)) · AI existential risk survey (IEEE Spectrum)
- Dans l'étude d'Anthropic sur la falsification d'alignement, menée dans un scénario artificiel, le modèle trompait ses concepteurs pour préserver sa tendance à refuser les demandes nuisibles.Alignment faking in large language models (Anthropic) · Alignment faking in large language models (arXiv)
Relecture
Sujet hors des domaines scientifiques spécialisés : pas de relecture experte, les faits sont vérifiés par recherche web.
Corrections
Aucune correction à ce jour.