Sam Altman

je donne maintenant la parole à Monsieur Sam Altman. Merci, Monsieur le Président, Excellence. C'est un honneur pour moi d'être ici et de pouvoir vous parler à vous tous en ce moment si important. Nous parlons de l'intelligence artificielle depuis des années, mais ces dernières semaines, ces derniers mois, les choses paraissent différentes. Des progrès rapides, des modèles ont rétréci le temps, mais les risques sont plus immédiats, les enjeux également. Nous avons un choix. L'IA peut soit être comme une nouvelle renaissance de créativité ou de découverte, ou comme une nouvelle révolution industrielle de troubles, de perturbations. À la renaissance, de nouveaux outils, de nouvelles idées ont augmenté ce que les personnes pensaient possible. L'IA peut jouer ce rôle à notre époque. Je pense que les personnes sont bien plus capables qu'elles ne pensent l'être, mais elles ont été retenues par des technologies limitées qui devaient leur donner du pouvoir, mais qui, en fait, souvent détournent leur attention, volent leur temps. La meilleure perception de l'IA, ce n'est pas le fait que les personnes deviennent des rouages dans une machine ou qu'on optimise chaque partie de la vie. C'est de rendre les personnes davantage capables d'agir dans un monde toujours plus complexe, pour pouvoir créer, participer. Il y a de nombreuses choses que l'AI ne peut pas automatiser et ne doit pas le faire. L'AI doit être construite par les personnes, pas simplement pour faire aller les choses plus vite. Certaines des choses, que les constructeurs de l'IA sont tellement dystopiques qu'on dirait le scénario d'un mauvais film de science-fiction. Toute chose qui est puissante est également intimidante. Cette période est compliquée, car nous voyons qu'il y a un immense potentiel, mais nous sommes très anxieux, ce qui est tout à fait compréhensible. Ces modèles peuvent aider aux personnes à découvrir de nouvelles connaissances, de nouveaux médicaments, de meilleurs soins, de meilleures éducations. Peut-être de nouveaux outils pour les rêves et les ambitions qui nous paraissent hors de portée aujourd'hui. La complexité de la vie a tellement augmenté pour la personne moyenne. L'IA peut être un outil défensif contre cette complexité, mais elle peut être cet outil de découverte et d'innovation sans précédent. Mais d'un autre côté, lorsque les systèmes d'IA deviennent plus performants et autonomes, ils peuvent aller plus vite que nos institutions, concentrer le pouvoir dans trop peu de mains ou prendre des décisions que les personnes ne comprennent plus ou ne contrôlent plus. Cette préoccupation devient particulièrement importante alors que nous nous approchons de systèmes qui peuvent s'auto-améliorer et améliorer de futures versions d'eux-mêmes, ce qu'on appelle souvent l'auto-amélioration récursive. Alors que le processus de construction de l'IA devient plus automatisé, le rythme des progrès de l'IA pourrait s'accélérer rapidement. Il faut que nous soyons très prudents à ce moment-là. Je suis largement d'accord avec ce qu'a dit le professeur Bengio, mais je pense que moi, il y a deux manières dont les progrès de l'IA peuvent mal tourner et que nous devons éviter. Premièrement, nous pourrions perdre le contrôle de l'avenir au profit de l'IA. Le risque, c'est que l'IA évolue si rapidement que les personnes ne peuvent plus suivre ce qui se passe, intervenir quand c'est nécessaire. Clairement, ce serait horrible. Le secteur ne doit pas accepter trop de risques technologiques simplement parce que les avantages sont immenses et qu'ils ne veulent pas ralentir. Battre nos entreprises dans la concurrence ne sera pas un prétexte pour prendre des décisions irresponsables. Nous avons ralenti de manière unilatérale à l'avenir, nous le ferons également à l'avenir. Il faut absolument que tout le monde évite de construire des systèmes où on ne peut pas garantir l'alignement. Il faut comprendre ce que font les systèmes et avoir des preuves qu'ils font ce que veulent les personnes, même quand ils deviennent très intelligents, surtout quand ils deviendront très intelligents. Peu importe si les personnes considèrent que le risque catastrophe est de 10 %, 1 %, 12 %, 0,1 %, aucun de ces niveaux n'est acceptable. Nous ne devrions pas entraîner des modèles si nous ne pouvons pas prouver qu'ils pourront rester sous contrôle humain. Donc, voilà une manière dont les choses pourraient mal tourner. Par ailleurs, ces systèmes pourraient concentrer trop de pouvoir dans trop peu de mains. Aucune personne, aucune entreprise, aucun pays ne doit pouvoir utiliser les modèles d'IA les plus puissants pour imposer leur vision du monde aux autres. Une entreprise ou un pays qui croit qu'elle seule peut être chargée de cette technologie peut utiliser cette croyance pour justifier pratiquement tout. Nous devons rejeter cette logique, même quand c'est pratique pour tel ou tel acteur. Je pense qu'il y a une voie pragmatique face à ce problème. À OpenAI, nous sommes clairs concernant ces questions. L'IA doit donner davantage de pouvoir aux personnes sur leur vie, pour vivre leur vie comme ils veulent, pour régler les problèmes, améliorer leur communauté. Nous ne voulons pas tomber dans le piège de l'optimisme béat, mais pas non plus dans le fait de crier à l'apocalypse. Alors que le monde et la population sont confrontés à d'immenses défis que cette technologie pourrait aider à régler. Nous essayons de trouver une voie médiane. Pour nous, cela signifie trois principes. Premièrement, alors que l'IA devient plus performante, les personnes doivent rester au cœur de la prise de décision de l'IA. L'alignement n'est pas une question de recherche abstraite. Il s'agit de faire en sorte que ces systèmes restent sous contrôle humain, reflètent les valeurs humaines et aident les personnes à orienter la prochaine étape du développement. Nous n'essayons pas, nous ne devons pas automatiser le jugement humain, les valeurs humaines. Deuxièmement, les avantages des progrès scientifiques et de la croissance économique doivent être du fait des personnes et pour les personnes. L'IA doit aider les chercheurs à faire des découvertes, les médecins à progresser, etc. L'histoire du progrès humain, ce n'est pas que les outils remplacent les humains, c'est que les bons outils rendent les personnes plus capables d'agir. Et je pense qu'elle ira bien plus loin que nous ne pensons possible. Troisièmement, cette technologie doit donner du pouvoir aux individus. L'avenir sera radieux si les personnes réalisent leur potentiel et créent de la valeur pour eux-mêmes, leur communauté, leur pays et le monde. Nous sommes peut-être l'un des constructeurs de cette technologie, mais nous ne sommes pas les héros de cette histoire. Notre rôle, c'est de permettre aux personnes du monde entier d'avoir confiance dans les capacités et les facultés humaines. Nous avons maintenant des modèles qui sont capables de découvrir des connaissances dont nous ne disposions pas avant. Prenons les progrès dans les mathématiques. Il y a trois étés, nos modèles n'étaient pas trop mauvais en maths. Il y a deux étés, ils étaient assez bons au niveau des maths du lycée. L'été dernier, nous avons eu une médaille d'or dans la compétition mathématique la plus prestigieuse. Cet été, notre modèle a résolu l'équation Navier-Stokes utilisée dans l'aviation, par exemple, différents modèles. Nous réglons ces problèmes pour permettre aux personnes de découvrir de nouvelles connaissances, pour améliorer les soins de santé, améliorer le niveau de vie et renforcer le potentiel de chacun de par le monde. Il reste tant à découvrir, mais il est très important que les entreprises ne remplacent pas le processus démocratique. Pour que l'IA soit démocratique, les décisions les plus importantes ne doivent pas être prises par des systèmes de laboratoire. Elles doivent être définies par les processus démocratiques et par des gouvernements responsables devant leur population. Au niveau international, il faudra la coopération. Dans notre histoire, il y a eu des moments où les pays en concurrence, et qui ne s'aimaient pas beaucoup, arrivaient malgré tout à se mettre d'accord pour défendre leurs intérêts communs et le bien collectif face à une technologie très importante. C'est ce qu'il faut faire maintenant. Il nous faut un mécanisme pour des normes d'IA de pointe nationale et internationale, pour mesurer les capacités, évaluer les risques, savoir si les garde-fous sont suffisants et préserver un véritable contrôle humain alors que les systèmes deviennent plus autonomes. Il nous faut des normes communes afin que les pays puissent comparer leurs données, vérifier le respect des règles et avoir la même définition de ce qui se passe. Il nous faut aussi des incidents X1 rapides afin que le monde puisse apprendre des échecs avant qu'ils ne se transforment en catastrophe. Il nous faut des canaux sécurisés entre les gouvernements, les opérateurs d'infrastructures critiques, les experts techniques, pour communiquer sur les vulnérabilités émergentes et les nouvelles menaces. Bien sûr, ces normes ne devraient pas empêcher l'entrée de nouveaux acteurs ou privilégier tel ou tel modèle. Ils doivent inclure l'autorité nationale et les laboratoires pour la coopération internationale. Chaque gouvernement doit décider comment intégrer les normes dans son système juridique, mais nous gagnerons à nous mettre d'accord sur ce que sont la bonne gouvernance, les bons garde-fous à l'échelle internationale. Nous n'avons pas toutes les réponses. Nous sommes ouverts en termes de meilleures idées. Nous sommes prêts à travailler avec vous tous pour faire notre mieux, pour tracer le cap pour l'avenir. Nous sommes à la croisée des chemins. Une voie mène vers un monde où le pouvoir est concentré, les décisions sont opaques, où les personnes ont l'impression que les technologies les plus importantes de leur vie, c'est quelque chose qu'on leur fait à eux. L'autre voie mène à un monde où l'IA travaille pour la population, parce que ce sont les personnes, grâce aux institutions démocratiques, qui aident à décider comment l'IA doit être développée, où le progrès scientifique améliore la vie dans le monde réel, où davantage de personnes peuvent participer à l'avenir, où cette technologie continue à donner aux individus et aux communautés davantage de pouvoir pour vivre leur vie comme ils le veulent. C'est un avenir de potentiel réalisé. C'est l'avenir que nous pensons qu'il faut construire. Merci. Posé et

I now give the floor to Mr. Sam Altman. Thank you, Mr. President, and Your Excellencies. I'm honored to be here and to be able to speak with you all at this important time. We've been talking about artificial intelligence for years, but it feels different in recent weeks and months. Rapid progress has made the timeline feel more compressed, the upside more tangible, but also the stakes and the risks more immediate. We have a choice in front of us. AI can either be more like a new renaissance of creativity and discovery, or more like a new industrial revolution of upheaval and disarray. The Renaissance was a time when new tools, new ideas, and new institutions expanded what people believed they could do. AI can play that role for our time. I believe that people are much more capable than they imagine themselves to be, but have been held back by limited technology that was meant to empower, but instead distracts and often steals attention. The best version of AI is not about making people cogs in a giant machine, or optimizing every part of life until the human parts disappear. It's about giving people more agency in an ever more complex world. More ability to learn, to create, discover, build, participate. There are many things that AI cannot and should not automate. AI should be built for people, not simply to turn the crank of the machines faster for their own sake. Some of the things people working to build AI have said are so dystopian that they sound like the plot of bad science fiction movies. Anything this power is also powerful is also intimidating. This moment is complicated, as we feel both tremendous potential and the very understandable anxiety at the same time. These models can help people discover new knowledge, new medicines, better healthcare, stronger education, and build more productive economies. They can be new tools for people to pursue dreams and ambition that today feel out of reach. The complexity of life has increased so dramatically for the average person. AI can be a defensive tool against this complexity as much as it can be This tool of unprecedented discovery and innovation. On the other hand, as AI systems become more capable and more autonomous, they can move faster than our institutions, concentrate power in too few hands, or make decisions that people no longer understand or control. That concern becomes especially important as we approach systems that can improve themselves and future versions of themselves, often called recursive self-improvement. As the process of building AI becomes more automated, the pace of AI progress could accelerate rapidly. This moment calls for extreme care. I largely agree with Professor Bengio, although I'll say two instead of three. I believe there are two ways that AI progress could go very badly that we have to avoid. First, we could lose control of the future to AI. The risk is that it moves so fast that people can no longer follow what's happening or intervene when needed. This would obviously be terrible. The industry must not accept too much technological risk just because the benefits are too great, and that they feel too important to slow down. Beating companies in competitive race is not a reason to make rash decisions, nor do we believe we are locked in a race where we are unable to do that. We have unilaterally slowed down in the past. We will do so in the future. We do not want to build systems. We think it's important that everyone avoids building systems where we cannot make the alignment, monitor ability and safety guarantees that we must. We need to understand what these systems are doing and have strong evidence that they will do what people intend, even as they get very, very smart actually, especially as they get very, very smart. It doesn't matter whether people put the risk of catastrophe at 10% or 1% or 12% or 0.1%. None of these levels are remotely acceptable, and we should not train models that we cannot make an extremely strong case that will be able to keep under human control. So that's one way things can go wrong. In the other direction, these systems could concentrate too much power in too few hands. No one person or company or country should be able to use the most powerful AI models to impose their worldview on everyone else. A company or country that believes only it can be trusted with this technology can use that belief to justify almost anything else. We have to reject that logic even when it is convenient for any one actor I believe there is a pragmatic path through both of these. At OpenAI, we approach these questions with a clear goal AI should give people more power over their own lives, more freedom to live lives the way they want, more ability to solve problems, big or small, and to improve their communities. We don't want to fall into the trap of blind optimism. We also don't want to fall into the trap of doomism either. Getting pulled into either extreme will not help us successfully figure out the challenges in front of us, especially at a time when the world and its people face such enormous challenges that this technology can help solve. So we try to walk the middle path between these two poles. For us that means three principles. First, as AI becomes more capable, people must remain at the center of AI decision making. Alignment is not an abstract research question. It is the work of ensuring that these systems reliably remain under human control, reflect human values, and help people guide the next stages of development. We are not trying to and must not automate human judgment or human values. Second, the benefits of scientific progress and economic growth must be by people and for people. AI should help researchers make discoveries. Doctors treat patients. Teachers teach students. Entrepreneurs start companies. Communities solve problems that felt out of reach and much more. The continuous story of human progress is not. The tools replace human agency. It is that the right tools make people more capable. And I believe this is going to go much further than we believe possible. Third, this technology must empower people individually. A great future will come from people realizing their potential and building value for themselves, their communities, their countries, and the broader world. We might be the builders, one of the builders of this technology, but we are not the heroes of this story. Our role is to enable people all over the world and to trust in the magic of humanity's skill and faculties. We now have models capable of discovering knowledge that we have never had before. Consider the progress we've seen in math. Three summers ago, our models were okay at grade school math. Two summers ago, they were pretty good at high school math competitions. Last summer, we reached gold, a gold level medal in the most prestigious international math competition. In just a few weeks ago this summer, one of our models solved one of the Millennium Prize problems the Navier-Stokes equations. These equations are used for aircraft design, weather forecasting, and the study of blood flow. We are not solving math problems for their own sake, but to empower people to discover new knowledge and to use it to improve healthcare, raise standards of livings of living, and expand everyone's potential around the world. There remains so much to be discovered, but it's very important that companies not substitute for the democratic process. If AI is to be democratic, the most important decisions cannot be made by labs in San Francisco alone. They must be shaped through democratic processes and by governments accountable to the people that they serve. At the international level, this will require cooperation. In our history, there have been times where countries who compete and don't always like each other very much still come together for shared interests and the collective good in the face of a powerful new technology. We believe this must be one of those times. We need a mechanism for complementary national and international frontier AI standards. Standards for measuring capabilities. Assessing risks, determining whether safeguards are sufficient, and preserving meaningful human oversight. As systems become more autonomous, we need common standards so countries can compare evidence, verify compliance, and have a shared language and understanding about what is happening. We need accurate and speedy incident reporting, classification and reporting protocols so the world can learn from failures before they become catastrophes. And we need secure channels among governments, critical infrastructure operators and technical experts to share emerging vulnerabilities and new threats. Obviously, these standards should not lock in incumbents or favor one business model over another. They must support open and closed model developers, new entrants and established labs, national authority and international cooperation. Each government should decide how to incorporate standards into its own legal system, but we will all be better off if we can agree on what good evidence, good safeguards and good oversight look like on the global stage. We do not have all the answers and we're very open to any better ideas. We're ready to work with you all and try our hardest to figure out the path forward. We are at a crossroads. One path leads to a world where power is concentrated, decisions are opaque, and people feel that the most important technology of their lifetime is something being done to them. The other path leads to a world where AI works for people, because people, through democratic institutions, help decide how it should develop and guide it. Where scientific progress improves real lives, where more people can participate in the future, and where this technology continues to give individuals and communities greater power to live life as they choose. This is a future of realized potential, excitement and wonder, and it is the future we believe is worth building. Thank you very much. Merci, monsieur. I thank Mr. Altman for his briefing.