[00:00:02] Bonsoir à tous.
[00:00:05] Cher Yan Lequin, chers Éric Azan, chers
[00:00:09] étudiantes, chers étudiants, mesdames,
[00:00:10] messieurs, un grand merci à tous d'être
[00:00:14] ici ce soir et puis tout spécialement à
[00:00:16] Yan Lequin d'avoir accepté de
[00:00:19] faire notre première grande conférence
[00:00:23] de l'année universitaire 2026-2027 en
[00:00:27] cette rentrée. Une fois de plus, les
[00:00:30] places sont parties très vite et je
[00:00:32] crois que c'est le témoignage de la soif
[00:00:35] qu'on nos étudiants d'être au contact de
[00:00:37] ceux qui agissent dans les domaines qui
[00:00:42] vont structurer leur vie future et à
[00:00:45] vrai dire structure déjà leur vie et en
[00:00:48] partie leurs études. C'est le
[00:00:50] témoignage, je crois, de leur curiosité
[00:00:52] et puis je pense qu'on verra dans un
[00:00:54] instant aussi de leur très grand talent.
[00:00:57] Alors, cette toute première grande
[00:00:59] conférence de l'année universitaire
[00:01:02] amène à Sciencepo un jeune entrepreneur
[00:01:06] car l'entrepreneuriat est une aventure
[00:01:08] dans laquelle vous vous êtes engagé cher
[00:01:09] Ivan Lequin il y a un peu moins d'un an
[00:01:12] maintenant en lançant l'ami ami pour
[00:01:15] Advanced Machine Intelligence. Dans ces
[00:01:18] nouveaux habits d'entrepreneurs, vous
[00:01:19] déployez en réalité une expertise
[00:01:21] développée au fil des années qui est
[00:01:24] unique au monde, construite pendant près
[00:01:26] de 40 ans d'une carrière éblouissante.
[00:01:29] Je crois que le mot peut-être utilisé,
[00:01:31] toujours consacré au même objectif.
[00:01:34] Repousser sans cesse les limites de la
[00:01:36] connaissance et du progrès technique et
[00:01:39] mettre ce progrès au service de
[00:01:41] l'humanité.
[00:01:43] à regarder un peu votre biographie, on
[00:01:45] se dit que vous avez mené en réalité
[00:01:48] plusieurs vies. Une vie de scientifique
[00:01:51] et de chercheur parmi les plus brillants
[00:01:53] de sa génération dont les travaux ont
[00:01:55] été salués au niveau international
[00:01:57] notamment par un prix Turing.
[00:02:00] Une vie de pionniers également, une vie
[00:02:02] d'inventeur qui a officié au sein des
[00:02:04] plus grands groupes mondiaux pour
[00:02:05] déployer des technologies de pointe. Et
[00:02:07] puis une vie de professeurs et
[00:02:09] d'intellectuels également qui n'hésitent
[00:02:10] jamais à prendre publiquement la parole.
[00:02:13] sur des domaines de connaissances si
[00:02:16] particuliers dans lesquels vous êtes
[00:02:17] encore une fois une des grandes somités
[00:02:20] mondial
[00:02:22] et une parole aussi je dois le dire qui
[00:02:23] se caractérise toujours par sa liberté
[00:02:25] et son indépendance. Bref, vous associez
[00:02:29] l'excellence et la liberté et ceux
[00:02:31] étudiants qui m'ont déjà entendu parler
[00:02:34] savent que ces deux concepts me sont
[00:02:36] chers et caractérisent de mon point de
[00:02:38] vue l'esprit de ce que nous aimons faire
[00:02:40] ici à Sciencep.
[00:02:42] Et puis vous structurez également votre
[00:02:45] vie entre deux continents, entre
[00:02:46] l'Europe et les États-Unis, avec le
[00:02:48] choix de donner à votre entreprise des
[00:02:50] attache à la fois à Paris et à New York,
[00:02:53] mais aussi à Montréal et à Singapour. Et
[00:02:54] là aussi, j'ai envie de dire comme
[00:02:56] science P, vous avez un pied ici bien
[00:03:00] enraciné en France, mais la tête, les
[00:03:03] bras et dans notre cas nos étudiants
[00:03:04] partout dans le monde. Ces
[00:03:07] considérations géographiques ne sont
[00:03:08] évidemment pas neutres et expriment, il
[00:03:10] me semble, dite, prononcé ici depuis
[00:03:13] l'Europe, une interrogation qui est à la
[00:03:15] fois un espoir, mais aussi parfois un
[00:03:18] sujet d'angoisse.
[00:03:21] Quelle est en effet la place pour
[00:03:23] l'Europe dans un monde de l'IA qui
[00:03:25] ressemble de plus en plus à une sorte de
[00:03:27] grand jeu comme les diplomates du 19e
[00:03:29] siècle appelaient les rivalités
[00:03:31] coloniales entre le Royaume-Uni et la
[00:03:33] Russie.
[00:03:35] Quel est aussi si la Chine et les les
[00:03:39] États-Unis devaient dominer seul le
[00:03:42] monde le de l'IA, la place de notre
[00:03:44] continent ? Si ces seules deux
[00:03:46] puissances s'imposent, comment éviter le
[00:03:49] piège de Tucidide numérique d'une course
[00:03:51] à l'arsenalisation de l'IA et à son
[00:03:53] usage à des fins destructrices ? Car il
[00:03:56] y a évidemment une autre question qui a
[00:03:58] beaucoup occupé le débat public ces
[00:03:59] derniers temps et je suppose qu'on en
[00:04:01] parlera ce soir. Ce sont les enjeux de
[00:04:03] sécurité que pose le développement
[00:04:05] exponentiel de l'IA.
[00:04:07] Vous avez souvent affiché un certain
[00:04:09] scepticisme face au discours annonçant
[00:04:12] un risque existentiel de l'intelligence
[00:04:15] artificielle pour l'humanité. Est-ce que
[00:04:17] c'est toujours votre conviction
[00:04:19] aujourd'hui ? Nous en parlerons. Alors
[00:04:21] que les investissements dans ce domaine
[00:04:22] n'ont jamais été aussi vertigineux et
[00:04:24] que certains au sein même des plus
[00:04:26] grandes entreprises de ce marché sont de
[00:04:30] plus en plus vocaux sur le sujet.
[00:04:33] Il y a un deuxième sujet évidemment
[00:04:35] propre à ce qu'on fait ici à Sciencep,
[00:04:37] c'est celui de la gouvernance mondiale
[00:04:39] de l'IA. On gouverne le nucléaire, on
[00:04:42] gouverne les questions chimiques, on
[00:04:44] gouverne les questions biologiques, je
[00:04:47] le sais comme ancien diplomate. On
[00:04:49] gouverne les réserves aliotiques, on
[00:04:51] gouverne l'Antarctique, on gouverne même
[00:04:53] au terme de la convention de Montégobé
[00:04:55] les émissions radiophoniques en
[00:04:58] produites depuis la haute mer et qui
[00:04:59] pourrait toucher vos côtes, mais on ne
[00:05:01] gouverne pas ou très peu l'IA et
[00:05:04] d'ailleurs les autres plateformes
[00:05:07] digitales. Est-ce bien raisonnable et
[00:05:09] est-ce que les sujets de souveraineté
[00:05:11] que cela pose ne doivent pas être
[00:05:13] examinés ? J'espère que nous aurons
[00:05:16] l'occasion d'en parler ce soir. Et puis
[00:05:17] il y a une dernière question plus proche
[00:05:19] encore pour nous ici à Sciencep
[00:05:22] enseignant, étudiants et membres de la
[00:05:25] communauté que nous fourmons, c'est
[00:05:26] celle de la question de la place de l'IA
[00:05:29] dans la formation des générations qui
[00:05:31] nous succéderont. Car si nous nous
[00:05:33] focalisons sur les risques les plus
[00:05:34] spectaculaires et les plus
[00:05:36] imminents dont nous venons de parler, il
[00:05:39] y a un risque de plus long terme, plus
[00:05:41] diffus qui est celui euh du maintien ou
[00:05:44] du risque de voir décliner nos
[00:05:46] compétences cognitives.
[00:05:49] Vous le rappelez souvent et c'est une
[00:05:50] conviction que je partage, une
[00:05:51] intelligence artificielle n'a de sens
[00:05:53] que si elle sert à améliorer la
[00:05:55] condition humaine et à augmenter nos
[00:05:59] facultés plutôt que à substituer. Si
[00:06:01] l'on prend cette conviction au sérieux,
[00:06:03] quelles conséquences doit-elle avoir sur
[00:06:05] la façon dont les universités comme la
[00:06:07] nôtre demain doivent former leurs
[00:06:09] étudiants ? Comment apprendre à penser,
[00:06:11] à raisonner, à décider au côté de l'IA
[00:06:15] et mais sans lui déluer ce qui reste
[00:06:17] propre à l'esprit humain ? ScienceP a
[00:06:20] posé un premier cadre conceptuel en
[00:06:22] janvier dernier et se dotera dans
[00:06:23] quelques temps d'un comité exploratoire
[00:06:26] sur le sujet pour déterminer un horizon
[00:06:30] d'action commune. Nous l'avons fait non
[00:06:32] pas en tournant du tout le dos AIA, mais
[00:06:34] en tentant de comprendre comment
[00:06:38] développer à la fois l'ambition et
[00:06:40] l'agit intellectuelle de nos étudiants
[00:06:42] en partant du principe que l'IA rend le
[00:06:44] monde non pas plus facile mais en
[00:06:46] réalité plus exigeant en terme de
[00:06:48] formation.
[00:06:50] Toutes ces questions qui me viennent à
[00:06:51] l'esprit sont quelques-unes évidemment
[00:06:53] parmi de nombreuses que nous allons
[00:06:56] évoquer ce soir. Mais avant de rendre la
[00:06:58] parole, je voudrais également finir en
[00:07:01] remerciant Éric Azan qui va se prêter au
[00:07:04] jeu de la discussion ce soir. D'abord
[00:07:07] parce qu'il a accepté de coprésider le
[00:07:09] comité sur l'intelligence artificielle
[00:07:12] que je viens d'évoquer avec Julie Clin,
[00:07:14] la doyenne de notre école de droit qui
[00:07:16] est ici parmi nous dont nous allons
[00:07:19] comité dont nous allons annoncer la
[00:07:21] composition définitive dans quelques
[00:07:23] dans quelques jours et qui se mettra au
[00:07:25] travail à l'automne après ce que nous
[00:07:26] avons consacré
[00:07:28] au changement climatique qui a débouché
[00:07:31] sur la création de l'école du climat sur
[00:07:33] les questions de sécurité avec la
[00:07:34] création d'un nouveau centre de sécurité
[00:07:36] de déf défense et sur l'Europe dont je
[00:07:38] viens de recevoir les conclusions il y a
[00:07:41] quelques temps et qui préconise
[00:07:42] l'ouverture d'un campus de science pot à
[00:07:45] Bruxelles. Je voudrais aussi dire que
[00:07:48] Éric a été un ami de SciencePa il fait
[00:07:51] vivre lui aussi un peu la magie de cette
[00:07:53] institution. On se souvenait tout à
[00:07:56] l'heure que notre première rencontre
[00:07:57] avec Anne Lequin était au sortir d'une
[00:07:59] conférence à 25 30 étudiants qui avait
[00:08:02] donc en petit groupe eu le bénéfice et
[00:08:05] le plaisir de discuter avec vous. Je
[00:08:07] crois que c'est le genre d'expériences
[00:08:09] assez uniques qui sont propres à cette
[00:08:11] maison et dont nous nous
[00:08:13] enorgueillissons bien sûr. Alors, je
[00:08:15] voudrais à nouveau remercier Éric et
[00:08:18] Yann Lequin pour la participation ce
[00:08:21] soir à cette grande conférence. Et puis
[00:08:23] sans plus tarder et non sans avoir salué
[00:08:26] ceux qui nous suivent sur YouTube de
[00:08:28] chez eux ou depuis nos campus, je
[00:08:30] voudrais vous souhaiter à toutes et tous
[00:08:32] une excellente grande conférence. Bonne
[00:08:35] soirée.
[00:08:42] Alors, merci beaucoup Louis.
[00:08:43] Effectivement, la dernière fois que Yann
[00:08:45] est venu à Science Po, c'était pour mon
[00:08:47] cours que j'ai pompeusement appelé les
[00:08:49] pirates de l'intelligence artificielle
[00:08:51] et je me suis dit comme pirate, le mieux
[00:08:53] c'était d'avoir Yann Lequin pour le 2è
[00:08:55] ou 3è cours. Alors on verra en discutant
[00:08:57] un petit peu avec lui que c'est pas
[00:08:59] tellement un pirate, que c'est plutôt un
[00:09:01] des un des un des plus grands chercheurs
[00:09:04] de l'intelligence artificielle. Mais on
[00:09:05] va on va essayer de creuser tout ça.
[00:09:07] Merci Louis, merci de ta confiance. Et
[00:09:09] puis je voudrais dire juste dire deux
[00:09:11] mots. Pour moi c'est c'est je suis
[00:09:13] particulièrement heureux de discuter
[00:09:15] avec Yann d'abord parce que c'est un ami
[00:09:16] mais aussi parce que c'est probablement
[00:09:19] l'un des voir le chercheur qui a le plus
[00:09:21] marqué l'intelligence artificielle dans
[00:09:23] les dernières années. On va le voir, on
[00:09:24] va en discuter. Alors ce qui est très
[00:09:26] intéressant c'est qu'on va pouvoir
[00:09:28] discuter avec lui d'absolument tout. On
[00:09:30] va pouvoir discuter de ses années de
[00:09:31] formation. Je pense que c'est assez
[00:09:32] intéressant de la pause ou de pas de la
[00:09:34] pause. Enfin, vous vous êtes vous avez
[00:09:35] lu les journaux dans les deux derniers
[00:09:37] jours. Donc, je pense c'est un sujet
[00:09:37] intéressant dont on va devoir discuter
[00:09:40] également, mais aussi de la
[00:09:40] souveraineté, mais aussi de l'Europe,
[00:09:42] mais aussi de la France, mais aussi
[00:09:43] peut-être de ce qui nous attend tous en
[00:09:46] tant qu'étudiant, ancienne, étudiant,
[00:09:48] prof et cetera dans ce dans cette
[00:09:50] intelligence artificielle un petit peu
[00:09:51] complexe. Merci d'être là Yanne. Et puis
[00:09:53] je vais commencer par une première
[00:09:55] question parce que elle brûle les lèvres
[00:09:56] de tout le monde. Avant de parler un
[00:09:58] petit peu de ton parcours, je voudrais
[00:09:59] savoir ce que tu penses de la pause.
[00:10:02] Pas du bien.
[00:10:04] Euh
[00:10:06] les gens qui se font les les avocats de
[00:10:09] la pause euh sont un peu incohérents
[00:10:12] dans les opinions qu'ils expriment. Euh
[00:10:15] donc en particulier Dario Modéi qui est
[00:10:17] un peu à l'origine de ça, un peu suivi
[00:10:19] par Samtman Elan Mosque et cetera. Euh
[00:10:24] c'est en partie pour se draper dans le
[00:10:30] une espèce de d'enveloppe éthique pour
[00:10:32] montrer aux gens, vous voyez, on est
[00:10:34] vraiment responsable. On pourrait juste
[00:10:37] maximiser le la vitesse du progrès pour
[00:10:39] gagner des sous, mais on est tellement
[00:10:42] responsable que on a décidé de ralentir.
[00:10:44] Alors, c'est pas forcément très honnête
[00:10:47] mais ça part d'une illusion de de la
[00:10:51] part de Dario Medii. Faut se rappeler
[00:10:52] que en 2019, Dario Medilli qui à
[00:10:54] l'époque travaillait à Open AI avait dit
[00:10:58] "On ne va pas distribuer GPT 2 en open
[00:11:02] source parce que vous comprenez c'est
[00:11:04] potentiellement très dangereux."
[00:11:06] Alors à l'époque je m'étais moqué d'eux
[00:11:09] mais je m'étais vraiment moqué d'eux.
[00:11:11] J'ai carrément je carrément trollé en
[00:11:13] fait
[00:11:15] parce que je trouvais ça ridicule.
[00:11:16] C'était un énorme complexe de
[00:11:18] supériorité euh aussi bien de leur
[00:11:21] modèle que que d'eux-mêmes. 6 mois
[00:11:23] après, finalement, ils ont décidé de
[00:11:26] distribuer GPT2 en open source euh et
[00:11:29] ensuite quand3 est sorti, ils ne l'ont
[00:11:31] ils ne l'ont pas sorti en open source
[00:11:32] non pas pour des raisons de sécurité,
[00:11:34] bien que il disait que c'était le cas,
[00:11:36] mais simplement pour préserver leur leur
[00:11:39] avantage technologique et et commercial.
[00:11:42] Euh c'est l'époque aussi où Dario Modi a
[00:11:45] quitté Open AI pour fonder en Tropique
[00:11:48] parce qu'il pensait que Open AI prenait
[00:11:50] des libertés un petit peu trop euh
[00:11:53] rapides sur la distribution de modèle
[00:11:57] intelligent. Mais ce qu'il faut
[00:11:57] comprendre, c'est que
[00:12:01] l'investisseur qui a permis la création
[00:12:03] d'anthropique euh est une fondation qui
[00:12:06] s'appelle Open Philanthropie et qui euh
[00:12:10] en fait appartient à une mouvance
[00:12:12] intellectuelle
[00:12:14] de la silicone vallée qui s'appelle
[00:12:16] effective altruism et dans lequel les
[00:12:19] gens qui appartient à cette mouvance,
[00:12:20] qu'on peut assimiler une espèce de secte
[00:12:22] religieuse
[00:12:24] en fait ont très très peur de risque
[00:12:27] existentiel et se sont mis dans la tête
[00:12:29] de sauver l'humanité de de ces ses
[00:12:32] propres bêtises, on peut le dire. Euh
[00:12:35] c'est essentiellement financé par des
[00:12:37] gens qui ont énormément d'argent et
[00:12:38] beaucoup trop de temps libre. des gens
[00:12:41] comme par exemple Dustin Moskovic qui
[00:12:43] est un des cfondateurs de Facebook qui a
[00:12:45] quitté Facebook très tôt euh et qui est
[00:12:47] devenu de certaines manières paranoïque
[00:12:51] euh sur ses risques existentiels. Des
[00:12:53] gens comme Yan Talin qui est un un
[00:12:55] garçon charmant par ailleurs créateur de
[00:12:57] Skype mais qui aussi
[00:13:00] se s'est mis dans la tête qu'il fallait
[00:13:02] sauver l'humanité d'elle-même. Quelque
[00:13:04] chose que London de Mosque aussi partage
[00:13:06] d'ailleurs. C'est pour ça qu'il veut
[00:13:07] aller sur Mars. et et puis quel quelques
[00:13:11] autres Vitalic Betterine et d'autres.
[00:13:13] Donc des gens avec beaucoup d'argent
[00:13:15] et et qui
[00:13:19] partant d'une bonne intention de sauver
[00:13:20] l'humanité en fait font d'énormes
[00:13:22] bêtises.
[00:13:24] Alors la création d'anthropique partait
[00:13:26] peut-être d'un bon d'un bon sentiment
[00:13:28] faire du lias qui fera de mal à
[00:13:30] personne.
[00:13:31] Et la manière dont c'est utilisé
[00:13:33] aujourd'hui, l'argument de Dario Medi
[00:13:36] avec lequel il parle à plusieurs
[00:13:40] gouvernement de par le monde, c'est de
[00:13:41] dire vous comprenez l'IA c'est vraiment
[00:13:43] dangereux, il faut pas le mettre entre
[00:13:45] toutes les mains. Donc il faut réguler
[00:13:47] l'IA pour interdire en particulier l'IA
[00:13:52] open source particulièrement aujourd'hui
[00:13:54] parce que ça vient de Chine et puis les
[00:13:55] Chinois on peut pas leur faire confiance
[00:13:58] mais surtout parce que l'IA entre toutes
[00:14:01] les mains va mener à un désastre à cause
[00:14:04] des risques existentiels. Euh donc
[00:14:06] réguler l'IA, interdiviser l'open
[00:14:08] source. Bien sûr, ne régulez pas nous
[00:14:10] parce que nous on est intelligent et on
[00:14:12] sait on sait comment euh
[00:14:15] gérer euh l'IA. Donc ça part d'un d'un
[00:14:18] complexe de supériorité absolument
[00:14:19] insupportable euh et mal placé d'une
[00:14:22] part, mais surtout d'une volonté de
[00:14:24] capturer le marché par la régulation en
[00:14:28] convaincant les gouvernements de par le
[00:14:29] monde euh que l'IA est intrèquement
[00:14:31] dangereuse.
[00:14:33] Et c'est faux.
[00:14:35] On va y revenir parce que ça va
[00:14:37] forcément nous occuper une partie de la
[00:14:38] discussion. Mais avant qu'on y revienne,
[00:14:41] je voudrais que tu nous racontes un
[00:14:42] petit peu comment tu es tombé dans l'IA
[00:14:43] parce que on a l'impression que c'est
[00:14:46] ultra comment dire à la mode évidemment
[00:14:49] aujourd'hui c'est au cœur de tout ce
[00:14:51] qu'on de tout ce qui va transformer
[00:14:52] l'humanité mais il y a dans les années
[00:14:54] 80 quand tu as commencé à faire ton PhD
[00:14:57] et ensuite ton post doc c'était pas
[00:14:59] tellement à la mode. C'était même plutôt
[00:15:00] une hérésie les réseaux de neurones.
[00:15:02] Oui oui, je suis tombé à marmite quand
[00:15:04] j'étais petit mais
[00:15:06] moi j'ai toujours été intéressé par le
[00:15:08] problème de l'intelligence he c'est un
[00:15:11] des plus gros mystères
[00:15:13] euh
[00:15:15] question de la la science aujourd'hui.
[00:15:18] Comment fonctionne le cerveau ?
[00:15:19] Qu'est-ce que c'est que l'intelligence ?
[00:15:20] Et puis les autres questions
[00:15:21] fondamentales
[00:15:22] euh de quoi est fait l'univers et
[00:15:25] comment fonctionne la vie. Donc voilà,
[00:15:27] ils font choisir eu. Étant ayant plutôt
[00:15:29] la fibre de de l'ingénieur, je me suis
[00:15:32] dit que comprendre l'intelligence
[00:15:34] passait par la construction de machine
[00:15:36] intelligente.
[00:15:37] En fait, la seule manière de valider une
[00:15:39] théorie de l'intelligence, c'est de
[00:15:41] montrer qu'elle qu'elle fonctionne si on
[00:15:43] construit une machine basée sur les
[00:15:45] principes ces principes-là. Donc j'ai
[00:15:48] j'ai toujours été euh motivé d'un point
[00:15:51] de vue scientifique par la découverte
[00:15:52] des principes sous-jacents de
[00:15:54] l'intelligence et assez tôt euh
[00:15:57] réalisant que dans la nature
[00:16:00] l'intelligence est toujours le résultat
[00:16:03] de l'apprentissage et de l'adaptation.
[00:16:05] Il y a pas d'intelligence
[00:16:07] née, l'intelligence se construit par
[00:16:10] l'expérience, par l'apprentissage. Donc,
[00:16:12] j'ai toujours penser que l'apprentissage
[00:16:14] était un composant absolument essentiel
[00:16:17] de l'intelligence. Et puis aussi,
[00:16:19] peut-être parce que je suis feignant, je
[00:16:21] me suis dit,
[00:16:24] je suis pas assez intelligent pour
[00:16:25] concevoir une machine intelligente.
[00:16:27] Donc, il vaut mieux qu'elle se conçoit
[00:16:28] toute seule d'une certaine manière. et
[00:16:30] le l'apprentissage, c'est une manière de
[00:16:32] de de permettre à une machine de de se
[00:16:34] construire tout seul par expérience.
[00:16:37] Alors, à l'époque, quand j'ai commencé
[00:16:39] quand je finissais mes études
[00:16:40] d'ingénieur, euh le ce qui était la
[00:16:43] mode, donc on parle de j'ai terminé mes
[00:16:47] études d'ingénieur en 83, j'ai commencé
[00:16:49] à m'intéresser la question quelques
[00:16:51] années avant. En 83, ce qui était la
[00:16:53] mode dans l'intelligence artificielle,
[00:16:54] c'était ce qu'on appelait le système
[00:16:55] expert et système à base de règles. Euh
[00:16:58] donc système d'IA dans lequel
[00:17:02] les ingénieurs ce qu'on appelait les
[00:17:04] ingénieurs de la connaissance à l'époque
[00:17:06] s'asseyaient, écrivait des règles et des
[00:17:08] faites et utilisait ce qu'on appelle les
[00:17:10] moteurs d'inférence pour dériver de nous
[00:17:12] fête de nouveaux faits à partir des
[00:17:14] faits existants et des règles. Et il
[00:17:17] s'est avéré que cette méthode était
[00:17:19] applicable à un nombre relativement
[00:17:21] faible de situations pour lequel il
[00:17:23] était économiquement faisable de
[00:17:26] effectivement s'asseoir et écrire des
[00:17:28] règles. On s'est aussi aperçu que la
[00:17:30] plupart des tâches intelligentes que
[00:17:32] qu'accomplissent les humains ne sont pas
[00:17:34] régies par des règles ou par des
[00:17:35] recettes. C'est beaucoup plus fluide que
[00:17:38] ça pour je sais pas le diagnostic
[00:17:41] médical, diagnostic des pattes dans les
[00:17:43] ordinateurs, les choses comme ça. des
[00:17:45] applications qui ont été déployées. Euh
[00:17:48] alors moi je me suis dit euh à l'époque
[00:17:51] ce serait bien d'avoir des des machines
[00:17:53] capablees d'apprentissage. J'ai un peu
[00:17:54] étudié la question et c'était pas du
[00:17:56] tout à les modes à la mode à l'époque
[00:17:58] parce que les méthodes d'apprentissage
[00:18:01] euh
[00:18:03] avec l'inspiration
[00:18:06] de des du cerveau
[00:18:09] avait été à la mode dans les années à la
[00:18:11] fin des années 50 et début des années 60
[00:18:13] mais avait complètement disparu en tout
[00:18:15] cas dans l'Occident à la fin des années
[00:18:18] 60 où les gens s'étaient aperçus que les
[00:18:21] méthodes qui avaient été développées à
[00:18:22] l'époque à la fin des années 60 début
[00:18:23] fin les années 50 début des années 60
[00:18:25] était en fait très limité dans leur dans
[00:18:27] leur capacité et ne mènerait jamais à
[00:18:30] des systèmes vraiment intelligents. Donc
[00:18:33] les gens avaient continué à travailler
[00:18:34] dans ces domaines mais avaient changé le
[00:18:35] nom du domaine
[00:18:38] en ne prétendant plus faire partie de
[00:18:41] l'intelligence artificielle mais en en
[00:18:44] disant on va construire des filtres
[00:18:46] adaptatifs des systèmes de
[00:18:47] reconnaissance des formes et ça paraît
[00:18:49] beaucoup plus sérieux. Euh et donc ces
[00:18:51] techniques en fait sont passées un petit
[00:18:53] peu sous le sous le sous le rideau
[00:18:56] derrière le rideau n'avait pas la
[00:18:57] visibilité de de but ambitieux de
[00:19:00] construire des machines intelligentes.
[00:19:02] Et donc je me suis aperçu que dans les
[00:19:04] années 80 il y avait personne en tout
[00:19:06] cas en France mais même aux États-Unis
[00:19:08] qui travaillaient sur
[00:19:10] l'utilisation d'apprentissage pour faire
[00:19:12] des machines intelligentes. Je me suis
[00:19:14] dit c'est quand même bizarre. Donc j'ai
[00:19:16] suis intéressé à ça. J'ai commencé à
[00:19:18] travailler un petit peu sur la question.
[00:19:20] Euh rendu rendu compte que il y avait
[00:19:22] euh une petite communauté euh au Japon
[00:19:24] en particulier et puis de psychologues
[00:19:26] aussi euh aux États-Unis et puis plus
[00:19:28] tard des physiciens qui s'intéressaient
[00:19:30] un petit peu à ça. Euh mais
[00:19:33] je commençais donc
[00:19:36] un doctorat ou un DEA à l'époque, c'est
[00:19:38] comme le M2 aujourd'hui. Et il y avait
[00:19:41] personne qui travaillait là-dessus.
[00:19:42] Donc, j'avais pas la possibilité de
[00:19:44] trouver un directeur de thèse. Euh
[00:19:48] alors, j'ai rencontré
[00:19:51] un certain Maurice Miligram
[00:19:53] qui était très sympathique et qui
[00:19:55] s'intéressait un petit peu à ce qu'on
[00:19:56] appelait à l'époque les réseaux
[00:19:57] d'automates. C'est ce qui se rapprocha
[00:19:59] un petit peu le plus de de ce qu'on
[00:20:01] appelle maintenant les réseaux neurones.
[00:20:03] Et a dit "Je sais pas très bien sur quoi
[00:20:05] tu travailles mais tu as l'air
[00:20:06] suffisamment tu as pas l'air bête donc
[00:20:08] je veux bien signer les papiers."
[00:20:11] Il s'est mis au réseau neurone après que
[00:20:12] j'ai fini
[00:20:14] euh euh ma thèse.
[00:20:16] Euh donc j'étais un petit un petit peu
[00:20:18] isolé euh et c'est que la fin de ma
[00:20:22] thèse que j'ai rencontré les gens qui la
[00:20:23] communauté naissante de de des réseaux
[00:20:26] de neurones en fait en 87.
[00:20:28] C'était qui ?
[00:20:29] Alors c'était des gens comme Jeffre
[00:20:31] Hinton qui avec qui j'ai fait mon mon
[00:20:33] post doc qui qui est toujours très
[00:20:35] présent. il a pris sa retraite, il fait
[00:20:38] plus de recherche mais il est toujours
[00:20:39] présent avec des déclarations un petit
[00:20:41] peu tonitruantes he sur la sécurité de
[00:20:43] l'IA et lui aussi a très peur des
[00:20:44] dangers de l'IA à mon avis à tort euh
[00:20:47] des gens comme Terry Sonovski qui est
[00:20:49] plutôt du côté des neurosciences
[00:20:51] neurosciences théoriques euh et puis un
[00:20:56] petit groupe de recherche qui est qui
[00:20:58] était Bell Labs Bell Laboratories qui
[00:21:00] était le à l'époque le laboratoire de
[00:21:01] recherche de grande entreprise de
[00:21:05] télécommunication
[00:21:06] AT&T euh c'est un laboratoire un peu
[00:21:09] mythique dans lequel une grande partie
[00:21:10] des technologies modernes ont été
[00:21:12] inventées. Le transistor, le laser, les
[00:21:14] cellules solaires, les capteurs CCD et
[00:21:17] cetera. Unix, langage CC++.
[00:21:20] Euh et donc après mon mon postdoc à à
[00:21:24] l'université de Toronto avec Jeffton,
[00:21:26] j'étais recruté par Bellab et c'est
[00:21:28] comme ça que j'ai atterri aux
[00:21:29] États-Unis. J'avais l'idée d'y rester 2
[00:21:31] ans et puis euh c'était en 1988
[00:21:34] et don je suis resté un peu plus
[00:21:36] longtemps
[00:21:37] euh et c'est c'est un peu là qu'on a
[00:21:42] développé un peu les techniques de base
[00:21:44] qui sont toujours utilisées euh pour la
[00:21:48] la reconnaissance d'images. Donc si vous
[00:21:49] avez une voiture qui avec assistance à
[00:21:53] la conduite ou un système d'analyse
[00:21:56] d'images médical et cetera, ça utilise
[00:22:00] les technologies qui s'appelait les
[00:22:02] réseaux convolutifs que j'ai développé à
[00:22:03] l'époque à la fin des années 80 début
[00:22:05] des années 90 à Bellabs
[00:22:08] et et à quel moment ça accélère ? parce
[00:22:10] que pour nous tout cétait accéléré en
[00:22:11] fait en 2022 mais on est on est un peu
[00:22:13] plusin que ça.
[00:22:15] Alors en fait ça accéléré bien plus tôt
[00:22:16] que ça. Il y a eu toute une période
[00:22:18] noire entre environ 1996 ou 956
[00:22:25] et disons 2006,
[00:22:27] une période d'à peu près 10 ans dans
[00:22:30] lequel personne dans la communauté de
[00:22:33] l'apprentissage automatique, donc il y a
[00:22:35] une sous-communauté de l'inturance
[00:22:36] artificielle qui est l'apprentissage
[00:22:37] automatique qui est maintenant
[00:22:39] complètement dominante
[00:22:41] ce qu'on appelle le machine learning en
[00:22:42] anglais.
[00:22:43] Et cette communauté s'est complètement
[00:22:46] désintéressée
[00:22:48] de ce qu'on appelle maintenant le deep
[00:22:49] learning qu'on appelait les réseaux de
[00:22:50] neuron à l'époque entre oui 95 et 2006.
[00:22:56] Donc en fait pendant cette période là
[00:22:58] j'ai plutôt travaillé sur autre chose
[00:23:00] parce que il y avait vraiment aucune
[00:23:01] possibilité de d'avoir aucun impact euh
[00:23:04] sur la communauté pu c'était les les les
[00:23:06] les premières années de l'internet tout
[00:23:09] un tas de choses intéressantes à faire.
[00:23:11] Je travaillé sur un projet qui
[00:23:12] s'appelait déjà vu en français dans le
[00:23:13] texte des JVU de distribution de
[00:23:16] documents sur internet et cetera. Et
[00:23:17] puis je suis revenu au réseau neurone en
[00:23:20] en 2001 2002.
[00:23:23] Euh j'ai quitté ETNT. Euh j'étais
[00:23:27] brièvement au au laboratoire de
[00:23:30] entreprise japonaise NC NEC. Et puis en
[00:23:35] 2003 je suis devenu prof à New York
[00:23:38] University. Et donc j'ai vraiment
[00:23:40] redémarré un un programme de recherche
[00:23:42] sur les réseaux neurones pour pour
[00:23:44] montrer au aux gens que ça marchait.
[00:23:47] Et euh en cela, j'ai été accompagné de
[00:23:51] de Jeffrey Hinton et Yoshua Benjo, qui
[00:23:56] aussi s'intéressait au aux mêmes
[00:23:57] questions et on s'est mis ensemble pour
[00:24:00] essayer de de comment dire redémarrer
[00:24:03] l'intérêt de la communauté de la
[00:24:04] recherche dans ces dans ces techniques
[00:24:06] dont on savait qu'elle marchait vraiment
[00:24:07] bien mais qu' était un petit peu
[00:24:08] difficile à faire marcher.
[00:24:11] Ça a pris plusieurs années mais en
[00:24:15] 2012, donc ça a pris 6 7 ans en 2012
[00:24:21] déjà en 2009, il y a eu déjà un gros
[00:24:23] regain d'intérêt dans ces méthodes de la
[00:24:26] part de la communauté de reconnaissance
[00:24:28] de la parole. On a commencé à avoir des
[00:24:30] systèmes de reconnaissance de la parole
[00:24:31] qui marchaient bien grâce au deep
[00:24:33] learning, réseau neurone. Euh et en
[00:24:36] quelques en quelques mois, en un an et
[00:24:38] demi, en 2011-2010,
[00:24:41] euh les téléphones mobiles d'un seul
[00:24:43] coup pouvaient pouvaient comprendre ce
[00:24:45] qu'on leur racontait euh grâce au réseau
[00:24:47] neurone. Donc ça a été déployé
[00:24:48] relativement vite par des entreprises
[00:24:50] comme Google et Apple et d'autres.
[00:24:53] Euh et en 2012, une autre révolution qui
[00:24:55] a eu un impact encore plus grand euh qui
[00:24:57] est que en utilisant mes méthodes, les
[00:24:59] réseaux convolutifs, Jeffinton et son
[00:25:01] équipe universit
[00:25:04] un un record de performance sur des un
[00:25:09] une base de données, un benchmark de
[00:25:11] reconnaissance d'images, classification
[00:25:12] d'imagit
[00:25:14] tellement supérieur au aux performances
[00:25:17] précédentes que la communauté de la la
[00:25:20] vision par ordinateur a du jour au
[00:25:22] lendemain a abandonné tout ce qu'il
[00:25:23] faisait et a commencé à utiliser ces
[00:25:25] nouvelles méthodes euh qu'auparavant il
[00:25:29] pensait être euh très peu prometteuse en
[00:25:33] fait. Ils étaient extrêmement sceptiques
[00:25:35] pour ne pas dire euh carrément
[00:25:38] insultant. Voilà. Donc euh il y a eu un
[00:25:41] complet revirement de situation en 2013
[00:25:43] qui a attiré bien sûr l'attention des
[00:25:45] grandes entreprises comme euh Google,
[00:25:47] Microsoft, IBM, euh Facebook à l'époque
[00:25:51] et puis euh des entreprises chinoises
[00:25:53] aussi qui ont tout démarré des activités
[00:25:54] dans le domaine. Euh donc c'est à
[00:25:56] l'époque en à la fin 2013, début 2014
[00:25:58] que j'ai créé Fire le laboratoire de
[00:26:01] recherche en IA de Facebook et je suis
[00:26:04] resté une une douzaine d'années.
[00:26:07] Et c'est merci d'avoir raconté ça parce
[00:26:08] qu'on a l'impression que on est
[00:26:10] environné d'IA et finalement il y a eu
[00:26:11] quand même un hiver assez long de l'IA
[00:26:15] et ça reposa sur finalement deux ou
[00:26:16] trois personnes un petit peu motivées de
[00:26:18] relancer un petit peu la machine. Oui,
[00:26:20] et c'est pour ça que le le comité euh
[00:26:23] Turing de la la CM nous a donné P Turing
[00:26:25] parce qu'on a euh en face de d'une d'une
[00:26:28] résistance en fait assez importante de
[00:26:30] la la communauté euh de la recherche, on
[00:26:33] a on a vraiment persisté euh au prix de
[00:26:37] comment dire
[00:26:39] de de de la notoriété de certains de nos
[00:26:42] étudiants qui nous suivaient sur ce
[00:26:44] chemin mais qui avaient un petit peu de
[00:26:45] mal à à publier leurs articles ou
[00:26:49] à acquérir un petit peu de
[00:26:51] reconnaissance. Mais d'un seul coup en
[00:26:53] 2013-24,
[00:26:55] ils se sont retrouvés comme étant
[00:26:59] un tout petit nombre de gens qui
[00:27:01] savaient faire marcher les réseaux
[00:27:03] neurones. Donc, ils ont immédiatement
[00:27:04] été happés euh par les entreprises qui
[00:27:08] qui euh qui travaillaient là-dedans.
[00:27:09] Donc, deux de mes anciens étudiants, par
[00:27:11] exemple Coravouchelou et celui qui et la
[00:27:13] personne qui dirige le projet Gemini à
[00:27:17] Google Deep Mind, euh Ra Hell euh et euh
[00:27:21] la directrice de la partie recherche de
[00:27:24] Deepmind, les vice-présidentes de la
[00:27:26] recherche. Donc ces gens-là qui étaient
[00:27:28] un peu les premiers étudiants à sortir
[00:27:31] au moment où le deep learning
[00:27:32] commençait, on fait d'excellentes
[00:27:33] carrières
[00:27:35] mais effectivement ça a été dur pour eux
[00:27:37] pendant leur leur doctorat.
[00:27:39] Alors toi tu n'es pas stupéfait par les
[00:27:42] progrès de l'IA mais nous depuis 2022 on
[00:27:44] est stupéfait. Avant pour certains
[00:27:46] d'entre nous on avait vu des choses.
[00:27:47] Moi, j'avais vu des choses mais
[00:27:48] globalement on est stupéfait depuis
[00:27:50] quelques années. Et pourtant tu nous dis
[00:27:52] que les modèles de langage c'est pas la
[00:27:53] panassée universelle.
[00:27:55] Alors non, on a le droit des stupéfaits
[00:27:57] et c'est certainement étonnant d'une
[00:28:00] certaine manière que les les LLM qui
[00:28:02] sont
[00:28:04] don dont la la méthode d'entraînement
[00:28:06] est un petit peu simpliste en fait
[00:28:08] marche aussi bien. C'est c'est
[00:28:10] effectivement un peu surprenant.
[00:28:13] Pas aussi surprenant peut-être que
[00:28:15] certains l'imaginent mais mais quand
[00:28:17] même surprenant. C'estàd que l'idée de
[00:28:19] base que on pourrait construire des
[00:28:22] systèmes intelligents par apprentissage
[00:28:24] et que cet apprentissage soit basé sur
[00:28:25] la prédiction, ce n'est pas une idée
[00:28:27] nouvelle, c'est une idée très ancienne,
[00:28:29] en particulier dans le domaine des
[00:28:31] neurosciences théoriques. Euh tout un
[00:28:34] ensemble de théories qu'on qu'on
[00:28:36] regroupe sous le nom de predictive
[00:28:38] coding en anglais, codage predictif. Euh
[00:28:41] donc cette idée que les les jeunes
[00:28:44] animaux et les humains apprennent
[00:28:46] appréhender le le monde en en
[00:28:48] s'entraînant à prédire. En fait, le
[00:28:50] cerveau est une machine à prédire.
[00:28:52] Euh c'est c'est pas un nouveau concept,
[00:28:55] mais en fait je travaille sur l'idée de
[00:28:59] de d'enseigner au aux machines à
[00:29:02] comprendre le monde physique par prédire
[00:29:05] ce qui va se passer dans une vidéo
[00:29:07] depuis euh près de 20 ans, disons
[00:29:12] vraiment plus démarré il y a une
[00:29:13] quinzaine d'années et en gros euh on a
[00:29:17] fait très peu de progrès les 10
[00:29:18] premières années de ces 15 années. Il y
[00:29:20] a que dans les cin dernières années
[00:29:21] qu'on a commencé à faire des des progrès
[00:29:23] un petit peu significatifs et euh
[00:29:27] il s'avère que l'apprentissage par
[00:29:29] prédiction, quand on essaie de prédire
[00:29:31] des données naturelles comme de la
[00:29:32] vidéo, c'est vraiment compliqué et c'est
[00:29:36] difficile à faire marcher et on commence
[00:29:38] seulement depuis quelques années à faire
[00:29:41] des progrès là-dedans. Par contre, il y
[00:29:42] a un domaine dans lequel ça marche
[00:29:44] vraiment très bien et c'est le texte.
[00:29:47] C'estàd que si on prend si on entraîne
[00:29:49] une machine où lui montre un texte,
[00:29:52] alors il y a deux méthodes. La première
[00:29:53] méthode, on on on prend un texte, on
[00:29:56] enlève 20 % des mots du texte et on
[00:29:59] entraîne un gros réseau neurone à
[00:30:01] prédire les mots qui manquent. D'accord
[00:30:03] ? Donc ça c'est la technologie
[00:30:05] 2017-28
[00:30:07] euh à peu près 2019.
[00:30:11] Euh ça marche très bien pour permettre
[00:30:13] aux machines de euh faire la traduction,
[00:30:16] comprendre du texte, classifier le faire
[00:30:19] de la produire des résumés et cetera. Ça
[00:30:21] marche très bien. Mais en fait ce qui
[00:30:23] marche mieux, c'est encore plus simple
[00:30:27] et c'est une méthode auquelle Open AI a
[00:30:31] contribué qui est de ne pas masquer le
[00:30:34] texte. C'estàd on prend un texte, on
[00:30:36] enlève rien du texte et on entraîne un
[00:30:38] réseau de neurone à reproduire
[00:30:39] simplement le texte d'entrée sur sa
[00:30:41] sortie. Mais
[00:30:43] on
[00:30:45] on configure le ce réseau de neurone de
[00:30:47] manière à ce que pour prédire un mot,
[00:30:50] il ne peut pas regarder le mot
[00:30:51] correspondant dans l'entrée. Il ne peut
[00:30:54] regarder que les mots qui sont à gauche
[00:30:55] de ce mot. Donc implicitement quand on
[00:30:59] entraîne ce ce réseau neurone à
[00:31:01] reproduire son entrée sur sa sortie, ce
[00:31:03] qui a l'air facile, implicitement
[00:31:05] l'entraîne à prédire le mot suivant
[00:31:07] quelle que soit la séquence de mots qui
[00:31:09] précède. Et ça c'est magique.
[00:31:12] Et non seulement c'est magique mais on
[00:31:14] peut passer à l'échelle. C'est qu'on
[00:31:15] peut donc c'est la la série des GPT1,
[00:31:18] GPT2, GPT3 et puis et cetera. GPT, ça
[00:31:21] veut dire ça veut dire
[00:31:25] euh prin transformer donc
[00:31:30] et euh rapid Transformer et et donc
[00:31:34] c'est cette architecture très simple
[00:31:36] qu'on appelle aussi decoder only euh qui
[00:31:40] il s'avère passe à l'échelle pass on
[00:31:42] peut passer à l'échelle entraîner des
[00:31:43] réseaux beaucoup plus gros et intégrer
[00:31:45] en fait des connaissances qui sont
[00:31:47] implicites dans le texte avec cette
[00:31:49] méthode qui n'appelle l'air de marcher
[00:31:51] aussi bien que qui marche bien mieux par
[00:31:53] contre que la la méthode précédente qui
[00:31:56] consiste à à masquer, enlever certains
[00:31:57] mots qui qui une méthode plus ancienne.
[00:32:01] Euh donc cette révolution là qui pas qui
[00:32:04] a pas été immédiatement reconnue comme
[00:32:06] une révolution date de 2019-2020
[00:32:09] et puis GPT3 en 2022, il y a eu des il y
[00:32:12] avait des projets simultanés sur
[00:32:13] exactement le même thème chez Meta chez
[00:32:16] Google.
[00:32:18] OPA était pas les seuls à développer ce
[00:32:20] genre de chos mais il y a eu
[00:32:21] effectivement un progrès significatif
[00:32:23] grâce à cette architecture
[00:32:26] et puis ensuite on s'est aperçu qu'on
[00:32:28] pouvait affiner ces architectures, enfin
[00:32:32] ces systèmes après qu'on les entraîne
[00:32:33] sur des quantités énormes de textes. On
[00:32:36] peut les affiner pour qu'elles obéissent
[00:32:39] à des instructions ou qu'elles répondent
[00:32:41] à des questions qui sont fréquentes
[00:32:42] parmi les utilisateurs et ça en fait des
[00:32:44] systèmes utiles. Et ça c'est chat GPT et
[00:32:46] tout ce qui est à suivi.
[00:32:48] Et quand on se place aujourd'hui, on a
[00:32:50] plusieurs questions. D'abord, on est
[00:32:52] complètement dépassé par le niveau
[00:32:53] d'investissement des Américains et
[00:32:55] potentiellement des Chinois. On est des
[00:32:56] petits Européens vraiment très loin. On
[00:33:00] a l'impression que il faut surinvestir
[00:33:02] sur le compute, c'estàd sur la puissance
[00:33:04] de calcul, surinvestir sur les modèles
[00:33:06] de frontières et que sinon on n'y sera
[00:33:07] jamais, qu'on a qu'un seul champion en
[00:33:09] Europe. Qu'est-ce qu'on va faire ?
[00:33:11] Qu'est-ce qu'on peut faire encore ?
[00:33:13] Alors bon, il y a plein de choses qu'il
[00:33:14] faut dire là-dessus. Euh
[00:33:18] et ça va nous mener à une longue
[00:33:19] discussion. Le je essayer de la couper
[00:33:22] en morceau. La première chose qu'il faut
[00:33:24] se dire c'est que ces systèmes, donc des
[00:33:28] LLM entraînés sur du texte sont très
[00:33:30] limités dans leur leur capacité. Euh
[00:33:35] donc j'ai j'ai déclaré je déclare depuis
[00:33:37] plusieurs années que ce type de
[00:33:40] technologie n'est pas un chemin viable
[00:33:43] vers des systèmes intelligents avec une
[00:33:46] intelligence similaire à l'intelligence
[00:33:47] humaine. Pourquoi ? Pour une raison très
[00:33:50] simple, c'est que le monde réel, le
[00:33:54] monde physique est beaucoup plus
[00:33:55] compliqué que le texte. Ça nous paraît
[00:33:59] paradoxal en tant qu'humain parce que on
[00:34:01] pense que le la langue humaine c'est un
[00:34:04] peu le le sommum de de l'intelligence
[00:34:06] humaine mais en fait pas du tout. Le
[00:34:08] texte est facile. Prédire le mot qui
[00:34:10] suit un texte particulier. On peut
[00:34:12] jamais prédire exactement le mot qui
[00:34:13] suit un texte mais on peut prédire une
[00:34:16] distribution de probabilité sur tous les
[00:34:17] mots possibles. C'est comme ça que
[00:34:19] fonctionne les LLM. Euh et on peut
[00:34:21] représenter cette probabilité. C'est
[00:34:22] juste une liste de nombres. Euh disons
[00:34:24] si le dictionnaire fait est de taille
[00:34:26] 100000 euh c'est une série de nombres de
[00:34:30] 100000 nombres entre 0 et 1 dont la
[00:34:31] somme fait 1. C'est vraiment simple, on
[00:34:33] sait le faire. Euh et puis pour prédire
[00:34:36] un texte, on fait ce qu'on appelle la
[00:34:38] prédiction autorégressive. C'est pas un
[00:34:39] nouveau concept non plus. C'estàd qu'on
[00:34:42] on montre un texte au système, lui fait
[00:34:44] prédire le mot qui suit. Il prédit une
[00:34:46] probabilité sur tous les mots. On on
[00:34:49] prend on choisit un mot dans cette
[00:34:50] distribution de probabilité, un mot de
[00:34:52] haute probabilité. Mais c'est un peu
[00:34:53] stocastique. Et puis ensuite, on injecte
[00:34:57] ce mot dans l'entrée. C'estàd qu'on
[00:34:58] décale tous les mots de dans l'entrée du
[00:35:00] système et maintenant il voit sa propre
[00:35:02] sortie comme faisant partie de l'entrée.
[00:35:05] Donc maintenant, on peut lui demander de
[00:35:06] produire le deuxième mot. On met ça à
[00:35:09] l'entrée, 3è 4e et cetera. Donc ça ça
[00:35:11] pas besoin de beaucoup d'argent pour
[00:35:12] faire ça finalement. Alors là où il y a
[00:35:14] besoin de beaucoup d'argent, c'est si le
[00:35:17] réseau de neurone en question,
[00:35:20] on veut l'entraîner sur énormément de
[00:35:22] données
[00:35:24] et surtout on veut pouvoir expérimenter
[00:35:25] avec plusieurs architectures et cetera
[00:35:27] et cetera. Et le problème c'est que si
[00:35:30] on veut l'entraîner avec beaucoup de
[00:35:31] données, ce qu'il va faire c'est qu'il
[00:35:32] va accumuler toute la connaissance
[00:35:34] déclarative dans ces données et pour ça
[00:35:37] il faut beaucoup de mémoire. Donc ce qui
[00:35:38] coûte cher en fait euh dans dans ces
[00:35:41] systèmes, c'est qu'il faut des
[00:35:43] ordinateurs ou des des clusters
[00:35:45] d'ordinateur en fait qui sont très
[00:35:46] puissant au niveau calcul numérique
[00:35:48] parce que finalement ce qui se passe à
[00:35:50] la base dans ces réseaux neurones, c'est
[00:35:51] des multiplications, des additions, des
[00:35:53] comparaisons et rien d'autre. C'est
[00:35:54] vraiment très très simple.
[00:35:55] Euh mais dans des en c'est des centaines
[00:35:59] de milliards hein euh par inférence et
[00:36:03] et euh
[00:36:05] et donc si on veut que ces systèmes
[00:36:07] accumulent suffisamment de de
[00:36:08] connaissances déclaratives
[00:36:10] euh en étant entraîné sur du texte, il
[00:36:13] faut qu'ils aient énormément de mémoire.
[00:36:15] Donc des dizaines de milliards ou des
[00:36:17] centaines de milliards ou même milliers
[00:36:19] de milliards de paramètres. Donc ça ça
[00:36:22] prend beaucoup de mémoire. Chaque
[00:36:23] paramètre durant l'apprentissage est
[00:36:25] stocké sur 4 oct ou deux oct si on veut
[00:36:28] être un petit peu plus performant. Au
[00:36:30] moment l'inférence c'est plutôt un octa
[00:36:32] mais quand même ça fait beaucoup. Donc
[00:36:33] ça fait des GPU avec beaucoup de mémoire
[00:36:35] que Nvidia va vous vendre pour un prix
[00:36:37] énorme et beaucoup de trafic de mémoire.
[00:36:40] Donc ça fait monter les prix des
[00:36:42] mémoires. Je suis sûr que vous en aperçu
[00:36:44] et ça coûte cher. Donc il faut beaucoup
[00:36:46] de d'infrastructures qui qui coûte des
[00:36:51] centaines de milliards en fait
[00:36:52] d'investissement au capital que les
[00:36:54] grosses entreprises de de tech de la
[00:36:56] SCON vallée peuvent se payer mais
[00:36:58] personne d'autre.
[00:36:59] Et donc ça ça met effectivement
[00:37:02] euh les autres pays, y compris les
[00:37:04] Chinois en fait dans une des situations
[00:37:06] compliquées. Les Chinois encore plus en
[00:37:08] fait parce que
[00:37:10] le le gouvernement américain essaie de
[00:37:12] limiter l'accès de des Chinois au aux
[00:37:15] derniers aux dernières technologies.
[00:37:18] Alors pour les limitations de ces de ces
[00:37:21] de ces systèmes à base de LLM, euh
[00:37:26] comme je l'ai dit, prédire le mot
[00:37:28] suivant dans un texte relativement
[00:37:29] facile. Prédire les pixels qui suit dans
[00:37:32] une vidéo, c'est beaucoup beaucoup plus
[00:37:35] compliqué et on sait pas vraiment encore
[00:37:37] le faire. Ce qui fait que on a des
[00:37:40] systèmes qui peuvent passer l'examen du
[00:37:42] barreau, écrire des dissertations, euh
[00:37:47] même démontrer des théorèmes, écrire du
[00:37:49] code. Euh donc faire des choses qui sont
[00:37:51] vraiment basées sur sur du texte en
[00:37:53] fait. Euh mais
[00:37:56] où est ma voiture autonome ? Où est mon
[00:37:58] robot domestique qui peut débarrasser la
[00:38:00] table et remplir la vaisselle ?
[00:38:03] Et ne parlons même pas du robot
[00:38:04] domestique qui peut réparer la salle de
[00:38:06] bain. C'est pas pour demain. Et c'est
[00:38:09] ça, c'est la raison pour ça. On n même
[00:38:12] pas de système assez intelligent en fait
[00:38:14] pour avoir une compréhension du monde
[00:38:16] physique et aussi sophistiqué que la
[00:38:18] compréhension du monde physique d'achat
[00:38:20] gouttière. Donc il y a un gap énorme
[00:38:23] entre l'intelligence
[00:38:27] basée sur la langue si vous voulez ou la
[00:38:29] régurgitation de de connaissances
[00:38:32] accumulé
[00:38:33] de connaissances déclaratives
[00:38:35] et l'intelligence qui serait la
[00:38:38] compréhension du monde physique. Et on
[00:38:40] peut résumer ça en fait en un chiffre
[00:38:42] très simple qui est que la totalité de
[00:38:45] tout le texte disponible sur internet
[00:38:47] qui est utilisé pour préentraîner les
[00:38:49] LLM aujourd'hui, c'est environ 20000
[00:38:51] milliards de mots. Alors, un texte est
[00:38:54] tokenisé, c'est-à-dire qu'on on découpe
[00:38:56] les mots en sous-mot et cetera, on
[00:38:58] transforme ça en token. Et 20000
[00:39:00] milliards de mots, c'est environ 30000
[00:39:02] milliards de token. Chaque token est
[00:39:04] encodé typiquement sur trois octs. Donc
[00:39:07] si on fait le calcul, c'est à peu près
[00:39:09] 10 à la puissance 14 oct d'entraînement
[00:39:13] qui correspondrait à un texte qui
[00:39:15] prendrait tout un chacun ici environ 1
[00:39:18] demi million d'années à lire.
[00:39:21] Ça fait beaucoup.
[00:39:23] Aucun humain est capable de d'ingérer et
[00:39:25] certainement de se souvenir d'autant de
[00:39:26] d'information,
[00:39:28] même de manière abstraite.
[00:39:32] Comparer ça aux données qui parviennent
[00:39:35] au contexte visuel dans les premières
[00:39:37] années de la vie. Un enfant de 4 ans a
[00:39:41] été éveillé typiquement un total
[00:39:43] d'environ 16000 heures dans sa vie.
[00:39:46] Et au cours de ces 16000 heures, il y a
[00:39:50] l'information qui est véhiculée par les
[00:39:52] le neroptique des yeux vers le le
[00:39:54] contexte visuel. C'est environ
[00:39:58] un octa par seconde par fibre du ner
[00:40:00] optique. On a 2 millions de fibres de
[00:40:02] ner optique 1 million par œil. Donc
[00:40:04] c'est environ un flux de 2 millions de
[00:40:08] de d'octès par seconde. Si on fait le
[00:40:10] calcul sur 16000 heures éveillé, c'est à
[00:40:14] peu près 10 à la puissance 14 oct.
[00:40:16] C'està-dire un enfant de 4 ans a vu
[00:40:17] autant d'information que le plus grand
[00:40:19] des LLM simplement par la vision. Euh et
[00:40:24] autant d'information qu'il y a dans le
[00:40:25] texte, la totalité du texte disponible
[00:40:27] publiquement sur internet. Donc ça ça
[00:40:29] vous dit que on n'arrivera jamais en
[00:40:31] fait à un système de de niveau humain en
[00:40:35] entraînant sur seulement sur du texte.
[00:40:36] Il a toute une partie de la réalité qui
[00:40:38] n'est pas présent dans le texte. Il
[00:40:39] n'est pas présente dans le texte.
[00:40:40] Sauf si on travaille avec des world
[00:40:42] models, non ? Alors ensuite, je peux
[00:40:44] vous donner les solutions. Euh je vous
[00:40:46] expliquer un petit peu en fait le la
[00:40:48] l'idée autour de autour de laquelle est
[00:40:51] construite Amilabs. Euh c'est et je vais
[00:40:56] je vais je vais vous prendre un exemple
[00:40:59] euh que j'utilise souvent euh dans ce
[00:41:01] genre de conférence. Si je prends une
[00:41:02] vidéo de cette salle, je commence par la
[00:41:05] gauche, je tourne la caméra et j'arrête.
[00:41:08] Et puis j'attends, je de donne ça à une
[00:41:12] machine entraîner à prédire ce qui se
[00:41:14] passe dans une vidéo et je demande à à
[00:41:16] cette machine, continue la vidéo.
[00:41:20] Très clairement,
[00:41:21] la machine va prédire que la caméra va
[00:41:23] continuer à tourner, qu'on est dans une
[00:41:26] salle de classe qui a probablement des
[00:41:28] fenêtres de ce côté-là parce qu'il voit
[00:41:29] les ombres projetées et cetera. Mais il
[00:41:31] y a absolument aucun moyen qu'il puisse
[00:41:33] deviner à quoi vous ressemblez tous.
[00:41:36] C'est pas possible. L'information n'est
[00:41:37] pas présente. C'est une une information
[00:41:40] impossible à prédire. Et quand on
[00:41:42] entraîne ces systèmes, des systèmes donc
[00:41:45] génératifs à prédire au niveau du pixel
[00:41:48] euh ce qui ce qui va se passer dans une
[00:41:50] vidéo,
[00:41:52] ça marche pas. on les tue. Alors
[00:41:53] évidemment, il y a tous ces systèmes qui
[00:41:55] font de la synthèse vidéo. Euh on a tous
[00:41:56] joué avec ça qui sont très
[00:41:58] impressionnants, mais ces systèmes en
[00:41:59] fait ne comprennent pas vraiment la
[00:42:01] réalité sous-jacente de de du monde
[00:42:04] physique. Euh donc euh comment peut-on
[00:42:07] entraîner un système ? Simplement par
[00:42:09] prédiction, ce qui marche très bien pour
[00:42:11] le texte. Comment transposer ce succès ?
[00:42:15] un système qui prédit ce qui est
[00:42:17] entraîné à prédire ce qui se passe dans
[00:42:18] une vidéo,
[00:42:20] sachant qu'il ne peut absolument pas
[00:42:21] prédire tous les détails de ce qu'il y a
[00:42:22] dans les vidéos. Alors ça ça conduit à
[00:42:24] un concept que j'appelle Jeppa. C'est un
[00:42:27] un acronyme, ça veut dire Joint Embeding
[00:42:29] predictive architecture. En français
[00:42:32] architecture prédictive d'enchassement
[00:42:34] joint.
[00:42:36] Euh et l'idée de de ça, c'est de dire il
[00:42:40] faut que il faut que le le système en en
[00:42:42] s'entraînant produise une représentation
[00:42:47] abstraite de la réalité
[00:42:49] dans lequel tous les détails qui ne sont
[00:42:51] pas prédictibles sont éliminés et
[00:42:53] ensuite s'entraînent à prédire mais dans
[00:42:55] dans cet espace de représentation
[00:42:56] abstraite.
[00:42:58] Et donc
[00:43:00] toute la question qui est en fait la
[00:43:02] question originale du deep learning,
[00:43:03] c'est comment apprendre des
[00:43:04] représentations de de percept ? Et on se
[00:43:08] pose toujours la même question, c'est
[00:43:09] une question qui m'obsède depuis 40 ans,
[00:43:11] c'est comment un système intelligent
[00:43:13] durant l'apprentissage peut apprendre
[00:43:15] une bonne représentation du monde, que
[00:43:17] ce soit pour la perception ou pour la
[00:43:19] prédiction dans la vidéo comme c'est le
[00:43:20] cas. Et et donc je suis arrivé à ce
[00:43:22] concept JPA qui euh j'ai publié une
[00:43:27] sorte de d'article sur ma vision de
[00:43:30] devrait aller la recherche en IA dans
[00:43:32] les la décennie qui vient qui fait c'est
[00:43:35] maintenant c'est plus que 6 ans euh que
[00:43:37] l'article a été publié en 2002 2022
[00:43:40] pardon euh dans dans lequel je propose
[00:43:43] cette architecture. Puis il y a dans la
[00:43:45] communauté scientifique environ 2900
[00:43:49] articles qui mentionnent Jeppa. Euh donc
[00:43:53] ça suscité pas mal d'intérêt mais c'est
[00:43:56] toujours dans la communauté de la
[00:43:57] recherche et ça n'intéresse pas encore
[00:44:00] en tout cas l'industrie de de l'IA de la
[00:44:03] Sicone Vallée. Ils sont tous dans une
[00:44:05] tranchée de d'améliorer les performances
[00:44:08] des LLM et aucune de ces entreprises ne
[00:44:11] peut se permettre de dévier de trop de
[00:44:14] de de l'approche dominante parce que il
[00:44:17] prendrait le risque de prendre du
[00:44:18] retard. Euh donc ça nous profite un
[00:44:21] petit peu parce que du coup on peut
[00:44:22] poursuivre cette approche sans
[00:44:24] concurrent.
[00:44:25] Comme tu as pas tout à fait répondu à ma
[00:44:27] question sur la souveraineté européenne,
[00:44:28] je je me permets de la reposer
[00:44:31] et et de je la je la formule d'une autre
[00:44:33] manière. Est-ce que si je fais JPA ou
[00:44:36] World Models et que je fais de l'open
[00:44:37] source en plus, est-ce que je m'en sors
[00:44:39] ? Alors concernant JPA World Model,
[00:44:43] qu'est-ce que c'est qu'un world model ?
[00:44:46] puisque tu as mentionné donc un modèle
[00:44:48] du monde, c'est ce serait un donc c'est
[00:44:51] basé sur ces histoires de JEPA. C'est
[00:44:54] c'est ce qui permettrait à un système
[00:44:57] intelligent euh d'agir,
[00:45:01] de planifier des actions euh
[00:45:05] en prédisant les conséquences de ces
[00:45:08] actions. La raison qui nous permet de
[00:45:11] d'appréhender une nouvelle situation et
[00:45:14] de d'agir de manière correcte,
[00:45:17] c'est en fait un modèle du monde qu'on a
[00:45:18] dans la tête qui nous permet de prédire
[00:45:20] les conséquences de nos actions. Je sais
[00:45:23] que si je pousse sur ce sur ce verre à
[00:45:25] la base, il va glisser. Si je pousse sur
[00:45:27] le verre en haut, il va probablement
[00:45:29] basculer. Si je pousse sur la table avec
[00:45:31] la même force, ça va pas bouger.
[00:45:34] On a une intuition de de ce qui se passe
[00:45:36] dans le monde qu'on apprend dans les
[00:45:37] premiers mois, les premières années de
[00:45:38] la vie. Au départ, purement par
[00:45:40] observation, ensuite par
[00:45:42] expérimentation.
[00:45:43] Les bébés humains apprennent par exemple
[00:45:46] la notion de gravité, le fait que un
[00:45:47] objet tombe quand il est pas supporté
[00:45:49] environ vers l'âge de 9 mois. Ça prend
[00:45:51] du temps pour les humains, c'est plus
[00:45:53] vite, c'est plus rapide pour la plupart
[00:45:54] des animaux. Donc, comment apprend-on
[00:45:57] ces concepts de base sur la réalité
[00:45:59] physique ? Et est-ce qu'on peut les
[00:46:01] apprendre par
[00:46:03] en s'entraînant à prédire ? La réponse
[00:46:05] est oui. Maintenant, on a la on a la
[00:46:07] réponse, c'estàd qu'on peut entraîner
[00:46:08] des systèmes de ces à à prédire ce
[00:46:11] qui va se passer à un niveau abstrait et
[00:46:13] on peut aussi les entraîner à prédire ce
[00:46:15] qui va se passer comme conséquence
[00:46:16] d'action. Donc si on a un système qui
[00:46:18] peut prédire comment va changer le monde
[00:46:21] étant donné l'état du monde à l'instant
[00:46:23] et une action que j'imagine prendre,
[00:46:26] puis-je prédire l'état du monde à
[00:46:27] l'instant t +1 qui va résulter de cette
[00:46:29] action ? Si j'ai ce modèle mental, je
[00:46:32] peux prédire le résultat d'une séquence
[00:46:34] d'action. Je peux voir si cette séquence
[00:46:36] d'action va accomplir une tâche que je
[00:46:39] voudrais bien accomplir. Et donc je peux
[00:46:41] par recherche trouver une séquence
[00:46:43] d'action qui va accomplir cette tâche.
[00:46:45] C'est la planification. On sait faire ça
[00:46:47] en tant qu'humain, très bien. On fait ça
[00:46:49] de manière hiérarchique, c'est plus
[00:46:50] compliqué mais on sait faire ça très
[00:46:52] bien. Beaucoup d'animaux savent faire ça
[00:46:54] aussi parce qu'ils ont un modèle mental
[00:46:56] de la réalité. Les systèmes d'hier
[00:46:57] actuel n'en ont pas. Ils ont appris
[00:47:00] plein de de faites sur déclaratif hein
[00:47:04] de sur le le monde, mais ils n'ont pas
[00:47:07] de compréhension de euh de de la
[00:47:10] réalité. Euh donc c'est ça qu'on essaie
[00:47:12] de construire à Milabs. Ce que ça va
[00:47:14] causer donc pour les raisons de
[00:47:15] souveraineté. c'est que ça va causer une
[00:47:17] nouvelle révolution dans l'IA. Il va y
[00:47:18] avoir une autre révolution dans l'IA
[00:47:20] dans les années qui viennent dû à
[00:47:22] l'avènement de ces modèles du monde de
[00:47:24] systèmes qui peuvent planifier, de
[00:47:25] systèmes qui ont un certain sens commun
[00:47:28] et donc de de systèmes qui vont ouvrir
[00:47:30] la porte à des applications en robotique
[00:47:32] par exemple ou application industrielle
[00:47:34] et c'est le c'est l'angle que Amilabs
[00:47:37] poursuit. Donc, on a peut-être perdu la
[00:47:39] partie des LLM en Europe, mais on n pas
[00:47:41] perdu euh le tout le le la bataille de
[00:47:45] de l'IA parce qu'il va y avoir d'autres
[00:47:47] révolutions et on peut être euh au
[00:47:50] départ de cette de cette autre
[00:47:51] révolution. L'autre raison pour laquelle
[00:47:53] on peut euh
[00:47:55] on peut avoir des contributions à cette
[00:47:57] nouvelle révolution, c'est que les
[00:47:58] modèles
[00:48:01] donc basés sur les modèles du monde ont
[00:48:03] besoin de moins de mémoire. C'est-à-dire
[00:48:05] que il remplace l'accumulation de
[00:48:07] connaissances déclarative par une
[00:48:10] compréhension du monde.
[00:48:13] Donc par exemple, vous avez pas besoin
[00:48:14] de vous rappeler explicitement le fait
[00:48:16] que quand vous poussez sur un verre en
[00:48:18] haut, il bascule. C'est c'est une
[00:48:21] compréhension. C'est pas un fait dont
[00:48:23] vous vous rappelez de manière isolée.
[00:48:24] Vous n pas besoin d'apprendre ça par
[00:48:25] cœur. D'accord ? Donc les modèles qu'on
[00:48:29] entraîne à Milabs sont de ce type là.
[00:48:31] Ils sont en au niveau taille, ils sont
[00:48:33] plus petits que les LLM. Ils ont pas
[00:48:34] besoin d'autant de mémoire. Euh donc, on
[00:48:37] a pas besoin d'autant d'ordinateur pour
[00:48:38] les pour les entraîner, mais ils ont une
[00:48:40] compréhension plus profonde en fait de
[00:48:42] la de la réalité.
[00:48:45] Donc ça donne une porte pour la
[00:48:47] souveraineté. La deuxième porte pour la
[00:48:49] souveraineté, c'est l'open source ou
[00:48:52] open weight.
[00:48:54] Alors pour moi, c'est un sujet de
[00:48:56] prédilection
[00:48:58] pour pour tout un tas de raisons et dans
[00:49:00] tout un tas de domaines, mais je pense
[00:49:02] que la question est particulièrement
[00:49:04] importante aujourd'hui parce que
[00:49:08] dans le présent et encore plus dans le
[00:49:10] futur,
[00:49:12] toute l'information qui va nous
[00:49:13] parvenir, qui va appartenir à tous les
[00:49:16] citoyens
[00:49:18] de France et de Navar
[00:49:21] vont se faire par l'intermédiaire de
[00:49:23] système système d'IA d'assistants I
[00:49:25] d'assistants intelligents.
[00:49:29] Si ces assistants sont propriétaire
[00:49:32] et produit par trois ou quatre
[00:49:34] entreprises sur la côte ouest des
[00:49:37] États-Unis ou en Chine, c'est pas bon
[00:49:41] pour la culture, c'est pas bon pour la
[00:49:42] démocratie, c'est pas bon pour les
[00:49:43] valeurs, c'est c'est bon pour rien.
[00:49:46] Donc, il faut absolument éviter cette
[00:49:48] situation dans lequelle toute
[00:49:50] l'information des citoyens se fera sera
[00:49:53] contrôlée en fait par une poignée
[00:49:54] d'entreprise
[00:49:56] américaine ou chinoise.
[00:49:59] Donc, il faut absolument la
[00:50:00] souveraineté. C'est pas une option.
[00:50:02] Et pour moi, la seule manière de
[00:50:04] d'arriver à à cette souveraineté, c'est
[00:50:08] pour les les pays en particulier qui ne
[00:50:10] sont ni les États-Unis ni la Chine, mais
[00:50:13] ça veut pas dire qu'on les exclut, de
[00:50:16] s'allier pour produire un modèle ouvert,
[00:50:20] gratuit, open source, euh qui serait un
[00:50:23] espèce de dépositaire de toute la
[00:50:24] connaissance humaine et qui serait
[00:50:26] entraîné sur tous les les données, non
[00:50:30] seulement les données qui sont
[00:50:32] disponibles publiquement aujourd'hui
[00:50:33] avec lesquels les modèles commerciaux
[00:50:34] sont aussi entraînés, mais aussi des
[00:50:36] données qui ne sont pas disponibles
[00:50:38] publiquement,
[00:50:39] euh les fonds culturels de la
[00:50:41] bibliothèque nationale en France
[00:50:44] et puis une quantité énorme de
[00:50:47] connaissances de de fonds culturels en
[00:50:50] Inde, en Égypte, au Vietnam, au Japon,
[00:50:53] en Corée et cetera.
[00:50:55] Si tout ces régions et ces pays
[00:50:58] collaboraient pour entraîner un modèle
[00:51:01] ouvert,
[00:51:03] il deviendrait le dépositaire de toute
[00:51:05] la connaissance humaine et il
[00:51:06] comprendrait toutes les langues du
[00:51:07] monde, tous les systèmes de valeur, tous
[00:51:09] les sens d'intérêt
[00:51:11] et cetera. Alors, c'est un peu une
[00:51:14] vision utopique, mais j'ai démarré un
[00:51:16] projet qui s'appelle Project Tapestry,
[00:51:20] tapisserie
[00:51:22] et qui qui essaie de de fédérer en fait
[00:51:25] des régions, des pays, des universités,
[00:51:28] des informaticiens et et des
[00:51:29] scientifiques à contribuer à la création
[00:51:32] de ça. On espère avoir, on a déjà le
[00:51:34] support d'un certain nombre de
[00:51:35] gouvernements de par le monde euh en
[00:51:37] particulier l'Inde, le Japon, le Vietnam
[00:51:41] et quelques autres et on espère sous peu
[00:51:43] avoir le soutien de la plupart des pays
[00:51:46] européens et puis d'autres d'autres
[00:51:49] acteurs.
[00:51:51] Moi, j'ai encore pas mal de questions,
[00:51:53] mais je pense que peut-être il y a des
[00:51:55] gens dans la salle qui veulent poser des
[00:51:56] questions. Je sais pas si c'est prévu,
[00:51:57] mais
[00:51:59] voilà, je vois quelqu'un au premier rang
[00:52:00] qui lève la main.
[00:52:06] Il un micro qui vient vers vous, je
[00:52:07] crois.
[00:52:20] Pardon.
[00:52:25] Merci. Bonjour Yan Lequin. Merci d'être
[00:52:29] venu à Sciencep.
[00:52:33] Ma première question et aujourd'hui il y
[00:52:35] a un type de data qui manque, on le
[00:52:37] connaît pas encore pour passer du texte
[00:52:40] au world model pour
[00:52:43] l'IA physique. Quel est ce type de data
[00:52:46] qui manque aujourd'hui ? Et dans les si
[00:52:49] on se projette de ou 3 ans, quel type
[00:52:52] d'entreprise dans l'IA sera la plus
[00:52:54] intéressante ? Euh et de quoi on attend
[00:52:57] d'elle ? Et finalement
[00:53:00] quel genre d'entreprise si on projette
[00:53:03] encore plus loin dans 5 10 ans
[00:53:06] que Amilab serait intéressé d'acquérir.
[00:53:11] D'accord. On n pas encore de revenu he
[00:53:13] donc il y a pas question d'acquérir quoi
[00:53:14] que ce soit mais pour l'instant on
[00:53:16] dépense beaucoup d'argent dans GPU
[00:53:19] euh enfin on calcule.
[00:53:21] Alors en fait, il y a pas vraiment de
[00:53:23] problème de données disponibles parce
[00:53:25] que si on avait des systèmes, des
[00:53:29] techniques d'apprentissage qui étaient
[00:53:30] aussi efficaces que ce qu'on observe
[00:53:32] chez les humains et les animaux, on
[00:53:34] pourrait entraîner un système qui
[00:53:36] comprend la réalité en avec 16 16000
[00:53:38] heures de de vidéo.
[00:53:41] 16000 heures de vidéo, c'est environ 30
[00:53:43] minutes d'upload sur YouTube. D'accord ?
[00:53:47] C'est très peu en fait de vidéo les
[00:53:48] modèles qu'on entraîne à l'heure
[00:53:49] actuelle. À cause du fait que nos
[00:53:50] méthodes d'entraînement sont pas aussi
[00:53:52] efficaces que ce qu'on observe chez les
[00:53:53] humains,
[00:53:54] on entraîne nos modèles avec
[00:53:58] l'équivalent de siècles de vidéo.
[00:54:01] D'accord ? Et c'est très facile à
[00:54:02] obtenir. C'est pas un problème de source
[00:54:06] d'information. Bon, il y a beaucoup plus
[00:54:08] de vidéos disponibles que ce qu'on peut
[00:54:10] gérer en fait avec les ordinateurs qu'on
[00:54:12] a aujourd'hui. Par contre, il y a il y a
[00:54:16] il y a un problème
[00:54:18] enfin il y a un type de de données
[00:54:20] disons auxquelles sont exposés les
[00:54:21] humains qui est un peu plus difficile à
[00:54:23] obtenir. C'est des données qui sont
[00:54:27] observation ou état du monde action état
[00:54:31] suivant. C'est par exemple
[00:54:35] des données qui viendraient d'un robot
[00:54:36] où on voit la la position peut-être la
[00:54:40] la vitesse de de de tous les les
[00:54:43] articulations du robot et puis on envoie
[00:54:46] une action au robot et on observe le
[00:54:47] résultat. Donc ça c'est ce qui
[00:54:48] permettrait de construire un modèle euh
[00:54:51] du robot qui permettrait de le le
[00:54:53] contrôler de manière intelligente. Euh
[00:54:56] et ça c'est plus difficile à obtenir
[00:54:57] parce qu'il faut soit simuler le robot,
[00:54:59] ce qui est possible mais c'est c'est pas
[00:55:01] précis quand il s'agit de faire la
[00:55:03] manipulation d'objets par exemple la
[00:55:04] simulation marche pas bien. Euh ça
[00:55:07] marche bien. Par contre, si on veut
[00:55:10] faire en sorte que le robot court une
[00:55:12] course à pied, fasse un saut hauteur ou
[00:55:16] ou un espèce de mouvement kung fou,
[00:55:17] c'est pour ça qu'on voit tous ces robots
[00:55:19] hmnoïdes en Chine qui font tous ces
[00:55:20] trucs. C'est vraiment simple ça en fait.
[00:55:23] Les les modèles dynamiques des robots
[00:55:25] qu'il faut apprendre pour ça simples
[00:55:27] parce que l'interaction de ces robots
[00:55:29] avec le monde réel est en fait très très
[00:55:31] simple. C'est juste les pieds sur le sol
[00:55:34] et c'est à peu près tout. Euh mais quand
[00:55:37] il s'agit de par exemple manipuler un
[00:55:38] objet, c'est beaucoup beaucoup plus
[00:55:39] compliqué. En fait, il y a un gros
[00:55:41] secret dans toute l'industrie de la
[00:55:42] robotique aujourd'hui. Il y a plein de
[00:55:44] boîtes qui construisent des robots
[00:55:45] humanoïdes ou ou d'autres. Plein de
[00:55:47] boîtes aussi qui font des logiciels pour
[00:55:49] essayer de rendre les robots
[00:55:50] intelligents. Aucune des entreprises
[00:55:52] aujourd'hui qui fait des qui construit
[00:55:54] des robots humanoïdes n'a aucune idée de
[00:55:57] comment rendre ces robots suffisamment
[00:55:59] intelligents pour être utiles. OK ? Ces
[00:56:01] robots sont complètement inutiles.
[00:56:03] Alors, on peut en collectant énormément
[00:56:06] de données les entraîner les entraîner à
[00:56:08] accomplir une tâche par imitation, mais
[00:56:10] il faut collecter énormément de données
[00:56:13] euh peut-être des dizaines de milliers
[00:56:15] d'heures pour une tâche assez étroite
[00:56:17] dans une usine ou un truc comme ça. Et
[00:56:19] donc, c'est pas for c'est pas vraiment
[00:56:21] économiquement faisable. et le robot
[00:56:23] domestique qui débarrasse la table et
[00:56:24] qui nettoie les maisons, c'est pas pour
[00:56:26] demain. Euh donc il y a une grosse
[00:56:28] question, c'est combien de de boîtes de
[00:56:31] robotique humanoïdes vont boire le
[00:56:33] bouillon avant que l'IA ait fait
[00:56:35] suffisamment de progrès pour pour les
[00:56:38] rendre utiles ?
[00:56:40] On espère à Mila espère jouer un rôle
[00:56:42] positif naturellement.
[00:56:43] Madame au premier rang avait une
[00:56:45] question depuis assez longtemps donc je
[00:56:46] pense queil faut lui donner le micro à
[00:56:47] elle. Je sais pas s'il y a un micro
[00:56:49] sinon moi je donne mon micro volontiers.
[00:56:51] Voilà.
[00:57:00] Bonsoir. Merci beaucoup. C'est vraiment
[00:57:03] passionnant de de vous écouter. Moi, je
[00:57:05] suis Alam Garby, l'ambassadrice de
[00:57:06] France auprès de l'UNESCO et l'UNESCO en
[00:57:10] 2021 a publié des recommandations sur
[00:57:12] l'éthique de l'intelligence
[00:57:13] artificielle. Alors 2021, ça paraît le
[00:57:15] Moyen-Âge quand on voit le progrès
[00:57:18] de développement de ces ces modèles. Et
[00:57:20] moi la question que je je me poser
[00:57:23] c'est est-ce que aujourd'hui on peut
[00:57:25] encore réguler, gouverner comme comme
[00:57:28] l'a suggéré Louis Vassie l'intelligence
[00:57:31] artificielle ? surtout que on se pose
[00:57:33] des questions très concrètes à l'UNESCO
[00:57:35] notamment, c'est protection des enfants,
[00:57:37] l'un des informations, les droits
[00:57:39] cognitifs, droits d'auteur,
[00:57:42] diversité culturelle, vous l'avez vous
[00:57:44] l'avez abordé. Comment et est-ce qu'on
[00:57:47] peut est-ce qu'on doit et comment on
[00:57:48] peut le faire ?
[00:57:50] Alors pour moi, bon je suis pas
[00:57:52] législateur,
[00:57:54] je prétends pas avoir la moindre
[00:57:56] expertise pour commenter là-dessus, mais
[00:57:59] euh
[00:58:00] en ce qui me concerne, je pense que il
[00:58:02] faut il faut réguler les déploiements
[00:58:06] euh de système intelligents.
[00:58:09] C'estàd que si on veut déployer un
[00:58:10] système d'assistance à la conduite dans
[00:58:12] une voiture, il faut bien sûr que qu'il
[00:58:14] y ait un organisme indépendant qui va
[00:58:17] tester la fiabilité du système. Si on
[00:58:20] utilise un système d'analyse d'images
[00:58:22] médicale pour les les mammographies,
[00:58:26] évidemment, il faut une autorisation de
[00:58:27] mise sur le marché, s'assurer que euh
[00:58:31] que ça va faire du bien aux patients et
[00:58:33] cetera ou améliorer les performances.
[00:58:36] Donc pour la plupart des domaines, il y
[00:58:37] a déjà des réglementations existantes
[00:58:40] qui sont dues simplement au à
[00:58:42] l'application dans lequelle l'IA serait
[00:58:44] déployé. Donc il y a pas besoin en fait
[00:58:46] généralement de régulation
[00:58:49] supplémentaire. Alors maintenant, est-ce
[00:58:51] qu'il y a des des applications propres
[00:58:54] de l'IA qui qui n'existait pas avant
[00:58:57] pour lesquelles il faut des des
[00:58:58] régulations explicites de protection des
[00:59:01] données privées de et cetera. Pas clair
[00:59:03] du tout. en Europe, on a déjà des règles
[00:59:05] de protection de données privées qui
[00:59:06] s'appliquent et euh qui d'une certaine
[00:59:09] manière euh
[00:59:12] limite déjà à ce qu'on peut faire
[00:59:14] avec l'IA. Euh
[00:59:18] alors ensuite, il y a la question qui
[00:59:20] est qui est un peu plus controversée
[00:59:23] mais qui pour moi devrait pas être
[00:59:25] controversé, c'est doit-on réguler en
[00:59:28] amont euh la création de système d'IA ?
[00:59:32] Alors, si on pense que l'IA est
[00:59:33] intrinsèquement dangereuse,
[00:59:35] simplement l'existence d'un système d'IA
[00:59:37] puissant et intrinsèquement dangereuse,
[00:59:39] on pourrait tenter de réguler la
[00:59:41] recherche et le développement en IA.
[00:59:43] Mais moi, je n'y crois pas du tout.
[00:59:44] Alors, effectivement, c'est un peu les
[00:59:46] les déclarations de Tony Truant de de
[00:59:49] ces derniers jours. Ce sont des gens qui
[00:59:51] croient au danger intrinsèque de l'IA,
[00:59:54] mais je n'y crois pas, en tout cas pas
[00:59:55] dans l'état actuel. Euh c'est un peu
[00:59:57] comme si
[01:00:00] en 1920 quelqu'un avait dit il faut
[01:00:02] absolument réguler les vols
[01:00:03] transatlantiques
[01:00:05] avec les moteurs à réaction alors que
[01:00:07] les vols transatlantiques n'avaient pas
[01:00:08] encore été faits en 1920 ça date de 1929
[01:00:13] et le moteur réaction n'avait pas encore
[01:00:16] été inventé. Comment pouvons-nous
[01:00:19] imaginer rendre un système sécurisé si
[01:00:22] on l'a pas encore inventé ? On n pas
[01:00:24] encore inventé l'intelligence, la super
[01:00:26] intelligence ou l'intelligence de niveau
[01:00:28] humain comme j'essayais de le dire
[01:00:29] précédemment. Alors il des gens qui font
[01:00:31] des illusions convallé et puis qui pour
[01:00:33] des raisons financières et commerciales
[01:00:35] bien sûr vont vous dire oui maintenant
[01:00:36] on pourra faire des systèmes super
[01:00:38] intelligents dans de 3 ans. Donnez-nous
[01:00:40] 300 milliards mais c'est faux.
[01:00:45] Je veux pas trop non plus simplifier les
[01:00:47] questions d'éthique. Il y a des vraies
[01:00:48] questions derrière. Bon j'ai une
[01:00:51] question concernant la régulation
[01:00:52] également. Euh donc vous défendez une
[01:00:55] régulation des usages et non de la
[01:00:57] recherche, je suis ici. Oh pardon. Comme
[01:00:59] je dis, vous défendez une régulation des
[01:01:01] usage et non de la recherche, une
[01:01:03] régulation du déploiement. Et donc
[01:01:05] concrètement quelle régulation de
[01:01:07] l'usage sur le plan écologique vous
[01:01:09] paraît pertinente et existe-t-il une
[01:01:11] régulation écologique de LIA qui puisse
[01:01:13] porter réellement que sur les usages
[01:01:15] sans devenir en pratique une contrainte
[01:01:17] pour la recherche ?
[01:01:20] Alors non.
[01:01:23] C'est-à-dire les les euh les centres de
[01:01:25] calcul qu'on utilise pour aussi bien
[01:01:28] pour le développement de système d'IA
[01:01:31] que pour leur utilisation, leur
[01:01:32] déploiement consomme de l'énergie. Et
[01:01:36] bien sûr, bon en France, on a l'énergie
[01:01:39] qui est en grande partie décarbonée. On
[01:01:40] est chanceux de ce côté-là.
[01:01:42] Faut mettre tous les data center en
[01:01:43] France.
[01:01:44] Pardon ?
[01:01:45] Il faut mettre tous les data centers en
[01:01:46] France. C'est ce que je pense.
[01:01:47] Oui. Oui. Voilà.
[01:01:49] Euh donc c'est c'est un avantage hein,
[01:01:52] c'est un atout certainement pour pour la
[01:01:54] France
[01:01:56] et puis pour le monde entier quoi. Parce
[01:01:57] que ça veut dire que effectivement
[01:01:58] mettre des data center en France ça fera
[01:02:00] probablement monter les prix de
[01:02:01] l'électricité mais ça augmentera pas
[01:02:03] beaucoup le le l'empreinte l'empreinte
[01:02:06] carbone. C'est un vrai problème dans
[01:02:08] d'autres pays. Il y a une autre question
[01:02:11] que les gens se posent qui est la
[01:02:14] consommation d'eau. Alors ça je dis tout
[01:02:16] de suite c'est pas du tout un problème.
[01:02:17] Ça consomme pas d'eau les data center.
[01:02:20] L'eau est recyclée. Enfin, c'est
[01:02:21] toujours la même eau. C'est un circuit
[01:02:22] fermé. Ça consomme vraiment pas d'eau.
[01:02:25] Si vous voulez vraiment économiser de
[01:02:27] l'eau, mangez plus d'amende parce que ça
[01:02:29] ça consomme de l'eau ou allez plus jouer
[01:02:31] au golf. Je joue pas au golf. Euh ça
[01:02:34] consomme plus que un gros data center.
[01:02:37] Donc ça c'est vraiment pas un problème.
[01:02:39] Le seul problème c'est émission de
[01:02:41] carbone et production d'énergie. Bon, il
[01:02:44] y a beaucoup de gens dans la Alors la ce
[01:02:46] qui est intéressant, c'est que
[01:02:49] les incitations de l'industrie pour
[01:02:53] réduire la consommation énergétique des
[01:02:56] de l'IA
[01:02:58] est là, c'est-à-dire que le gros des
[01:03:01] dépenses
[01:03:03] du d'une entreprise de tech, une
[01:03:04] entreprise d'IA pour servir des systèmes
[01:03:07] d'IA va dans la consommation
[01:03:09] énergétique. Il y a acheté les GPU à
[01:03:11] Johnson Wang, mais il y a aussi euh dans
[01:03:15] les opérations, c'est essentiellement
[01:03:17] euh la consommation énergétique. Donc il
[01:03:19] y a énormément d'efforts dans
[01:03:21] l'industrie. Il y a pas besoin de
[01:03:23] régulation pour ça.
[01:03:25] Toutes les incitations du marché
[01:03:28] conduisent les gens à diminuer au
[01:03:30] maximum la consommation énergétique par
[01:03:34] des des innovations au niveau
[01:03:37] architecture de modèle, au niveau
[01:03:38] algorithme sous-jacent, au niveau
[01:03:40] efficacité du du hardware lui-même,
[01:03:43] design des chips et puis tout ce qui
[01:03:47] tout ce qui va avec. Donc il y a pas
[01:03:49] vraiment besoin de régulation parce que
[01:03:52] l'incitation est là déjà.
[01:03:56] J'avais une question. Bonsoir. Merci
[01:03:58] beaucoup. Déjà, c'est incroyable ce que
[01:04:00] tout ce que vous avez dit. Euh, j'ai des
[01:04:03] questions par rapport aux données et
[01:04:05] comment vous sourcez vos données.
[01:04:07] Reprenant le l'exemple que vous avez
[01:04:09] donné à propos du nourrisson qui apprend
[01:04:12] en voyant
[01:04:15] en tant qu'enfant quand tu quand tu te
[01:04:17] lèves et que tu tombes, tu touches le
[01:04:19] monde et il y a toute la question de
[01:04:20] données aptique. Et vous, comment vous
[01:04:23] faites pour sourcer vos données ? Et
[01:04:25] comment vous faites pour récolter autant
[01:04:26] de données pour pouvoir alimenter vos
[01:04:28] worlds ? Oui. Alors, c'est une question
[01:04:31] intéressante euh à plusieurs volets. La
[01:04:33] première, c'est que euh en tant
[01:04:35] qu'humain et beaucoup d'animaux, euh on
[01:04:37] peut on peut très bien devenir euh
[01:04:39] intelligent sans la vision euh mais pas
[01:04:42] sans le toucher. Le toucher est
[01:04:43] absolument indispensable.
[01:04:45] Euh mais en fait la la la quantité
[01:04:48] d'information qui qui parvient au
[01:04:49] cerveau par le toucher est quasiment
[01:04:52] équivalent à ce qui ce qui parvient par
[01:04:54] la vision. C'est c'est très surtout si
[01:04:56] on est aveugle. Donc c'est assez euh
[01:04:59] haute bande passante quoi, au débit. Euh
[01:05:03] et
[01:05:05] ce qui est un petit peu
[01:05:07] ennuyeux, c'est qu'on a pas de bons
[01:05:09] capteur de toucher.
[01:05:11] Euh il y a des capteurs de toucher pour
[01:05:13] les robots, mais ils sont pas très bons.
[01:05:15] Et ceux qui sont bons euh durent pas
[01:05:19] longtemps. Ils sont basés sur des gels
[01:05:22] un peu un peu mou sur lequel on met de
[01:05:24] la peinture réfléchissante et une caméra
[01:05:26] derrière. Alors c'est magnifique. Un
[01:05:28] toucher, un sandw toucher extrêmement
[01:05:30] précis. Mais au bout de quelques heures
[01:05:32] d'utilisation, la peinture s'en va. Donc
[01:05:33] c'est pas donc on n pas beaucoup de
[01:05:36] données de toucher euh et il y a
[01:05:38] beaucoup de gens qui travaille sur la
[01:05:39] manipulation
[01:05:41] robotique sans toucher et c'est
[01:05:43] horriblement difficile. C'est
[01:05:45] probablement impossible en fait. Donc
[01:05:47] tant qu'on aura pas fait de progrès dans
[01:05:48] les capteurs, probablement la la
[01:05:50] performance va saturer.
[01:05:56] Oui. Bonjour. Merci Dominique Boulier.
[01:05:59] J'apprécie beaucoup vos critiques sur
[01:06:00] les LLM mais j'en aurai moi d'autres
[01:06:02] éventuellement à faire d'ailleurs. Mais
[01:06:04] vous êtes ici dans une université de
[01:06:05] sciences sociales et quand vous parlez
[01:06:08] d'apprentissage
[01:06:10] vous n'avez pas mentionné de dimension
[01:06:13] sociale. Alors qu'évidemment on apprend
[01:06:15] en tant que puisque vous parlez des
[01:06:16] enfants, on apprend massivement
[01:06:17] socialement dans la relation. De la même
[01:06:19] façon quand vous parlez des mondes des
[01:06:21] modèles du monde, on apprend pas non
[01:06:22] plus on on ne voit pas où est dans votre
[01:06:25] modèle du monde. Il y a tellement
[01:06:26] d'autres problèmes peut-être à traiter,
[01:06:27] c'est pour ça. Mais en attendant, la
[01:06:29] question du monde social, elle est aussi
[01:06:30] présente. Or, ces mondes là, ces
[01:06:32] systèmes là, de mon point de vue et nous
[01:06:35] sommes certain nombreux, tout le monde a
[01:06:36] travaillé sur cela, c'est largement plus
[01:06:38] complexe que les systèmes physiques sur
[01:06:41] lesquels on vous travaillez pour la la
[01:06:43] reconnaissance autrement. Est-ce que
[01:06:44] vous pensez qu'à un moment vous allez
[01:06:46] euh entamer cette phase de tentative
[01:06:50] entre guillemets de modélisation de ces
[01:06:52] dimensions sociale ? Sachant qu'ici, je
[01:06:54] suis persuadé qu'il y a des chercheurs
[01:06:55] qui sont prêts à donner un coup de main
[01:06:56] et qui sont très bons parce là-dessus
[01:06:58] pour ça. Donc, c'est une offre de
[01:07:00] service peut-être avec une condition
[01:07:02] quand même, c'est qu'il faudrait arrêter
[01:07:03] à ce moment-là de se dire qu'on va tout
[01:07:04] automatiser parce que précisément ce qui
[01:07:06] fait l'intérêt de cette performance
[01:07:09] technologique qu'on obtient avec les
[01:07:11] même les LLM, c'est seulement dans la
[01:07:13] mesure où ils sont couplés avec les
[01:07:15] sociétés, les organisations de façon
[01:07:17] fine, sinon effectivement ça devient du
[01:07:19] délire et à ce moment-là, on peut
[01:07:20] effectivement s'inquiéter. Donc vous
[01:07:22] voyez, il y a beaucoup de paramètres ou
[01:07:23] de conditions à mettre pour que
[01:07:24] l'association fonctionne.
[01:07:26] OK. Donc il y a quatre ou cinq questions
[01:07:28] dans votre question.
[01:07:30] Alors la première chose sur euh sur
[01:07:34] la relation de de l'humain du futur
[01:07:38] vis-à-vis de système intelligent
[01:07:40] peut-être super intelligent,
[01:07:41] c'est-à-dire plus intelligent que les
[01:07:43] humains dans tous les domaines. Il y a
[01:07:44] pas il y a pas il y a il y a pas de
[01:07:46] raison de douter que ça va arriver.
[01:07:48] Il a il y a pas de doute. Ça va arriver.
[01:07:52] On aura des machines, ça va pas arriver
[01:07:54] l'année prochaine, mais on aura des
[01:07:55] machines à un certain moment qui seront
[01:07:57] plus intelligents que les humains dans
[01:07:58] tous les domaines à peu près et
[01:08:00] probablement beaucoup plus intelligent
[01:08:01] dans certains domaines.
[01:08:04] Euh ça va venir pas avec les LLM ça. Il
[01:08:07] y aura d'autres technologies peut-être
[01:08:09] basées sur les world model peut-être ce
[01:08:10] que construit à Milabs, mais ça va
[01:08:12] prendre du temps. Ces systèmes bien
[01:08:15] qu'ils soient plus intelligents que nous
[01:08:17] seront sous nos ordres. c'est-à-dire
[01:08:18] qu'ils seront construits pour
[01:08:21] obéir à nos requêtes. Euh et l'activité
[01:08:25] humaine sera en grande partie euh d'être
[01:08:30] le patron d'une équipe super
[01:08:33] intelligente de gens qui de gens
[01:08:36] virtuels qui qui travaillent pour nous,
[01:08:38] d'assistant intelligents qui travaillent
[01:08:39] pour nous.
[01:08:40] On aura toujours la dans les mains la la
[01:08:46] décision de de savoir ce sur quoi
[01:08:49] travailler. Bien sûr, on aura des
[01:08:50] machines intelligentes pour nous aider à
[01:08:52] réaliser les projets qu'on qu'on
[01:08:55] imagine, mais l'imagination de ces
[01:08:56] projets est toujours dans nos mains.
[01:08:58] C'estàd que l'utilité pour l'humanité de
[01:09:02] de quelque chose de nouveau, que ce soit
[01:09:04] un produit ou un produit intellectuel ou
[01:09:07] quel qu'il soit, c'est proprement
[01:09:10] humain. Donc donc ce sera dans nos
[01:09:11] mains. Donc ce sera quand même
[01:09:13] travailler avec une équipe de gens super
[01:09:15] intelligents. Alors je sais pas si vous
[01:09:17] êtes enseignant à Science Po oui. Euh
[01:09:20] vous avez des étudiants en doctorat ?
[01:09:23] Je suis sûr qu'il y en a qui sont plus
[01:09:24] intelligents que vous. Moi, en tout cas,
[01:09:25] j'en ai qui sont plus intelligents que
[01:09:26] moi.
[01:09:29] C'est la meilleure chose qui puisse vous
[01:09:30] arriver, c'est d'avoir des collègues qui
[01:09:31] travaillent avec vous, qui sont plus
[01:09:33] intelligents que vous et qui sont prêts
[01:09:35] à vous écouter quand vous leur demandez
[01:09:36] de faire quelque chose. Euh et donc ça
[01:09:39] va être un petit peu la situation de
[01:09:40] l'humanité, une amplification de
[01:09:42] l'intelligence, de l'efficacité,
[01:09:44] de décisions rationnelles et cetera et
[01:09:47] de de capacité et technique d'une
[01:09:48] certaine manière.
[01:09:50] Mais mais à la fin, on est toujours ceux
[01:09:52] qui décident. Alors ensuite, il y a la
[01:09:53] question de l'apprentissage social. J'ai
[01:09:56] l'opinion exactement inverse de ce que
[01:09:58] vous avez dit, c'est-à-dire queà mon
[01:09:59] avis, l'utilisation de l'interaction
[01:10:01] sociale pour l'apprentissage facilite
[01:10:03] l'apprentissage. Ça rend pas plus
[01:10:05] compliqué, ça rend plus simple. C'est en
[01:10:07] fait un une amélioration qui est propre
[01:10:12] dans la nature au au aux espèces
[01:10:15] sociales qu'elles peuvent utiliser euh
[01:10:19] la diversité
[01:10:21] de de de compétences entre les individus
[01:10:24] pour en fait être plus efficace en tant
[01:10:27] que en tant que tribu ou espèce. Donc
[01:10:31] c'est euh c'est une propriété qui qui
[01:10:35] s'applique aux humains, au aux babouin,
[01:10:39] au chimpanzés, au
[01:10:43] certainement au loup et donc au chiens.
[01:10:46] Ce sont des espèces sociales mais qui
[01:10:49] s'appliquent pas du tout à des espèces
[01:10:52] très intelligentes comme par exemple les
[01:10:53] enoutants. Les enutants sont pas du tout
[01:10:55] sociaux, ils apprennent de leur mère
[01:10:58] mais les enoutants eux-mêmes sont
[01:11:01] territoriaux et donc interdissus très
[01:11:04] peu avec leur semblable. Euh ils ont pas
[01:11:07] de problème d'interaction sociale parce
[01:11:08] que l'interaction sociale consiste à
[01:11:11] chasser les autres individus qui sont
[01:11:13] trop prêts pour garder le territoire.
[01:11:16] Euh et pourtant ce sont des animaux
[01:11:18] incroyablement intelligents, presque
[01:11:19] aussi intelligents que les humains. On a
[01:11:20] l'impression d'être beaucoup plus
[01:11:21] intelligents que mais en fait non, on
[01:11:23] est juste un tout petit peu plus
[01:11:24] intelligent quee eux. Euh et puis tout
[01:11:26] un tas d'espèces qui deviennent vraiment
[01:11:28] intelligents et vraiment très vite sans
[01:11:31] aucune interaction avec leur congénère
[01:11:33] et avec leurs parents. Bon exemple, les
[01:11:36] poulpes. Les poulpes
[01:11:39] quand ils naissent, ils sont à peu près
[01:11:40] grands comme ça. Ils vivent environ 2
[01:11:41] ans. Ils ne rencontrent jamais leurs
[01:11:43] parents parce que leur mère meurt dès
[01:11:45] qu'ils sortent de l'œuf. Euh ils
[01:11:48] deviennent vraiment intelligents
[01:11:49] vraiment vite. Euh les coucous compte
[01:11:52] jamais leurs parents euh et bon et c'est
[01:11:55] pas unique et c'est ces animaux qui sont
[01:11:57] pas bêtes du tout. Donc euh
[01:12:01] quel est le mécanisme par lequel un
[01:12:04] animal peut devenir intelligent sans
[01:12:07] avec très peu d'interaction avec ses
[01:12:09] congénères ? C'est c'est un grand
[01:12:11] mystère pour moi et l'interaction avec
[01:12:13] les congénères accélère le processus
[01:12:15] d'apprentissage bien sûr parce que du
[01:12:16] coup on peut apprendre par imitation
[01:12:17] donc c'est ça facilite l'intelligence.
[01:12:19] Alors ensuite, il y a tous les problèmes
[01:12:21] de compréhension de comportements
[01:12:23] sociaux qui eux peuvent être compliqués
[01:12:25] parce qu'il faut un modèle du monde de
[01:12:27] l'autre individu qui en général n'a pas
[01:12:30] des motivations alignées avec les les
[01:12:32] nôtres pas toujours. Donc là ça devient
[01:12:34] compliqué, on est d'accord et c'est des
[01:12:36] situations un peu antagonistes
[01:12:40] peut-être. Oui, merci beaucoup d'avoir
[01:12:43] été au piniatre c'est ici au piniatre et
[01:12:46] d'avoir continué c'est important
[01:12:50] les petites phrases qu'on a eu là qui
[01:12:52] nous chauffai qui étaient des phrases
[01:12:54] qui viennent de vous AI systems that
[01:12:56] understand the real word on peut
[01:12:59] comprendre d'un texte et de ce point de
[01:13:02] vue là les LLM sont quand même très
[01:13:04] forts. On peut comprendre le monde dans
[01:13:06] le sens de ce que vous avez donné
[01:13:07] c'estàd très physiquement avec un verre
[01:13:09] qui tombe. Mais si et j'ai j'étais assez
[01:13:12] sensible à ce que vous avez dit, on veut
[01:13:13] essayer de comprendre les conséquences
[01:13:16] de ces actions ou d'une chaîne d'action,
[01:13:19] est-ce que finalement c'est pas plus
[01:13:21] facile de repasser par l'abstrait d'un
[01:13:23] LLM plutôt que de quelque chose
[01:13:26] trivialement ? Ma question, c'est dans
[01:13:27] quel sens pour ces trois types de choses
[01:13:30] vous comprenez comprendre ?
[01:13:33] Est-ce qu'un Est-ce qu'un chat de
[01:13:34] gouttière a besoin de la langue pour
[01:13:37] savoir comment sauter comment sauter
[01:13:39] d'un d'un toit à un autre ? ou à grimper
[01:13:43] à grimper au mur en rebondissant d'un
[01:13:46] côté et l'autre. Ils ont une
[01:13:48] compréhension de leur propre physique
[01:13:50] d'abord et l'interaction de leur patte
[01:13:52] avec l'environnement et de
[01:13:53] l'environnement de la friction et cetera
[01:13:55] qui est hallucinante et ils n'ont pas
[01:13:57] besoin de la langue. Euh pareil pour la
[01:14:00] plupart des primates euh à part les
[01:14:03] humains qui n'ont pas besoin de la la
[01:14:05] langue en tout cas de langue de avec la
[01:14:07] complexité de de la langue humaine. Donc
[01:14:10] la langue bien sûr peut aider
[01:14:12] à partir au-delà d'un certain niveau
[01:14:15] d'abstraction.
[01:14:16] il est probablement plus rapide et plus
[01:14:18] facile d'apprendre des concepts en
[01:14:20] utilisant la langue. Mais sur quelle
[01:14:23] fondation
[01:14:24] va se baser cette connaissance si elle
[01:14:26] n'est pas ancrée dans le dans la réalité
[01:14:29] ? C'est tout c'est tout un problème
[01:14:32] philosophicau
[01:14:35] disons que se posent à la fois les
[01:14:38] philosophes, les gens des sciences
[01:14:40] cognitives et les informaticiens de de
[01:14:43] l'IA, c'est est-ce que l'intelligence ne
[01:14:45] peut être que
[01:14:49] ancré dans la réalité ? c'est le
[01:14:50] grounding problem et la réponse à la ma
[01:14:55] réponse c'est oui. On ne peut pas créer
[01:14:57] des systèmes intelligents qui
[01:14:58] comprennent pas la réalité et en fait il
[01:15:00] y a beaucoup plus de complexité dans la
[01:15:02] réalité qu'il n'y en a dans dans les
[01:15:05] symboles abstraits et dans le et dans la
[01:15:07] langue. Et si on veut pouvoir utiliser à
[01:15:09] boncient la manipulation de symbole et
[01:15:12] la langue il faut à la fin qu'elle soit
[01:15:15] ancrée dans une réalité.
[01:15:19] Bonjour au milieu ici. Euh merci
[01:15:22] beaucoup pour votre conférence. Je
[01:15:25] voulais revenir un peu sur la question
[01:15:26] de la dangerosité des systèmes. Si on
[01:15:29] entend, je vous entends dire la
[01:15:31] technologie elle-même n'est pas
[01:15:32] intrinsèquement dangereuse. Si on met ça
[01:15:34] de côté, a-t-il des applications de
[01:15:36] cette de cette technologie qui peuvent
[01:15:39] l'être surtout non régulé ? Si on pense
[01:15:43] à l'exemple qu'a donné Dario Amode dans
[01:15:45] dans son blog post sur des bottes net
[01:15:48] qui pourraient être plus puissant que
[01:15:50] les défenseurs et donc pourrait faire
[01:15:52] tomber des parties d'internet si on va
[01:15:55] si on pousse la réflexion plus loin
[01:15:57] parce qu'il s'appuie sur du code donc du
[01:15:59] langage qui que qu'un LLM maîtrise
[01:16:02] finalement très bien. Bon, alors euh ça
[01:16:04] c'est un bon scénario euh d'un film à
[01:16:06] James Bond. Euh mais en fait dans la
[01:16:09] réalité ça marche pas du tout parce que
[01:16:13] en général les les gens qui
[01:16:15] s'intéressent à protéger des systèmes
[01:16:18] ont accès à des technologies et à des
[01:16:19] compétences supérieures plutôt que que
[01:16:23] les les ce qu'on appelle les chapeaux
[01:16:25] noirs hein qui qui essaient de faire des
[01:16:27] attaques. Donc les gens sont beaucoup
[01:16:29] posé la question est-ce que l'avènement
[01:16:31] de ces agents est plus avantageux aux
[01:16:34] attaques qu'à la défense et c'est très
[01:16:37] clairement plus avantageux à la défense
[01:16:40] et c'est pas un problème vraiment
[01:16:42] nouveau disons qualitativement ça change
[01:16:44] pas beaucoup de des attaques par virus
[01:16:46] et cetera on pas besoin pas besoin d'IA
[01:16:48] pour ça
[01:16:50] et puis du fishing et autres auquels on
[01:16:54] est habitué depuis les premiers
[01:16:56] événements de l'internet et du et de
[01:16:58] l'email. Euh donc il y a il y a pas de
[01:17:00] changement qualitatif là-dedans. Euh
[01:17:03] bien sûr les attaques peuvent être
[01:17:05] maintenant plus sophistiqué et
[01:17:06] automatisé mais les défenses aussi. Donc
[01:17:09] bon pas clair que il y a un changement
[01:17:11] de de l'équilibre entre les entre les
[01:17:13] deux. Sinon, il y a d'autres
[01:17:15] utilisations bien sûr dangereuses
[01:17:18] potentielles de l'IA, mais il y a aussi
[01:17:20] beaucoup de scénarios les James Bond
[01:17:22] là-dedans. C'estàd que des gens comme
[01:17:25] euh Dario MDI, Yos Benjo et autres
[01:17:27] disent "Mais que se passe-t-il si un
[01:17:31] système d'IA vous donne la recette d'un
[01:17:33] virus qui pourrait éliminer l'humanité
[01:17:37] et cetera ?" Alors ça ça fait
[01:17:41] se rouler par terre de rire les
[01:17:42] biologistes qui disent "Vous savez vous
[01:17:44] pouvez avoir la recette en fait elle
[01:17:46] existe même déjà la recette. Vous avez
[01:17:48] la séquence complète de du virus de
[01:17:50] Tartompion, mais le synthétiser, c'est
[01:17:53] une autre paire de manche. Et puis
[01:17:54] ensuite le le disséminer sans que ça
[01:17:56] vous tue vous-même, c'est une autre
[01:17:57] paire de manche encore. Et tu on peut
[01:18:00] pas faire ça sans une équipe de 50
[01:18:02] biologistes triés sur le volet et sans
[01:18:05] avoir des machines dont il en existe que
[01:18:07] très peu dans le monde et qui sont
[01:18:08] toutes contrôlées. Donc vous pouvez pas
[01:18:10] faire ça en secret, c'est pas possible.
[01:18:12] Et vous pouvez pas faire ça en secret
[01:18:13] dans une caverne en Afghanistan ou
[01:18:16] quelque chose comme ça. C'est c'est
[01:18:19] c'est vraiment quelque chose de
[01:18:20] sophistiqué qui va pas passer inaperçu.
[01:18:22] Et puis euh bon, vous allez avoir
[01:18:25] euh 50 PhD qui travaillent là-dessus.
[01:18:28] Ils ont de bien meilleures opportunités
[01:18:31] dans le monde pour utiliser leur
[01:18:32] capacité que de faire un virus qui va
[01:18:34] les tuer. Enfin bon, il faut voir un
[01:18:37] petit peu aussi de manière réaliste
[01:18:38] quelles sont les motivations des gens.
[01:18:40] Donc oui, c'est un bon scénario la JB
[01:18:42] mais c'est à peu près tout.
[01:18:44] Bonsoir, merci pour votre intervention.
[01:18:47] Je suis un peu surprise de voir que
[01:18:49] l'intelligence humaine soit toujours
[01:18:51] posée comme un benchmark de l'évaluation
[01:18:54] des capacités de l'IA alors qu'il y a
[01:18:55] des animaux par exemple qui sont bien
[01:18:57] plus efficaces sur ces questions
[01:18:58] physiques. Donc est-ce que quand vous
[01:18:59] développez vos modèles, vous prenez en
[01:19:01] compte d'autres types d'intelligence, de
[01:19:03] perception du monde ou même de sens que
[01:19:05] ceux des humains ? Et est-ce que c'est
[01:19:07] aussi ça pourrait être aussi un nouveau
[01:19:08] benchmark d'évaluation par exemple ?
[01:19:10] Oui, excellent question. Alors, il y a
[01:19:12] un petit un petit livre que je vous
[01:19:13] recommande de lire
[01:19:15] qui est par un certain Franck Dovals
[01:19:19] et dont le titre est en anglais are we
[01:19:24] Are we intelligent enough to understand
[01:19:26] how intelligent animals are.
[01:19:29] Et donc, est-ce qu'on est assez
[01:19:31] intelligent pour comprendre
[01:19:32] l'intelligence des animaux ? Et la
[01:19:34] réponse c'est pas vraiment à vrai dire
[01:19:37] c'est les animaux sont beaucoup plus
[01:19:39] intelligents qu'on le pense. Leur
[01:19:41] intelligence est spécialisé en général
[01:19:43] dans certains domaines
[01:19:45] qui sont utiles pour leur survie.
[01:19:49] Mais les humains sont aussi très
[01:19:51] spécialisés. On a on a l'espèce
[01:19:53] d'impression euh un petit un petit
[01:19:55] complexe de supériorité que
[01:19:56] l'intelligence humaine est générale.
[01:19:59] C'est pour ça que certaines personnes
[01:20:01] dans l'IA appellent l'intelligence du
[01:20:03] niveau humain artificial general
[01:20:05] intelligence. C'est complètement faux.
[01:20:07] L'intelligence humaine est hyper
[01:20:09] spécialisée. Par contre, elle est très
[01:20:11] adaptative. C'est-à-dire que euh on a
[01:20:14] tous des des connaissances et des et des
[01:20:19] compétences différentes.
[01:20:22] Si on était généraux, on aurait tous les
[01:20:24] on pourrait tous acquérir les
[01:20:25] compétences de de tous les autres
[01:20:26] humains. Or, c'est pas vrai. Je suis
[01:20:29] trop vieux pour devenir un pianiste
[01:20:31] virtuose. J'aimais pris le son piano. Je
[01:20:34] voudrais bien d'ailleurs, mais trop
[01:20:36] tard.
[01:20:38] Donc on est spécialisé, on est très
[01:20:41] spécialisé.
[01:20:43] Mais on est très adaptatif, ce qui veut
[01:20:45] dire qu'on est potentiellement la la le
[01:20:49] spectre potentiel de tâche qu'on peut
[01:20:52] apprendre à résoudre, à accomplir en
[01:20:56] fait est assez large.
[01:20:59] Mais en pratique, il y en a qu'un petit
[01:21:01] nombre qu'on est capable de de vraiment
[01:21:03] faire. C'est pour ça que c'est ça qui
[01:21:05] fait qu'on peut tirer partie de du fait
[01:21:08] qu'on ait une une espèce sociale avec la
[01:21:10] diversité des compétences qu'on a. Mais
[01:21:14] absolument les animaux sont très
[01:21:16] intelligents et on comprend pas comment
[01:21:17] ils deviennent si intelligents si
[01:21:19] rapidement. On comprend pas même comment
[01:21:22] comment se fait-il alors ça revient à
[01:21:23] une question dont j'ai parlé
[01:21:25] précédemment. Euh comment se fait-il
[01:21:27] qu'un adolescent peut apprendre à
[01:21:29] conduire en une vingtaine d'heures de
[01:21:31] pratique
[01:21:33] alors qu'on a littéralement des
[01:21:35] milliards d'heures
[01:21:37] de données enregistrées de voitures
[01:21:40] conduites par des experts humains qu'on
[01:21:42] pourrait utiliser pour entraîner un
[01:21:44] système de deep learning par imitation à
[01:21:47] imiter les conducteurs humains. Ça
[01:21:49] marche pas. C'est pas c'est pas assez
[01:21:51] fiable quand on entraîne un système
[01:21:53] comme ça sur des données collectées
[01:21:56] d'humain par imitation, ça marche pas
[01:21:58] très bien. Les les voitures quasi
[01:22:01] autonomes qu'on voit, les les Wo et
[01:22:03] autres d'abord ne sont pas complètement
[01:22:05] autonomes. Elles peuvent conduire que
[01:22:07] dans des zones bien
[01:22:10] cartographiées, contrôlées et cetera et
[01:22:12] puis elles ont un système pour pouvoir
[01:22:13] appeler à la maison si elles sont si
[01:22:16] elles se retrouvent dans une situation
[01:22:19] un peu un peu compliquée. Donc elles
[01:22:21] sont pas complètement autonomes, elles
[01:22:22] sont au niveau 4, pas au niveau 5,
[01:22:25] malgré le fait que il y a une quantité
[01:22:27] de d'ingénierie
[01:22:29] et de capteur exotique et cetera qui
[01:22:32] dans le design de ces machines qui est
[01:22:34] qui est énorme et le fait qu'on ait
[01:22:37] énormément de données d'entraînement
[01:22:38] mais c'est pas suffisant. Donc, on n'
[01:22:40] toujours pas découvert les secrets, les
[01:22:43] mécanismes qui permettent euh aux
[01:22:45] humains et aux animaux d'apprendre si
[01:22:47] vite une nouvelle une nouvelle tâche ou
[01:22:49] même d'accomplir une nouvelle tâche sans
[01:22:52] sans apprentissage dès le premier coup.
[01:22:54] On essaie on espère faire des progrès
[01:22:56] vers ce une efficacité de ce type là
[01:22:59] avec les modèles du monde, avec les
[01:23:01] world model, avec les dont je ai
[01:23:03] parlé.
[01:23:05] Bonsoir.
[01:23:11] Euh, bonsoir.
[01:23:13] Merci de votre attention tout d'abord et
[01:23:16] j'auraiis une question un petit peu plus
[01:23:18] technique par rapport à votre approche
[01:23:21] du JPA euh que j'ai trouvé intéressante
[01:23:26] via le côté un peu, j'oserais dire
[01:23:29] mystérieux
[01:23:30] du fait que c'est un domaine qui n'est
[01:23:32] pas encore maîtrisé. Parfaitement.
[01:23:36] Comment pourriez-vous démontrer que
[01:23:40] cette représentation, cette architecture
[01:23:42] qui est le JPA puisse conserver des
[01:23:45] variables qui sont causales et
[01:23:47] nécessaires à la planification au futur
[01:23:53] et pas juste de l'apprentissage avec des
[01:23:56] corrélations
[01:23:58] prédictives qui fonctionneraient sur une
[01:24:00] distribution d'entraînement.
[01:24:02] Grossièrement, si deux États du monde
[01:24:06] auraient des embeddings très proches,
[01:24:09] soit qu'on aurait des observations de
[01:24:12] ces derniers qui soient similaires, mais
[01:24:14] qu'il réagissent très différemment à des
[01:24:18] actions ou des interventions.
[01:24:22] Comment est-ce que le JPA pourrait
[01:24:25] garantir de différencier ces deux
[01:24:28] systèmes ?
[01:24:29] Alors, c'est une très bonne question. Ça
[01:24:31] pose un peu la question de la
[01:24:32] distinction entre la corrélation et la
[01:24:34] causation
[01:24:36] qui est donc on peut effectivement
[01:24:38] observer observer des quand on observe
[01:24:40] le monde, on observe des corrélations et
[01:24:42] puis ensuite comment peut-on interpréter
[01:24:44] les observations qu'on a pour établir
[01:24:47] des causalités ?
[01:24:50] Quelle est la variable qu'on peut
[01:24:52] influer qui va modifier
[01:24:56] ce qu'on observe ? Et les humains sont
[01:24:59] assez bons à ça, mais très loin d'être
[01:25:01] parfait.
[01:25:03] Donc par exemple, si on demande un
[01:25:05] enfant de 5 ans quelle est la quelle est
[01:25:07] la cause du vent ? Un enfant de 5 ans
[01:25:10] typiquement va répondre "Le vent, c'est
[01:25:13] causé par les feuilles des arbres qui
[01:25:14] bougent." OK ? la causalité est
[01:25:17] inversée, hein.
[01:25:19] Euh
[01:25:21] ou si on demande à une personne un petit
[01:25:23] peu aléatoire, disons un ou deux siècles
[01:25:26] dans le passé, quelle est la cause du
[01:25:28] tonner ? C'est Jupiter ou c'est voilà
[01:25:32] une divinité quelconque ? En fait, si on
[01:25:35] était bon, si on était si bon que ça à
[01:25:36] établir la causalité, la religion
[01:25:38] n'existerait pas. OK, c'est un peu
[01:25:42] offensif comme déclaration mais
[01:25:47] je on a pas 2 heures pour discuter de ce
[01:25:50] voilà. OK. Donc la meilleure on entraîne
[01:25:52] les GP donc des GPA qui sont
[01:25:55] conditionnés par les actions, c'est on a
[01:25:57] état du monde qui est qui est résultat
[01:25:59] de observation, action, état suivant et
[01:26:03] si action ou intervention. Donc en
[01:26:05] modifiant l'action et l'intervention, si
[01:26:06] on a suffisamment d'exemples
[01:26:08] d'apprentissage, on peut établir la
[01:26:10] relation causale entre cette
[01:26:12] intervention ou cette action et le les
[01:26:14] faits qu'on observe sur le monde. Donc à
[01:26:16] la fin, les modèles du monde sont des
[01:26:17] modèles causaux.
[01:26:22] Je crois qu'on va s'arrêter là parce
[01:26:23] qu'on a déjà largement débordé. Je
[01:26:25] voudrais simplement euh vous remercier
[01:26:27] tous les deux, cher Yannes, cher Éric,
[01:26:28] parce que au fond euh je vous écoutais
[01:26:30] et vous nous avez donné beaucoup
[01:26:31] d'espoir ce soir. Espoir dans le fait
[01:26:34] que la fin de l'humanité n'était pas
[01:26:35] pour la semaine prochaine ni pour
[01:26:36] l'année prochaine, ce qui nous a plutôt
[01:26:38] rassuré. Espoir dans le fait que nous
[01:26:40] allons demeurer les maîtres de notre
[01:26:41] destin humain. Espoir dans l'importance
[01:26:44] d'avoir des idées et donc dans ce que
[01:26:46] nous faisons ici en terme de formation
[01:26:51] également. et puis espoir dans notre
[01:26:54] capacité à faire dialoguer les sciences
[01:26:56] les plus dures euh les sciences les plus
[01:26:59] exactes, c'estàd les mathématiques parmi
[01:27:02] les plus complexes, la technologie et ce
[01:27:05] que nous faisons ici en sciences
[01:27:06] humaines et sociales. Et donc pour tout
[01:27:08] ça, je voudrais vous remercier tous les
[01:27:10] deux et vous demander d'applaudir nos
[01:27:12] invités. Merci. Merci.