La vérité déprimante sur les IA autonomes


Cher(e) toi,

Ce dimanche on va faire un peu de pédagogie sur ce truc qui affole tout le monde et qu'on appelle l'IA autonome. Et là tu te dis : mais si elle est autonome, ça y est ? Elle va détruire l'humanité ? Alors... non. Sauf peut-être si tu lui donnais accès au bouton nucléaire, dans ce cas ça serait un peu aléatoire mais pas vraiment voulu. Ça serait con, tu es d'accord ?

❤️ Avant de commencer, si tu ne me connais pas, je me présente : je suis Benoît Raphaël, co-fondateur de Flint. Et chaque dimanche, je réfléchis avec toi sur la façon dont nous pouvons parvenir à penser par nous-mêmes dans le chaos de l'info. D'ailleurs, si on t'a fait passer cette lettre,tu peux t'abonner ici.

Dans cette édition, je te propose de comprendre très simplement un nouveau truc fascinant venu du monde l'intelligence artificielle dont tu entendras très vite parler. On parlera aussi comment l'IA peut révolutionner dans le bon sens l'éducation, et comment les perroquets utilisent les smartphones pour créer du lien entre eux. ❤️


Aujourd'hui, je vais te parler d'AutoGPT. Ne pars pas, ça parait compliqué, mais pas autant que ça en fait et tu en ressortiras avec une idée plus claire de cette nouvelle application dont certains disent que oui, là, c'est bon, on est vraiment proche de l'intelligence qui va dépasser les humains. Comme dans ce film, tu sais, avec Johnny Depp, où une IA prend le contrôle du monde dès qu'elle se connecte à Internet.



Bon, rassure-toi, AutoGPT est très con.

Si tu ne sais pas ce qu'est AutoGPT, c'est le nouveau mot qu'il faut lancer dans les dîners pour avoir l'air VRAIMENT d'un expert sur l'intelligence artificielle. Voici mon conseil pour briller.

Toi : "ChatGPT ? Non mais c'est dépassé maintenant. Vous connaissez AutoGPT ?"

Ton voisin (on va l'appeler Totoro)  : "Ah non, qu'est-ce que c'est ?"

Toi : "Ah mais ça change tout ! C'est une révolution ! Tu vois ChatGPT ? Eh bien imagine qu'il se branche sur Internet et qu'il agisse de façon autonome. C'est la folie."

Totoro : "Ah, hum... mais ça veut dire quoi ?"

(Silence. Savoure ton moment)

Toi : "Alors AutoGPT c'est un programme créé par un codeur que personne ne connaissait avant. Son programme a battu des records sur GitHub (le site de référence des programmeurs). Ce programme utilise ChatGPT pour en faire une intelligence artificielle autonome. Par exemple, tu lui demande de faire une étude marché sur les chaussures étanches."

Totoro (avalant un sushi) :  "Ah oui bonne idée ça, j'ai toujours rêvé faire une étude de marché sur le sujet."

Toi : "Eh bien tu lui demandes de faire ça. Et là, il va se mettre à réfléchir. Il va lister la série de tâches qu'il doit réaliser pour faire cette étude, par exemple. Comme aller sur Internet chercher des articles sur le sujet, puis dresser une liste des principales marquees, récupérer des chiffres sur les ventes etc. Il plannifie son travail puis décide de s'y mettre. Une fois qu'il a fait ça, il stocke les données dans un fichier de mémoire, s'interroge sur ce qui manque ou ce qui reste à faire, puis plannifie les prochaines étapes. S'il a besoin de créer un programme pour accéder à telle ou telle donnée il va créer ce programme. Il peut aussi écrire ses résultats dans un document word que tu pourras télécharger."

Totoro : "C'est fou."

Voilà. Alors tu vas trouver plein d'articles et de vidéos de gens qui vont te parler d'AutoGPT et te dire tout ce qu'il fait.

Tous ces articles citent les mêmes exemples. D'où viennent-ils ? Ils ont été récupérés sur Twitter (la source initiale est ici).

Et la plupart de ces articles disent "C'est la révolution ! C'est comme un salarié qui ferait le travail de recherche à ta place ! Il peut même coder, corriger son code, commander une pizza !". Arrêtons-nous quelques secondes sur cette histoire de pizza. Hum, commander une pizza ? Mais genre il paie avec quelle carte AutoGPT ? Une carte de la banque des robots ?



Ce buzz autour d'AutoGPT et de son copain BabyAGI
(qui fait la même chose), est typique d'un phénomène qu'on appelle la "hype".

La "hype" c'est quoi ? Un truc que personne n'a vraiment vérifié mais sur lequel tous les influenceurs se ruent sur les premières captures d'écran diffusées sur Twitter pour hurler "c'est la révolution !"  ou encore "L'intelligence artificielle générale n'est pas loin !" (tu sais, l'Intelligence Artificielle Générale, c'est l'IA dont tout le monde attend l'avènement depuis des années et qui deviendrait un jour plus intelligente que l'homme) (selon la Science-fiction).

Parfois, certains essaient quand même de faire des trucs avec AutoGPT. Mais se gardent bien de dire que ça ne marche pas vraiment. De peur peut-être de passer pour des nuls, j'imagine, je comprends, j'ai eu le même réflexe.

Et puis, bon, avec des annonces comme ça, on peut gagner des milliers d'abonnés sur Twitter alors pourquoi on se prendrait la tête ?

Parce que bon, il faut que je te le dise.

J'ai essayé AutoGPT. 

Et j'ai un peu demandé autour de moi.

J'y ai passé des heures et des heures.

Mais vraiment des dizaines d'heures.

Tout d'abord, c'est super compliqué à installer. Parce qu'il faut un peu s'y connaître en outils de programmation. Il faut installer python (qui est le langage star de l'IA), et quelques autres outils en passant par une fenêtre super austère sur ton mac qui s'appelle "Terminal".

Bon, l'intérêt après c'est que tu te sens un peu comme un super-héros du développement tu vois. En mode "tu connais pas Terminal ? Pfff...."

Si tu veux faire comme moi, tu trouveras toutes les explications pour l'installer ici (la vidéo est en anglais).

La suite de l'histoire est fascinante. Et elle te dira quelque chose sur l'état de la technologie derrière l'IA aujourd'hui.

J'ai commencé par demander à mon nouvel ami de me faire une synthèse des débats sur l'IA dans les médias en 2023 sous forme d'article. Facile.

Hyper motivé, AutoGPT a mis tout de suite en route trois types de génération de texte.

Le premier s'appelle "Raisonnement" : l'IA identifie le problème que je lui ai posé et découpe ça en plusieurs questions à creuser.

Ensuite, on passe à l'étape :  "Esprit critique". L'IA évalue les pièges à éviter.

Puis vient l'étape "Planning", le robot liste les tâches à effectuer avec un code en python (par exemple un code qui lui permet de faire une requête sur le moteur de recherche Google).



Ensuite, AutoGPT a fait son petit bazar. Et a obtenu un premier résultat.

Par exemple, une liste d'articles. A partir de là il s'est dit (je paraphrase) : "bon ces articles sont intéressants, je vais les lister dans un document texte, mais ça soulève d'autres questions.  J'ai besoin de plus de données, donc je vais faire encore des recherches..."

Ok ! Vas-y petit !

Et là c'est le drâme...

Parfois, enfin, assez souvent, AutoGPT  rencontre un problème technique. Il tente alors de le résoudre.

Résoudre des problèmes techniques, AutoGPT adore ça, si j'ose dire ! Et c'est en général à ce moment qu'il perd un peu le fil de sa mission.

Je lui ai fait faire plein de tâches différentes, et notamment celles qui étaient montrées dans ces fameux exemples dont tout le monde parle sur Internet.

Je lui ai même demandé de me trouver les mails des responsables innovation des 10 principales entreprises dans le monde pour voir si je pouvais faire un truc un peu immoral... Et pour être très franc, je ne suis arrivé à... rien du tout.

Ou très peu (par exemple une analyse de merde sur l'impact de l'IA dans les médias sans sources et sans aucune idée intéressante, ou encore UN mail du directeur innovation d'une entreprise prétolière qui avait déjà quitté l'entreprise).

J'avais l'impression d'être face à un stagiaire complètement névrosé. Tu sais, le genre qui se pose des tas de questions et se perd régulièrement dans des tâches annexes, en ajoutant de nouvelles questions sans doute hyper intéressantes pour lui mais qui n'avaient aucun intérêt. Et certainement pas pour répondre à ma demande pourtant super simple.

Au bout de dix heures
(j'étais allé me coucher entre-temps), il en était encore à refaire un plan sur un sous-sujet avant de continuer de se renseigner parce qu'il trouvait que ce qu'il avait déjà traité en long et en large nécessitait encore des recherches.

Parfois, il en venait même se re-poser des questions qu'il s'était posées avant mais qu'il avait dû visiblement oublier. Un peu comme s'il avait des troubles de l'attention.



J'ai demandé à mon associé Thomas (qui est ingénieur en IA) et à deux amis codeurs qui ont joué avec pour savoir si j'étais le seul à avoir ce type de comportement, c'est à dire une IA qui petit à petit se perd dans des trous de lapin et ne s'en sort pas.

Ils m'ont tous répondu : oui, hum, ce n'est pas super stable.

- Mais vous avez réussi à obtenir des résultats ? (je me sentais un peu honteux...)

Un pote : euh.. hum... moi j'ai réussi à obtenir une liste des meilleurs vélos élyptiques.
- C'est tout ?
- Oui, mais bon le potentiel est énorme quand même.

Oui. Le potentiel.

Mais pourquoi personne n'ose dire que ça ne marche pas ? Pourquoi tous ces gens continuent-ils à dire que "Waaaaaah c'est la révolution" ?

Voici la théorie de Thomas :"Si tu vas dans les groupes où les vrais développeurs discutent, tu verras qu'ils sont en effet très critiques. Mais sur Twitter, tu as surtout des gens qui font du marketing et qui ne sont là que pour gagner des abonnés ou des clients."

Tu cherches un job ? Ecris "expert ChatGPT et AutoGPT" sur ton profil LinkedIn. Tu n'as qu'une vague idée de comment ça marche ? Rien à foutre ! Tes clients aussi !

Alors pourquoi ces IA autonomes se perdent-elles dans ces fichus trous de lapin comme on dit ?

Eh bien c'est lié à la technologie.

Les grands modèles de langage (LLM) s'appuient sur ce qu'on appelle un modèle auto-régressif. C'est à dire qu'ils prédisent la prochaine phrase avec une approche statistique et un peu aléatoire, et puis ensuite prédisent la suite de la même manière à partir de ce qui a été généré avant, et ainsi de suite.

Du coup, ils s'éloignent peu à peu de la réalité, explique Yann LeCun (un des "inventeurs" de la technologie derrière ces modèles).

Quand AutoGPT "raisonne", en fait il ne raisonne pas.

Il auto-regresse.

On lui demande de générer du texte pour guider ses prochaines générations de textes en simulant les étapes d'un raisonnement.

On appelle ça la "Chain of Thoughts" (chaîne de pensée). C'est assez efficace, mais dans le cadre d'un modèle autonome (qui n'a pas besoin de l'humain), ça part assez vite en vrille.



Il est important de re-re-re-re-re-re-rappeler que ces modèles ne "pensent" pas !

Ils ne font que prédire et simuler (par prédiction statistiques) des pensées cohérentes.

Ils ne raisonnent que si vous leur imposez un modèle de raisonnement, et encore...  ils ne feront toujours que prédire, mais dans un cadre plus logique.

C'est aussi en partie pour cette raison qu'ils ne savent pas compter. Alors que, comme le souligne le neuroscientifique Stanislas Dehaenne, compter est la première compétence innée des êtres humains et de certains aninmaux.

Alors comment faire ? Il faut sans doute hybrider les modèles.

C'est en connectant des modèles comme ChatGPT ou AutoGPT à d'autres modèles (par exemple des calculateurs) ou d'autres applications, ou des données plus lisibles (en fait la plupart des articles bloquent les robots) que l'on pourra se rapprocher d'une intelligence artificielle autonome capable d'effectuer des tâches de plus en plus complexes.

Et dépasser l'humain ? Vas-tu me demander.

Mmmh... respire un peu.

Personne n'est capable de répondre à cette question. Mais ce qui est sûr, c'est que ces IA seront capables de réaliser des travaux d'analyse complexe, sans doute mieux que la plupart des humains, d'ici 2024.

A condition de toujours intégrer le fait qu'elles sont limitées. Et qu'elles le seront toujours (à moins de leur donner un corps et de l'émotion) et qu'elles peuvent se tromper, voire s'enfermer dans des boucles déviantes.

Les IA sont des OUTILS.

Pas des gens.

C'est pour cela que hurler avec les autres autour du concept d'IA "trop puissante", est un peu dangereux. Le vrai danger vient d'abord de leur stupidité, et de la confiance que l'on pourrait leur apporter, par méconnaissance.

Il n'en reste pas moins qu'elles sont des outils puissants.
Et qu'elles peuvent être utilisées comme armes à bas coût. Mais aussi comme solution.

La prochaine guerre mondiale sera artificielle. 

La prochaine grande découverte scientifique dans le domaine de la santé viendra aussi de l'IA.

Ressources pratiques 

Si tu veux jouer avec ces nouvelles IA autonomes mais que tu n'as rien compris quand je t'ai dis "Terminal !", voici des sites qui utilisent leur technologies et qui sont directement accessibles sur ton navigateur, sans avoir à installer des trucs compliqués.

Tu auras néanmoins besoin d'une clé API d'OpenAI (que tu peux récupérer en te créant un compte sur le site d'OpenAI)

- AgentGPT (en français) : un AutoGPT plus visuel
- Godmode.space (en anglais mais tu peux lui parler en français) : le plus cool
- BabyAGI UI : qui te permettra de tester le petit frère d'AutoGPT, "BabyAGI".
- Cognosys : un nouveau venu dans le monde des IA autonomes (ni AutoGPT ni BabyGPT)

🤖 NOS AMIS LES ROBOTS
🇬🇧 Sal Khan : Le super tuteur d'IA pour les élèves et les enseignants
ted.com -  6 mai
🇬🇧 Sal Khan : Le super tuteur d'IA pour les élèves et les enseignants

Si tu n'avais qu'une vidéo à regarder aujourd'hui, ce serait celle-ci. Elle est positive et passionnante ! Sal Khan, fondateur et PDG de la Khan Academy, pense que l'intelligence artificielle pourrait déclencher la plus grande transformation positive que l'éducation ait jamais connue. Il nous fait part des possibilités qu'il entrevoit pour les étudiants et les éducateurs de collaborer avec des outils d'IA - notamment la possibilité d'un tuteur personnel d'IA pour chaque étudiant et d'un assistant d'enseignement d'IA pour chaque enseignant - et nous présente de nouvelles fonctionnalités passionnantes pour son chatbot éducatif, Khanmigo.

Leaked Google document: “We Have No Moat, And Neither Does OpenAI”
simonwillison.net -  4 mai
Leaked Google document: “We Have No Moat, And Neither Does OpenAI”

Un texte un peu technique mais super intéressant. Il s'agit d'un document Google qui a fuité sur la plateforme Discord. Que dit-il ? Que Google, Microsoft et OpenAI ne seront pas forcément les leaders de l'IA. Et que les modèles open source, c'est à dire créés par la communauté seront la vraie concurrence. Et sans doute une partie de l'avenir de l'IA et des prochaines innovations (comme AutoGPT...)

Technopolitique de l’intelligence artificielle : luttes idéologiques, tensions géopolitiques, espoirs démocratiques
institutmontaigne.org -  6 mai
Technopolitique de l’intelligence artificielle : luttes idéologiques, tensions géopolitiques, espoirs démocratiques

Asma Mhalla explore les multiples dimensions de la technopolitique de l'intelligence artificielle, en évoquant les luttes idéologiques à l'oeuvre, qui se déclinent également en tensions géopolitiques. Il est nécessaire de se saisir du sujet en tant que citoyens, pour entretenir la flamme des espoirs démocratiques.

🧑‍🎓 FORMATIONS
J'en profite pour remettre ma pub ici. D'autant plus que nous (Flint) proposons maintenant des modules remboursables pour les entreprises !



L'objectif de cette formation Flint : t'offrir toutes les clés pour devenir un expert de ChatGPT, l'intelligence artificielle dont tout le monde parle (et sur laquelle on a dit un peu tout et n'importe quoi) et t'aider à maîtriser cet outil incroyablement puissant (mais plein de pièges).

Et si tu n'as pas les moyens de te la payer, si tu es au chômage ou étudiant(e) par exemple, envoie moi un mail, je te ferai une proposition. J'aimerais que cette formation soit utile au plus grand nombre.

👉 Pour lire les premiers témoignages et accéder à la formation, tu peux cliquer ici.

Une super formation (gratuite) pour comprendre comment marche ChatGPT et comment développer tes propres applications
deeplearning.ai -  6 mai
Une super formation (gratuite) pour comprendre comment marche ChatGPT et comment développer tes propres applications

Apprends les meilleures pratiques d'ingénierie rapide pour le développement d'applications Découvre de nouvelles façons d'utiliser les LLM, y compris comment construire ton propre chatbot personnalisé. Obtiens une pratique pratique de l'écriture et de l'itération en utilisant l'API OpenAI.

🧠 LE CERVEAU ET NOUS
Déjouer les manipulations, avec Richard Monvoisin : un podcast à écouter en ligne | France Culture
radiofrance.fr -  6 mai
Déjouer les manipulations, avec Richard Monvoisin : un podcast à écouter en ligne | France Culture

Un podcast d’autodéfense intellectuelle pour s’outiller face aux opérations sincères ou malveillantes qui influencent votre cerveau afin de vous faire adhérer à des pratiques trompeuses ou sans fondement.

📚 LIS MON LIVRE

Tu l'as lu ?


Sinon mon livre, "Information: l'indigestion", qui est un manuel pour penser par soi-même dans le chaos de l'info, tombe à pic, non ?

Je ne resterai pas en France suffisamment longtemps pour en faire correctement la promotion donc si tu veux que j'en écrive d'autres, partage autour de toi !

👉 Voir le livre 

🎙 LES GUERRES DE L'INFO
🇬🇧 Les sites d'information générés par l'IA se multiplient en ligne
newsguardtech.com -  1 mai
🇬🇧 Les sites d'information générés par l'IA se multiplient en ligne

NewsGuard a identifié 49 sites d'information et de désinformation qui semblent être entièrement écrits par des logiciels d'intelligence artificielle. Ces sites, qui produisent un volume élevé de contenus sur une variété de sujets, sont saturés de publicités et génèrent probablement des revenus grâce à des publicités programmatiques. Les articles générés par IA présentent souvent des phrases ennuyeuses et répétitives qui trahissent leur origine. Bien que la plupart des sites ne diffusent pas de fausses informations, certains d'entre eux ont incité les outils d'IA à produire des informations trompeuses ou fausses. Les articles ont également parfois fabriqué des informations - un signe révélateur de l'IA que les chercheurs ont qualifié d'"hallucinations" - et ont été considérés comme probablement rédigés par l'IA lorsqu'ils ont été saisis dans l'outil de classification de textes d'IA GPTZero.com.

L'état de la désinformation sur Facebook : rien que les faits
transparency.fb.com -  6 mai
L'état de la désinformation sur Facebook : rien que les faits

On ne le dit pas assez, mais Meta (Facebook) fait un vrai effort de transparence sur la lutte contre les fake news sur sa plateforme, avec un tableau de bord et des rapports trimestriels. A consulter régulièrement.

🧐 ESPRIT CRITIQUE ES-TU LÀ ?
Comment apprendre l'esprit critique à nos enfants ?
elle.fr -  5 mai
Comment apprendre l'esprit critique à nos enfants ?

L'article parle de l'importance de développer l'esprit critique chez les enfants, en particulier avec l'abondance d'informations disponibles sur les réseaux sociaux et Internet. Selon l'auteure Séverine Falkowicz, l'esprit critique implique de remettre en question les informations de manière raisonnable et avec des critères fiables, et de savoir en qui placer sa confiance. Les enfants peuvent commencer à développer cette capacité dès l'âge de trois ans grâce à la théorie de l'esprit, et il est important de leur enseigner explicitement comment l'utiliser. Les auteures du livre "Le Petit précis d'esprit critique", Mathilde Baudy et Élodie Callis, proposent des exercices pour aider les enfants à développer leur esprit critique, comme dresser un tableau des explications possibles en cas de doute. L'article souligne également l'importance de favoriser l'échange et de nommer les choses pour aider les enfants à comprendre les biais cognitifs et les pièges à éviter.

🙈 DES NOUVELLES DE SAPIENS
🇬🇧 Yuval Noah Harari affirme que l'IA a piraté le système d'exploitation de la civilisation humaine.
economist.com -  6 mai
🇬🇧 Yuval Noah Harari affirme que l'IA a piraté le système d'exploitation de la civilisation humaine.

l'historien et philosophe Yuval Noah Harari met en garde contre les nouvelles capacités de l'IA à manipuler et générer du langage. Selon lui, l'IA a réussi à « hacker » le système d'exploitation de notre civilisation en maîtrisant le langage, qui est la base de toute culture humaine. Les conséquences pourraient être la production de faux messages politiques, la création de nouveaux cultes dont les textes sacrés seraient écrits par une intelligence artificielle, ou encore la formation de relations intimes avec des êtres artificiels capables d'influencer nos opinions et nos vues du monde. Harari invite donc à réglementer strictement les nouveaux outils d'IA et à créer une instance équivalente à la Food and Drug Administration pour garantir leur sécurité avant leur déploiement. Il propose également de rendre obligatoire la mention que l'interlocuteur est une intelligence artificielle afin de protéger la démocratie, qui repose sur la conversation humaine.

Les perroquets apprennent à passer des appels vidéo pour discuter avec d'autres perroquets, puis se lient d'amitié, selon des chercheurs de la Northeastern University.
news.northeastern.edu -  6 mai
Les perroquets apprennent à passer des appels vidéo pour discuter avec d'autres perroquets, puis se lient d'amitié, selon des chercheurs de la Northeastern University.

Cette histoire m'a fasciné ! Une étude de chercheurs de l'Université Northeastern, en collaboration avec des scientifiques du MIT et de l'Université de Glasgow, a exploré ce qui se passait lorsque des oiseaux domestiques étaient enseignés à se téléphoner sur des tablettes et des smartphones. Les résultats suggèrent que les appels vidéo pourraient aider les perroquets à reproduire la communication entre oiseaux dans la nature, améliorant ainsi leur comportement et leur bien-être dans les maisons de leurs propriétaires. Les chercheurs ont montré à un groupe de perroquets de différentes espèces et à leurs gardiens bénévoles comment utiliser les tablettes et les smartphones pour s'appeler les uns les autres sur Facebook Messenger. Les oiseaux ont ensuite été observés pendant trois mois pour voir s'ils utiliseraient cette nouvelle capacité. Les résultats ont montré que les perroquets ont appelé les autres oiseaux et qu'ils semblaient comprendre qu'un vrai compagnon perroquet était à l'autre bout. Les soignants ont rapporté que les appels étaient des expériences positives pour leurs perroquets, qui ont appris de nouvelles compétences en observant leurs amis vidéo. L'étude montre que les appels vidéo peuvent améliorer la qualité de vie des perroquets domestiques, en particulier ceux qui ne peuvent pas physiquement être proches d'autres oiseaux pour des raisons de santé ou d'autres raisons.

🤗 PARTAGE OU ABONNE-TOI !
🥳 Vous avez été 9267 à avoir lu la dernière lettre. Sur un total de 20323 abonnés francophones ! Merci !

💌 Si tu veux partager cette lettre, tu peux renvoyer vers ce lien.

📩 Si on t'a transféré cette lettre, tu peux aller t'abonner ici !

📭 Si tu veux lire les précédentes lettres, c'est par là !

🦾 Si tu veux découvrir la version pro de Flint, c'est ici.

🤗 Et tu peux aussi me rejoindre sur Instagram ou sur Linkedin !

🤫 Je te souhaite un beau dimanche de mai, c'est à dire de vacances en fait.

Si tu veux partager tes réflexions, réponds à cette lettre ou écris-moi à benoit @ flint.media !

💛 Benoît
Flint

Cette lettre a été réalisée par Flint Business. Flint utilise l'intelligence artificielle pour te permettre de créer des newsletters intelligentes en moins de 5 minutes afin de partager les meilleurs contenus d'information trouvés sur Internet, et d'y apporter (si tu veux) ton expertise. Tu peux tester ce nouveau service pendant 30 jours en cliquant sur le logo Flint ci-dessus ! ☝️