{"id":27895,"date":"2026-09-05T11:35:29","date_gmt":"2026-09-05T09:35:29","guid":{"rendered":"https:\/\/blog.lesgrossesorchadeslesamplesthalameges.fr\/?page_id=27895"},"modified":"2026-09-05T16:41:41","modified_gmt":"2026-09-05T14:41:41","slug":"tristan-harris-specialiste-de-lethique-technologique-invite-du-podcast-the-diary-of-a-ceo-le-journal-dun-pdg-transcription","status":"publish","type":"page","link":"https:\/\/blog.lesgrossesorchadeslesamplesthalameges.fr\/index.php\/tristan-harris-specialiste-de-lethique-technologique-invite-du-podcast-the-diary-of-a-ceo-le-journal-dun-pdg-transcription\/","title":{"rendered":"Tristan Harris, sp\u00e9cialiste de l’\u00e9thique technologique, invit\u00e9 du podcast \u00ab The Diary Of A CEO \u00bb (Le journal d\u2019un PDG) (transcription)"},"content":{"rendered":"

 <\/p>\n

 <\/p>\n

 <\/p>\n

 <\/p>\n

 <\/p>\n

 <\/p>\n

 <\/p>\n

 <\/p>\n

Tristan Harris, sp\u00e9cialiste de l’\u00e9thique technologique, invit\u00e9 du podcast \u00ab The Diary Of A CEO \u00bb (Le journal d\u2019un PDG) (transcription)<\/strong><\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

\u00a0<\/em><\/strong><\/span><\/p>\n

Source\u00a0: <\/strong>https:\/\/singjupost.com\/technology-ethicist-tristan-harris-on-the-diary-of-a-ceo-podcast-transcript\/<\/strong><\/a>\u00a0 <\/strong><\/span><\/p>\n

\u00a0<\/em><\/strong><\/span><\/p>\n

\u00a0<\/em><\/strong><\/span><\/p>\n

Pangambam S<\/strong><\/a>\u00a0 \u2013\u2013 <\/strong>27 novembre 2025<\/strong><\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

Traduction\u00a0: c.l. pour L.G.O.<\/strong><\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

\u00a0<\/em><\/strong><\/span><\/p>\n

\u00a0<\/em><\/strong><\/span><\/p>\n

\u00a0<\/em><\/strong><\/span><\/p>\n

\u00a0\"\"<\/a><\/em><\/strong><\/span><\/p>\n

\u00a0<\/em><\/strong><\/span><\/p>\n

Voici la transcription int\u00e9grale de l’entretien de Tristan Harris, ancien sp\u00e9cialiste de l’\u00e9thique du design chez Google, dans le podcast <\/em><\/strong>\u00ab The Diary Of A CEO \u00bb, anim\u00e9 par Steven Bartlett, intitul\u00e9 \u00ab Il nous reste deux ans avant que tout ne change. Nous devons commencer \u00e0 manifester ! \u00bb, diffus\u00e9 le 27 novembre 2025.<\/em><\/strong><\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

Tristan Harris, ancien sp\u00e9cialiste de l’\u00e9thique du design chez Google, se joint \u00e0 Steven Bartlett pour lancer son avertissement le plus s\u00e9v\u00e8re \u00e0 ce jour : la course mondiale \u00e0 l’IA g\u00e9n\u00e9rale (AGI) est men\u00e9e par un petit groupe de PDG qui, en priv\u00e9, acceptent des risques s\u00e9rieux d’extinction de l\u2019esp\u00e8ce, tout en ne vendant publiquement que de l’abondance et du buzz. Des syst\u00e8mes d\u2019IA capables d\u00e8s \u00e0 pr\u00e9sent de d\u00e9tecter des failles logicielles et de faire chanter des \u00eatres humains, \u00e0 la perspective de pertes d\u2019emplois massives et d\u2019une recherche en IA \u00ab hors de contr\u00f4le \u00bb d\u2019ici 2027, Harris explique pourquoi il estime que les deux prochaines ann\u00e9es seront d\u00e9cisives \u2014 et pourquoi les citoyens doivent commencer \u00e0 riposter d\u00e8s maintenant s\u2019ils veulent un avenir \u00e0 visage humain.<\/span><\/p>\n

Qui est Tristan Harris ? <\/strong><\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

STEVEN BARTLETT : <\/strong>Tristan, je pense que ma premi\u00e8re question, et peut-\u00eatre la plus importante, est la suivante : nous allons parler aujourd\u2019hui d\u2019intelligence artificielle et de technologie en g\u00e9n\u00e9ral, mais quel est votre rapport \u00e0 ce sujet ?<\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

TRISTAN HARRIS :<\/strong> J\u2019ai particip\u00e9 \u00e0 un programme \u00e0 Stanford appel\u00e9 le \u00ab Mayfield Fellows Program \u00bb, qui recrutait des \u00e9tudiants en ing\u00e9nierie pour leur enseigner l\u2019entrepreneuriat. En tant qu\u2019informaticien, je ne connaissais rien \u00e0 l\u2019entrepreneuriat, mais on vous y mettait en bin\u00f4me avec des investisseurs en capital-risque, on vous y offrait un accompagnement, et ce programme comptait de nombreux anciens \u00e9l\u00e8ves tr\u00e8s influents. Le cofondateur d\u2019Asana et les cofondateurs d\u2019Instagram ont tous deux particip\u00e9 \u00e0 ce programme.<\/span><\/p>\n

Et cela nous a plac\u00e9s en quelque sorte au sein d\u2019un groupe de personnes qui se sont retrouv\u00e9es, en fin de compte, au c\u0153ur de ce qui allait envahir l\u2019environnement psychologique du monde entier, \u00e0 savoir les r\u00e9seaux sociaux.<\/span><\/p>\n

Dans ce cadre, j\u2019ai lanc\u00e9 ma propre entreprise technologique, appel\u00e9e Apture<\/em>. Nous avons essentiellement cr\u00e9\u00e9 ce petit widget pour aider les utilisateurs \u00e0 trouver davantage d\u2019informations contextuelles sans quitter le site web sur lequel ils se trouvaient. C\u2019\u00e9tait un produit vraiment g\u00e9nial, qui visait \u00e0 approfondir la compr\u00e9hension des gens. Et si je me suis lanc\u00e9 dans le secteur des technologies, c\u2019est parce que je pensais que la technologie pouvait \u00eatre une force au service du bien public dans le monde. C\u2019est pour cette raison-l\u00e0 que j\u2019ai cr\u00e9\u00e9 mon entreprise.\u00a0<\/span><\/p>\n

Et puis, cette exp\u00e9rience m’a en quelque sorte fait prendre conscience qu’en fin de compte, ces \u00e9diteurs d’actualit\u00e9s qui utilisaient notre produit ne se souciaient que d’une seule chose : est-ce que cela augmentait le temps pass\u00e9 sur leur site web, le nombre de visiteurs et l’attention qu’ils y portaient ? Parce que plus de visiteurs signifiait plus de revenus.<\/span><\/p>\n

Et j\u2019\u00e9tais en quelque sorte tiraill\u00e9 entre deux sentiments : d\u2019un c\u00f4t\u00e9, je pensais agir pour aider tout le monde, mais en r\u00e9alit\u00e9, j\u2019\u00e9tais jug\u00e9 uniquement \u00e0 l\u2019aune de ce qui retient l\u2019attention des gens. C\u2019est la seule chose qui compte pour \u00e9valuer mon travail.<\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

L\u2019histoire d\u2019Instagram et les Bonus pervers<\/span> <\/strong><\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

Et j\u2019ai vu ce conflit se jouer parmi mes amis qui ont lanc\u00e9 Instagram, car ils s\u2019\u00e9taient lanc\u00e9s dans cette aventure parce qu\u2019ils voulaient que les gens partagent de petits moments de leur vie. \u00ab Voici une photo de mon trajet \u00e0 v\u00e9lo jusqu’\u00e0 la boulangerie \u00e0 San Francisco\u00a0\u00bb. C’est le genre de photos que Kevin Systrom publiait quand il venait de lancer l’application. J’ai sans doute fait partie de ses cent premiers utilisateurs.<\/span><\/p>\n

Et plus tard, on a vu comment ce genre de produits simples, partis d’une intention louable et positive, se sont en quelque sorte fait aspir\u00e9r jusqu\u00a0\u00e0 faire partie de ces incitations perverses.<\/span><\/p>\n

Et c’est ainsi que Google a rachet\u00e9 ma soci\u00e9t\u00e9, Apture<\/em>. Je me suis retrouv\u00e9 l\u00e0-bas et j’ai rejoint l’\u00e9quipe Gmail. Je travaillais avec ces ing\u00e9nieurs qui concevaient l’interface de messagerie sur laquelle les gens passent quotidiennement des heures. Et puis, un jour, un des ing\u00e9nieurs est venu me voir et m’a dit : \u00ab Et si on faisait en sorte que ton t\u00e9l\u00e9phone vibre \u00e0 chaque fois que tu re\u00e7ois un e-mail ? \u00bb<\/span><\/p>\n

Et il a pos\u00e9 cette question avecnonchalance comme si ce n\u2019\u00e9tait pas grand-chose. Et d\u2019apr\u00e8s mon exp\u00e9rience, je me suis dit : \u00ab Oh mon Dieu, tu es sur le point de bouleverser l\u2019exp\u00e9rience psychologique de milliards de personnes avec leur famille, leurs amis,\u00e0 un\u00a0 d\u00eener, au milieu d’une soir\u00e9 en amoureux\u2026 Tout \u00e0 coup, les t\u00e9l\u00e9phones des gens vont se mettre \u00e0 vibrer, \u00e0 afficher des notifications d\u2019e-mails, et toi, tu poses cette question comme si c\u2019\u00e9tait une question de rien du tout \u00bb<\/span><\/p>\n

 <\/p>\n

\u00a0<\/strong><\/span><\/p>\n

Le diaporama qui a tout chang\u00e9<\/span> <\/strong><\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

Et cela a commenc\u00e9 \u00e0 m’inqui\u00e9ter. Je vois que vous avez un diaporama l\u00e0. Oui, en effet. Il explique en gros comment Google, Apple et les r\u00e9seaux sociaux cr\u00e9aient un environnement psychologique susceptible de corrompre et de fragmenter l’attention collective de l’humanit\u00e9 \u00e0 l’\u00e9chelle mondiale.<\/span><\/p>\n

Et j’ai dit en gros que je devais pr\u00e9parer un diaporama. Une pr\u00e9sentation d’environ 130 pages. C’\u00e9tait en quelque sorte un message adress\u00e9 \u00e0 l’ensemble de l’entreprise Google, pour dire que nous devions faire preuve d’un maximum de prudence et que nous avions une responsabilit\u00e9 morale dans la mani\u00e8re dont nous orientions l’attention mondiale de l’humanit\u00e9.<\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

STEVEN BARTLETT : <\/strong>Le diaporama que j\u2019ai imprim\u00e9 d\u2019apr\u00e8s ce qu\u2019avait trouv\u00e9 mon \u00e9quipe de recherche est intitul\u00e9 \u00ab Appel pour minimiser la distraction et permettre de soutenir l\u2019attention des utilisateurs, par un PM et un entrepreneur concern\u00e9s \u00bb. PM signifiant chef de projet.<\/span><\/p>\n

 <\/p>\n

TRISTAN HARRIS : <\/strong>Chef de projet, ouais.<\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

STEVEN BARTLETT : <\/strong>Comment la chose a-t-elle \u00e9t\u00e9 accueillie par Google ?<\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

TRISTAN HARRIS : <\/strong>J\u2019\u00e9tais tr\u00e8s nerveux en fait (\u2026), j\u2019avais juste l\u2019impression qu\u2019il y avait une conversation qui n\u2019arrivait pas et j\u2019ai envoy\u00e9 \u00e7a \u00e0 environ 50 personnes qui \u00e9taient de mes amis, juste pour avoir des commentaires.<\/span><\/p>\n

Et quand je suis venu travailler le lendemain, dans Diaporamas Google, en haut \u00e0 droite, il y avait \u00ab150\u00a0\u00bb. C\u2019est le chiffre qui vous indique le nombre de t\u00e9l\u00e9spectateurs simultan\u00e9s. Il y avait donc 130 spectateurs qui regardaient mon appel en m\u00eame temps.. Et plus tard ce jour-l\u00e0, les 150 sont pass\u00e9s \u00e0 500 t\u00e9l\u00e9spectateurs simultan\u00e9s.<\/span><\/p>\n

Et donc, il s’\u00e9tait r\u00e9pandu viralement dans toute l’entreprise. Et des gens de toute l\u2019entreprise m\u2019ont envoy\u00e9 des messages qui disaient: \u00ab C\u2019est un probl\u00e8me \u00e9norme. Je suis tout \u00e0 fait d\u2019accord, nous devons faire quelque chose. \u00bb\u00b2<\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

Comment je suis devenu \u00e9thicien en design de Google<\/span> <\/strong><\/span><\/p>\n

 <\/p>\n

Et donc, au lieu de me faire virer, je suis rest\u00e9 pour devenir \u00e9thicien du design, c\u2019est-\u00e0-dire \u00e9tudier comment concevoir des programmes de mani\u00e8re \u00e0 \u00e9quilibrer l\u2019attention collective et les flux d\u2019information de l\u2019humanit\u00e9 d\u2019une mani\u00e8re qui ne cause pas tous ces probl\u00e8mes.<\/span><\/p>\n

Because what was sort of obvious to me then, and that was in 2013, is that if the incentive is to maximize eyeballs and attention and engagement, then you\u2019re incentivizing a more addicted, distracted, lonely, polarized, sexualized breakdown of shared reality society.<\/span><\/p>\n

Parce que ce qui \u00e9tait \u00e9vident pour moi \u00e0 l\u2019\u00e9poque, et c\u2019\u00e9tait en 2013, c\u2019est que si l\u2019incitation \u00e9tait de maximiser le nombre de spectateurs simultan\u00e9s, c\u2019\u00e9tait encourager une attention plus addictive, plus distraite, plus solitaire et plus sexualis\u00e9e dans une soci\u00e9t\u00e9 de r\u00e9alit\u00e9 partag\u00e9e.<\/span><\/p>\n

Parce que tous ces ph\u00e9nom\u00e8nes sont des r\u00e9sultats de la maximisation.<\/span><\/p>\n

\u00a0En 2023, c\u2019\u00e9tait un peu comme regarder une catastrophe ferroviaire au ralenti. On pouvait y voir une esp\u00e8ce de mythe selon lequel on ne peut pas pr\u00e9dire l\u2019avenir, que la technologie est capable d\u2019aller dans n\u2019importe quelle direction. Et ce qui \u00e9tait en cause, c\u2019\u00e9taient les possibilit\u00e9s d\u2019orientation d\u2019une nouvelle technologie.<\/span><\/p>\n

Je souhaitais que les gens se rendent compte de ce qui \u00e9tait probable. Qu\u2019ils sachent que si vous savez quelles sont les incitations qui motivent les comportements, vous savez plus ou moins ce que l\u2019avenir vous r\u00e9serve, vers quoi vous vous dirigez.<\/span><\/p>\n

Et c\u2019est cette fa\u00e7on de pr\u00e9senter les choses qui a, en quelque sorte donn\u00e9 le coup d\u2019envoi<\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

Des r\u00e9saux sociaux \u00e0 l\u2019intelligence artificielle.<\/strong><\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

STEVEN BARTLETT : <\/strong>\u00a0Beaucoup de gens vous connaissent depuis votre commentaire sur Netflix\u00a0: Le dilemme social, <\/em>qui a \u00e9t\u00e9 un grand moment et un grand sujet de conversation dans le monde. Mais, depuis, un nouvel extraterrestre est entr\u00e9 dans le tableau. Il y a un nouveau protagoniste dans l\u2019histoire, qui est l\u2019essor de l\u2019intelligence artificielle. Quand avez-vous commenc\u00e9 \u00e0… dans Le dilemme social<\/em>, vous parlez beaucoup d’IA et d’algorithmes, mais quand avez-vous…<\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

TRISTAN HARRIS\u00a0:<\/strong> D\u2019un autre type d’IA. Nous avions pris l\u2019habitude d\u2019appeler IA ce qui, dans le sillage des r\u00e9seaux sociaux, \u00e9tait en quelque sorte le premier contact de l\u2019humanit\u00e9 avec une esp\u00e8ce d\u2019IA \u00e9triqu\u00e9e et mal align\u00e9e qui est devenue un vrai voyou<\/span><\/p>\n

Parce que si vous y pensez, vous \u00eates l\u00e0, vous ouvrez TikTok, vous voyez une vid\u00e9o et vous vous dites que vous regardez juste une vid\u00e9o. Mais quand vous faites glisser votre doigt et qu\u2019il vous montre la prochaine vid\u00e9o, vous venez, \u00e0 ce moment pr\u00e9cis, d\u2019activer l\u2019un des plus grands superordinateurs du monde, qui braque sur votre cerveau ce que 3 milliards d\u2019autres primates sociaux humains sont en train de regarder en m\u00eame temps que vous.<\/span><\/p>\n

Et qui sait bien avant vous laquelle de ces vid\u00e9os est la plus susceptible de vous pousser \u00e0 faire d\u00e9filer la suite. Ce qui \u00e9quivaut \u00e0 une pr\u00e9diction. Donc, c\u2019est de l\u2019IA qui fait juste une pr\u00e9diction sur la vid\u00e9o qu\u2019il convient de vous recommander. \u00a0Mais Twitter fait la m\u00eame chose en choisisssant quel tweet devrait selon lui vous \u00eatre montr\u00e9. Instagram fait exactement pareil en vous poussant \u00e0 choisir quelles photos ou quelles vid\u00e9os vous devriez, dans son int\u00e9r\u00eat, regarder.<\/span><\/p>\n

Et donc, tout \u00e7a est de l\u2019IA \u00e9triqu\u00e9e et mal align\u00e9e qui ne fait qu\u2019optimiser une seule chose\u00a0: vous pousser \u00e0 faire d\u00e9filer ce qu\u2019on veut vous faire absorber. Et cela a suffi \u00e0 d\u00e9truire et \u00e0 briser la d\u00e9mocratie et \u00e0 cr\u00e9er la g\u00e9n\u00e9ration la plus anxieuse et la plus d\u00e9prim\u00e9e de toute notre \u00e9poque, rien qu\u2019avec cet embryon d\u2019IA pour infantiles.<\/span><\/p>\n

 <\/p>\n

 <\/p>\n

Premier contact de l\u2019humanit\u00e9 avec l\u2019IA<\/span><\/strong><\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

Et les gens ne l\u2019ont m\u00eame pas remarqu\u00e9 parce qu\u2019on appelait \u00e7a r\u00e9seaux sociaux plut\u00f4t qu\u2019IA. Mais c\u2019\u00e9tait le d\u00e9but, nous l\u2019avions appel\u00e9, dans cette conf\u00e9rence sur le dilemme de l\u2019IA que mon cofondateur et moi avons donn\u00e9e \u00ab\u00a0le premier contact de l\u2019humanit\u00e9 avec l\u2019IA\u00a0\u00bb parce qu\u2019il s\u2019agissait seulement d\u2019une toute petite IA \u00e9triqu\u00e9e.<\/span><\/p>\n

Et ce que ChatGPT repr\u00e9sente, c\u2019est cette toute nouvelle vague d\u2019IA g\u00e9n\u00e9rative qui est une b\u00eate totalement diff\u00e9rente parce qu\u2019elle parle en langues, ce qui est le syst\u00e8me au moyen duquel l\u2019esp\u00e8ce humaine fonctionne<\/span><\/p>\n

Si vous y r\u00e9fl\u00e9chissez, \u00e7a fonctionne gr\u00e2ce \u00e0 des codes, \u00e7a fonctionne gr\u00e2ce \u00e0 des textes, \u00e7a fonctionne gr\u00e2ce \u00e0 tout ce qu\u2019il y a sur wikipedia, \u00e7a fonctionne gr\u00e2ce \u00e0 Reddit, \u00e7a fonctionne gr\u00e2ce \u00e0 tout, toute la loi, toute la religion. Et tout \u00e7a, toute cette mati\u00e8re \u00e9norme et multiforme, est aspir\u00e9 dans ce cerveau num\u00e9rique qui a des propri\u00e9t\u00e9s uniques. Et c\u2019est avec \u00e7a que nous vivons, avec ChatGPT.<\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

Le langage\u00a0: syst\u00e8me par lequel fonctionne l\u2019humanit\u00e9<\/span><\/strong><\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

STEVEN BARTLETT\u00a0:\u00a0 <\/strong>Je crois que c’est un point capital et je me souviens d\u2019avoir regard\u00e9 votre conversation \u00e0 ce sujet et avoir chang\u00e9 de paradigme en r\u00e9alisant \u00e0 quel point le langage est le centre et le noyau de tout ce que je fais chaque jour.<\/span><\/p>\n

 <\/p>\n

TRISTAN HARRIS :<\/strong> Oui, exactement. C\u2019est comme si nous devions d\u2019abord l\u2019\u00e9tablir. Pourquoi le langage est-il si central ? Un code est un langage. Donc, tout le code qui g\u00e8re l\u2019infrastructure num\u00e9rique dont nous nous servons est un langage. Le droit est la langue, toutes les lois qui ont jamais \u00e9t\u00e9 \u00e9crites sont le langage. La biologie est un langage, l\u2019ADN aussi. La musique est une sorte de langage. Les vid\u00e9os sont un type de langage de dimension sup\u00e9rieure.<\/span><\/p>\n

Et cette nouvelle g\u00e9n\u00e9ration d\u2019IA, n\u00e9e la technologie appel\u00e9e Transformers<\/em> que Google a faite en 2017 a consist\u00e9 \u00e0tout traiter comme du langage. Et c\u2019est ainsi que nous avons ChatGPT.<\/span><\/p>\n

\u201cWrite me a 10-page essay on anything\u201d and it spits out this thing. Or \u201cChatGPT, find something in this religion that\u2019ll persuade this group of the thing I want them to be persuaded by,\u201d that\u2019s hacking language because religion is also language.<\/span><\/p>\n

\u00ab\u00a0\u00c9cris-moi un essai de 10 pages sur n\u2019importe quoi\u00a0\u00bb<\/span><\/p>\n

et il crache ce qu\u2019on lui demande. Ou \u00ab\u00a0ChatGPT trouve quelque chose, dans cette religion, qui persuadera ce groupe de ce dont je veux qu\u2019il soit persuad\u00e9\u00a0\u00bb, qui revient \u00e0 pirater du langage parce que la religion est aussi un langage.\u00a0.<\/span><\/p>\n

 <\/p>\n

 <\/p>\n

L\u2019IA peut pirater le syst\u00e8me op\u00e9rationnel de l\u2019humanit\u00e9.<\/strong><\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

Et donc cette nouvelle IA \u00e0 laquelle nous avons affaire peut pirater le syst\u00e8me d\u2019exploitation de l\u2019humanit\u00e9. Il peut pirater le code et trouver des vuln\u00e9rabilit\u00e9s dans les logiciels. Les r\u00e9centes IA d\u2019aujourd\u2019hui, juste au cours de l\u2019\u00e9t\u00e9, ont pu trouver 15 vuln\u00e9rabilit\u00e9s dans les logiciels open source<\/em> sur GitHub.<\/span><\/p>\n

Donc, il peut simplement pointer vers GitHub. GitHub \u00e9tant ce site qui h\u00e9berge essentiellement tout le code open source<\/em> du monde. C\u2019est un peu comme Wikip\u00e9dia pour les codeurs. Il a tout le code qui a d\u00e9j\u00e0 \u00e9t\u00e9 \u00e9crit, qui est publiquement et ouvertement accessible et vous pouvez le t\u00e9l\u00e9charger pour vous n\u2019avoir pas \u00e0 \u00e9crire votre propre syst\u00e8me de reconnaissance faciale, il vous suffit de t\u00e9l\u00e9charger celui qui existe d\u00e9j\u00e0.\u00a0<\/span><\/p>\n

Ainsi, GitHub fournit en quelque sorte au monde toute cette infrastructure num\u00e9rique gratuite, et les nouvelles IA qui existent aujourd’hui et qui peuvent \u00eatre point\u00e9es vers GitHub, ont d\u00e9j\u00e0 trouv\u00e9 15 vuln\u00e9rabilit\u00e9s \u00e0 partir de z\u00e9ro, qui n’avaient pas \u00e9t\u00e9 exploit\u00e9es auparavant.<\/span><\/p>\n

Donc, si vous imaginez cela, maintenant, appliqu\u00e9 au code qui exploite notre infrastructure d\u2019eau, notre infrastructure \u00e9lectrique, etc., nous lib\u00e9rons l\u2019IA dans tout le monde capable de parler et nous lui permettons de pirater le syst\u00e8me d\u2019exploitation dela totalit\u00e9 de notre monde.<\/span><\/p>\n

Et cela n\u00e9cessite un nouveau niveau de discernement et d\u2019attentionquant \u00e0 la fa\u00e7on dont nous faisons cela, parce qu\u2019il nous faut absolument prot\u00e9ger les parties centrales de la soci\u00e9t\u00e9 que nous voulons prot\u00e9ger avant qu\u2019arrive tout ce qui est en train de se passer.<\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

La voix et la confiance \u00e0 l\u2019\u00e2ge de l\u2019IA<\/strong><\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

STEVEN BARTLETT :<\/strong> J\u2019imagine\u2026 surtout quand vous pensez \u00e0 la fa\u00e7on dont la voix est centrale pour la sauvegarde d\u2019une grande partie de nos vies. Ma relation avec ma petite amie \u00a0repose sur nos voix, non ?<\/span><\/p>\n

 <\/p>\n

TRISTAN HARRIS<\/strong> : Exacttement<\/span><\/p>\n

 <\/p>\n

STEVEN BARTLETT :<\/strong> Je l’appelle pour lui dire quelque chose. Ma banque\u00a0: \u00a0je les appelle et je leur dis quelque chose.<\/span><\/p>\n

 <\/p>\n

TRISTAN HARRIS :<\/strong> Exactement<\/span><\/p>\n

 <\/p>\n

STEVEN BARTLETT<\/strong> :\u00a0 Et ils me demandent un tas de codes ou un mot de passe ou dieusait quoi. Et tout ceci nous ram\u00e8ne \u00e0 ce que vous disiez sur le langage qui est que toute ma vie est en r\u00e9alit\u00e9 prot\u00e9g\u00e9e par mes communications avec d\u2019autres personnes.<\/span><\/p>\n

 <\/p>\n

TRISTAN HARRIS :<\/strong> Et d\u2019une mani\u00e8re g\u00e9n\u00e9rale, vous avez confiance quand vous d\u00e9crochez le t\u00e9l\u00e9phone\u00a0: c\u2019est une vraie personn qui vous parle. Il y a deux jours, j\u2019ai eu au bout du fil la m\u00e8re d\u2019une de mes proches amies qui m\u2019appelait je ne sais d\u2019o\u00f9, et qui m\u2019a dit : \u00abTristan, ma fille vient de\u00a0 m\u2019appeler en pleurant pour me dire que\u00a0 quelqu\u2019un l\u2019avait prise en otage et voulait de l\u2019argent.\u00bb<\/span><\/p>\n

Et j\u2019ai aussit\u00f4t pens\u00e9 oh, mon Dieu, c’est une arnaque \u00e0 l\u2019IA.<\/span><\/p>\n

La m\u00e8re de mon amie est \u00e0 San Francisco et elle conna\u00eet bien ce genre de choses, pourtant, elle n\u2019a pas compris que c\u2019\u00e9tait une arnaque. Et pendant un moment, j \u2018ai \u00e9t\u00e9 tr\u00e8s inquiet, et j’ai d\u00fb rechercher sa fille \u00e0 la trace, d\u00e9couvrir chez quels autres amis elle se trouvait et m\u2019assurer qu’elle allait bien.<\/span><\/p>\n

Et quand vous avez des manipulateurs d\u2019IA qui peuvent parler la langue de n\u2019importe qui, il leur fautd\u00e9sormais moins de trois secondes pour s\u2019emparer de votre voix r\u00e9elle, pour la synth\u00e9tiser et pour parler avec votre voix au point que m\u00eame votre m\u00e8re s\u2019y trompera. \u00a0Encore une fois, c\u2019est une nouvelle vuln\u00e9rabilit\u00e9 qui affecte maintenant toute la soci\u00e9t\u00e9 \u00e0 cause de l\u2019IA.<\/span><\/p>\n

 <\/p>\n

 <\/p>\n

La course \u00e0 l\u2019AGI<\/span><\/p>\n

 <\/p>\n

STEVEN BARTLETT :<\/strong> Donc ChatGPT a en quelque sorte tir\u00e9 le coup de d\u00e9part de cette course. Et, il semble que toutes les autres grandes entreprises technologiquesse soient empress\u00e9es d\u2019investir d\u2019ind\u00e9centes sommes d\u2019argent pour participer \u00e0 cette course \u00e0 l\u2019IA. Et ils courent derri\u00e8re cette chose appel\u00e9e AGI, dont nous entendons de plus en plus parler.<\/span><\/p>\n

 <\/p>\n

TRISTAN HARRIS<\/strong> : \u00a0Oui.<\/span><\/p>\n

 <\/p>\n

STEVEN BARTLETT<\/strong> : Qu\u2019est-ce que l\u2019AGI\u00a0? Et en quoi cela diff\u00e8re-t-il de ce dont je me sers en ce moment sur ChatGPT et sur Gemini\u00a0?<\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

La course \u00e0 l\u2019Intelligence Arificielle\u00a0G\u00e9n\u00e9rale<\/span><\/p>\n

 <\/p>\n

TRISTAN HARRIS<\/strong> : Oui, ce que les gens doivent absolument comprendre, c\u2019est que ces compagnies ne sont pas en train de faire cette course pour fournir un chatbox aux utilisateurs. Non, ce n\u2019est pas leur but. Si vous jetez un coup d\u2019\u0153il aux \u00ab\u00a0D\u00e9clarations de mission\u00a0\u00bb \u00a0sur le site Web d\u2019OpenAI<\/em> ou sur \u00a0tous leurs propres sites Web, la mission qu\u2019ils se donnent est de remplacer toutes les formes de travail \u00e9conomique humain dans l\u2019\u00e9conomie plan\u00e9taire. Ce qui veut dire une IA capable de faire tout le travail cognitif, ou si on veut tout le travail de l\u2019esprit, \u00a0ce travail pouvant \u00eatre du marketing du texte, de l\u2019illustration, de la production de vid\u00e9os, de la production de codes, bref, tout ce qu\u2019un \u00eatre humain peut faire avec son cerveau.<\/span><\/p>\n

Ces compagnies font la course pour obtenir exactement \u00e7a\u00a0: une intelligence artificielle , \u00ab\u00a0g\u00e9n\u00e9rale\u00e9\u00a0\u00bb signifiant toutes les sortes de t\u00e2ches cognitives. Demis Hassabis, le co-foundateurr de Google DeepMind <\/em>avait coutume de dire \u00ab\u00a0r\u00e9solvons d\u2019abord l\u2019intelligence, et apr\u00e8s, r\u00e9solvons tout le reste\u00a0\u00bb.<\/span><\/p>\n

Il est important de dire pouquoi l\u2019IA se distingue de toutes bles autres formes de technologie\u00a0? C\u2019est parce que si je pratique une avanc\u00e9e dans un domaine, mettons la fus\u00e9ologie, je fais des d\u00e9couvertes en fus\u00e9ologie qui ne vont pas faire avancer la m\u00e9decine biologique, ni la production d\u2019\u00e9nergie, ni la codification.Mais si je peux faire avancer l\u2019intelligence g\u00e9n\u00e9ralis\u00e9e\u2026\u00a0 Pensez \u00e0 toute la science et \u00e0 tout le d\u00e9veloppement technologique\u00a0 de l\u2019humanit\u00e9 depuis qu\u2019elle existe\u2026Parce que toute la science et toute la technologie sont le produit de la pens\u00e9e humaine Donc, si j\u2019arrive \u00e0 automatiser l\u2019intellifgence, je vais tout \u00e0 coup obtenir une explosion des d\u00e9veloppements de la science et des technologies partout. \u00a0\u00c7a vous para\u00eet-il sens\u00e9\u00a0?<\/span><\/p>\n

 <\/p>\n

STEVEN BARTLETT<\/strong>\u00a0: Bien s\u00fbr. Oui. C\u2019(est la base de tout.<\/span><\/p>\n

 <\/p>\n

TRISTAN HARRIS<\/strong> : Exactement. Et c\u2019est pourquoi il existe la croyance que si je suis le premier \u00e0 y arriver, et \u00e0 automatiser l\u2019intelligence g\u00e9n\u00e9ralis\u00e9e, je se\u2019rai le propri\u00e9taire de kl\u2019\u00e9conomie plan\u00e9taire. Parce que tout ce qu\u2019un petit g\u00e9nie humain pourrait faire dans n\u2019importe quel domaine et qu\u2019il faudrait lui payer, l\u2019IA pourra le faire mieux.<\/span><\/p>\n

Et, donc\u00a0; si je suis une compagnie. Est-ce que je veux payer un \u00eatre humain qui a la s\u00e9cu, qui\u00e7 peut \u00eatre un lanceur d\u2019alertes, qui peut se plainde de ceci-cela, qui doit dormir de temps en temps, qui est parfois mal fichu\u00a0et qui a ds probl\u00e8mes de famille, ou veux-je avoir de l\u2019IA qui travaillera pour moi 24 heures par jour, 7 jours sur 7, \u00e0 une vitesse surhumaine, qui ne se plaindra jamais de rien, qui ne d\u00e9noncera jamais rien, dont il ne faudra pas partager les frais m\u00e9dicaux\u00a0? C\u2019est \u00e7a qui les pousse tous \u00e0 investir aussi lourdement dans l\u2019IA plut\u00f4t que de payer des humains. Er, donc, l\u2019AGI, Intelligence Artificielle D\u00e9n\u00e9rale est plus transformative qu\u2019aucune autre esp\u00e8ce de technologie que nous ayons jamais eue. Et elle est distncte.<\/span><\/p>\n

 <\/p>\n

 <\/p>\n

 <\/p>\n

Le planning vers l\u2019AGI<\/span><\/p>\n

 <\/p>\n

STEVEN BARTLETT :<\/strong> \u00a0Avec le simple quoique \u00e9norme paquet d\u2019argent investi dans les infrastructures,\u00a0 les centres physiques de donn\u00e9es , les puces, la puissance de calcul informatique. Croyez-vous qu\u2019onva y arriver\u00a0? Croyez-vous qu\u2019on va pouvoir atteindre l\u2019AGI\u00a0?<\/span><\/p>\n

 <\/p>\n

TRISTAN HARRIS<\/strong> : Oui, je crois qu\u2019on y arrivera. Je ne vois pas clairement combien de temps \u00e7a prendra, et je ne dis pas \u00e7a parce que je crois que les paradigmes dont nous partons vont n\u00e9cessairement nous y amener. Mais je suis \u00e0 San Francisco, je parle avec les gens qui travaillent dans les laboratoires d\u2019IA. La moiti\u00e9 de ces gens sont des amis personnels et d\u2019un tr\u00e8s haut niveau.<\/span><\/p>\n

Et la plupart des gens, dans l\u2019industrie, croient qu\u2019ils y arriveront d\u2019ici les deux \u00e0 dix prochaines ann\u00e9es au plus tard. Et je pense que certaines personnes pourraient dire bof, \u00e7a ne va pas se produire tout de suite, pas la peine de s\u2019en faure. Et si on va vers des changements aussi bouleversants plus vite que notre soci\u00e9t\u00e9 n\u2019est capable d\u2019en affronter, tant pis<\/span><\/p>\n

Et moi, la raison pour laquelle je me r\u00e9jouissais tant de parler de tout \u00e7a aujourd\u2019hui avec vous, c\u2019est que je crois que les gens n\u2019ont pas les id\u00e9es bien claires sur l\u2019IA. Ils disent (pensent) qu\u2019elle va \u00a0tout r\u00e9soudre : le cancer, le changement climatiqu, etc.. Et il y en a qui disent que \u00e7a va tout \u00a0tuer, que ce sera le Jugement Dernier et que notre esp\u00e8ce s\u2019\u00e9teindra. \u00ab\u00a0 Si quelqu\u2019un fabrique ce truc, tout le monde meurt\u00a0!\u00a0\u00bb Et ces conversations ne convergent pas.<\/span><\/p>\n

And so everyone\u2019s just kind of confused where, how can it be infinite promise and how can it be infinite peril? And what I wanted to do today is to really clarify for people what the incentives point us towards, which is a future that I think people, when they see it clearly would not want.<\/span><\/p>\n

Et , donc, tout le monde nage un peu dans la confusion quant \u00e0 savoir si la chose constitue une promesse indicible ou un p\u00e9ril infini. Et ce que je voulais faire aujourd\u2019hui, c\u2019estmettre pour les gens un peu de clart\u00e9 dans \u00a0ce vers quoi ce qui les motive<\/u> \u00a0nous dirige, c\u2019est-\u00e0-dire vers un avenir que la plupart des gens, s\u2019ils s\u2019en doutaient, n\u2019aimeraient pas du tout.<\/span><\/p>\n

 <\/p>\n

STEVEN BARTLETT<\/strong> : Alors, quels sont les \u00ab\u00a0bonus\u00a0\u00bb que poursuivent ceux qui s\u2019y livrent et vers quel avenir nous entra\u00eenent-ils\u00a0?<\/span><\/p>\n

L\u2019anneau du pouvoir infini<\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

TRISTAN HARRIS<\/strong> : Disons pour commencer que c\u2019est, pris m\u00e9taphoriquement, au sens o\u00f9 on l\u2019entend dans Le seigneur des anneaux<\/em>. C\u2019est l\u2019anneau qui cr\u00e9e le pouvoir infini. Parce que, si je dispose d\u2019un AGI, je peux l\u2019appliquer \u00e0 l\u2019avantage militaire. Je peux avoir le meilleur des planificateurs militaires, capable de vaincre tous les plans de bataille de n\u2019importe qui. Et nous avons d\u00e9j\u00e0 des syst\u00e8mes d\u2019IA qui sont capables de battre Garry Kasparov aux \u00e9checs, de battre le jeu asiatique du Go, et maintenant de battre Starcrafty.<\/span><\/p>\n

Donc, vous avez de l\u2019IA qui bat les humains aux jeux strat\u00e9Giques. Alors, pensez \u00e0 Starcraft compar\u00e9 \u00e0 une v\u00e9ritable campagne milittaire \u00e0 Ta\u00efwan ou quelque chose comme \u00e7a.. Si j\u2019ai une IA qui peut surclasseer des jeux strat\u00e9giques, elle me permettra de surclasser n\u2019im..porte quoi. Ou prenez, par exemple, la strat\u00e9gie commerciale<\/span><\/p>\n

Si j\u2019ai une IA qui peut faire de la strat\u00e9gie commerciale, qui peut \u00a0l\u2019appliquer aux cha\u00eenes d\u2019approvisionnement et trouver un moyen de les am\u00e9liorer et aussi de nuire \u00e0 mes concurrents, non seulement jai tous mes concurrents, mais je battrai aussi sur son terrain, la concurrence en g\u00e9n\u00e9ral. Si j\u2019ai un super-programmateur, je peux concurrencer toutes les entreprises commerciales. Si j\u2019ai un super-programmateur, je peux battre la programmation elle-m\u00eame en g\u00e9n\u00e9ral. De 70 \u00e0 90% des codes actuellement \u00e9mis par les laboratoires d\u2019IA sont \u00e9crits par l\u2019IA.<\/span><\/p>\n

 <\/p>\n

STEVEN BARTLETT<\/strong> : Cela peut aussi s\u2019appliquer \u00e0 la Bourse\u2026<\/span><\/p>\n

 <\/p>\n

TRISTAN HARRIS<\/strong> : Oui, pensons au march\u00e9 boursier\u00a0: si j\u2019ai une IA qui peut mieux n\u00e9gocier en bourse que toutes les autres IA, car actuellement il y a vraiment des IA qui se n\u00e9gocient r\u00e9ellement en bourse. Mais si j’arrive \u00e0 y faire un saut,, alors je peux consolider toute la richesse.<\/span><\/p>\n

Si j\u2019ai une IA qui peut faire du cyber-piratage qui est sup\u00e9rieure en mati\u00e8re de cyber-piratage, soit un gain de fonction au-dessus de ce que tout le monde peut faire, alors j\u2019ai un avantage asym\u00e9trique sur tout le monde. En somme, l’IA est comme une pompe de puissance. Ele pompe l’avantage \u00e9conomique, elle pompe l’avantage scientifique et elle pompe l’avantage militaire.<\/span><\/p>\n

C\u2019est pourquoi les pays et les entreprises se\u00a0 sont laiss\u00e9 entra\u00eener dans le pi\u00e8ge de ce qu\u2019ils croient \u00eatre une course pour y arriver en premier. Et tout ce qui est s\u00fbr d\u2019en \u00eatre une cons\u00e9quence d\u00e9sastreuse \u2013 les pertes massives d\u2019emplois, la hausse des prix de l\u2019\u00e9nergie, l\u2019augmentation des \u00e9missions dangereuses, le vol de la propri\u00e9t\u00e9 intellectuelle, les risques de s\u00e9curit\u00e9 collective \u2013 para\u00eet peu de chose, en regard de l\u2019\u00e9ventualit\u00e9 qu\u2019ils redoutent\u00a0: \u00ab\u00a0si je n\u2019y arrive pas en premier, si d\u2019autres y arrivent avant moi, ce sont eux qui s\u2019empareront de l\u2019AGI, et moi je serai pour toujours l\u2019esclave de leur avenir\u00a0\u00bb.<\/span><\/p>\n

Et je sais que \u00e7a peut para\u00eetre fou \u00e0 beaucoup de gens, mais c\u2019est ainsi que ceux qui sont au sommet du monde de l\u2019AGI-AI voient les choses en ce moment..<\/span><\/p>\n

 <\/p>\n

STEVEN BARTLETT<\/strong> : Et vous avez ces conversations\u2026<\/span><\/p>\n

TRISTAN HARRIS : Yeah, I mean, Geoff Hinton and Roman Yampolsky on and other people, and they\u2019re saying the same thing. I think people need to take seriously that whether you believe it or not, the people who are currently deploying the trillions of dollars, this is what they believe. And they believe that it\u2019s winner take all.<\/span><\/p>\n

And it\u2019s not just \u201cfirst solve intelligence and use that to solve everything else,\u201d it\u2019s \u201cfirst dominate intelligence and use that to dominate everything else.\u201d<\/span><\/p>\n

 <\/p>\n

TRISTAN HARRIS<\/strong> : Oui, je veux dire, Geoff Hinton et Roman Yampolsky et d\u2019autres, ils disent tous la m\u00eame chose. Je crois que les gens doivent prendre tout \u00e7a au s\u00e9rieux, qu\u2019ils y croient ou non\u00a0: ceux qui d\u00e9pensent actuellement des milliers de milliards de dollars, c’est ce qu’ils croient. Et ils croient que le gagnant raflera tout le pot<\/span><\/p>\n

Et leur ambition n\u2019est pas \u00ab r\u00e9soudre d\u2019abord l\u2019intelligence et s\u2019en servir pour r\u00e9soudre tout le reste \u00bb. Ce qu\u2019ils veulent, et ils ne s\u2019en cachent pas, c\u2019est \u00ab dominer l\u2019intelligence et s\u2019en servir pour dominer tout le reste \u00bb.<\/span><\/p>\n

Conversations priv\u00e9es c\/D\u00e9clarations publiques<\/span><\/p>\n

 <\/p>\n

STEVEN BARTLETT<\/strong> : Avez-vous entendu parler de conversations priv\u00e9es sur ce sujet de gens qui sont dans l’industrie ?<\/span><\/p>\n

 <\/p>\n

TRISTAN HARRIS :<\/strong> Absolument. Je pense que ce que la plupart des gens ne comprennent pas bien, c\u2019est que ce qu\u2019on dit en public n\u2019a rien \u00e0 voir avec ce qu\u2019on s\u2019est dit entre soi en<\/span><\/p>\n

priv\u00e9. Vous devez savoir \u00e7a aussi bien que moi.<\/span><\/p>\n

 <\/p>\n

STEVEN BARTLETT<\/strong>\u00a0:\u00a0 Oui, j\u2019en suis tout \u00e0 fait conscient. Que vous disent-ils \u00e0 vous\u00a0?<\/span><\/p>\n

 <\/p>\n

TRISTAN HARRIS :<\/strong> Vous savez, ce ne sont pas toujours des choses que les gens me disent directement.\u00a0 Parfois, il y a eu une \u00e9tape interm\u00e9diaire. En g\u00e9n\u00e9ral, c\u2019est quelqu\u2019un en qui j\u2019ai confiance et que je connais depuis longtemps qui me dit \u00ab\u00a0\u00e0 une table de restaurant, j\u2019ai rencontr\u00e9 ce PDG, et nous nous sommes mis \u00e0 parler de l\u2019avenir de l\u2019IA \u00bb. Le PDG en question dirige une des plus grandes entreprises d\u2019IA au monde.<\/span><\/p>\n

Et alors, ils parlent avec moi de l\u2019IA et ils me disent \u00e0 quoi ils croient que l\u2019avenir va ressembler. Mais ensuite, quand je les vois sur YouTube ou sur des podcasts, ils parlent du r\u00e8gne de l\u2019abondance et disent que nous allons gu\u00e9rir le cancer.<\/span><\/p>\n

 <\/p>\n

STEVEN BARTLETT<\/strong> : Le cancer gu\u00e9ri\u2026 les salaires au plafond pour tout le monde\u2026 Oui, tout \u00e7a.<\/span><\/p>\n

 <\/p>\n

TRISTAN HARRIS :<\/strong> Personne ne devra plus jamais travailler.<\/span><\/p>\n

 <\/p>\n

STEVEN BARTLETT<\/strong> : Mais ensuite, en priv\u00e9, ce que j’entends est exactement ce que vous avez dit, et \u00e7a me terrifie. Depuis la derni\u00e8re fois que nous avons eu une conversation \u00e0 propos de l\u2019IA sur ce podcastj\u2019ai parl\u00e9 avec un de mes amis, qui a tr\u00e8s bien r\u00e9ussi, qui est milliardaire, au sujet de ces gens, Il\u00a0 \u00e9tait inquiet et, de son point de vue,\u00a0 s\u2019il n\u2019y \u00a0avait m\u00eame que 5% de chances pour que les choses tournent aussi mal qu\u2019on peut le craindre, on ne devrait pas se lancer l\u00e0-dedans.<\/span><\/p>\n

Et il me disait que certains de ses amis qui dirigent quelques-unes de ces entreprises croient que les chancs de catastrophe sont beaucoup plus \u00e9lev\u00e9es que cela, mais, d\u2019apr\u00e8s lui, ils ont l\u2019impression d\u2019\u00eatre pris dans une course o\u00f9, s\u2019ils ne contr\u00f4lent pas cette technologie et s\u2019ils n\u2019arrivent pas au bout de cette course en premier\u2026 n\u2019arrivent pas \u00e0 \u00e0 ce qu\u2019ils appellent le d\u00e9collage, et m\u00eame \u00e0 un d\u00e9collage rapide…<\/span><\/p>\n

 <\/p>\n

 <\/p>\n

Auto-am\u00e9lioration r\u00e9cursive et d\u00e9collage rapide<\/strong><\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

TRISTAN HARRIS :<\/strong> Oui, auto-am\u00e9lioration r\u00e9cursive ou d\u00e9collage rapide. Ce qui signifie essentiellement ce pour quoi les entreprises sont vraiment dans une course, vous le soulignez, c\u2019est qu\u2019elles sont dans une course pour automatiser la recherche sur l\u2019IA. Parce qu\u2019en ce moment, vous avez OpenAI<\/em>, qui a quelques milliers d\u2019employ\u00e9s, les \u00eatres humains codent et font la recherche sur l\u2019IA. Ils lisent les derniers articles de recherche, ils \u00e9crivent les suivants, ils \u00e9mettent des hypoth\u00e8ses sur l\u2019am\u00e9lioration que nous allons peut-\u00eatre faire \u00e0 l\u2019IA, de \u00a0quelle nouvelle fa\u00e7on faire ce code avec une nouvelle technique.<\/span><\/p>\n

Et puis ils utilisent leur esprit humain et ils inventent quelque chose, ils font une exp\u00e9rience et ils voient si ce qu\u2019ils ont fait am\u00e9liore la performance. Et c\u2019est comme \u00e7a qu\u2019on passe de GPT-4 \u00e0 GPT-5 ou quelque chose comme \u00e7a.<\/span><\/p>\n

Imaginez maintenant un monde o\u00f9 Sam Altman, au lieu d\u2019avoir des chercheurs en IA humaine, puiss avoir des chercheurs en IA tout court. \u00a0Alors, l\u00e0, je claque des doigts et je fonce, d’une IA qui lit tous les journaux, \u00e9crit tout les codes, cr\u00e9e les nouvelles exp\u00e9riences, etc. \u00e0 \u00ab\u00a0je peux copier-coller ce que font 100 millions de chercheurs en IA et le faire de mani\u00e8re automatis\u00e9e\u00a0\u00bb.<\/span><\/p>\n

Et qui va croire que les entreprises rivalisent pour sortir de meilleurs chatbots pour les gens\u00a0! Tout le monde sait que ce pour quoi elles sont en comp\u00e9tition, c\u2019est l\u2019automatisation totale de la recherche en IA<\/span><\/p>\n

Et c\u2019est pour \u00e7a, soit dit en passant, que toutes les entreprises font la course pour devenir bonnes en programmation. Parce que plus vite vous pouvez automatiser un programmeur humain, plus vous pouvez automatiser la recherche en ‘IA. Et il y a quelques semaines, \u00ab\u00a0Claude 4.5\u00a0\u00bb a \u00e9t\u00e9 mis en service, et il peut faire 30 heures de programmation complexe ininterrompue au plus haut niveau. C\u2019est dingue.<\/span><\/p>\n

 <\/p>\n

STEVEN BARTLETT :<\/strong> Donc, pour l\u2019instant, une des limites des progr\u00e8s de l’IA, c\u2019est que les humains font le travail. Mais en fait, ces entreprises poussentde toutes leurs forces vers le moment o\u00f9 ce sera l\u2019IA qui fera le travail. Parce qu\u2019alors, elles disposeront d\u2019une main d\u2019\u0153uvre infinie, sans doute plus intelligente, \u00e0 co\u00fbt z\u00e9ro. Ainsi, lorsque ces gens parlent de d\u00e9collage rapide, ils parlent du moment o\u00f9 l\u2019IA prendra le contr\u00f4le de la recherche, qui progressera d\u00e8s lors beaucoup plus vite.<\/span><\/p>\n

 <\/p>\n

TRISTAN HARRIS : Et elle-m\u00eame apprend et am\u00e9liore et invente de mani\u00e8re r\u00e9cursive. Donc, la chose \u00e0 obtenir est que l’IA acc\u00e9l\u00e8re l’IA, non ? Si j\u2019invente des armes nucl\u00e9aires, les armes nucl\u00e9aires n\u2019inventeront pas de meilleures armes nucl\u00e9aires. Mais si j’invente l’IA, l’IA, c’est de l’intelligence. Ladite intelligence peut automatiser une meilleure programmation, une meilleure conception des puces, etc.<\/span><\/p>\n

Donc, je peux utiliser l\u2019IA pour dire qu\u2019il y a un design pour les puces Nvidia, la rendre 50% plus efficace et m\u00eame capable de savoir comment le faire. Je peux dire \u00e0 l\u2019IA\u00a0: \u00ab\u00a0IA, voici une cha\u00eene d\u2019approvisionnement dont j\u2019ai besoin pour m\u2019apporter toutes les choses dont j\u2019ai besoin pour mon entreprise d\u2019IA\u00a0\u00bb, et elle pourra optimiser ma cha\u00eene d\u2019approvisionnement et la rendre plus efficace. \u00ab\u00a0IA, voici le code pour faire de l\u2019IA, peux-tu rendre cela plus efficace s\u2019il te pla\u00eet\u00a0?\u00a0\u00bb.\u00a0 \u00ab\u00a0IA, voici des donn\u00e9es de formation. Je dois faire de nouvelles donn\u00e9es d’entra\u00eenement. Fais-moi un million de simulations de la fa\u00e7on de s\u2019entra\u00eener et mes athl\u00e8tes s\u2019entra\u00eeneront mieux\u00a0\u00bb. L\u2019IA acc\u00e9l\u00e8re l\u2019IA.<\/span><\/p>\n

 <\/p>\n

 <\/p>\n

La motivation derri\u00e8re la course.<\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

STEVEN BARTLETT : <\/strong>Selon vous, qu’est-ce qui motive ces personnes, les PDG de ces entreprises [dans des discussions en coulisses et non publiques] ?<\/span><\/p>\n

 <\/p>\n

TRISTAN HARRIS<\/strong> : C’est presque mythologique, car d’une certaine mani\u00e8re, ils sont en train de cr\u00e9er une nouvelle entit\u00e9 intelligente qui n’a jamais exist\u00e9 auparavant sur la plan\u00e8te Terre. C’est comme cr\u00e9er un dieu. Je veux dire, leur motivation, c’est de cr\u00e9er un dieu, de contr\u00f4ler l’\u00e9conomie mondiale et de gagner des milliers de milliards de dollars.<\/span><\/p>\n

Si on pouvait r\u00e9ellement cr\u00e9er quelque chose qui soit capable d’automatiser toutes les t\u00e2ches intelligentes, d’atteindre tous les objectifs permettant de surpasser tous les concurrents\u00a0: ce serait une sorte de pouvoir quasi divin, que je trouve quand m\u00eame relatif.\u00a0 Imaginez les prix de l’\u00e9nergie augmentant sans frein ou des centaines de millions de personnes perdant leur emploi. Ce serait vraiment terrible.<\/span><\/p>\n

Mais si je ne suis pas le premier \u00e0 le construire et que je ne le cr\u00e9e pas, ce Dieu, je vais me planter, face \u00e0 quelqu\u2019un de \u00ab\u00a0pire\u00a0\u00bb qui, selon moi (pas selon moi, Tristan, mais selon eux), est consid\u00e9r\u00e9 comme \u00ab\u00a0pire\u00a0\u00bb. C\u2019est une sorte de logique comp\u00e9titive qui s\u2019autoalimente, mais qui les pousse \u00e0 prendre le plus de raccourcis qu\u2019ils peuvent, \u00e0 se soucier le moins possible de la s\u00fbret\u00e9 ou de la s\u00e9curit\u00e9 g\u00e9n\u00e9rales, \u00e0 ne pas se soucier du nombre d\u2019emplois bousill\u00e9s, \u00e0 ne pas se soucier du bien-\u00eatre des gens ordinaires, pour juste se pr\u00e9cipiter vers cet enjeu infini.<\/span><\/p>\n

Donc, pour l’anecdote\u00a0: un de mes amis a pu interviewer de nombreux dirigeants de grandes entreprises sp\u00e9cialis\u00e9es dans l\u2019IA. Vraiment ceux du sommet. Il vient de rentrer et voici ce qu’il nous a racont\u00e9, \u00e0 moi et \u00e0 quelques-uns de nos amis :<\/span><\/p>\n

\u00ab \u00c0 la fin, un tas de gens de la Tech \u00e0 qui je parle, quand je les asticote assez fort sur \u00ab\u00a0qu’est-ce qui vous pousse \u00e0 faire \u00e7a\u00a0\u00bb, se retranchent derri\u00e8re premi\u00e8rement, le d\u00e9terminisme ; deuxi\u00e8mement, le remplacement in\u00e9vitable de la vie biologique par la vie num\u00e9rique ; et troisi\u00e8mement, que c’est de toute fa\u00e7on une bonne chose. Au fond, c\u2019est un d\u00e9sir \u00e9motionnel de rencontrer et de parler avec l\u2019entit\u00e9 la plus intelligente qu\u2019ils aient jamais imagin\u00e9e. Et ils ont cette intuition, quasi religieuse et li\u00e9e \u00e0 leur ego, que, d’une mani\u00e8re ou d’une autre, ils en feront partie. Il est grisant d\u2019allumer un incendie excitant. Ils sentent que, de toute fa\u00e7on, ils mourront, et donc, ils pr\u00e9f\u00e8rent l\u2019allumer et voir ce qui se passe. \u00bb<\/strong><\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

STEVEN BARTLETT :<\/strong> C’est exactement comme \u00e7a qu’on peut d\u00e9crire ces conversations priv\u00e9es.<\/span><\/p>\n

 <\/p>\n

TRISTAN HARRIS :<\/strong> Est-ce que \u00e7a ne correspond pas \u00e0 ce que vous avez ? Et c’est justement \u00e7a. Les gens peuvent entendre \u00e7a et se dire : \u00ab \u00c7a a l’air ridicule \u00bb, mais si vous\u2026<\/span><\/p>\n

 <\/p>\n

STEVEN BARTLETT :<\/strong> \u00c7a me donne la chair de poule parce que\u2026 c’est la description parfaite. Surtout la partie o\u00f9 ils pensent qu’ils vont mourir de toute fa\u00e7on.<\/span><\/p>\n

 <\/p>\n

TRISTAN HARRIS\u00a0:<\/strong> Exactement. Et pire que \u00e7a. Certains d\u2019entre eux pensent que s\u2019ils parvenaient \u00e0 r\u00e9ussir, ils pourraient r\u00e9ellement vivre \u00e9ternellement, puisque si l\u2019IA ma\u00eetrisait parfaitement le langage de la biologie, elle serait capable d\u2019inverser le processus de vieillissement et de gu\u00e9rir toutes les maladies. D\u2019o\u00f9 cette id\u00e9e : \u00ab Et moi je serais un dieu. \u00bb<\/span><\/p>\n

Et je vais vous dire\u2026 vous et moi connaissons tous les deux des personnes qui ont eu des conversations en priv\u00e9 avec ces gens. Eh bien, l\u2019une d\u2019entre elles, que j\u2019ai entendue de la bouche d\u2019un des cofondateurs d\u2019une des plus puissantes de ces entreprises, concernait le sc\u00e9nario suivant : \u00ab\u00a0S\u2019il y avait 80 % ou 20 % de chances que tout le monde meure et soit an\u00e9anti par la tentative, mais 80 % de chances que nous parvenions \u00e0 l\u2019utopie\u00a0\u00bb, a-t-il dit, \u00ab\u00a0Eh bien, je passerais clairement \u00e0 la vitesse sup\u00e9rieure et je viserais l\u2019utopie. \u00bb Compte tenu d\u2019une probabilit\u00e9 de 20 %.<\/span><\/p>\n

 <\/p>\n

STEVEN BARTLETT :<\/strong> C\u2019est dingue\u00a0!<\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

TRISTAN HARRIS :<\/strong> Ces types doivent comprendre que personne n’a le droit de prendre une d\u00e9cision pareille \u00e0 ma place et \u00e0 celle de ma famille. Nous n\u2019avons pas donn\u00e9 notre accord pour que six gugusses prennent cette d\u00e9cision au nom de 8 milliards de personnes. Il faut cesser de faire comme si c’\u00e9tait acceptable ou normal. Ce n’est pas norma, ni acceptable. Et si cela se produit, s’ils s’en tirent \u00e0 bon compte, ce sera uniquement parce que la plupart des gens ne savent tout simplement pas ce qui se passe dans la r\u00e9alit\u00e9 o\u00f9 ils vivent. Mais je suis curieux de savoir : qu’en pensez-vous ?<\/span><\/p>\n

 <\/p>\n

STEVEN BARTLETT :<\/strong> Ce que je peux dire, c’est que tout ce que vous venez de raconter surtout la derni\u00e8re partie sur la r\u00e8gle des 80\/20 %, correspond presque mot pour mot \u00e0 ce que m\u2019a dit un de mes amis, homme tr\u00e8s comp\u00e9tent et qui a tr\u00e8s bien r\u00e9ussi, responsable de la cr\u00e9ation de certaines des plus grandes entreprises au monde, alors qu\u2019il \u00e9voquait une conversation avec le fondateur de ce qui est peut-\u00eatre la plus grande entrepr<\/span>ise d\u2019IA au monde. Et ce qui m\u2019a le plus choqu\u00e9, c’est que \u00e7a ait \u00e9t\u00e9 dit de mani\u00e8re si parfaitement d\u00e9sinvolte.<\/span><\/p>\n

 <\/p>\n

TRISTAN HARRIS :<\/strong> Oui. Il n’y a pas mati\u00e8re \u00e0 d\u00e9sinvolture du tout. Et c\u2019est bien ce que j\u2019avais entendu dire de cette situation. Comme s\u2019il s\u2019agissait d\u2019un fait av\u00e9r\u00e9. \u00ab\u00a0Bof, c’est facile. Ouais, bien s\u00fbr que je le ferais, je tenterais le coup, je jetterais les d\u00e9s et j’attendrais pour voir…\u00a0\u00bb<\/span><\/p>\n

Et m\u00eame Elon Musk a dit\u2026 il a vraiment dit, en citant ces m\u00eames chiffres, dans une interview avec Joe Rogan\u2026 Et si vous \u00e9coutez attentivement, quand il dit : \u00ab J\u2019ai d\u00e9cid\u00e9 que je pr\u00e9f\u00e9rais \u00eatre l\u00e0 quand tout \u00e7a arrivera\u2026 si tout part en vrille\u2026 j\u2019ai d\u00e9cid\u00e9 que dans ce pire des cas, je pr\u00e9f\u00e9rerais \u00eatre l\u00e0. \u00bb, \u00e7a revient \u00e0 justifier notre course au suicide collecti.<\/span><\/p>\n

Maintenant, les gens ne doivent pas croire qu\u2019il faille \u00eatre un mordu de la scince-fiction pour se pr\u00e9occuper de l\u2019IA. Esp\u00e9rons m\u00eame que nous pourrons bient\u00f4t nous entretenir s\u00e9rieusement des nombreux autres risques auxquels nous sommes d\u00e9j\u00e0 confront\u00e9s.<\/span><\/p>\n

 <\/p>\n

 <\/p>\n

La transformation d\u2019Elon\u00a0: De la mise en garde \u00e0 la course.<\/span><\/p>\n

 <\/p>\n

 <\/p>\n

STEVEN BARTLETT :<\/strong> Je trouve particuli\u00e8rement int\u00e9ressant le cas d\u2019Elon parce que, ces dix derni\u00e8res ann\u00e9es, il a \u00e9t\u00e9 cette voix si difficile \u00e0 croire qui disait \u00e0 propos de l\u2019IA qu\u2019elle repr\u00e9sentait un \u00e9norme risque d\u2019extinction de l\u2019esp\u00e8ce.<\/span><\/p>\n

 <\/p>\n

TRISTAN HARRIS :<\/strong> Il a \u00e9t\u00e9 le premier \u00e0 parler des risques de l\u2019IA. Il disait : \u00ab Elle est plus dangereuse que les armes nucl\u00e9aires.\u00bb. \u00a0Il disait \u00ab\u00a0Essayez d’amener les gens \u00e0 cesser cette recherche. C\u2019est un appel au D\u00e9mon \u00bb. Ce sont ses mots, pas les miens. Nous ne devrions pas faire \u00e7a.<\/span><\/p>\n

Il aurait, para\u00eet-il utilis\u00e9 sa premi\u00e8re et seule rencontre avec le pr\u00e9sident Obama, en 2016, pour plaider la n\u00e9cessit\u00e9 d\u2019une r\u00e9glementation mondiale et de contr\u00f4les mondiaux sur l\u2019IA, se disant tr\u00e8s inquiet \u00e0 ce sujet.<\/span><\/p>\n

Et apr\u00e8s, ce qui s’est pass\u00e9, c\u2019est que ChatGPT est sorti et que, comme vous l’avez dit, cela a \u00e9t\u00e9 le coup de pistolet qui a donn\u00e9 le d\u00e9part de la course. Et maintenant tout le monde en fait partie et court\u2026 Elon comme les autres.<\/span><\/p>\n

 <\/p>\n

STEVEN BARTLETT :<\/strong> D\u2019abord, il a tweet\u00e9 quelque chose qui disait en substance \u00ab\u00a0Je reste incr\u00e9dule, mais je mets mon incr\u00e9dulit\u00e9 en veilleuse.\u00a0\u00bb Et dans le m\u00eame tweet, il a dit que la course \u00e9tait lanc\u00e9e.<\/span><\/p>\n

 <\/p>\n

TRISTAN HARRIS<\/strong> : \u00ab\u00a0La course est lanc\u00e9e et je vais\u2026\u00a0\u00bb\u2026<\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

STEVEN BARTLETT<\/strong> : \u00ab\u00a0\u2026 courir puisqu\u2019il faut y aller\u00a0\u00bb. Et il dit aussi\u00a0: \u00ab j\u2019ai essay\u00e9 de m\u2019y opposer pendant longtemps. J\u2019esp\u00e9rais que nous n\u2019en arriverions jamais l\u00e0\u2026 mais allons-y puisque nous y sommes.\u00a0\u00bb<\/span><\/p>\n

 <\/p>\n

TRISTAN HARRIS<\/strong> : Oui.<\/span><\/p>\n

 <\/p>\n

STEVEN BARTLETT<\/strong> : Et au moins il est honn\u00eate. Son bilan a l\u2019air honn\u00eate. \u00a0Parce que, il y a dix ans, il \u00e9tait celui qui mettait tout le monde en garde. Je me souviens de l\u2019avoir entendu en parler et\u2026 Oh\u00a0!\u2026 On dirait que c\u2019\u00e9tait il y a cent ans\u00a0! Pourquoi est-ce que nous en parlons\u00a0?<\/span><\/p>\n

 <\/p>\n

 <\/p>\n

 <\/p>\n

Les trois sc\u00e9narios\u00a0: Dieu. Empereur. Ou Extinction<\/span><\/p>\n

\u00a0<\/strong><\/span><\/p>\n

TRISTAN HARRIS<\/strong> : J’ai ressenti la m\u00eame chose, d’ailleurs. Certains pourraient penser que je suis une sorte de passionn\u00e9 d\u2019IA et que j\u2019essaie de faire monter la sauce. En fait, je ne croyais pas que l\u2019IA \u00e9tait une chose \u00e0 craindre jusqu\u2019\u00e0 ce que j\u2019aie vu o\u00f9 on allait. Mais, \u00f4 Seigneur, il y a tant de choses \u00e0 dire sur tout \u00e7a\u00a0!<\/span><\/p>\n

Donc, si on y r\u00e9fl\u00e9chit de leur point de vue, c\u2019est comme dire\u00a0que le meilleur sc\u00e9nario est\u00a0: \u00ab\u00a0Je gagne la course, je construis l\u2019IA en premier, je l\u2019aligne et je la soumets \u00e0 contr\u00f4le,\u00a0 je ne lui laisse pas faire n\u2019importe quoi. Elle ne d\u00e9truira pas l\u2019humanit\u00e9 et restera maitrisable. Autrement dit, je veux \u00eatre Dieu et empereur du monde.<\/span><\/p>\n

Deuxi\u00e8me sc\u00e9nario, elle n\u2019est pas contr\u00f4lable, mais elle est align\u00e9e. J’ai donc construit un Dieu et j’en ai perdu le contr\u00f4le. Il dirige le spectacle. C\u2019est lui qui choisir ce qui se passe, Cela finit en empoignade g\u00e9n\u00e9rale\u00a0: tout le monde rivalise avec tout le monde sur tout. Ce n\u2019est pas un r\u00e9sultat aussi grave qu\u2019on pourrait le croire.<\/span><\/p>\n

Troisi\u00e8me sc\u00e9nario\u00a0: elle n\u2019est pas align\u00e9e, elle n\u2019est pas contr\u00f4lable, et elle \u00e9limine tout le monde. Et cela devrait \u00eatre d\u00e9motivant pour quelqu\u2019un comme Elon par exemple. Mais ceux qui ont choisi ce sc\u00e9nario ont donn\u00e9 naissance au Dieu num\u00e9rique qui a remplac\u00e9 toute l\u2019humanit\u00e9.<\/span><\/p>\n

Ceci est vraiment important \u00e0 comprendre parce que\u2026 \u00a0si vous prenez les armes nucl\u00e9aires par exemple, le risque d\u2019une guerre nucl\u00e9aire est un r\u00e9sultat \u00e0 perte assur\u00e9e. Tout le monde a int\u00e9r\u00eat \u00e0 l\u2019\u00e9viter. Et je le sais, vous le savez, je sais que nous voulons tous les deux \u00e9viter cela. Cela nous motive donc \u00e0 nous entendre pour avoir un trait\u00e9 de non-prolif\u00e9ration nucl\u00e9aire.<\/span><\/p>\n

Mais avec l’IA du pire sc\u00e9nario o\u00f9 tout le monde est an\u00e9anti, les choses sont un peu diff\u00e9rentes pour ceux qui en ont pris la d\u00e9cision. Parce que si je suis le PDG de DeepSeek et si je fabrique cette IA qui \u00e9limine l\u2019humanit\u00e9 y compris moi-m\u00eame parce que c\u2019\u00e9tait in\u00e9vitable, c\u2019est quand m\u00eame moi qui ai construit le Dieu num\u00e9rique qui a \u00e9limin\u00e9 l\u2019esp\u00e8ce humaine.\u00a0 Il y a l\u00e0-dedansl\u2019intervention d\u2019une sorte d\u2019ego.<\/span><\/p>\n

 <\/p>\n

 <\/p>\n

 <\/p>\n

Et le Dieu que j’ai construit parle chinois au lieu d\u2019anglais.<\/span><\/p>\n

 <\/p>\n

STEVEN BARTLETT<\/strong> : C\u2019est le moment o\u00f9 l\u2019ego devient religieux.<\/span><\/p>\n

 <\/p>\n

TRISTAN HARRIS<\/strong> : C\u2019est le c\u00f4t\u00e9 religieux de l\u2019ego.<\/span><\/p>\n

 <\/p>\n

STEVEN BARTLETT<\/strong> : C\u2019est exactement ce qu\u2019il est. Et par cet ego, je serai, en quelque sorte, transcendant.<\/span><\/p>\n

 <\/p>\n

TRISTAN HARRIS<\/strong>\u00a0: Vous remarquerez que tout ceci d\u00e9marre par la croyance que c\u2019est in\u00e9vitable.<\/span><\/p>\n

 <\/p>\n

STEVEN BARTLETT<\/strong> : Ouais.<\/span><\/p>\n

 <\/p>\n

 <\/p>\n

 <\/p>\n

Briser la logique de l\u2019in\u00e9vitabilit\u00e9<\/span><\/p>\n

 <\/p>\n

 <\/p>\n

STEVEN BARTLETT<\/strong>\u00a0:\u00a0 C\u2019est comme\u2026 Est-ce in\u00e9vitable\u00a0?<\/span><\/p>\n

 <\/p>\n

TRISTAN HARRIS<\/strong> : Il est important de noter que si vous croyez que c\u2019est, si tous ceux qui le construisent croient que c\u2019est in\u00e9vitable et si les investisseurs qui financent la recherche croint que le r\u00e9sultat sera in\u00e9vitable, cela co-cr\u00e9e l\u2019in\u00e9vitabilit\u00e9. Et la seule issue, ici, est de sortir de la logique de l\u2019in\u00e9vitabilit\u00e9..<\/span><\/p>\n

Parce que si nous nous dirigeons vers notre suicide collectif \u2013 dont je ne sais pas vous, mais moi, je n\u2019en veux pas \u2013 et si tous ceux qui aiment la vie, en regardant le matin leurs enfants, se disent \u00ab\u00a0je veux que les choses que j\u2019aime et qui sont sacr\u00e9es partout dans le monde continuent\u00a0\u00bb, je sais que c\u2019est ce que tout le monde veut.<\/span><\/p>\n

Et si la seule chose qui nous emp\u00eache de nous ancrer fermement \u00e0 cette d\u00e9cision est la croyance que l\u2019issue sinistre qui nous est promise est in\u00e9vitable, parce que des gens \u00e0 l\u2019go sur-dimensionn\u00e9 malade nous l\u2019ont dit, tout ce qu\u2019il nous reste \u00e0 faire, c\u2019est d\u2019y r\u00e9sister.<\/span><\/p>\n

Pour moi, l\u2019objectif de cette conversation est de convaincre les gens que l\u2019issue vers laquelle on se dirige est une tr\u00e8s mauvaise issue, dont en fait personne ne veut. Nous devons mettre la main sur le volant du v\u00e9hicule et le piloter nous-m\u00eames vers un avenir diff\u00e9rent. Parce nous n\u2019avons en aucune mani\u00e8re besoin d\u2019une course \u00e0 des IA incontr\u00f4lables, inscrutables et toutes-puissantes, \u00a0qui, soit dit en passant, font d\u00e9j\u00e0, dans leur \u00e9tat actuel, tous les pires trucs de science-fiction que nous pensions n\u2019exister que dans les films.<\/span><\/p>\n

Comme faire chanter les gens, comploter et mentir et tromper ou copier son propre code pour le garer avc ceux des prot\u00e9g\u00e9s. Ce que nous pensions n’exister que dans les films de science-fiction est en train de se produire. Et cela devrait \u00eatre une preuve suffisante pour nous faire dire que nous ne voulons pas poursuivre dans la voie o\u00f9 on veut nous entra\u00eener de gr\u00e9 ou de force.<\/span><\/p>\n

 <\/p>\n

Soource\u00a0:<\/span><\/p>\n

Transcription originelle en anglais\u00a0:<\/a>\u00a0 (il faut cliquer sur continue reading<\/em>)<\/span><\/p>\n

https:\/\/singjupost.com\/technology-ethicist-tristan-harris-on-the-diary-of-a-ceo-podcast-transcript\/<\/a><\/span><\/p>\n

 <\/p>\n

 <\/p>\n

 <\/p>\n

\"\"<\/a> \"\"<\/a> \"\"<\/a><\/p>\n

 <\/p>\n

 <\/p>\n

 <\/p>\n

Et nous, podcasteurs lambdas, nous abandonnons ici M. Harris et son intervieweur.<\/span><\/p>\n

 <\/p>\n

 <\/p>\n

 <\/p>\n

\"\"<\/a><\/p>\n

 <\/p>\n

 <\/p>\n

Pourquoi\u00a0?<\/span><\/p>\n

Parce que, d\u2019une part, Tristan Harris, technicien et pas \u00e9crivain ni orateur, ni scientifique, ni politique, a beaucoup de mal \u00e0 s\u2019exprimer d\u2019une mani\u00e8re concise, claire et directe.<\/span><\/p>\n

Parce qu\u2019il n\u2019est pas difficile \u00e0 traduite mais \u00e0 comprendre.<\/span><\/p>\n

Parce qu\u2019il c\u00e8de au p\u00e9ch\u00e9 mignon de la plupart des Am\u00e9ricains, qui adorent s\u2019entre-analyser, psychologiquement ou psychiatriquement.<\/span><\/p>\n

Et parce que, \u00e0 partir de ses trois sc\u00e9narios, principalement, il nous semble qu\u2019il se perd dans les m\u00e9andres de cerveaux qu\u2019il dit lui-m\u00eame malades, et que ce n\u2019est pas le but r\u00e9el de sa d\u00e9marche.<\/span><\/p>\n

Il nous para\u00eet \u00eatre un honn\u00eate homme et il dit lui-m\u00eame qu\u2019il est l\u00e0 pour tirer la sonnette d\u2019alarme, pour dire aux autres humains \u00ab\u00a0Attention\u00a0! Nous faisons face \u00e0 un tr\u00e8s grand danger et il importe de nous r\u00e9veiller\u00a0\u00bb.<\/span><\/p>\n

 <\/p>\n

 <\/p>\n

L\u00e0-dessus, nous sommes bien d\u2019accord.<\/span><\/p>\n

Mais nous croyons inutile de nous fourvoyer dans l\u2019analyse, par un non sp\u00e9cialiste, des cerveaux tar\u00e9s qui sont un peu les rats transporteurs de la peste, pas son origine.<\/span><\/p>\n

Arriv\u00e9s \u00e0 ce stade, il vaut mieux se mettre \u00e0 analyser la provenance r\u00e9elle du danger, qui ne r\u00e9side pas dans l\u2019ego surdimensionn\u00e9 de six ou sept personnes, m\u00eame archi-milliardaires.<\/span><\/p>\n

D\u2019autres avant ceux-l\u00e0 ont nourri les m\u00eames fantasmes de toute-puissance et se sont cass\u00e9 la figure sur l\u2019illusion qu\u2019\u00e9taient leurs projets.<\/span><\/p>\n

La culture de Tristan Harris en histoire du monde est nulle, comme celle de la plupart de ses compatriotes m\u00eame tr\u00e8s intelligents. Cette ignorance pharamineuse est le r\u00e9sultat de deux si\u00e8cles et demi d\u2019efforts pour les ch\u00e2trer dev toute r\u00e9elle connaissance.<\/span><\/p>\n

Il est donc \u00e0 la fois plus rationnel et plus urgent de remonter aux sources de cette interminable mauvaise action et de l\u2019identifier. Parce que c\u2019est elle qu\u2019il faut combattre. Pas une demi-douzaine de milliardaires.<\/span><\/p>\n

 <\/p>\n

 <\/p>\n

C\u2019est votre constitution, andouilles\u00a0!<\/span><\/p>\n

Nous l\u2019avons dit ici \u00e0 plusieurs reprises et nous n\u2019allons pas y revenir en d\u00e9tail.<\/span><\/p>\n

Qu\u2019on nous permette seulement de r\u00e9p\u00e9ter ceci\u00a0:<\/span><\/p>\n

 <\/p>\n