Tristan Harris, spécialiste de l’éthique technologique, invité du podcast « The Diary Of A CEO » (Le journal d’un PDG) (transcription)

 

 

Source : https://singjupost.com/technology-ethicist-tristan-harris-on-the-diary-of-a-ceo-podcast-transcript/ 

 

 

Pangambam S  –– 27 novembre 2025

 

Traduction : c.l. pour L.G.O.

 

 

 

 

 

 

Voici la transcription intégrale de l’entretien de Tristan Harris, ancien spécialiste de l’éthique du design chez Google, dans le podcast « The Diary Of A CEO », animé par Steven Bartlett, intitulé « Il nous reste deux ans avant que tout ne change. Nous devons commencer à manifester ! », diffusé le 27 novembre 2025.

 

 

Tristan Harris, ancien spécialiste de l’éthique du design chez Google, se joint à Steven Bartlett pour lancer son avertissement le plus sévère à ce jour : la course mondiale à l’IA générale (AGI) est menée par un petit groupe de PDG qui, en privé, acceptent des risques sérieux d’extinction de l’espèce, tout en ne vendant publiquement que de l’abondance et du buzz. Des systèmes d’IA capables dès à présent de détecter des failles logicielles et de faire chanter des êtres humains, à la perspective de pertes d’emplois massives et d’une recherche en IA « hors de contrôle » d’ici 2027, Harris explique pourquoi il estime que les deux prochaines années seront décisives — et pourquoi les citoyens doivent commencer à riposter dès maintenant s’ils veulent un avenir à visage humain.

Qui est Tristan Harris ?

 

 

STEVEN BARTLETT : Tristan, je pense que ma première question, et peut-être la plus importante, est la suivante : nous allons parler aujourd’hui d’intelligence artificielle et de technologie en général, mais quel est votre rapport à ce sujet ?

 

TRISTAN HARRIS : J’ai participé à un programme à Stanford appelé le « Mayfield Fellows Program », qui recrutait des étudiants en ingénierie pour leur enseigner l’entrepreneuriat. En tant qu’informaticien, je ne connaissais rien à l’entrepreneuriat, mais on vous y mettait en binôme avec des investisseurs en capital-risque, on vous y offrait un accompagnement, et ce programme comptait de nombreux anciens élèves très influents. Le cofondateur d’Asana et les cofondateurs d’Instagram ont tous deux participé à ce programme.

Et cela nous a placés en quelque sorte au sein d’un groupe de personnes qui se sont retrouvées, en fin de compte, au cœur de ce qui allait envahir l’environnement psychologique du monde entier, à savoir les réseaux sociaux.

Dans ce cadre, j’ai lancé ma propre entreprise technologique, appelée Apture. Nous avons essentiellement créé ce petit widget pour aider les utilisateurs à trouver davantage d’informations contextuelles sans quitter le site web sur lequel ils se trouvaient. C’était un produit vraiment génial, qui visait à approfondir la compréhension des gens. Et si je me suis lancé dans le secteur des technologies, c’est parce que je pensais que la technologie pouvait être une force au service du bien public dans le monde. C’est pour cette raison-là que j’ai créé mon entreprise. 

Et puis, cette expérience m’a en quelque sorte fait prendre conscience qu’en fin de compte, ces éditeurs d’actualités qui utilisaient notre produit ne se souciaient que d’une seule chose : est-ce que cela augmentait le temps passé sur leur site web, le nombre de visiteurs et l’attention qu’ils y portaient ? Parce que plus de visiteurs signifiait plus de revenus.

Et j’étais en quelque sorte tiraillé entre deux sentiments : d’un côté, je pensais agir pour aider tout le monde, mais en réalité, j’étais jugé uniquement à l’aune de ce qui retient l’attention des gens. C’est la seule chose qui compte pour évaluer mon travail.

 

 

L’histoire d’Instagram et les Bonus pervers

 

Et j’ai vu ce conflit se jouer parmi mes amis qui ont lancé Instagram, car ils s’étaient lancés dans cette aventure parce qu’ils voulaient que les gens partagent de petits moments de leur vie. « Voici une photo de mon trajet à vélo jusqu’à la boulangerie à San Francisco ». C’est le genre de photos que Kevin Systrom publiait quand il venait de lancer l’application. J’ai sans doute fait partie de ses cent premiers utilisateurs.

Et plus tard, on a vu comment ce genre de produits simples, partis d’une intention louable et positive, se sont en quelque sorte fait aspirér jusqu à faire partie de ces incitations perverses.

Et c’est ainsi que Google a racheté ma société, Apture. Je me suis retrouvé là-bas et j’ai rejoint l’équipe Gmail. Je travaillais avec ces ingénieurs qui concevaient l’interface de messagerie sur laquelle les gens passent quotidiennement des heures. Et puis, un jour, un des ingénieurs est venu me voir et m’a dit : « Et si on faisait en sorte que ton téléphone vibre à chaque fois que tu reçois un e-mail ? »

Et il a posé cette question avecnonchalance comme si ce n’était pas grand-chose. Et d’après mon expérience, je me suis dit : « Oh mon Dieu, tu es sur le point de bouleverser l’expérience psychologique de milliards de personnes avec leur famille, leurs amis,à un  dîner, au milieu d’une soiré en amoureux… Tout à coup, les téléphones des gens vont se mettre à vibrer, à afficher des notifications d’e-mails, et toi, tu poses cette question comme si c’était une question de rien du tout »

 

 

Le diaporama qui a tout changé

 

Et cela a commencé à m’inquiéter. Je vois que vous avez un diaporama là. Oui, en effet. Il explique en gros comment Google, Apple et les réseaux sociaux créaient un environnement psychologique susceptible de corrompre et de fragmenter l’attention collective de l’humanité à l’échelle mondiale.

Et j’ai dit en gros que je devais préparer un diaporama. Une présentation d’environ 130 pages. C’était en quelque sorte un message adressé à l’ensemble de l’entreprise Google, pour dire que nous devions faire preuve d’un maximum de prudence et que nous avions une responsabilité morale dans la manière dont nous orientions l’attention mondiale de l’humanité.

 

STEVEN BARTLETT : Le diaporama que j’ai imprimé d’après ce qu’avait trouvé mon équipe de recherche est intitulé « Appel pour minimiser la distraction et permettre de soutenir l’attention des utilisateurs, par un PM et un entrepreneur concernés ». PM signifiant chef de projet.

 

TRISTAN HARRIS : Chef de projet, ouais.

 

STEVEN BARTLETT : Comment la chose a-t-elle été accueillie par Google ?

 

TRISTAN HARRIS : J’étais très nerveux en fait (…), j’avais juste l’impression qu’il y avait une conversation qui n’arrivait pas et j’ai envoyé ça à environ 50 personnes qui étaient de mes amis, juste pour avoir des commentaires.

Et quand je suis venu travailler le lendemain, dans Diaporamas Google, en haut à droite, il y avait «150 ». C’est le chiffre qui vous indique le nombre de téléspectateurs simultanés. Il y avait donc 130 spectateurs qui regardaient mon appel en même temps.. Et plus tard ce jour-là, les 150 sont passés à 500 téléspectateurs simultanés.

Et donc, il s’était répandu viralement dans toute l’entreprise. Et des gens de toute l’entreprise m’ont envoyé des messages qui disaient: « C’est un problème énorme. Je suis tout à fait d’accord, nous devons faire quelque chose. »²

 

 

Comment je suis devenu éthicien en design de Google

 

Et donc, au lieu de me faire virer, je suis resté pour devenir éthicien du design, c’est-à-dire étudier comment concevoir des programmes de manière à équilibrer l’attention collective et les flux d’information de l’humanité d’une manière qui ne cause pas tous ces problèmes.

Because what was sort of obvious to me then, and that was in 2013, is that if the incentive is to maximize eyeballs and attention and engagement, then you’re incentivizing a more addicted, distracted, lonely, polarized, sexualized breakdown of shared reality society.

Parce que ce qui était évident pour moi à l’époque, et c’était en 2013, c’est que si l’incitation était de maximiser le nombre de spectateurs simultanés, c’était encourager une attention plus addictive, plus distraite, plus solitaire et plus sexualisée dans une société de réalité partagée.

Parce que tous ces phénomènes sont des résultats de la maximisation.

 En 2023, c’était un peu comme regarder une catastrophe ferroviaire au ralenti. On pouvait y voir une espèce de mythe selon lequel on ne peut pas prédire l’avenir, que la technologie est capable d’aller dans n’importe quelle direction. Et ce qui était en cause, c’étaient les possibilités d’orientation d’une nouvelle technologie.

Je souhaitais que les gens se rendent compte de ce qui était probable. Qu’ils sachent que si vous savez quelles sont les incitations qui motivent les comportements, vous savez plus ou moins ce que l’avenir vous réserve, vers quoi vous vous dirigez.

Et c’est cette façon de présenter les choses qui a, en quelque sorte donné le coup d’envoi

 

Des résaux sociaux à l’intelligence artificielle.

 

STEVEN BARTLETT :  Beaucoup de gens vous connaissent depuis votre commentaire sur Netflix : Le dilemme social, qui a été un grand moment et un grand sujet de conversation dans le monde. Mais, depuis, un nouvel extraterrestre est entré dans le tableau. Il y a un nouveau protagoniste dans l’histoire, qui est l’essor de l’intelligence artificielle. Quand avez-vous commencé à… dans Le dilemme social, vous parlez beaucoup d’IA et d’algorithmes, mais quand avez-vous…

 

TRISTAN HARRIS : D’un autre type d’IA. Nous avions pris l’habitude d’appeler IA ce qui, dans le sillage des réseaux sociaux, était en quelque sorte le premier contact de l’humanité avec une espèce d’IA étriquée et mal alignée qui est devenue un vrai voyou

Parce que si vous y pensez, vous êtes là, vous ouvrez TikTok, vous voyez une vidéo et vous vous dites que vous regardez juste une vidéo. Mais quand vous faites glisser votre doigt et qu’il vous montre la prochaine vidéo, vous venez, à ce moment précis, d’activer l’un des plus grands superordinateurs du monde, qui braque sur votre cerveau ce que 3 milliards d’autres primates sociaux humains sont en train de regarder en même temps que vous.

Et qui sait bien avant vous laquelle de ces vidéos est la plus susceptible de vous pousser à faire défiler la suite. Ce qui équivaut à une prédiction. Donc, c’est de l’IA qui fait juste une prédiction sur la vidéo qu’il convient de vous recommander.  Mais Twitter fait la même chose en choisisssant quel tweet devrait selon lui vous être montré. Instagram fait exactement pareil en vous poussant à choisir quelles photos ou quelles vidéos vous devriez, dans son intérêt, regarder.

Et donc, tout ça est de l’IA étriquée et mal alignée qui ne fait qu’optimiser une seule chose : vous pousser à faire défiler ce qu’on veut vous faire absorber. Et cela a suffi à détruire et à briser la démocratie et à créer la génération la plus anxieuse et la plus déprimée de toute notre époque, rien qu’avec cet embryon d’IA pour infantiles.

 

 

Premier contact de l’humanité avec l’IA

 

Et les gens ne l’ont même pas remarqué parce qu’on appelait ça réseaux sociaux plutôt qu’IA. Mais c’était le début, nous l’avions appelé, dans cette conférence sur le dilemme de l’IA que mon cofondateur et moi avons donnée « le premier contact de l’humanité avec l’IA » parce qu’il s’agissait seulement d’une toute petite IA étriquée.

Et ce que ChatGPT représente, c’est cette toute nouvelle vague d’IA générative qui est une bête totalement différente parce qu’elle parle en langues, ce qui est le système au moyen duquel l’espèce humaine fonctionne

Si vous y réfléchissez, ça fonctionne grâce à des codes, ça fonctionne grâce à des textes, ça fonctionne grâce à tout ce qu’il y a sur wikipedia, ça fonctionne grâce à Reddit, ça fonctionne grâce à tout, toute la loi, toute la religion. Et tout ça, toute cette matière énorme et multiforme, est aspiré dans ce cerveau numérique qui a des propriétés uniques. Et c’est avec ça que nous vivons, avec ChatGPT.

 

 

Le langage : système par lequel fonctionne l’humanité

 

STEVEN BARTLETT :  Je crois que c’est un point capital et je me souviens d’avoir regardé votre conversation à ce sujet et avoir changé de paradigme en réalisant à quel point le langage est le centre et le noyau de tout ce que je fais chaque jour.

 

TRISTAN HARRIS : Oui, exactement. C’est comme si nous devions d’abord l’établir. Pourquoi le langage est-il si central ? Un code est un langage. Donc, tout le code qui gère l’infrastructure numérique dont nous nous servons est un langage. Le droit est la langue, toutes les lois qui ont jamais été écrites sont le langage. La biologie est un langage, l’ADN aussi. La musique est une sorte de langage. Les vidéos sont un type de langage de dimension supérieure.

Et cette nouvelle génération d’IA, née la technologie appelée Transformers que Google a faite en 2017 a consisté àtout traiter comme du langage. Et c’est ainsi que nous avons ChatGPT.

“Write me a 10-page essay on anything” and it spits out this thing. Or “ChatGPT, find something in this religion that’ll persuade this group of the thing I want them to be persuaded by,” that’s hacking language because religion is also language.

« Écris-moi un essai de 10 pages sur n’importe quoi »

et il crache ce qu’on lui demande. Ou « ChatGPT trouve quelque chose, dans cette religion, qui persuadera ce groupe de ce dont je veux qu’il soit persuadé », qui revient à pirater du langage parce que la religion est aussi un langage. .

 

 

L’IA peut pirater le système opérationnel de l’humanité.

 

Et donc cette nouvelle IA à laquelle nous avons affaire peut pirater le système d’exploitation de l’humanité. Il peut pirater le code et trouver des vulnérabilités dans les logiciels. Les récentes IA d’aujourd’hui, juste au cours de l’été, ont pu trouver 15 vulnérabilités dans les logiciels open source sur GitHub.

Donc, il peut simplement pointer vers GitHub. GitHub étant ce site qui héberge essentiellement tout le code open source du monde. C’est un peu comme Wikipédia pour les codeurs. Il a tout le code qui a déjà été écrit, qui est publiquement et ouvertement accessible et vous pouvez le télécharger pour vous n’avoir pas à écrire votre propre système de reconnaissance faciale, il vous suffit de télécharger celui qui existe déjà. 

Ainsi, GitHub fournit en quelque sorte au monde toute cette infrastructure numérique gratuite, et les nouvelles IA qui existent aujourd’hui et qui peuvent être pointées vers GitHub, ont déjà trouvé 15 vulnérabilités à partir de zéro, qui n’avaient pas été exploitées auparavant.

Donc, si vous imaginez cela, maintenant, appliqué au code qui exploite notre infrastructure d’eau, notre infrastructure électrique, etc., nous libérons l’IA dans tout le monde capable de parler et nous lui permettons de pirater le système d’exploitation dela totalité de notre monde.

Et cela nécessite un nouveau niveau de discernement et d’attentionquant à la façon dont nous faisons cela, parce qu’il nous faut absolument protéger les parties centrales de la société que nous voulons protéger avant qu’arrive tout ce qui est en train de se passer.

 

 

La voix et la confiance à l’âge de l’IA

 

STEVEN BARTLETT : J’imagine… surtout quand vous pensez à la façon dont la voix est centrale pour la sauvegarde d’une grande partie de nos vies. Ma relation avec ma petite amie  repose sur nos voix, non ?

 

TRISTAN HARRIS : Exacttement

 

STEVEN BARTLETT : Je l’appelle pour lui dire quelque chose. Ma banque :  je les appelle et je leur dis quelque chose.

 

TRISTAN HARRIS : Exactement

 

STEVEN BARTLETT :  Et ils me demandent un tas de codes ou un mot de passe ou dieusait quoi. Et tout ceci nous ramène à ce que vous disiez sur le langage qui est que toute ma vie est en réalité protégée par mes communications avec d’autres personnes.

 

TRISTAN HARRIS : Et d’une manière générale, vous avez confiance quand vous décrochez le téléphone : c’est une vraie personn qui vous parle. Il y a deux jours, j’ai eu au bout du fil la mère d’une de mes proches amies qui m’appelait je ne sais d’où, et qui m’a dit : «Tristan, ma fille vient de  m’appeler en pleurant pour me dire que  quelqu’un l’avait prise en otage et voulait de l’argent.»

Et j’ai aussitôt pensé oh, mon Dieu, c’est une arnaque à l’IA.

La mère de mon amie est à San Francisco et elle connaît bien ce genre de choses, pourtant, elle n’a pas compris que c’était une arnaque. Et pendant un moment, j ‘ai été très inquiet, et j’ai dû rechercher sa fille à la trace, découvrir chez quels autres amis elle se trouvait et m’assurer qu’elle allait bien.

Et quand vous avez des manipulateurs d’IA qui peuvent parler la langue de n’importe qui, il leur fautdésormais moins de trois secondes pour s’emparer de votre voix réelle, pour la synthétiser et pour parler avec votre voix au point que même votre mère s’y trompera.  Encore une fois, c’est une nouvelle vulnérabilité qui affecte maintenant toute la société à cause de l’IA.

 

 

La course à l’AGI

 

STEVEN BARTLETT : Donc ChatGPT a en quelque sorte tiré le coup de départ de cette course. Et, il semble que toutes les autres grandes entreprises technologiquesse soient empressées d’investir d’indécentes sommes d’argent pour participer à cette course à l’IA. Et ils courent derrière cette chose appelée AGI, dont nous entendons de plus en plus parler.

 

TRISTAN HARRIS :  Oui.

 

STEVEN BARTLETT : Qu’est-ce que l’AGI ? Et en quoi cela diffère-t-il de ce dont je me sers en ce moment sur ChatGPT et sur Gemini ?

 

 

La course à l’Intelligence Arificielle Générale

 

TRISTAN HARRIS : Oui, ce que les gens doivent absolument comprendre, c’est que ces compagnies ne sont pas en train de faire cette course pour fournir un chatbox aux utilisateurs. Non, ce n’est pas leur but. Si vous jetez un coup d’œil aux « Déclarations de mission »  sur le site Web d’OpenAI ou sur  tous leurs propres sites Web, la mission qu’ils se donnent est de remplacer toutes les formes de travail économique humain dans l’économie planétaire. Ce qui veut dire une IA capable de faire tout le travail cognitif, ou si on veut tout le travail de l’esprit,  ce travail pouvant être du marketing du texte, de l’illustration, de la production de vidéos, de la production de codes, bref, tout ce qu’un être humain peut faire avec son cerveau.

Ces compagnies font la course pour obtenir exactement ça : une intelligence artificielle , « généraleé » signifiant toutes les sortes de tâches cognitives. Demis Hassabis, le co-foundateurr de Google DeepMind avait coutume de dire « résolvons d’abord l’intelligence, et après, résolvons tout le reste ».

Il est important de dire pouquoi l’IA se distingue de toutes bles autres formes de technologie ? C’est parce que si je pratique une avancée dans un domaine, mettons la fuséologie, je fais des découvertes en fuséologie qui ne vont pas faire avancer la médecine biologique, ni la production d’énergie, ni la codification.Mais si je peux faire avancer l’intelligence généralisée…  Pensez à toute la science et à tout le développement technologique  de l’humanité depuis qu’elle existe…Parce que toute la science et toute la technologie sont le produit de la pensée humaine Donc, si j’arrive à automatiser l’intellifgence, je vais tout à coup obtenir une explosion des développements de la science et des technologies partout.  Ça vous paraît-il sensé ?

 

STEVEN BARTLETT : Bien sûr. Oui. C’(est la base de tout.

 

TRISTAN HARRIS : Exactement. Et c’est pourquoi il existe la croyance que si je suis le premier à y arriver, et à automatiser l’intelligence généralisée, je se’rai le propriétaire de kl’économie planétaire. Parce que tout ce qu’un petit génie humain pourrait faire dans n’importe quel domaine et qu’il faudrait lui payer, l’IA pourra le faire mieux.

Et, donc ; si je suis une compagnie. Est-ce que je veux payer un être humain qui a la sécu, quiç peut être un lanceur d’alertes, qui peut se plainde de ceci-cela, qui doit dormir de temps en temps, qui est parfois mal fichu et qui a ds problèmes de famille, ou veux-je avoir de l’IA qui travaillera pour moi 24 heures par jour, 7 jours sur 7, à une vitesse surhumaine, qui ne se plaindra jamais de rien, qui ne dénoncera jamais rien, dont il ne faudra pas partager les frais médicaux ? C’est ça qui les pousse tous à investir aussi lourdement dans l’IA plutôt que de payer des humains. Er, donc, l’AGI, Intelligence Artificielle Dénérale est plus transformative qu’aucune autre espèce de technologie que nous ayons jamais eue. Et elle est distncte.

 

 

 

Le planning vers l’AGI

 

STEVEN BARTLETT :  Avec le simple quoique énorme paquet d’argent investi dans les infrastructures,  les centres physiques de données , les puces, la puissance de calcul informatique. Croyez-vous qu’onva y arriver ? Croyez-vous qu’on va pouvoir atteindre l’AGI ?

 

TRISTAN HARRIS : Oui, je crois qu’on y arrivera. Je ne vois pas clairement combien de temps ça prendra, et je ne dis pas ça parce que je crois que les paradigmes dont nous partons vont nécessairement nous y amener. Mais je suis à San Francisco, je parle avec les gens qui travaillent dans les laboratoires d’IA. La moitié de ces gens sont des amis personnels et d’un très haut niveau.

Et la plupart des gens, dans l’industrie, croient qu’ils y arriveront d’ici les deux à dix prochaines années au plus tard. Et je pense que certaines personnes pourraient dire bof, ça ne va pas se produire tout de suite, pas la peine de s’en faure. Et si on va vers des changements aussi bouleversants plus vite que notre société n’est capable d’en affronter, tant pis

Et moi, la raison pour laquelle je me réjouissais tant de parler de tout ça aujourd’hui avec vous, c’est que je crois que les gens n’ont pas les idées bien claires sur l’IA. Ils disent (pensent) qu’elle va  tout résoudre : le cancer, le changement climatiqu, etc.. Et il y en a qui disent que ça va tout  tuer, que ce sera le Jugement Dernier et que notre espèce s’éteindra. «  Si quelqu’un fabrique ce truc, tout le monde meurt ! » Et ces conversations ne convergent pas.

And so everyone’s just kind of confused where, how can it be infinite promise and how can it be infinite peril? And what I wanted to do today is to really clarify for people what the incentives point us towards, which is a future that I think people, when they see it clearly would not want.

Et , donc, tout le monde nage un peu dans la confusion quant à savoir si la chose constitue une promesse indicible ou un péril infini. Et ce que je voulais faire aujourd’hui, c’estmettre pour les gens un peu de clarté dans  ce vers quoi ce qui les motive  nous dirige, c’est-à-dire vers un avenir que la plupart des gens, s’ils s’en doutaient, n’aimeraient pas du tout.

 

STEVEN BARTLETT : Alors, quels sont les « bonus » que poursuivent ceux qui s’y livrent et vers quel avenir nous entraînent-ils ?

L’anneau du pouvoir infini

 

TRISTAN HARRIS : Disons pour commencer que c’est, pris métaphoriquement, au sens où on l’entend dans Le seigneur des anneaux. C’est l’anneau qui crée le pouvoir infini. Parce que, si je dispose d’un AGI, je peux l’appliquer à l’avantage militaire. Je peux avoir le meilleur des planificateurs militaires, capable de vaincre tous les plans de bataille de n’importe qui. Et nous avons déjà des systèmes d’IA qui sont capables de battre Garry Kasparov aux échecs, de battre le jeu asiatique du Go, et maintenant de battre Starcrafty.

Donc, vous avez de l’IA qui bat les humains aux jeux stratéGiques. Alors, pensez à Starcraft comparé à une véritable campagne milittaire à Taïwan ou quelque chose comme ça.. Si j’ai une IA qui peut surclasseer des jeux stratégiques, elle me permettra de surclasser n’im..porte quoi. Ou prenez, par exemple, la stratégie commerciale

Si j’ai une IA qui peut faire de la stratégie commerciale, qui peut  l’appliquer aux chaînes d’approvisionnement et trouver un moyen de les améliorer et aussi de nuire à mes concurrents, non seulement jai tous mes concurrents, mais je battrai aussi sur son terrain, la concurrence en général. Si j’ai un super-programmateur, je peux concurrencer toutes les entreprises commerciales. Si j’ai un super-programmateur, je peux battre la programmation elle-même en général. De 70 à 90% des codes actuellement émis par les laboratoires d’IA sont écrits par l’IA.

 

STEVEN BARTLETT : Cela peut aussi s’appliquer à la Bourse…

 

TRISTAN HARRIS : Oui, pensons au marché boursier : si j’ai une IA qui peut mieux négocier en bourse que toutes les autres IA, car actuellement il y a vraiment des IA qui se négocient réellement en bourse. Mais si j’arrive à y faire un saut,, alors je peux consolider toute la richesse.

Si j’ai une IA qui peut faire du cyber-piratage qui est supérieure en matière de cyber-piratage, soit un gain de fonction au-dessus de ce que tout le monde peut faire, alors j’ai un avantage asymétrique sur tout le monde. En somme, l’IA est comme une pompe de puissance. Ele pompe l’avantage économique, elle pompe l’avantage scientifique et elle pompe l’avantage militaire.

C’est pourquoi les pays et les entreprises se  sont laissé entraîner dans le piège de ce qu’ils croient être une course pour y arriver en premier. Et tout ce qui est sûr d’en être une conséquence désastreuse – les pertes massives d’emplois, la hausse des prix de l’énergie, l’augmentation des émissions dangereuses, le vol de la propriété intellectuelle, les risques de sécurité collective – paraît peu de chose, en regard de l’éventualité qu’ils redoutent : « si je n’y arrive pas en premier, si d’autres y arrivent avant moi, ce sont eux qui s’empareront de l’AGI, et moi je serai pour toujours l’esclave de leur avenir ».

Et je sais que ça peut paraître fou à beaucoup de gens, mais c’est ainsi que ceux qui sont au sommet du monde de l’AGI-AI voient les choses en ce moment..

 

STEVEN BARTLETT : Et vous avez ces conversations…

TRISTAN HARRIS : Yeah, I mean, Geoff Hinton and Roman Yampolsky on and other people, and they’re saying the same thing. I think people need to take seriously that whether you believe it or not, the people who are currently deploying the trillions of dollars, this is what they believe. And they believe that it’s winner take all.

And it’s not just “first solve intelligence and use that to solve everything else,” it’s “first dominate intelligence and use that to dominate everything else.”

 

TRISTAN HARRIS : Oui, je veux dire, Geoff Hinton et Roman Yampolsky et d’autres, ils disent tous la même chose. Je crois que les gens doivent prendre tout ça au sérieux, qu’ils y croient ou non : ceux qui dépensent actuellement des milliers de milliards de dollars, c’est ce qu’ils croient. Et ils croient que le gagnant raflera tout le pot

Et leur ambition n’est pas « résoudre d’abord l’intelligence et s’en servir pour résoudre tout le reste ». Ce qu’ils veulent, et ils ne s’en cachent pas, c’est « dominer l’intelligence et s’en servir pour dominer tout le reste ».

Conversations privées c/Déclarations publiques

 

STEVEN BARTLETT : Avez-vous entendu parler de conversations privées sur ce sujet de gens qui sont dans l’industrie ?

 

TRISTAN HARRIS : Absolument. Je pense que ce que la plupart des gens ne comprennent pas bien, c’est que ce qu’on dit en public n’a rien à voir avec ce qu’on s’est dit entre soi en

privé. Vous devez savoir ça aussi bien que moi.

 

STEVEN BARTLETT :  Oui, j’en suis tout à fait conscient. Que vous disent-ils à vous ?

 

TRISTAN HARRIS : Vous savez, ce ne sont pas toujours des choses que les gens me disent directement.  Parfois, il y a eu une étape intermédiaire. En général, c’est quelqu’un en qui j’ai confiance et que je connais depuis longtemps qui me dit « à une table de restaurant, j’ai rencontré ce PDG, et nous nous sommes mis à parler de l’avenir de l’IA ». Le PDG en question dirige une des plus grandes entreprises d’IA au monde.

Et alors, ils parlent avec moi de l’IA et ils me disent à quoi ils croient que l’avenir va ressembler. Mais ensuite, quand je les vois sur YouTube ou sur des podcasts, ils parlent du règne de l’abondance et disent que nous allons guérir le cancer.

 

STEVEN BARTLETT : Le cancer guéri… les salaires au plafond pour tout le monde… Oui, tout ça.

 

TRISTAN HARRIS : Personne ne devra plus jamais travailler.

 

STEVEN BARTLETT : Mais ensuite, en privé, ce que j’entends est exactement ce que vous avez dit, et ça me terrifie. Depuis la dernière fois que nous avons eu une conversation à propos de l’IA sur ce podcastj’ai parlé avec un de mes amis, qui a très bien réussi, qui est milliardaire, au sujet de ces gens, Il  était inquiet et, de son point de vue,  s’il n’y  avait même que 5% de chances pour que les choses tournent aussi mal qu’on peut le craindre, on ne devrait pas se lancer là-dedans.

Et il me disait que certains de ses amis qui dirigent quelques-unes de ces entreprises croient que les chancs de catastrophe sont beaucoup plus élevées que cela, mais, d’après lui, ils ont l’impression d’être pris dans une course où, s’ils ne contrôlent pas cette technologie et s’ils n’arrivent pas au bout de cette course en premier… n’arrivent pas à à ce qu’ils appellent le décollage, et même à un décollage rapide…

 

 

Auto-amélioration récursive et décollage rapide

 

TRISTAN HARRIS : Oui, auto-amélioration récursive ou décollage rapide. Ce qui signifie essentiellement ce pour quoi les entreprises sont vraiment dans une course, vous le soulignez, c’est qu’elles sont dans une course pour automatiser la recherche sur l’IA. Parce qu’en ce moment, vous avez OpenAI, qui a quelques milliers d’employés, les êtres humains codent et font la recherche sur l’IA. Ils lisent les derniers articles de recherche, ils écrivent les suivants, ils émettent des hypothèses sur l’amélioration que nous allons peut-être faire à l’IA, de  quelle nouvelle façon faire ce code avec une nouvelle technique.

Et puis ils utilisent leur esprit humain et ils inventent quelque chose, ils font une expérience et ils voient si ce qu’ils ont fait améliore la performance. Et c’est comme ça qu’on passe de GPT-4 à GPT-5 ou quelque chose comme ça.

Imaginez maintenant un monde où Sam Altman, au lieu d’avoir des chercheurs en IA humaine, puiss avoir des chercheurs en IA tout court.  Alors, là, je claque des doigts et je fonce, d’une IA qui lit tous les journaux, écrit tout les codes, crée les nouvelles expériences, etc. à « je peux copier-coller ce que font 100 millions de chercheurs en IA et le faire de manière automatisée ».

Et qui va croire que les entreprises rivalisent pour sortir de meilleurs chatbots pour les gens ! Tout le monde sait que ce pour quoi elles sont en compétition, c’est l’automatisation totale de la recherche en IA

Et c’est pour ça, soit dit en passant, que toutes les entreprises font la course pour devenir bonnes en programmation. Parce que plus vite vous pouvez automatiser un programmeur humain, plus vous pouvez automatiser la recherche en ‘IA. Et il y a quelques semaines, « Claude 4.5 » a été mis en service, et il peut faire 30 heures de programmation complexe ininterrompue au plus haut niveau. C’est dingue.

 

STEVEN BARTLETT : Donc, pour l’instant, une des limites des progrès de l’IA, c’est que les humains font le travail. Mais en fait, ces entreprises poussentde toutes leurs forces vers le moment où ce sera l’IA qui fera le travail. Parce qu’alors, elles disposeront d’une main d’œuvre infinie, sans doute plus intelligente, à coût zéro. Ainsi, lorsque ces gens parlent de décollage rapide, ils parlent du moment où l’IA prendra le contrôle de la recherche, qui progressera dès lors beaucoup plus vite.

 

TRISTAN HARRIS : Et elle-même apprend et améliore et invente de manière récursive. Donc, la chose à obtenir est que l’IA accélère l’IA, non ? Si j’invente des armes nucléaires, les armes nucléaires n’inventeront pas de meilleures armes nucléaires. Mais si j’invente l’IA, l’IA, c’est de l’intelligence. Ladite intelligence peut automatiser une meilleure programmation, une meilleure conception des puces, etc.

Donc, je peux utiliser l’IA pour dire qu’il y a un design pour les puces Nvidia, la rendre 50% plus efficace et même capable de savoir comment le faire. Je peux dire à l’IA : « IA, voici une chaîne d’approvisionnement dont j’ai besoin pour m’apporter toutes les choses dont j’ai besoin pour mon entreprise d’IA », et elle pourra optimiser ma chaîne d’approvisionnement et la rendre plus efficace. « IA, voici le code pour faire de l’IA, peux-tu rendre cela plus efficace s’il te plaît ? ».  « IA, voici des données de formation. Je dois faire de nouvelles données d’entraînement. Fais-moi un million de simulations de la façon de s’entraîner et mes athlètes s’entraîneront mieux ». L’IA accélère l’IA.

 

 

La motivation derrière la course.

 

STEVEN BARTLETT : Selon vous, qu’est-ce qui motive ces personnes, les PDG de ces entreprises [dans des discussions en coulisses et non publiques] ?

 

TRISTAN HARRIS : C’est presque mythologique, car d’une certaine manière, ils sont en train de créer une nouvelle entité intelligente qui n’a jamais existé auparavant sur la planète Terre. C’est comme créer un dieu. Je veux dire, leur motivation, c’est de créer un dieu, de contrôler l’économie mondiale et de gagner des milliers de milliards de dollars.

Si on pouvait réellement créer quelque chose qui soit capable d’automatiser toutes les tâches intelligentes, d’atteindre tous les objectifs permettant de surpasser tous les concurrents : ce serait une sorte de pouvoir quasi divin, que je trouve quand même relatif.  Imaginez les prix de l’énergie augmentant sans frein ou des centaines de millions de personnes perdant leur emploi. Ce serait vraiment terrible.

Mais si je ne suis pas le premier à le construire et que je ne le crée pas, ce Dieu, je vais me planter, face à quelqu’un de « pire » qui, selon moi (pas selon moi, Tristan, mais selon eux), est considéré comme « pire ». C’est une sorte de logique compétitive qui s’autoalimente, mais qui les pousse à prendre le plus de raccourcis qu’ils peuvent, à se soucier le moins possible de la sûreté ou de la sécurité générales, à ne pas se soucier du nombre d’emplois bousillés, à ne pas se soucier du bien-être des gens ordinaires, pour juste se précipiter vers cet enjeu infini.

Donc, pour l’anecdote : un de mes amis a pu interviewer de nombreux dirigeants de grandes entreprises spécialisées dans l’IA. Vraiment ceux du sommet. Il vient de rentrer et voici ce qu’il nous a raconté, à moi et à quelques-uns de nos amis :

« À la fin, un tas de gens de la Tech à qui je parle, quand je les asticote assez fort sur « qu’est-ce qui vous pousse à faire ça », se retranchent derrière premièrement, le déterminisme ; deuxièmement, le remplacement inévitable de la vie biologique par la vie numérique ; et troisièmement, que c’est de toute façon une bonne chose. Au fond, c’est un désir émotionnel de rencontrer et de parler avec l’entité la plus intelligente qu’ils aient jamais imaginée. Et ils ont cette intuition, quasi religieuse et liée à leur ego, que, d’une manière ou d’une autre, ils en feront partie. Il est grisant d’allumer un incendie excitant. Ils sentent que, de toute façon, ils mourront, et donc, ils préfèrent l’allumer et voir ce qui se passe. »

 

STEVEN BARTLETT : C’est exactement comme ça qu’on peut décrire ces conversations privées.

 

TRISTAN HARRIS : Est-ce que ça ne correspond pas à ce que vous avez ? Et c’est justement ça. Les gens peuvent entendre ça et se dire : « Ça a l’air ridicule », mais si vous…

 

STEVEN BARTLETT : Ça me donne la chair de poule parce que… c’est la description parfaite. Surtout la partie où ils pensent qu’ils vont mourir de toute façon.

 

TRISTAN HARRIS : Exactement. Et pire que ça. Certains d’entre eux pensent que s’ils parvenaient à réussir, ils pourraient réellement vivre éternellement, puisque si l’IA maîtrisait parfaitement le langage de la biologie, elle serait capable d’inverser le processus de vieillissement et de guérir toutes les maladies. D’où cette idée : « Et moi je serais un dieu. »

Et je vais vous dire… vous et moi connaissons tous les deux des personnes qui ont eu des conversations en privé avec ces gens. Eh bien, l’une d’entre elles, que j’ai entendue de la bouche d’un des cofondateurs d’une des plus puissantes de ces entreprises, concernait le scénario suivant : « S’il y avait 80 % ou 20 % de chances que tout le monde meure et soit anéanti par la tentative, mais 80 % de chances que nous parvenions à l’utopie », a-t-il dit, « Eh bien, je passerais clairement à la vitesse supérieure et je viserais l’utopie. » Compte tenu d’une probabilité de 20 %.

 

STEVEN BARTLETT : C’est dingue !

 

TRISTAN HARRIS : Ces types doivent comprendre que personne n’a le droit de prendre une décision pareille à ma place et à celle de ma famille. Nous n’avons pas donné notre accord pour que six gugusses prennent cette décision au nom de 8 milliards de personnes. Il faut cesser de faire comme si c’était acceptable ou normal. Ce n’est pas norma, ni acceptable. Et si cela se produit, s’ils s’en tirent à bon compte, ce sera uniquement parce que la plupart des gens ne savent tout simplement pas ce qui se passe dans la réalité où ils vivent. Mais je suis curieux de savoir : qu’en pensez-vous ?

 

STEVEN BARTLETT : Ce que je peux dire, c’est que tout ce que vous venez de raconter surtout la dernière partie sur la règle des 80/20 %, correspond presque mot pour mot à ce que m’a dit un de mes amis, homme très compétent et qui a très bien réussi, responsable de la création de certaines des plus grandes entreprises au monde, alors qu’il évoquait une conversation avec le fondateur de ce qui est peut-être la plus grande entreprise d’IA au monde. Et ce qui m’a le plus choqué, c’est que ça ait été dit de manière si parfaitement désinvolte.

 

TRISTAN HARRIS : Oui. Il n’y a pas matière à désinvolture du tout. Et c’est bien ce que j’avais entendu dire de cette situation. Comme s’il s’agissait d’un fait avéré. « Bof, c’est facile. Ouais, bien sûr que je le ferais, je tenterais le coup, je jetterais les dés et j’attendrais pour voir… »

Et même Elon Musk a dit… il a vraiment dit, en citant ces mêmes chiffres, dans une interview avec Joe Rogan… Et si vous écoutez attentivement, quand il dit : « J’ai décidé que je préférais être là quand tout ça arrivera… si tout part en vrille… j’ai décidé que dans ce pire des cas, je préférerais être là. », ça revient à justifier notre course au suicide collecti.

Maintenant, les gens ne doivent pas croire qu’il faille être un mordu de la scince-fiction pour se préoccuper de l’IA. Espérons même que nous pourrons bientôt nous entretenir sérieusement des nombreux autres risques auxquels nous sommes déjà confrontés.

 

 

La transformation d’Elon : De la mise en garde à la course.

 

 

STEVEN BARTLETT : Je trouve particulièrement intéressant le cas d’Elon parce que, ces dix dernières années, il a été cette voix si difficile à croire qui disait à propos de l’IA qu’elle représentait un énorme risque d’extinction de l’espèce.

 

TRISTAN HARRIS : Il a été le premier à parler des risques de l’IA. Il disait : « Elle est plus dangereuse que les armes nucléaires.».  Il disait « Essayez d’amener les gens à cesser cette recherche. C’est un appel au Démon ». Ce sont ses mots, pas les miens. Nous ne devrions pas faire ça.

Il aurait, paraît-il utilisé sa première et seule rencontre avec le président Obama, en 2016, pour plaider la nécessité d’une réglementation mondiale et de contrôles mondiaux sur l’IA, se disant très inquiet à ce sujet.

Et après, ce qui s’est passé, c’est que ChatGPT est sorti et que, comme vous l’avez dit, cela a été le coup de pistolet qui a donné le départ de la course. Et maintenant tout le monde en fait partie et court… Elon comme les autres.

 

STEVEN BARTLETT : D’abord, il a tweeté quelque chose qui disait en substance « Je reste incrédule, mais je mets mon incrédulité en veilleuse. » Et dans le même tweet, il a dit que la course était lancée.

 

TRISTAN HARRIS : « La course est lancée et je vais… »…

 

STEVEN BARTLETT : « … courir puisqu’il faut y aller ». Et il dit aussi : « j’ai essayé de m’y opposer pendant longtemps. J’espérais que nous n’en arriverions jamais là… mais allons-y puisque nous y sommes. »

 

TRISTAN HARRIS : Oui.

 

STEVEN BARTLETT : Et au moins il est honnête. Son bilan a l’air honnête.  Parce que, il y a dix ans, il était celui qui mettait tout le monde en garde. Je me souviens de l’avoir entendu en parler et… Oh !… On dirait que c’était il y a cent ans ! Pourquoi est-ce que nous en parlons ?

 

 

 

Les trois scénarios : Dieu. Empereur. Ou Extinction

 

TRISTAN HARRIS : J’ai ressenti la même chose, d’ailleurs. Certains pourraient penser que je suis une sorte de passionné d’IA et que j’essaie de faire monter la sauce. En fait, je ne croyais pas que l’IA était une chose à craindre jusqu’à ce que j’aie vu où on allait. Mais, ô Seigneur, il y a tant de choses à dire sur tout ça !

Donc, si on y réfléchit de leur point de vue, c’est comme dire que le meilleur scénario est : « Je gagne la course, je construis l’IA en premier, je l’aligne et je la soumets à contrôle,  je ne lui laisse pas faire n’importe quoi. Elle ne détruira pas l’humanité et restera maitrisable. Autrement dit, je veux être Dieu et empereur du monde.

Deuxième scénario, elle n’est pas contrôlable, mais elle est alignée. J’ai donc construit un Dieu et j’en ai perdu le contrôle. Il dirige le spectacle. C’est lui qui choisir ce qui se passe, Cela finit en empoignade générale : tout le monde rivalise avec tout le monde sur tout. Ce n’est pas un résultat aussi grave qu’on pourrait le croire.

Troisième scénario : elle n’est pas alignée, elle n’est pas contrôlable, et elle élimine tout le monde. Et cela devrait être démotivant pour quelqu’un comme Elon par exemple. Mais ceux qui ont choisi ce scénario ont donné naissance au Dieu numérique qui a remplacé toute l’humanité.

Ceci est vraiment important à comprendre parce que…  si vous prenez les armes nucléaires par exemple, le risque d’une guerre nucléaire est un résultat à perte assurée. Tout le monde a intérêt à l’éviter. Et je le sais, vous le savez, je sais que nous voulons tous les deux éviter cela. Cela nous motive donc à nous entendre pour avoir un traité de non-prolifération nucléaire.

Mais avec l’IA du pire scénario où tout le monde est anéanti, les choses sont un peu différentes pour ceux qui en ont pris la décision. Parce que si je suis le PDG de DeepSeek et si je fabrique cette IA qui élimine l’humanité y compris moi-même parce que c’était inévitable, c’est quand même moi qui ai construit le Dieu numérique qui a éliminé l’espèce humaine.  Il y a là-dedansl’intervention d’une sorte d’ego.

 

 

 

Et le Dieu que j’ai construit parle chinois au lieu d’anglais.

 

STEVEN BARTLETT : C’est le moment où l’ego devient religieux.

 

TRISTAN HARRIS : C’est le côté religieux de l’ego.

 

STEVEN BARTLETT : C’est exactement ce qu’il est. Et par cet ego, je serai, en quelque sorte, transcendant.

 

TRISTAN HARRIS : Vous remarquerez que tout ceci démarre par la croyance que c’est inévitable.

 

STEVEN BARTLETT : Ouais.

 

 

 

Briser la logique de l’inévitabilité

 

 

STEVEN BARTLETT :  C’est comme… Est-ce inévitable ?

 

TRISTAN HARRIS : Il est important de noter que si vous croyez que c’est, si tous ceux qui le construisent croient que c’est inévitable et si les investisseurs qui financent la recherche croint que le résultat sera inévitable, cela co-crée l’inévitabilité. Et la seule issue, ici, est de sortir de la logique de l’inévitabilité..

Parce que si nous nous dirigeons vers notre suicide collectif – dont je ne sais pas vous, mais moi, je n’en veux pas – et si tous ceux qui aiment la vie, en regardant le matin leurs enfants, se disent « je veux que les choses que j’aime et qui sont sacrées partout dans le monde continuent », je sais que c’est ce que tout le monde veut.

Et si la seule chose qui nous empêche de nous ancrer fermement à cette décision est la croyance que l’issue sinistre qui nous est promise est inévitable, parce que des gens à l’go sur-dimensionné malade nous l’ont dit, tout ce qu’il nous reste à faire, c’est d’y résister.

Pour moi, l’objectif de cette conversation est de convaincre les gens que l’issue vers laquelle on se dirige est une très mauvaise issue, dont en fait personne ne veut. Nous devons mettre la main sur le volant du véhicule et le piloter nous-mêmes vers un avenir différent. Parce nous n’avons en aucune manière besoin d’une course à des IA incontrôlables, inscrutables et toutes-puissantes,  qui, soit dit en passant, font déjà, dans leur état actuel, tous les pires trucs de science-fiction que nous pensions n’exister que dans les films.

Comme faire chanter les gens, comploter et mentir et tromper ou copier son propre code pour le garer avc ceux des protégés. Ce que nous pensions n’exister que dans les films de science-fiction est en train de se produire. Et cela devrait être une preuve suffisante pour nous faire dire que nous ne voulons pas poursuivre dans la voie où on veut nous entraîner de gré ou de force.

 

Soource :

Transcription originelle en anglais :  (il faut cliquer sur continue reading)

https://singjupost.com/technology-ethicist-tristan-harris-on-the-diary-of-a-ceo-podcast-transcript/

 

 

 

 

 

 

Et nous, podcasteurs lambdas, nous abandonnons ici M. Harris et son intervieweur.

 

 

 

 

 

Pourquoi ?

Parce que, d’une part, Tristan Harris, technicien et pas écrivain ni orateur, ni scientifique, ni politique, a beaucoup de mal à s’exprimer d’une manière concise, claire et directe.

Parce qu’il n’est pas difficile à traduite mais à comprendre.

Parce qu’il cède au péché mignon de la plupart des Américains, qui adorent s’entre-analyser, psychologiquement ou psychiatriquement.

Et parce que, à partir de ses trois scénarios, principalement, il nous semble qu’il se perd dans les méandres de cerveaux qu’il dit lui-même malades, et que ce n’est pas le but réel de sa démarche.

Il nous paraît être un honnête homme et il dit lui-même qu’il est là pour tirer la sonnette d’alarme, pour dire aux autres humains « Attention ! Nous faisons face à un très grand danger et il importe de nous réveiller ».

 

 

Là-dessus, nous sommes bien d’accord.

Mais nous croyons inutile de nous fourvoyer dans l’analyse, par un non spécialiste, des cerveaux tarés qui sont un peu les rats transporteurs de la peste, pas son origine.

Arrivés à ce stade, il vaut mieux se mettre à analyser la provenance réelle du danger, qui ne réside pas dans l’ego surdimensionné de six ou sept personnes, même archi-milliardaires.

D’autres avant ceux-là ont nourri les mêmes fantasmes de toute-puissance et se sont cassé la figure sur l’illusion qu’étaient leurs projets.

La culture de Tristan Harris en histoire du monde est nulle, comme celle de la plupart de ses compatriotes même très intelligents. Cette ignorance pharamineuse est le résultat de deux siècles et demi d’efforts pour les châtrer dev toute réelle connaissance.

Il est donc à la fois plus rationnel et plus urgent de remonter aux sources de cette interminable mauvaise action et de l’identifier. Parce que c’est elle qu’il faut combattre. Pas une demi-douzaine de milliardaires.

 

 

C’est votre constitution, andouilles !

Nous l’avons dit ici à plusieurs reprises et nous n’allons pas y revenir en détail.

Qu’on nous permette seulement de répéter ceci :

 

• Que la sacralisation, par les « pères fondateurs » de la propriété privée illimitée et que la légitimisation de son pouvoir, envers et contre tous les autres

 

est l’origine, à la fois de l’apparente prospérité de l’Amérique, qui n’a jamais été générale, et de la chute en piqué, au fond du plus noir des trous, de la totalité de « l’empire », bénéficiaires et victimes des anormales richesses mêlés, soudés dans la défaite comme ils ne l’ont jamais été dans la prospérité.

La lutte universelle des classes rattrape aujourd’hui le pays où il était même interdit d’en parler. Les vainqueurs plus de deux fois séculaires sont en train de buter sur les conséquences, à long terme,  de leurs propres choix.

Que feront les autres ?

 

URL de cet article  :/  https://blog.lesgrossesorchadeslesamplesthalameges.fr/index.php/tristan-harris-specialiste-de-lethique-technologique-invite-du-podcast-the-diary-of-a-ceo-le-journal-dun-pdg-transcription/