Taille
Ratio
Poids
Format
Taille
Ratio
Poids
Format
Midjourney + Gemini + Gaëtan Namouric
Consulter la charte et les crédits photo
Imaginez le patron de Moulinex convoquant la presse pour annoncer que son prochain grille-pain pourrait provoquer l’extinction de l’humanité. On lui conseillerait probablement de revoir le thermostat avant la mise en marché. Dans l’intelligence artificielle, c’est plus compliqué. Depuis quelques années, certains des gens qui développent les systèmes les plus puissants sont aussi parmi ceux qui nous mettent le plus solennellement en garde contre leurs dangers. En mai 2023, le Statement on AI Risk du Center for AI Safety affirmait en une seule phrase que réduire le risque d’extinction lié à l’IA devait devenir une priorité mondiale comparable aux pandémies et à la guerre nucléaire. Parmi les signataires : Geoffrey Hinton, Yoshua Bengio, Demis Hassabis et Sam Altman.
Ont-ils raison Je n’en sais rien, et d’autres sont bien mieux équipés que moi pour trancher. Mon métier consiste à observer ce qui se passe quand quelqu’un dit quelque chose à quelqu’un d’autre. Or, du point de vue de la communication, cette phrase est fascinante. Elle transmet deux informations en même temps. La première est évidente : « ce que nous fabriquons pourrait être dangereux ». La seconde l’est beaucoup moins : « regardez à quel point ce que nous fabriquons est puissant ».
La menace comme démonstration
C’est le paradoxe merveilleux de la communication sur l’IA : son défaut ultime peut devenir la démonstration de sa qualité ultime. Si je vous annonce que mon logiciel peut résumer votre réunion Teams, j’ai fabriqué un outil pratique. Si je vous annonce qu’il pourrait un jour devenir incontrôlable et menacer l’humanité, j’ai changé de catégorie. Hier, je vendais un logiciel ; me voilà en train de manipuler une force historique.
Attention : cela ne signifie absolument pas que les gens qui lancent ces avertissements mentent. On peut sincèrement craindre une technologie que l’on contribue à développer. L’intention est d’ailleurs presque secondaire ici. En communication, un message peut être parfaitement sincère et produire un avantage pour celui qui l’émet. Et celui-ci en produit un formidable : plus le danger potentiel paraît grand, plus la technologie paraît puissante. Une machine capable d’exterminer l’humanité doit forcément être autrement plus impressionnante qu’une machine capable de corriger mes fautes de français.
Mais il se passe quelque chose d’encore plus intéressant. Si je vous annonce avoir découvert dans ma cave une créature extrêmement dangereuse, que personne ne comprend vraiment, et que je suis l’une des rares personnes à connaître son fonctionnement, qui allez-vous inviter à la réunion sur la sécurité des créatures Moi. Le récit construit la puissance de l’objet et, au passage, la légitimité de celui qui en parle.
Sam Altman en fournit une image assez spectaculaire. Le 16 mai 2023, le patron d’OpenAI témoignait devant le Sénat américain et appelait lui-même à réglementer les systèmes d’intelligence artificielle. Six jours plus tard, dans un billet intitulé Governance of superintelligence (OpenAI, 2023), il proposait avec Greg Brockman et Ilya Sutskever une forme de supervision internationale des systèmes les plus puissants, inspirée de l’Agence internationale de l’énergie atomique. Peut-être est-ce précisément la bonne chose à faire. Mais regardons simplement le déplacement communicationnel : celui qui fabrique la chose devient celui dont nous avons besoin pour comprendre la chose, évaluer les dangers de la chose et participer à la discussion sur les règles entourant la chose. Le vendeur devient expert. L’expert devient conseiller. Et le conseiller se retrouve autour de la table où l’on écrit les règles.
Doomers contre antidoomers
On a fini par donner un nom à ceux qui insistent particulièrement sur les scénarios catastrophiques : les doomers. Le terme est injustement large. Il rassemble des chercheurs prudents, des spécialistes de la sécurité, des philosophes, des entrepreneurs et quelques prophètes de l’Apocalypse qui ne disent ni la même chose ni avec la même certitude. Mais le mot révèle quelque chose : nous avons transformé une discussion technologique en affrontement de récits.
Le récit doomer est extraordinairement puissant. Nous avons créé quelque chose qui pourrait nous dépasser. Nous ne savons pas exactement ce qui arrivera. Nous avons peut-être encore le temps d’agir. Prométhée n’est jamais très loin. Et comme nous l’avons vu dans IA. La peur comme méthode, la peur peut être extrêmement utile : elle attire l’attention sur un danger et nous oblige à imaginer ce qui pourrait mal tourner. La communication ajoute simplement une petite question : agir comment, et en suivant qui
Car toute bonne catastrophe a besoin d’un sauveteur. « Cette technologie pourrait devenir dangereuse » est une alerte. « Cette technologie pourrait devenir dangereuse et nous savons comment la rendre sûre » commence à ressembler à un positionnement. La différence paraît minuscule, mais elle distribue tous les rôles : il y a la menace, les victimes potentielles et ceux qui savent. Nous sommes assez puissants pour créer le problème, assez responsables pour vous en avertir et assez compétents pour le résoudre. Difficile d’imaginer meilleure proposition de marque.
Évidemment, toute grande histoire finit par produire sa contre-histoire. Face aux doomers apparaissent les techno-optimistes, les accélérationnistes et les antidoomers. Leur récit promet les progrès scientifiques, médicaux et économiques que l’IA pourrait accélérer. Enfin un peu d’optimisme Pas vraiment. Parce qu’eux aussi ont découvert l’extraordinaire efficacité de la peur.
Dans son Techno-Optimist Manifesto (Andreessen Horowitz, 2023), l’investisseur Marc Andreessen retourne le raisonnement comme une crêpe : si les nouvelles technologies peuvent sauver des vies, empêcher leur développement peut coûter des vies. Il va jusqu’à présenter les morts qu’une technologie interdite aurait pu éviter comme une forme de meurtre.
Et voilà. Les deux camps parlent maintenant de cadavres.
Mais à qui profite le crime contre l’humanité
D’un côté : si vous nous laissez aller trop vite, des gens pourraient mourir. De l’autre : si vous nous obligez à ralentir, des gens pourraient mourir. Le désaccord technique devient une urgence morale. Me contredire revient désormais à accepter une catastrophe, ce qui est tout de même plus lourd à porter qu’une simple divergence d’analyse.
C’est ici que doomers et antidoomers se ressemblent le plus. Leurs histoires diffèrent, leur charpente est la même : le monde court un danger, nous l’avons compris, écoutez-nous. Pour les uns, le héros ralentit et sécurise. Pour les autres, il refuse la peur et accélère le progrès. Chacun attribue alors à l’autre le rôle idéal : le doomer devient l’ennemi du progrès ; l’antidoomer, l’apprenti sorcier.
Alors, à qui profite le crime Probablement à personne, puisqu’il n’a pas encore eu lieu. En revanche, la peur produit quelque chose de très réel aujourd’hui : de l’attention. Claire Robertson et ses collègues l’ont mesuré dans Negativity drives online news consumption (Nature Human Behaviour, 2023) : en analysant quelque 105 000 variantes de titres testées par le site Upworthy, ils ont constaté que chaque mot négatif ajouté à un titre de longueur moyenne augmentait le taux de clics de 2,3 %. Et la peur fait davantage que retenir le regard. Dans Appealing to Fear (Psychological Bulletin, 2015), Melanie Tannenbaum et son équipe ont passé 127 articles au crible de la méta-analyse : les appels à la peur influencent bel et bien les attitudes, les intentions et les comportements, et leur effet grandit lorsque le message propose une réponse au danger.
Ce dernier détail est essentiel. La peur seule nous fait regarder. La peur accompagnée d’une solution peut nous faire agir.
Voilà donc à qui profite la fin du monde : à celui qui la raconte, pourvu qu’il ait une solution sous le bras. L’attention d’abord, la légitimité ensuite, et pour finir une chaise à la table où s’écrivent les règles. Le bénéfice est le même dans les deux camps, et il est encaissé bien avant que l’on sache qui avait raison.
Repérez le « donc »
Voilà pourquoi, dans un discours catastrophiste, la phrase la plus instructive arrive juste après la catastrophe.
« Nous courons un risque immense, donc… »
Donc il faut réglementer. Donc il faut accélérer. Donc il faut investir. Donc il faut interdire. Donc il faut créer une institution. Donc il faut nous inviter autour de la table. Donc il faut nous faire confiance.
Aucune de ces propositions n’est nécessairement mauvaise. Mais aucune ne devient bonne simplement parce que la phrase précédente faisait peur.
La prochaine fois que quelqu’un vous expliquera que l’intelligence artificielle va sauver l’humanité ou la détruire, je vous propose donc un exercice beaucoup plus modeste que de prédire l’avenir. Écoutez-le jusqu’au bout, et repérez le « donc ».
L’exercice vaut aussi loin du Sénat américain. La même phrase circule dans nos salles de réunion, en format réduit : « si nous ne prenons pas le virage de l’IA maintenant, nous sommes morts, donc… » Donc il faut signer cette licence. Donc il faut débloquer ce budget. Donc il faut embaucher ce consultant (oui, je sais). Là encore, la demande est peut-être excellente. Elle mérite d’être examinée pour elle-même, une fois la peur retombée.
Une communication sur le futur décrit rarement le futur pour le plaisir. Elle cherche à obtenir quelque chose dans le présent : une émotion, une décision, une permission, une interdiction, un investissement, une confiance. Nul besoin de savoir si l’IA sauvera le monde ou le détruira pour le comprendre.
Et si le patron de Moulinex convoque un jour la presse pour annoncer que son grille-pain menace l’humanité, laissez-le finir sa phrase. Le « donc » arrive. Je mise sur un nouveau modèle, plus sûr, et un peu plus cher.
Ce qu'il faut retenir
Annoncer qu’une technologie pourrait détruire l’humanité, c’est aussi affirmer sa puissance et installer celui qui parle dans le rôle de l’expert indispensable. Le message peut être parfaitement sincère et rester très rentable. Doomers et antidoomers se disputent sur le fond, mais partagent la même charpente narrative : un danger, des gens qui l’ont compris, une invitation à les suivre. La recherche confirme que la négativité attire l’attention et que la peur assortie d’une solution fait agir. Devant un discours sur l’avenir de l’IA, attendez le « donc » et examinez ce qu’on vous demande. Une demande ne devient pas légitime parce que la phrase précédente faisait peur.
Gaëtan est le fondateur de Perrier Jablonski. Créatif et stratège, il est aussi enseignant à HEC, à l’École des Dirigeants et à l'École des Dirigeants des Premières Nations. Il est membre du C.A. de l’École Nationale de l’Humour. Il est certifié par le MIT (Design Thinking, I.A.), il étudie l'histoire des sciences, la philosophie, et les processus créatifs. Il est l’auteur de deux essais et plus de 200 articles sur tous ces sujets.
Bibliographie et références de l'article
DÉCLARATION · Center for AI Safety (2023). Statement on AI Risk. Center for AI Safety. La phrase unique, signée notamment par Hinton, Bengio, Hassabis et Altman, qui sert de point de départ à l’article.
ARTICLE DE PRESSE · O’Brien, M. (2023). OpenAI CEO Sam Altman testifies before Senate Judiciary Committee. Associated Press / PBS NewsHour. Compte rendu de l’audition du 16 mai 2023, où le patron d’OpenAI réclame lui-même un encadrement.
BILLET · Altman, S., Brockman, G. et Sutskever, I. (2023). Governance of superintelligence. OpenAI. Le texte qui propose une autorité internationale inspirée de l’AIEA, six jours après l’audition.
MANIFESTE · Andreessen, M. (2023). The Techno-Optimist Manifesto. Andreessen Horowitz. Le retournement antidoomer : ralentir l’IA y est présenté comme une forme de meurtre.
ARTICLE SCIENTIFIQUE · Robertson, C. E., Pröllochs, N., Schwarzenegger, K., Pärnamets, P., Van Bavel, J. J. et Feuerriegel, S. (2023). Negativity drives online news consumption. Nature Human Behaviour, 7(5), 812–822. La mesure expérimentale de l’effet des mots négatifs sur les clics.
MÉTA-ANALYSE · Tannenbaum, M. B., Hepler, J., Zimmerman, R. S., Saul, L., Jacobs, S., Wilson, K. et Albarracín, D. (2015). Appealing to fear: A meta-analysis of fear appeal effectiveness and theories. Psychological Bulletin, 141(6), 1178–1204. La démonstration que la peur persuade davantage lorsqu’elle s’accompagne d’une solution.
ARTICLE · Namouric, G. (2026). IA. La peur comme méthode. Perrier Jablonski. Le volet précédent, sur l’utilité de la peur et le moment où elle cesse de servir.
L'I.A. a pu contribuer à cet article. Voyez comment.
Nous utilisons souvent des outils d'intelligence artificielle, notamment des grands modèles de langage (LLM), pour soutenir nos recherches, structurer nos idées, améliorer nos textes et évaluer leur qualité.
Nous exploitons nos propres corpus documentaires et entraînons également des modèles sur nos contenus. Lorsque la confidentialité l'exige, nous privilégions des modèles exécutés localement.
Ces usages sont supervisés par l'auteur. Les sources, les analyses et les contenus publiés demeurent sous notre responsabilité éditoriale.
Tableau de bord
Cet article est final.
spellcheck
Cet article est en relecture.
rule
Cet article a été remis à Gaëtan
badge
Cet article est encore dans les mains de l'équipe.
psychology
Cet article est un projet.
psychology
Cet article n'a pas de statut!
I.A.
Influences
sell
Aucun sujet sélectionné!
subject
Il n'y a pas de teaser!
hdr_auto
Il n'ya a pas d'introduction!
copyright
Pas de légende d'illustration
Légende :
Midjourney + Gemini + Gaëtan Namouric
Cet article analyse, du point de vue de la communication, les discours catastrophistes sur l’intelligence artificielle. En mai 2023, le Center for AI Safety publiait une déclaration d’une phrase, signée notamment par Geoffrey Hinton, Yoshua Bengio, Demis Hassabis et Sam Altman, plaçant le risque d’extinction lié à l’IA au rang des pandémies et de la guerre nucléaire. Sans se prononcer sur la validité de ce risque, l’article montre que ce type de message produit trois bénéfices pour son émetteur : il démontre la puissance de la technologie, il établit la légitimité de celui qui en parle et il lui ouvre l’accès aux discussions réglementaires, comme l’illustre le témoignage de Sam Altman devant le Sénat américain le 16 mai 2023. Les techno-optimistes, dont Marc Andreessen dans son Techno-Optimist Manifesto (2023), emploient la même structure narrative en invoquant les vies que coûterait un ralentissement. Les travaux de Robertson et al. (2023) sur la négativité des titres et la méta-analyse de Tannenbaum et al. (2015) sur les appels à la peur expliquent l’efficacité de ces récits. L’article propose un outil de lecture critique : repérer le « donc » qui suit l’annonce du danger, soit la demande concrète adressée à l’auditoire. Un article de Gaëtan Namouric, publié par Perrier Jablonski, firme-conseil en stratégie basée à Montréal spécialisée en ethnographie appliquée.
.avif)