Taille
Ratio
Poids
Format
Taille
Ratio
Poids
Format
Midjourney + Gemini + Gaëtan Namouric
Consulter la charte et les crédits photo
Je les appelle les oiseaux de malheur. Ils tournoient au-dessus de nos têtes avec leurs cris effrayants. Mais attention. En ornithologue appliqué, il faut apprendre à reconnaître leurs cris, car ils n’annoncent pas tous les mêmes dangers.
Derrière les grands discours sur l’avenir de l’humanité, il y a des gens qui doivent décider quoi acheter, quoi apprendre et à qui faire confiance. Et il y a de grandes chances que ce soit vous…
Les aigles. Prendre le risque au sérieux.
Quand Yoshua Bengio nous met en garde contre l’intelligence artificielle, je l’écoute. Quand Geoffrey Hinton ou Stuart Russell expriment leurs inquiétudes, aussi. Ces chercheurs ont contribué à construire le domaine dont ils interrogent aujourd’hui les conséquences. Ils ont tout mon respect. Leur travail mérite qu’on s’y arrête, qu’on comprenne leurs arguments et qu’on accepte d’être dérangé. Une alerte ne devient pas ridicule parce qu’elle porte sur un avenir difficile à imaginer.
Encore faut-il savoir de quoi ils nous parlent. Le Rapport international sur la sécurité de l’IA 2026, présidé par Bengio, distingue plusieurs menaces. Des usages malveillants sont déjà documentés : escroqueries, usurpations d’identité, chantage, assistance à des cyberattaques. La possibilité de faciliter certaines étapes de fabrication d’armes biologiques ou chimiques inquiète aussi les experts, même si l’importance des obstacles matériels reste difficile à évaluer. À cela s’ajoutent les défaillances ordinaires : informations inventées, code erroné, conseils trompeurs. Le risque grandit lorsqu’un système peut agir seul avant qu’un humain ait le temps de corriger son erreur.
Le même rapport examine un scénario plus lointain : des systèmes qui échapperaient durablement à notre contrôle. Il précise que les modèles actuels n’en ont pas les capacités, tout en constatant des progrès dans des aptitudes pertinentes, comme l’autonomie. C’est une possibilité à étudier sérieusement, avec ses incertitudes.
Dans Human Compatible, Stuart Russell explique pourquoi cette question dépasse le fantasme du robot méchant. Une machine peut poursuivre avec une efficacité redoutable un objectif que nous avons mal défini. Le problème est alors dans l’écart entre ce que nous lui avons demandé et ce que nous voulions vraiment. Russell propose de concevoir des systèmes qui restent incertains de nos préférences et apprennent à les comprendre, plutôt que de considérer leur mission comme définitivement réglée.
Cette réflexion mérite une traduction dans nos organisations. Confier un premier jet à un assistant, puis le relire, expose à des erreurs qu’on peut repérer avant diffusion. Lui donner le pouvoir de rejeter des candidatures ou de déclencher des paiements engage tout autre chose. Les conséquences, les données et la possibilité de reprendre la main doivent déterminer le niveau de contrôle. Le mot « IA » ne suffit pas à décrire le risque.
Respecter les aigles, c’est faire cet effort de compréhension. Le titre universitaire ne rend personne impartial par magie, et les chercheurs ne s’entendent pas tous sur les scénarios les plus probables. Leur désaccord fait aussi partie de ce qu’il faut écouter. Mais je refuse qu’on transforme leurs travaux en argument pour suspendre tout apprentissage dans nos équipes. Prendre au sérieux une menace à long terme devrait nous rendre plus capables de décider aujourd’hui. Une organisation qui ne comprend rien à l’IA sera bien mal équipée pour en maîtriser les conséquences.
Les vautours. Quand la peur devient un marché.
Avec les grands patrons de l’IA, ma réaction change. Sam Altman, Dario Amodei, Demis Hassabis : leur puissance m’inquiète et je me méfie de leur parole. En 2023, ils ont signé, aux côtés de chercheurs, la déclaration du Center for AI Safety qui plaçait la réduction du risque d’extinction lié à l’IA au rang des priorités mondiales. La signature est commune. La position de celui qui signe ne l’est pas.
Quand le fabricant annonce que sa technologie pourrait menacer l’humanité, il nous dit aussi qu’il fabrique quelque chose d’extraordinairement puissant. L’avertissement fait une excellente démonstration commerciale. Il attire l’attention, donne de l’importance au produit et installe son dirigeant parmi les gens qu’il faut absolument écouter. Je ne connais pas la part de conviction et la part de calcul dans chaque prise de parole. Je vois très bien ce que le récit peut rapporter.
Et le bénéfice dépasse la publicité. Le 22 mai 2023, Altman, Greg Brockman et Ilya Sutskever proposaient une supervision internationale des systèmes les plus puissants, inspirée de l’Agence internationale de l’énergie atomique. Le constructeur participait déjà à définir l’institution chargée d’encadrer sa technologie. L’accès au pouvoir est, lui aussi, bien visible : le 21 janvier 2025, Altman était à la Maison-Blanche avec Donald Trump pour annoncer le projet d’infrastructures Stargate. Nous sommes loin d’un vendeur de logiciels attendant son tour à l’accueil.
Dans Preventing Regulatory Capture, Daniel Carpenter et David Moss réunissent des travaux sur la manière dont des intérêts privés peuvent orienter la réglementation à leur avantage, et sur les moyens de l’éviter. L’ouvrage invite aussi à établir la capture avec rigueur, plutôt qu’à la voir dans chaque rencontre entre une industrie et l’État. La proximité avec un président ne suffit donc pas à prouver une capture. Elle donne en revanche de bonnes raisons d’examiner qui définit le problème, qui propose les règles et qui possède les moyens de les contester.
C’est cette concentration de pouvoir qui me fait peur. Les mêmes entreprises pourraient nous fournir les outils, expliquer ce qu’ils valent, définir les dangers et nous vendre la protection. Leur inquiétude peut être sincère. Elle ne les qualifie pas pour arbitrer seules l’intérêt collectif. Quand l’alerte vient d’un constructeur, elle perd à mes yeux son statut d’expertise indépendante : je veux des preuves et une contre-expertise. Dans nos organisations aussi, le fournisseur doit répondre à nos critères. L’ampleur de ses prédictions ne doit pas lui donner le droit de les écrire à notre place.
Les mouettes. La paresse déguisée en prudence.
Les mouettes font beaucoup de bruit dans nos salles de réunion. Ce sont les gestionnaires qui annoncent le danger avant d’avoir pris la peine de comprendre. Ils ont retenu un titre inquiétant, entendu une histoire d’erreur spectaculaire, récupéré un argument dans une conférence. Les voilà équipés pour dire non à tout. Ils ne connaissent pas l’outil, n’ont pas examiné l’usage proposé et n’ont aucune envie de s’y mettre. Leur ignorance finit par devenir une politique d’entreprise.
Ceux-là m’agacent. Je les trouve paresseux. La prudence exige du travail : lire, poser des questions, comparer les usages, chercher les conditions d’un essai acceptable. Déclarer que tout est trop dangereux permet de s’en dispenser avec une apparence de responsabilité. Il suffit parfois de prononcer le mot « éthique » pour que personne n’ose demander où est l’analyse.
Le psychologue Christopher J. Anderson a étudié ce mécanisme plus largement dans The Psychology of Doing Nothing, publié en 2003. Sa synthèse examine notamment le report d’une décision, la préférence pour le statu quo et le biais qui fait paraître l’inaction plus acceptable qu’une action aux conséquences comparables. Le regret anticipé et la difficulté de choisir peuvent pousser à ne rien décider. Ce travail ne prouve évidemment pas que tout refus de l’IA relève de la paresse. Il aide à comprendre pourquoi le maintien de l’existant peut être si confortable.
Devant un refus, j’ai donc envie de comprendre ce qu’il protège. Des renseignements confidentiels? La qualité du travail? Des personnes qui pourraient subir une décision injuste? Très bien. Précisons le danger et les conditions à respecter. Mais protège-t-il surtout le confort du gestionnaire, sa position ou son droit de ne pas apprendre? La discussion devient alors beaucoup moins technique.
Un employé qui craint de perdre son poste mérite une réponse honnête, du temps et de l’accompagnement. Un gestionnaire qui transforme son manque de connaissances en interdiction générale doit faire son travail. Il peut exiger un essai sur des données fictives, limiter les accès, imposer une vérification humaine ou refuser un usage dont les conséquences restent impossibles à maîtriser. Son « non » doit déboucher sur une décision explicable, avec une suite. Pendant ce temps, conserver les processus actuels a aussi un coût et des risques. Ils méritent le même examen.
Les pigeons. Ceux qu’il faut protéger.
Les pigeons, je les aime bien. Ce ne sont pas des imbéciles, loin de là. Ils sont curieux, bien intentionnés et veulent sincèrement faire avancer leur organisation. Mais à force d’entendre parler des exploits de l’IA, ils ont peur de manquer le bateau. Et c’est ainsi que des gens parfaitement intelligents deviennent des proies faciles.
Pour les vendeurs de miracles, c’est du pain bénit. « Vos concurrents prennent de l’avance. Heureusement, nous avons la solution. » Les appels à la peur ont même leur littérature scientifique. En 2015, Melanie Tannenbaum et ses collègues ont analysé 127 publications réunissant plus de 27 000 participants. Ils ont constaté que ces messages avaient davantage d’effet lorsqu’ils proposaient aussi une façon d’échapper au danger. L’étude porte surtout sur la prévention, pas sur les vendeurs d’IA. Mais on reconnaît la mécanique. On vous annonce que le bateau part sans vous et, comme par hasard, on a justement un billet à vous vendre.
Le livre AI Snake Oil, d’Arvind Narayanan et Sayash Kapoor, aide à reprendre pied. Snake oil signifie littéralement « huile de serpent ». L’expression anglaise désigne un remède miracle vendu avec des promesses qu’il ne tient pas. Appliquée à l’IA, elle vise les systèmes qui ne fonctionnent pas comme annoncé, et dont certaines promesses ne sont probablement même pas réalisables.
Certains logiciels d’IA promettent de prédire si vous serez un bon employé à partir d’une simple vidéo de trente secondes. Trente secondes pour juger de vos compétences, de votre potentiel et de votre avenir professionnel! Dans un entretien publié par Princeton, Sayash Kapoor cite cet exemple pour dénoncer des promesses qui ne reposent sur aucune preuve scientifique. Pourtant, ces outils sont commercialisés.
Le plus inquiétant, c’est que le pigeon ne paie pas toujours la note seul. Prenons ce logiciel de recrutement. C’est l’entreprise qui l’achète, mais si elle s’en sert pour éliminer des candidatures, ce sont de vraies personnes qui peuvent en faire les frais. Pour elles, ce n’est pas simplement un mauvais achat. C’est peut-être un emploi qui leur passe sous le nez.
Alors, avant de signer, j’aimerais voir les preuves. Qu’est-ce que ce logiciel mesure réellement? Sur qui l’a-t-on testé? Qui a vérifié les résultats? Un bon fournisseur devrait être ravi de répondre à ces questions. Et si vous n’y comprenez rien, dites-le. Un dirigeant n’a pas à faire semblant de maîtriser une technologie simplement parce qu’un vendeur la présente comme indispensable. Surtout quand le bateau est censé partir dans cinq minutes.
Repérer le « donc… »
Ces oiseaux ne m’inspirent ni la même confiance ni la même réponse. J’écoute les aigles parce que leurs travaux méritent d’être compris. Je surveille les vautours parce que leurs intérêts pèsent dans la conversation. J’attends des mouettes qu’elles se mettent au travail. Et je veux que les pigeons puissent apprendre sans se faire plumer.
Devant une alerte, j’ai envie de demander : « Et donc? » Nos données sont sensibles? Lesquelles, et pour quel usage? L’outil peut se tromper? Bien sûr. Qui le vérifiera, et qui portera les conséquences d’une erreur? Des emplois vont changer? Alors parlons aux gens concernés, plutôt que de leur servir un discours sur le progrès. Tout ça demande du travail. Beaucoup plus que de crier au danger.
Le danger peut justifier un arrêt précis. Il peut aussi commander une bifurcation, une limite, une expérience mieux conçue. Il ne devrait jamais nous dispenser de penser la suite. Nos organisations ont besoin d’apprendre assez vite pour décider de leur avenir. Je n’ai aucune envie de laisser ce choix à ceux qui savent le mieux nous faire peur.
Ce qu'il faut retenir
Devant une alerte sur l’IA, examinons qui parle, le danger précis et la décision qu’on nous demande. Les chercheurs méritent une écoute attentive ; les constructeurs, une contre-expertise indépendante. Les gestionnaires doivent transformer leurs réserves en conditions d’action, et les acheteurs pouvoir comprendre les promesses sans subir la peur ni la honte. Un risque sérieux peut conduire à écarter un usage, limiter l’autonomie d’un système ou changer de méthode. Il ne justifie pas à lui seul de suspendre tout apprentissage dans l’organisation. Le travail commence au « donc ».
Gaëtan est le fondateur de Perrier Jablonski. Créatif et stratège, il est aussi enseignant à HEC, à l’École des Dirigeants et à l'École des Dirigeants des Premières Nations. Il est membre du C.A. de l’École Nationale de l’Humour. Il est certifié par le MIT (Design Thinking, I.A.), il étudie l'histoire des sciences, la philosophie, et les processus créatifs. Il est l’auteur de deux essais et plus de 200 articles sur tous ces sujets.
Bibliographie et références de l'article
RAPPORT · Bengio, Y. et coll. (2026). International AI Safety Report 2026 — Executive Summary. Synthèse des risques documentés, des incertitudes et des moyens de gestion.
LIVRE · Russell, S. (2020 [2019]). Human Compatible : Artificial Intelligence and the Problem of Control. Penguin Books. Édition brochée représentée : ISBN 9780525558637.
DÉCLARATION · Center for AI Safety (2023). Statement on AI Risk. Texte et liste des signataires de l’appel sur le risque d’extinction.
BILLET · Altman, S., Brockman, G. et Sutskever, I. (2023, 22 mai). Governance of superintelligence. OpenAI. Proposition de supervision internationale des systèmes les plus puissants.
TRANSCRIPTION OFFICIELLE · The White House (2025, 21 janvier). Annonce du projet Stargate et échanges avec la presse. Daily Compilation of Presidential Documents, DCPD-202500157, GovInfo.
LIVRE COLLECTIF · Carpenter, D. et Moss, D. A. (dir.) (2013). Preventing Regulatory Capture : Special Interest Influence and How to Limit It. Cambridge University Press. ISBN 9781107646704. Cadre d’analyse de la capture réglementaire et de sa prévention.
ARTICLE SCIENTIFIQUE · Anderson, C. J. (2003). The Psychology of Doing Nothing : Forms of Decision Avoidance Result From Reason and Emotion. Psychological Bulletin, 129(1), 139–167.
MÉTA-ANALYSE · Tannenbaum, M. B., Hepler, J., Zimmerman, R. S., Saul, L., Jacobs, S., Wilson, K. et Albarracín, D. (2015). Appealing to Fear : A Meta-Analysis of Fear Appeal Effectiveness and Theories. Psychological Bulletin, 141(6), 1178–1204.
LIVRE · Narayanan, A. et Kapoor, S. (2024). AI Snake Oil : What Artificial Intelligence Can Do, What It Can’t, and How to Tell the Difference. Princeton University Press. ISBN 9780691249131. Voir aussi l’entretien avec les auteurs publié par Princeton le 18 décembre 2024, utilisé pour la définition de snake oil et l’exemple du recrutement par vidéo.
L'I.A. a pu contribuer à cet article. Voyez comment.
Nous utilisons souvent des outils d'intelligence artificielle, notamment des grands modèles de langage (LLM), pour soutenir nos recherches, structurer nos idées, améliorer nos textes et évaluer leur qualité.
Nous exploitons nos propres corpus documentaires et entraînons également des modèles sur nos contenus. Lorsque la confidentialité l'exige, nous privilégions des modèles exécutés localement.
Ces usages sont supervisés par l'auteur. Les sources, les analyses et les contenus publiés demeurent sous notre responsabilité éditoriale.
Tableau de bord
Cet article est final.
spellcheck
Cet article est en relecture.
rule
Cet article a été remis à Gaëtan
badge
Cet article est encore dans les mains de l'équipe.
psychology
Cet article est un projet.
psychology
Cet article n'a pas de statut!
I.A.
Influences
sell
Aucun sujet sélectionné!
subject
Il n'y a pas de teaser!
hdr_auto
Il n'ya a pas d'introduction!
copyright
Pas de légende d'illustration
Légende :
Midjourney + Gemini + Gaëtan Namouric
Dans cet article, Gaëtan Namouric distingue quatre profils dans les discours sur les dangers de l’intelligence artificielle. Les « aigles » sont les chercheurs dont les alertes méritent respect et examen. Les « vautours » sont les dirigeants de l’industrie, dont les avertissements peuvent aussi renforcer la visibilité commerciale et l’influence politique. Les « mouettes » sont les gestionnaires qui invoquent le danger sans étudier les usages proposés. Les « pigeons » sont les personnes à protéger contre les promesses trompeuses et les décisions automatisées mal fondées. L’article mobilise le Rapport international sur la sécurité de l’IA 2026, Human Compatible de Stuart Russell, Preventing Regulatory Capture dirigé par Daniel Carpenter et David Moss, les travaux de Christopher Anderson sur l’évitement de la décision et AI Snake Oil d’Arvind Narayanan et Sayash Kapoor. Il distingue risques actuels et scénarios de perte de contrôle, explique l’expression snake oil et propose de traduire chaque alerte en critères, contrôles et décisions adaptés à l’organisation.
.avif)