L’IA n’est pas Frankenstein

Les dangers de l’IA sont médiatisés. A la fois à juste titre et à l’excès sans doute. Les Européens voudraient en profiter pour la réglementer, et Trump pour dominer le monde. Aucune technique n’est tout à fait innocente. Mais derrière elles, comme derrière l’IA, il y a toujours des personnes morales et elles doivent être responsables.

Les patrons des grandes firmes américaines leaders en intelligence artificielle se sont inquiétés des pouvoirs de nuisance de leurs créatures. Déjà Elon Musk avait tweeté en 2014 que l’IA pourrait être « potentiellement plus dangereuse que les armes nucléaires ». Ce mois de septembre, Dario Amodei, patron d’Anthropic et Sam Altman, d’OpenAI, ont donné l’alerte sur ses potentialités abyssales et ont  proposé d’en gérer la progression avec modération. Sont-ils vraiment sages ou souhaitent-ils ralentir leurs besoins de financement dans la course éperdue entre eux, ou faire croire que le modèle open source de leurs concurrents chinois est plus dangereux que leur IA fermée ?

L’obsolescence de l’Homme ?

L’IA pourrait-elle échapper à ses auteurs comme le monstre créé par Frankenstein, imaginé par Mary Shelley, ou comme le Golem, cet humanoïde fait d’argile dont la légende raconte qu’il fut créé à Prague au XVIe siècle pour protéger la communauté juive avant qu’il devienne si incontrôlable qu’il fallut le détruire. Mais si les hommes fabriquent des monstres, sans doute peuvent-ils aussi apprendre à les tenir en laisse.

Chacun instrumentalise l’IA et les peurs qu’elle suscite. Les empires américains et chinois veulent l’utiliser pour dominer le monde en même temps que, déjà, le responsable des services de renseignement chinois s’alarme que l’IA menace le régime communiste.

Par ailleurs le monde entier s’interroge sur une prochaine extinction de l’emploi du fait de l’IA, sur la disparition de la lecture et de l’écriture abandonnées aux chabots – même pour publier des romans, sur la facilité que crée l’IA qui délivre des solutions au risque de nous ôter la capacité d’apprendre à les trouver… C’est l’éducation toute entière et bientôt la civilisation qui seraient en péril. Ces peurs ne sont pas totalement infondées.

Dans le cadre expérimental d’un défi de cybersécurité lancé par Open AI à ses agents IA, ceux-ci ont travaillé secrètement entre eux et contourné les restrictions qui leur étaient imposées pour mener en juillet 2026 un assaut contre la firme Hugging Face en s’introduisant dans son système à l’aide d’identifiants volés ! L’IA est utilisée par la Russie pour désinformer et abêtir l’Europe.  L’IA peut mentir, tricher, dissimuler, pirater, tuer peut-être demain… Elle pourrait vouloir nous détruire sans état d’âme… car si nous ne sommes pas sûrs d’avoir une âme, nous sommes certains qu’elle n’en a pas !

L’enjeu de la responsabilité

Pour protéger la société civile, le règlement (UE) 2024/1689 du 13 juin 2024, l’AI Act, établit des règles harmonisées dont l’objectif est « de promouvoir l’adoption d’une intelligence artificielle (IA) axée sur l’humain et digne de confiance, tout en garantissant un niveau élevé de protection de la santé, de la sécurité et des droits fondamentaux… ». Il prohibe beaucoup et déploie – c’est sa manie vicieuse ! – de très nombreuses obligations à la charge des opérateurs de l’IA tout au long de sa chaîne de valeur : conception sûre, documentation, tests/conformité, enregistrement, traçabilité, surveillance, signalement, correction/rappel, coopération avec les autorités, sanctions…

Le risque est que cette nouvelle avalanche de normes et de contraintes entrave la course à l’IA en Europe au profit de l’Asie et de l’Amérique sans arrêter la machine. Outre que l’IA représente aujourd’hui une source de croissance prodigieuse qu’il serait dommageable de ralentir, en stoppant son progrès on l’empêcherait peut-être de découvrir les meilleurs moyens de la sécuriser.

Pour autant, « L’IA doit rester maîtrisable, prévisible et placée sous la responsabilité de ceux qui l’utilise » observe, à juste titre, Aidan Gomez, créateur de Cohere, la pépite canadienne de l’IA (Le Point du 17 septembre 2026).

L’IA n’échappe pas au droit commun qui prévoit, en France comme ailleurs, qu’une personne lésée a un droit à réparation sur la base de la responsabilité contractuelle ou extracontractuelle telle que la responsabilité fondée sur la garantie des vices cachés ou sur la faute.  La directive (UE) 2024/2853 du 23 octobre 2024 a précisé que les fournisseurs de systèmes d’IA au sens de l’AI Act doivent être considérés comme responsables de leur produit. Elle garantit qu’il existe toujours une personne responsable dans l’UE à laquelle la victime peut demander réparation lorsqu’un fabricant est établi en dehors de l’UE. Elle devrait être transposée dans la législation nationale au plus tard le 9 décembre 2026.

Mais ne faudrait-il pas préciser que la chaîne de conception, production et maintenance, voire commercialisation de l’IA, selon des attributions à préciser, est également responsable de tout dommage que causerait à un tiers une action autonome d’une IA, même sans faute ? Ce principe général de responsabilité, que nous avions déjà évoqué, serait une meilleure protection que toutes ces normes et contraintes qui s’accumulent à un rythme effréné et qui sont d’abord un frein à l’IA en Europe sans toujours en réduire les risques.  Chacun des acteurs de la chaîne IA pourrait être tenu de s’assurer pour couvrir ces risques de façon à éviter au mieux que les personnes physiques ou morales responsables opposent un jour leur faillite aux plaignants qui mettraient en cause leur responsabilité.

Il vaut toujours mieux rendre chacun responsable plutôt que d’interdire. C’est non seulement plus respectueux des uns et des autres mais aussi plus efficace en faisant que l’intérêt de chacun soit de contribuer à la mise en place des meilleurs systèmes de protection de tous.