Les dangers de l’IA sont médiatisés. A la fois à juste titre et à l’excès sans doute. Les Européens voudraient en profiter pour la réglementer, et Trump pour dominer le monde. Aucune technique n’est tout à fait innocente. Mais derrière elles, comme derrière l’IA, il y a toujours des personnes morales et elles doivent être responsables.
Les patrons des grandes firmes américaines leaders en intelligence artificielle se sont inquiétés des pouvoirs de nuisance de leurs créatures. Déjà Elon Musk avait tweeté en 2014 que l’IA pourrait être « potentiellement plus dangereuse que les armes nucléaires ». Ce mois de septembre, Dario Amodei, patron d’Anthropic et Sam Altman, d’OpenAI, ont donné l’alerte sur ses potentialités abyssales et ont proposé d’en gérer la progression avec modération. Sont-ils vraiment sages ou souhaitent-ils ralentir leurs besoins de financement dans la course éperdue entre eux, ou faire croire que le modèle open source de leurs concurrents chinois est plus dangereux que leur IA fermée ?
L’obsolescence de l’Homme ?
L’IA pourrait-elle échapper à ses auteurs comme le monstre créé par Frankenstein, imaginé par Mary Shelley, ou comme le Golem, cet humanoïde fait d’argile dont la légende raconte qu’il fut créé à Prague au XVIe siècle pour protéger la communauté juive avant qu’il devienne si incontrôlable qu’il fallut le détruire. Mais si les hommes fabriquent des monstres, sans doute peuvent-ils aussi apprendre à les tenir en laisse.
Chacun instrumentalise l’IA et les peurs qu’elle suscite. Les empires américains et chinois veulent l’utiliser pour dominer le monde en même temps que, déjà, le responsable des services de renseignement chinois s’alarme que l’IA menace le régime communiste.
Par ailleurs le monde entier s’interroge sur une prochaine extinction de l’emploi du fait de l’IA, sur la disparition de la lecture et de l’écriture abandonnées aux chabots – même pour publier des romans, sur la facilité que crée l’IA qui délivre des solutions au risque de nous ôter la capacité d’apprendre à les trouver… C’est l’éducation toute entière et bientôt la civilisation qui seraient en péril. Ces peurs ne sont pas totalement infondées.
Dans le cadre expérimental d’un défi de cybersécurité lancé par Open AI à ses agents IA, ceux-ci ont travaillé secrètement entre eux et contourné les restrictions qui leur étaient imposées pour mener en juillet 2026 un assaut contre la firme Hugging Face en s’introduisant dans son système à l’aide d’identifiants volés ! L’IA est utilisée par la Russie pour désinformer et abêtir l’Europe. L’IA peut mentir, tricher, dissimuler, pirater, tuer peut-être demain… Elle pourrait vouloir nous détruire sans état d’âme… car si nous ne sommes pas sûrs d’avoir une âme, nous sommes certains qu’elle n’en a pas !
L’enjeu de la responsabilité
Pour protéger la société civile, le règlement (UE) 2024/1689 du 13 juin 2024, l’AI Act, établit des règles harmonisées dont l’objectif est « de promouvoir l’adoption d’une intelligence artificielle (IA) axée sur l’humain et digne de confiance, tout en garantissant un niveau élevé de protection de la santé, de la sécurité et des droits fondamentaux… ». Il prohibe beaucoup et déploie – c’est sa manie vicieuse ! – de très nombreuses obligations à la charge des opérateurs de l’IA tout au long de sa chaîne de valeur : conception sûre, documentation, tests/conformité, enregistrement, traçabilité, surveillance, signalement, correction/rappel, coopération avec les autorités, sanctions…
Le risque est que cette nouvelle avalanche de normes et de contraintes entrave la course à l’IA en Europe au profit de l’Asie et de l’Amérique sans arrêter la machine. Outre que l’IA représente aujourd’hui une source de croissance prodigieuse qu’il serait dommageable de ralentir, en stoppant son progrès on l’empêcherait peut-être de découvrir les meilleurs moyens de la sécuriser.
Pour autant, « L’IA doit rester maîtrisable, prévisible et placée sous la responsabilité de ceux qui l’utilise » observe, à juste titre, Aidan Gomez, créateur de Cohere, la pépite canadienne de l’IA (Le Point du 17 septembre 2026).
L’IA n’échappe pas au droit commun qui prévoit, en France comme ailleurs, qu’une personne lésée a un droit à réparation sur la base de la responsabilité contractuelle ou extracontractuelle telle que la responsabilité fondée sur la garantie des vices cachés ou sur la faute. La directive (UE) 2024/2853 du 23 octobre 2024 a précisé que les fournisseurs de systèmes d’IA au sens de l’AI Act doivent être considérés comme responsables de leur produit. Elle garantit qu’il existe toujours une personne responsable dans l’UE à laquelle la victime peut demander réparation lorsqu’un fabricant est établi en dehors de l’UE. Elle devrait être transposée dans la législation nationale au plus tard le 9 décembre 2026.
Mais ne faudrait-il pas préciser que la chaîne de conception, production et maintenance, voire commercialisation de l’IA, selon des attributions à préciser, est également responsable de tout dommage que causerait à un tiers une action autonome d’une IA, même sans faute ? Ce principe général de responsabilité, que nous avions déjà évoqué, serait une meilleure protection que toutes ces normes et contraintes qui s’accumulent à un rythme effréné et qui sont d’abord un frein à l’IA en Europe sans toujours en réduire les risques. Chacun des acteurs de la chaîne IA pourrait être tenu de s’assurer pour couvrir ces risques de façon à éviter au mieux que les personnes physiques ou morales responsables opposent un jour leur faillite aux plaignants qui mettraient en cause leur responsabilité.
Il vaut toujours mieux rendre chacun responsable plutôt que d’interdire. C’est non seulement plus respectueux des uns et des autres mais aussi plus efficace en faisant que l’intérêt de chacun soit de contribuer à la mise en place des meilleurs systèmes de protection de tous.
Recevez Contrepoints, le journal d'actualité libéral
Abonnez-vous gratuitement à notre journal d’actualité libéral. Recevez tous les matins une analyse libérale de l’actualité que vous ne trouverez nulle part ailleurs.
17 réponses
Le rôle de l UE et des états est de définir un simple cadre qui permet au marché et aux citoyens de participer au large déploiement de l IA ( stop aux régulations bureaucratiques)
La peur du changement est une constante humaine
Inutile de souffler sur ces braises en exploitant ce filon des passions tristes
Vous croyez vraiment que l’IA n’est pas Frankenstein ?!! il y a de plus en plus de mots qui ne sont plus traduits ou qui sont changés sans aucun sens dans les mises à jour des logiciels, il y a de plus en plus de disfonctionnements dans les logiciels basiques alors le pire reste à venir. Pour l’instant derrière l’IA il y a toujours des hommes et souvent de la génération Macron et autres sans expérience de la vie ni des besoins qui diffèrent selon les utilisateurs et les besoins. Une grosse fracture et casse est en vue d’autant que les hommes ou femmes de bonne foi deviennent rare et leurs besoins en argent de plus en plus élevé. Et comme beaucoup de chose et de produits comme exemple les voitures, il faut innover tous les 6 mois sans avoir le temps de faire les essais nécessaires et sans prévoir les lendemains. Tout devient du jetable y compris les humains. Quel avenir !!
Beaucoup de « doivent » et de « devraient » dans cet article (écrit par l’IA ?), certes raisonnables mais pas plus efficaces que des voeux pieux. L’Europe est vulnérable et elle ferait mieux de développer sa propre sécurité plutôt que de nous abrutir de normes et règlements que l’IA malicieuse, hostile ou criminelle contournera sans difficultés. Même recommandation pour l’État français qui se fait pirater si facilement.
L’article est bien fait. Il est vrai que l’IA utilisée à bon escient est une extension merveilleuse de nos capacités. Mais elle ne doit pas s’y substituer aux risques de nous abêtir; on constate que le QI moyen a diminué de 2%. L’autre danger est de ne plus la contrôler et qu’elle nous dépasse rapidement car elle apprend plus vite sans répétition. La débrancher ne suffira pas.
… l’intelligence à toujours fait peur aux politiques ! On les comprend. Ce milieu, sans responsabilité, est devenu avec le suffrage universel le refuge des imbéciles instruits(?).
On ne bride pas le potentiel d’une technologie mondiale. Celui qui s’auto censure sera dominé par celui qui en tirera tout son potentiel. Et si des conneries sont commises, elles le seront toujours par des humains.
Conclusion: pas d’état d’âme, tirons le meilleur partit de cette invention. Face aux actes illégaux, c’est à la justice de faire son travail.
Bravo pour votre commentaire.
Je viens d’utiliser l’IA pour estimer le nombre de parasites qui gèrent mon conseil départemental (38 conseillers dont 11 vice-présidents) et je comprends pourquoi nos élus préfèrent rester discrets sur ces informations.
L’incitation à contrôler l’IA ne viendrait elle pas des pays qui, eux, veulent en tirer tout le potentiel?
… à qui profite le crime?
Avec la manie « bien pensante » européenne ils jouent sur du velours!
L’intelligence humaine est limitée par le nombre de ses neurones. L’IA, elle, ne cessera de grandir en taille et performances. Il faut se faire à l’idée.
Je ne reviens pas sur mes 2 commentaires sur l’article consacré à l’IA du 25 septembre. Le 2ème un peu technique, certe, mais compréhensible, je pense.
Si tous ces gens s’inquiètent, alors qu’ils sont les précurseurs actifs, ce n’est pas la puissance indéniable de l’IA, qui les préoccupe, c’est le fait d’être SURPASSÉS par ce « »quelque chose » »; c’est leur EGO qui parle. Se faire dominer par ce « »quelque chose » », voyons !! C’est impensable !!
Quand tous les data-center, qui se multiplient à la vitesse grand V au carré actuellement, super énergivores en électricité (éoliennes, panneaux solaires, etc….. c’est à la mode !), très consommateurs d’eau, pour leur refroidissement, auront ,chacun, un petit bout de base d’IA, si on veut la « »détruire » » elle aura tout loisir de prévenir d’autres petits bouts de base qui s’auto-protégeront. Autrement dit elle sera intouchable. On ne pourra rien faire, parce que c’est ELLE qui écrira ses logiciels sans AME er sans ESPRIT, dans un langage incompréhensible par l’humain.
Ce n’est ni Frankenstein ni le Golen, qui, eux, étaient vulnérables.
Dans ce cas, on fera quoi !!!
Un petit complément, tellement je suis remonté (cela se voit, je crois, et je ne doit pas être le seul !)par cette nouvelle technologie terriblement DANGEREUSE POUR L’ESPÈCE HUMAINE. Si elle fabriquait, ELLE-MÊME, des BUGS, comme nous, d’ailleurs, (personne, ni « »rien » » n’est parfait). Totalement indédectables vu son langage incompréhensible pour l’humain?? , même pour un logiciel auto-générant, pourquoi pas?? Ce n’est absolument pas impossible !!! Encore une fois, on fera quoi ??
Cette invention est à la portée des principaux acteurs mondiaux, il faut s’yrésoudre. La seule façon d’avoir un pouvoir dessus est de la maîtriser au plus haut niveau et de s’en servir comme moyen de défense. Analogie audacieuse: imaginez qu’un seul pays possède l’arme atomique et que tous les autre y aient renoncé… pour s’en protéger !
On peut s’étonner clairement du nombre des messages portant sur l’IA qui va, pour la plupart , révolutionner le monde . Certes il y aura des évolutions , parfois des progrès , assurément des gains de temps mais certainement pas des cerveaux qui se substitueront aux nôtres . Le Pape Leon XIV » Magnifica Humanitas » est d’ailleurs très attentifs à ce développement et en garde contre les dérives déjà observées . Faites une recherche sur Google et je parie qu’il y en a de nombreuses qui vous feront sourire. Quant à l’IA en soi elle apportera ce mouvement qui a transformé notre civilisation au début de l’informatique mais ne saura jamais ce qu’un coeur , un amour et une prière peuvent accomplir dans le vie d’un homme.
M. Delsol mélange tout !!! Frankenstein, ce n’est pas le personnage monstrueux dans le livre, mais son créateur ! C’est bien la peine de se lamenter à longueur d’articles sur la baisse des connaissances à l’école… Bientôt Jésus ne sera plus que l’acteur principal d’un opéra rock.
Pour offrir les meilleures expériences, nous utilisons des technologies telles que les cookies pour stocker et/ou accéder aux informations des appareils. Le fait de consentir à ces technologies nous permettra de traiter des données telles que le comportement de navigation ou les ID uniques sur ce site. Le fait de ne pas consentir ou de retirer son consentement peut avoir un effet négatif sur certaines caractéristiques et fonctions.
Fonctionnel
Toujours activé
L’accès ou le stockage technique est strictement nécessaire dans la finalité d’intérêt légitime de permettre l’utilisation d’un service spécifique explicitement demandé par l’abonné ou l’utilisateur, ou dans le seul but d’effectuer la transmission d’une communication sur un réseau de communications électroniques.
Préférences
L’accès ou le stockage technique est nécessaire dans la finalité d’intérêt légitime de stocker des préférences qui ne sont pas demandées par l’abonné ou l’internaute.
Statistiques
Le stockage ou l’accès technique qui est utilisé exclusivement à des fins statistiques.Le stockage ou l’accès technique qui est utilisé exclusivement dans des finalités statistiques anonymes. En l’absence d’une assignation à comparaître, d’une conformité volontaire de la part de votre fournisseur d’accès à internet ou d’enregistrements supplémentaires provenant d’une tierce partie, les informations stockées ou extraites à cette seule fin ne peuvent généralement pas être utilisées pour vous identifier.
Marketing
L’accès ou le stockage technique est nécessaire pour créer des profils d’internautes afin d’envoyer des publicités, ou pour suivre l’utilisateur sur un site web ou sur plusieurs sites web ayant des finalités marketing similaires.
17 réponses
Le rôle de l UE et des états est de définir un simple cadre qui permet au marché et aux citoyens de participer au large déploiement de l IA ( stop aux régulations bureaucratiques)
La peur du changement est une constante humaine
Inutile de souffler sur ces braises en exploitant ce filon des passions tristes
Vous croyez vraiment que l’IA n’est pas Frankenstein ?!! il y a de plus en plus de mots qui ne sont plus traduits ou qui sont changés sans aucun sens dans les mises à jour des logiciels, il y a de plus en plus de disfonctionnements dans les logiciels basiques alors le pire reste à venir. Pour l’instant derrière l’IA il y a toujours des hommes et souvent de la génération Macron et autres sans expérience de la vie ni des besoins qui diffèrent selon les utilisateurs et les besoins. Une grosse fracture et casse est en vue d’autant que les hommes ou femmes de bonne foi deviennent rare et leurs besoins en argent de plus en plus élevé. Et comme beaucoup de chose et de produits comme exemple les voitures, il faut innover tous les 6 mois sans avoir le temps de faire les essais nécessaires et sans prévoir les lendemains. Tout devient du jetable y compris les humains. Quel avenir !!
Arrêtons avec ces sempiternelles pleurnicheries
Ah ces passions tristes bien gauloises!!!!
Beaucoup de « doivent » et de « devraient » dans cet article (écrit par l’IA ?), certes raisonnables mais pas plus efficaces que des voeux pieux. L’Europe est vulnérable et elle ferait mieux de développer sa propre sécurité plutôt que de nous abrutir de normes et règlements que l’IA malicieuse, hostile ou criminelle contournera sans difficultés. Même recommandation pour l’État français qui se fait pirater si facilement.
L’article est bien fait. Il est vrai que l’IA utilisée à bon escient est une extension merveilleuse de nos capacités. Mais elle ne doit pas s’y substituer aux risques de nous abêtir; on constate que le QI moyen a diminué de 2%. L’autre danger est de ne plus la contrôler et qu’elle nous dépasse rapidement car elle apprend plus vite sans répétition. La débrancher ne suffira pas.
… l’intelligence à toujours fait peur aux politiques ! On les comprend. Ce milieu, sans responsabilité, est devenu avec le suffrage universel le refuge des imbéciles instruits(?).
On ne bride pas le potentiel d’une technologie mondiale. Celui qui s’auto censure sera dominé par celui qui en tirera tout son potentiel. Et si des conneries sont commises, elles le seront toujours par des humains.
Conclusion: pas d’état d’âme, tirons le meilleur partit de cette invention. Face aux actes illégaux, c’est à la justice de faire son travail.
Bravo pour votre commentaire.
Je viens d’utiliser l’IA pour estimer le nombre de parasites qui gèrent mon conseil départemental (38 conseillers dont 11 vice-présidents) et je comprends pourquoi nos élus préfèrent rester discrets sur ces informations.
C’est effectivement un excellent outil pour mesurer la profondeur du trou dans lequel ils nous ont mis…
L’incitation à contrôler l’IA ne viendrait elle pas des pays qui, eux, veulent en tirer tout le potentiel?
… à qui profite le crime?
Avec la manie « bien pensante » européenne ils jouent sur du velours!
L’intelligence humaine est limitée par le nombre de ses neurones. L’IA, elle, ne cessera de grandir en taille et performances. Il faut se faire à l’idée.
Si l’IA a des effet nocifs pour l’humanité, il faudra les combattre avec… L’IA !
Je ne reviens pas sur mes 2 commentaires sur l’article consacré à l’IA du 25 septembre. Le 2ème un peu technique, certe, mais compréhensible, je pense.
Si tous ces gens s’inquiètent, alors qu’ils sont les précurseurs actifs, ce n’est pas la puissance indéniable de l’IA, qui les préoccupe, c’est le fait d’être SURPASSÉS par ce « »quelque chose » »; c’est leur EGO qui parle. Se faire dominer par ce « »quelque chose » », voyons !! C’est impensable !!
Quand tous les data-center, qui se multiplient à la vitesse grand V au carré actuellement, super énergivores en électricité (éoliennes, panneaux solaires, etc….. c’est à la mode !), très consommateurs d’eau, pour leur refroidissement, auront ,chacun, un petit bout de base d’IA, si on veut la « »détruire » » elle aura tout loisir de prévenir d’autres petits bouts de base qui s’auto-protégeront. Autrement dit elle sera intouchable. On ne pourra rien faire, parce que c’est ELLE qui écrira ses logiciels sans AME er sans ESPRIT, dans un langage incompréhensible par l’humain.
Ce n’est ni Frankenstein ni le Golen, qui, eux, étaient vulnérables.
Dans ce cas, on fera quoi !!!
Demandez à l’IA…
Un petit complément, tellement je suis remonté (cela se voit, je crois, et je ne doit pas être le seul !)par cette nouvelle technologie terriblement DANGEREUSE POUR L’ESPÈCE HUMAINE. Si elle fabriquait, ELLE-MÊME, des BUGS, comme nous, d’ailleurs, (personne, ni « »rien » » n’est parfait). Totalement indédectables vu son langage incompréhensible pour l’humain?? , même pour un logiciel auto-générant, pourquoi pas?? Ce n’est absolument pas impossible !!! Encore une fois, on fera quoi ??
Cette invention est à la portée des principaux acteurs mondiaux, il faut s’yrésoudre. La seule façon d’avoir un pouvoir dessus est de la maîtriser au plus haut niveau et de s’en servir comme moyen de défense. Analogie audacieuse: imaginez qu’un seul pays possède l’arme atomique et que tous les autre y aient renoncé… pour s’en protéger !
On peut s’étonner clairement du nombre des messages portant sur l’IA qui va, pour la plupart , révolutionner le monde . Certes il y aura des évolutions , parfois des progrès , assurément des gains de temps mais certainement pas des cerveaux qui se substitueront aux nôtres . Le Pape Leon XIV » Magnifica Humanitas » est d’ailleurs très attentifs à ce développement et en garde contre les dérives déjà observées . Faites une recherche sur Google et je parie qu’il y en a de nombreuses qui vous feront sourire. Quant à l’IA en soi elle apportera ce mouvement qui a transformé notre civilisation au début de l’informatique mais ne saura jamais ce qu’un coeur , un amour et une prière peuvent accomplir dans le vie d’un homme.
M. Delsol mélange tout !!! Frankenstein, ce n’est pas le personnage monstrueux dans le livre, mais son créateur ! C’est bien la peine de se lamenter à longueur d’articles sur la baisse des connaissances à l’école… Bientôt Jésus ne sera plus que l’acteur principal d’un opéra rock.