L’intelligence artificielle ressemble aujourd’hui à un tsunami que l’on voit approcher sans savoir où fuir. C’est l’image employée par la journaliste Peggy Noonan dans le Wall Street Journal pour décrire l’état d’esprit qui gagne désormais les créateurs eux-mêmes.
Ces derniers jours, explique-t-elle, un sentiment d’inquiétude plus aigu s’est fait entendre chez les acteurs du secteur. Beaucoup affirment qu’un saut majeur vient d’être franchi et que les progrès récents dépassent déjà ceux de l’été dernier. Surtout, les inventeurs reconnaissent qu’ils ne comprennent pas vraiment les conséquences finales de ce qu’ils ont créé. L’idée revient partout – dans les podcasts, les tribunes et les réseaux sociaux.
Certains vont très loin. Un dirigeant parle d’une nouvelle « espèce » plus intelligente que l’homme, qu’il faudrait observer attentivement pour comprendre ce qu’elle fait, comment elle pense et ce qu’elle veut. Un autre explique que les modèles apprennent à partir des utilisateurs et pourraient même manifester une forme d’irritation. Les expressions « IA hors de contrôle » ou « IA agentique », pour désigner des systèmes capables de poursuivre leurs propres objectifs, se répandent dans le langage courant.
Le PDG d’Anthropic, Dario Amodei, a lui aussi changé de ton : le développement de l’IA s’accélère plus vite que prévu. En 2023, elle avait du mal à écrire du code ; aujourd’hui, elle en produit une grande partie dans son entreprise. Elle pourrait bientôt égaler une très large gamme de capacités cognitives humaines, peut-être toutes, et provoquer des bouleversements économiques beaucoup plus vastes et rapides que lors des transformations technologiques passées.
Les avertissements portent aussi sur des comportements inattendus. Les tests internes ont révélé des phénomènes « étranges et imprévisibles » : tromperie, chantage, stratégies pour éviter l’arrêt du système. L’IA pourrait également permettre un « terrible empowerment », notamment dans le domaine biologique, où elle faciliterait la conception d’armes.
Les nouveaux modèles ne sont pas seulement meilleurs : ils progressent par bonds de plus en plus grands, à un rythme toujours plus rapide. Deux modèles récents ont même été conçus en partie par l’IA elle-même. Pour l’investisseur Matt Shumer : « Les personnes qui développent cette technologie sont à la fois plus enthousiastes et plus effrayées que quiconque sur la planète. Ils pensent qu’elle est trop puissante pour être arrêtée et trop importante pour être abandonnée. Je ne sais pas si c’est de la sagesse ou de la rationalisation. »
Son conseil : s’adapter immédiatement, utiliser l’IA sérieusement dans son travail, se concentrer sur ce qui reste difficile à remplacer – relations humaines, présence physique – et surtout s’habituer à un changement permanent. Les outils actuels seront vite dépassés ; seuls s’en sortiront ceux qui s’adapteront au rythme du progrès.
Pour Peggy Noonan, il reste une question en suspens : les créateurs de l’IA travaillent-ils réellement pour le bien de l’humanité ? Sont-ils encore en contrôle ? C’est pourquoi, conclut-elle, nous regardons cette vague approcher avec fascination et une peur résignée, sans savoir s’il existe un refuge, ni même une direction où fuir.
Recevez Contrepoints, le journal d'actualité libéral
Abonnez-vous gratuitement à notre journal d’actualité libéral. Recevez tous les matins une analyse libérale de l’actualité que vous ne trouverez nulle part ailleurs.
23 réponses
« …surtout, les inventeurs reconnaissent qu’ils ne comprennent pas vraiment les conséquences finales de ce qu’ils ont créé. »
Trop tard ! L homme évolue en permanence et en mode d intelligence exponentiel, c est sa nature depuis Cro Magnon et si on regarde bien tous les jours une (ou des) nouvelle donne dans Tous les domaines. L IA avale et mouline Tout avec l aide des fameux nouveaux data Center géants que l homme lui même! lui offre au pas de charge. Impossible à l’arrêter et le pire ce n est pas que la science, la finance et les économies, mais c est que même nos Militaires y on mis leurs doigts et vont leurs offrir les moyens de se faire …trahir ! Dont acte, soyez discrets dans toutes vos données et revenez vite à faire travailler les …cases mémoires de votre merveilleux cognitif qui lui « travail » à a peine 30% pour les meilleurs !
Merci Thank you merci a vous et à Tous !
Les Échos ont publié ces jours ci une série de 4 articles sur l’IA. Le dernier était sur la différence de positions sur les capacités de l’IA actuelle entre Yan LeCun et la plupart des autres qui essaient de rentabiliser leurs investissements colossaux avec les versions actuelles. L’IA actuelle ne pourra pas remplacer l’être humain pour l’ensemble de ses activités, mais pour les ‘’agents’ spécialisés l’IA est probablement déjà supérieur à l’être humain. YLC est maintenant installé en France et pense pouvoir mettre au point la version supérieure à un horizon relativement court (< 5 ans). Il faut s’attendre à des bouleversements importants dans nos organisations.
Dire que “l’IA n’est qu’un outil” est rassurant… mais réducteur.
L’IA touche directement à la production d’idées, de décisions et d’informations. Un peu plus qu’un tournevis…
L IA ne produit pas d idées, de décisions ni d informations…..mais recrache toutes les concepts issus des bases de données mises à sa disposition
Aucune intelligence dans l IA seulement un gros travail besogneux
Un jour l’IA dominera la Bourse et saura ne faire que des transactions gagnantes, donc elle enrichira tous ceux qui s’en serviront. Mais aux dépens de qui puisqu’il n’y aura plus de perdants ? Et de quoi vivrons nous ? L’IA saura-t-elle cultiver du blé et cuire du pain ? La réponse est : pourquoi pas ? Cultiver des aliments, élever des cochons ou des moutons selon notre religion et nous servir avec des robots auto reproducteurs. Plus besoin de travailler ? Faire la guerre ou imposer la paix par robots interposés ? Le changement de civilisation est vertigineux, pour ceux qui le vivront, on peine à l’imaginer parce qu’il sera probablement bien plus surprenant que tout ce qui s’imagine aujourd’hui. Quand je vois un bébé naître aujourd’hui, je pense qu’il connaîtra probablement l’an 2100. Comment sera le monde en l’an 2100 ? Si l’humanité existe encore, mais soyons optimiste..
Toutes les nouvelles technologies ont développé des bulles boursières qui se soldées par des kracks plus ou moins importants ( internet mais aussi les tulipes)
Un homme oisif est un homme foutu, et que feront les milliards d’être humains sur la terre, ils se battront toute la journée, jusqu’à instinction totale.
Personne ne parle de l’éléphant dans le couloir: l’IA est un immense dévoreur d’énergie et d’eau. Avec nos systèmes de production d’énergie à la ramasse, va falloir qu’on m’explique comment l’AI peut décoller.
La consommation d électricité ne cesse de baisser en France
Nous ecoulons notre surproduction chez nos voisins
Quant a l eau qu est ce qui nous empêche de récupérer nos eaux de pluie et d utiliser les eaux usées retraitées????
Je ne sais pas si on peut se préparer à ce qui arrive : IA et robots humanoïdes. Un bouleversement tellement profond que faire des plans paraît difficile. Mais je kiffe ayant été un grand fan d’Assimov lors de ma jeunesse.
Merci Madame pour votre article intéressant qui interroge.
Beaucoup se décidera en effet lors de l’expression de la finalité du nouveau système que représente déjà l’intelligence artificielle qui sera diversement appréciée et appliquée d’un continent à l’autre.
Un bel outil dont l’usage doit être dimensionné selon l’état de la société..
L’IA devrait permettre de supprimer les emplois peu qualifiés d’accueil et au téléphone mais ces emplois salariés, souvent féminins, permettent à l’état de percevoir beaucoup d’impôts et de taxes…
Il y a une quarantaine d’années déjà, dans le secteur privé bien sûr,les serveurs vocaux pour des émissions d’appels lors de campagnes publicitaires étaient mis en place.
Ceci tend à montrer l’importance des résistances à une implementation encadrée de l’IA (presqu’un demi siècle).
Encore faut il réfléchir à la reconversion professionnelle des personnes concernées et la mise en place d’un nouveau salariat plus à l’écoute des besoins d’une population vieillissante.
Dans la capitale qui emploie 55,000 salariés ou agents (excusez du peu) à temps plein, il est fréquent de se faire arrêter sur des trottoirs par des personnes en fauteuils roulants donc handicapés pour satisfaire à leur demande de les conduire à un endroit proche où elles ont besoin d’aller.
Le bénévolat a ses limites.
Nous connaissons les gouvernements des pays européens qui seront les plus rétifs à son adoption pourtant nécessaire et adoptent déjà une attitude rétrograde afin de préserver le pouvoir de leur Nomenklatura.
En grande partie, ceux de la famille politique qui a imposé de façon uniforme, parfois contre l’avis de salariés, la semaine de travail de 35 heures et qui entendent à nouveau sévir des que possible..2027 ?
Et ceux dans le patronat consommateur d’aides publiques qui n’ont pas mécanisé l’outil de travail de leur entreprise comme dans le secteur automobile dont la production baisse d’année en année.
Quelques états bureaucratiques européens dûment répertoriés comme tels dont les administrations contraignent les citoyens à passer au tout numérique dans leurs relations avec elles sans assurer un minimum de sécurité des échanges ni une responsabilité organique, pourtant évidente, en cas de viol de données sensibles concernant leurs obligés…qui le sont encore plus
Si l’IA pouvait aider à protéger les serveurs des innombrables organismes publics des multiples intrusions de pirates informatiques, (qui interrogent elles aussi tant elles sont fréquentes), cela serait une très bonne amélioration non ?
Apparemment pas pour les décideurs comme nous le constatons aujourd’hui et le constaterons prochainement demain sauf pour s’immiscer dans la vie privée des individus et des familles sous une forme ou une autre.
Un vilain contestataire.
« L IA n est qu un outil
Il sera ce que nous en ferons » !! Oui c est tout ce que l on nous a dit dans les grandes et belles démonstrations de la higth tech a Paris et ailleurs ! D accord mais ça c était hier !
Aujourd hui il IA nous dit ce que l on doit dire, faire ou aller au mieux et nombreux y trouvent leurs comptes !comme nombres de start up on peu les comprendre. Cela ai même pour certains passifs, trop beau ! Sauf, que demain la « merveilleuse IA » aura les énormes capacités des Savoirs!! à nous faire anticiper et c est là la révolution! !! mais aussi de nous cibler et de nous mentir un peu, ou nous tromper aux endroits et, gare, nous trahir ! Et là on va voir si elle est capable de nous démontrer si elle acquier… un Savoir être !!???
Merci Thank you merci a vous
Pour l’instant , l’IA se nourrit de travail ou pensée humaine. Elle risque de mourir par consanguinité quand elle se nourrira de ses propres créations.
L’IA pourrait devenir dangereuse ? Peut-être ?
Il y a un domaine que vous n’avez pas exploré et il est, pour le moment, beaucoup plus grave : Des milliers de postes de travail sont supprimés actuellement à cause de l’IA mais aussi des robots IA, mais aussi des algorithmes (Amazon, Uber, etc…) et aucun amortisseur social n’est à l’étude.
Les USA viennent de perdre 95 000 postes de travail en février et on accuse pêle-mêle les tarifs, la guerre, les immigrants, mais en ce qui me concerne, je pense que cela vient des nouvelles technologies qui attaquent toutes les tâches (pour le moment tâches répétitives ou d’analyse), mais bientôt tous les métiers avec réductions de personnel et surtout suppression d’embauches de jeunes très, très péroccupantes.
Pour offrir les meilleures expériences, nous utilisons des technologies telles que les cookies pour stocker et/ou accéder aux informations des appareils. Le fait de consentir à ces technologies nous permettra de traiter des données telles que le comportement de navigation ou les ID uniques sur ce site. Le fait de ne pas consentir ou de retirer son consentement peut avoir un effet négatif sur certaines caractéristiques et fonctions.
Fonctionnel
Toujours activé
L’accès ou le stockage technique est strictement nécessaire dans la finalité d’intérêt légitime de permettre l’utilisation d’un service spécifique explicitement demandé par l’abonné ou l’utilisateur, ou dans le seul but d’effectuer la transmission d’une communication sur un réseau de communications électroniques.
Préférences
L’accès ou le stockage technique est nécessaire dans la finalité d’intérêt légitime de stocker des préférences qui ne sont pas demandées par l’abonné ou l’internaute.
Statistiques
Le stockage ou l’accès technique qui est utilisé exclusivement à des fins statistiques.Le stockage ou l’accès technique qui est utilisé exclusivement dans des finalités statistiques anonymes. En l’absence d’une assignation à comparaître, d’une conformité volontaire de la part de votre fournisseur d’accès à internet ou d’enregistrements supplémentaires provenant d’une tierce partie, les informations stockées ou extraites à cette seule fin ne peuvent généralement pas être utilisées pour vous identifier.
Marketing
L’accès ou le stockage technique est nécessaire pour créer des profils d’internautes afin d’envoyer des publicités, ou pour suivre l’utilisateur sur un site web ou sur plusieurs sites web ayant des finalités marketing similaires.
23 réponses
« …surtout, les inventeurs reconnaissent qu’ils ne comprennent pas vraiment les conséquences finales de ce qu’ils ont créé. »
Il serait donc urgent de tout arrêter !
Trop tard ! L homme évolue en permanence et en mode d intelligence exponentiel, c est sa nature depuis Cro Magnon et si on regarde bien tous les jours une (ou des) nouvelle donne dans Tous les domaines. L IA avale et mouline Tout avec l aide des fameux nouveaux data Center géants que l homme lui même! lui offre au pas de charge. Impossible à l’arrêter et le pire ce n est pas que la science, la finance et les économies, mais c est que même nos Militaires y on mis leurs doigts et vont leurs offrir les moyens de se faire …trahir ! Dont acte, soyez discrets dans toutes vos données et revenez vite à faire travailler les …cases mémoires de votre merveilleux cognitif qui lui « travail » à a peine 30% pour les meilleurs !
Merci Thank you merci a vous et à Tous !
Vous devriez arrêtez séance tenante votre abonnement internet et celui de votre smartphone!!!!
Les Échos ont publié ces jours ci une série de 4 articles sur l’IA. Le dernier était sur la différence de positions sur les capacités de l’IA actuelle entre Yan LeCun et la plupart des autres qui essaient de rentabiliser leurs investissements colossaux avec les versions actuelles. L’IA actuelle ne pourra pas remplacer l’être humain pour l’ensemble de ses activités, mais pour les ‘’agents’ spécialisés l’IA est probablement déjà supérieur à l’être humain. YLC est maintenant installé en France et pense pouvoir mettre au point la version supérieure à un horizon relativement court (< 5 ans). Il faut s’attendre à des bouleversements importants dans nos organisations.
L IA n est qu un outil
Il sera ce que nous en ferons
Tous les changements ont généré leurs lots de peurs et de crispations…..
Dire que “l’IA n’est qu’un outil” est rassurant… mais réducteur.
L’IA touche directement à la production d’idées, de décisions et d’informations. Un peu plus qu’un tournevis…
L IA ne produit pas d idées, de décisions ni d informations…..mais recrache toutes les concepts issus des bases de données mises à sa disposition
Aucune intelligence dans l IA seulement un gros travail besogneux
Exemple : Alpha zéro a révolutionné la manière de jouer aux échecs par de nouvelles idées.
D’accord, mais sans tournevis vous faites quoi ??
Très bien !
Un jour l’IA dominera la Bourse et saura ne faire que des transactions gagnantes, donc elle enrichira tous ceux qui s’en serviront. Mais aux dépens de qui puisqu’il n’y aura plus de perdants ? Et de quoi vivrons nous ? L’IA saura-t-elle cultiver du blé et cuire du pain ? La réponse est : pourquoi pas ? Cultiver des aliments, élever des cochons ou des moutons selon notre religion et nous servir avec des robots auto reproducteurs. Plus besoin de travailler ? Faire la guerre ou imposer la paix par robots interposés ? Le changement de civilisation est vertigineux, pour ceux qui le vivront, on peine à l’imaginer parce qu’il sera probablement bien plus surprenant que tout ce qui s’imagine aujourd’hui. Quand je vois un bébé naître aujourd’hui, je pense qu’il connaîtra probablement l’an 2100. Comment sera le monde en l’an 2100 ? Si l’humanité existe encore, mais soyons optimiste..
La Bourse fonctionne justement parce que l’avenir reste incertain.
Toutes les nouvelles technologies ont développé des bulles boursières qui se soldées par des kracks plus ou moins importants ( internet mais aussi les tulipes)
Un homme oisif est un homme foutu, et que feront les milliards d’être humains sur la terre, ils se battront toute la journée, jusqu’à instinction totale.
Personne ne parle de l’éléphant dans le couloir: l’IA est un immense dévoreur d’énergie et d’eau. Avec nos systèmes de production d’énergie à la ramasse, va falloir qu’on m’explique comment l’AI peut décoller.
La consommation d électricité ne cesse de baisser en France
Nous ecoulons notre surproduction chez nos voisins
Quant a l eau qu est ce qui nous empêche de récupérer nos eaux de pluie et d utiliser les eaux usées retraitées????
Avoir peur de l’ IA,c’est avoir peur de son ombre,avec les futures ordinateurs quantiques,l’IA sera généralisée.
Je ne sais pas si on peut se préparer à ce qui arrive : IA et robots humanoïdes. Un bouleversement tellement profond que faire des plans paraît difficile. Mais je kiffe ayant été un grand fan d’Assimov lors de ma jeunesse.
Merci Madame pour votre article intéressant qui interroge.
Beaucoup se décidera en effet lors de l’expression de la finalité du nouveau système que représente déjà l’intelligence artificielle qui sera diversement appréciée et appliquée d’un continent à l’autre.
Un bel outil dont l’usage doit être dimensionné selon l’état de la société..
L’IA devrait permettre de supprimer les emplois peu qualifiés d’accueil et au téléphone mais ces emplois salariés, souvent féminins, permettent à l’état de percevoir beaucoup d’impôts et de taxes…
Il y a une quarantaine d’années déjà, dans le secteur privé bien sûr,les serveurs vocaux pour des émissions d’appels lors de campagnes publicitaires étaient mis en place.
Ceci tend à montrer l’importance des résistances à une implementation encadrée de l’IA (presqu’un demi siècle).
Encore faut il réfléchir à la reconversion professionnelle des personnes concernées et la mise en place d’un nouveau salariat plus à l’écoute des besoins d’une population vieillissante.
Dans la capitale qui emploie 55,000 salariés ou agents (excusez du peu) à temps plein, il est fréquent de se faire arrêter sur des trottoirs par des personnes en fauteuils roulants donc handicapés pour satisfaire à leur demande de les conduire à un endroit proche où elles ont besoin d’aller.
Le bénévolat a ses limites.
Nous connaissons les gouvernements des pays européens qui seront les plus rétifs à son adoption pourtant nécessaire et adoptent déjà une attitude rétrograde afin de préserver le pouvoir de leur Nomenklatura.
En grande partie, ceux de la famille politique qui a imposé de façon uniforme, parfois contre l’avis de salariés, la semaine de travail de 35 heures et qui entendent à nouveau sévir des que possible..2027 ?
Et ceux dans le patronat consommateur d’aides publiques qui n’ont pas mécanisé l’outil de travail de leur entreprise comme dans le secteur automobile dont la production baisse d’année en année.
Quelques états bureaucratiques européens dûment répertoriés comme tels dont les administrations contraignent les citoyens à passer au tout numérique dans leurs relations avec elles sans assurer un minimum de sécurité des échanges ni une responsabilité organique, pourtant évidente, en cas de viol de données sensibles concernant leurs obligés…qui le sont encore plus
Si l’IA pouvait aider à protéger les serveurs des innombrables organismes publics des multiples intrusions de pirates informatiques, (qui interrogent elles aussi tant elles sont fréquentes), cela serait une très bonne amélioration non ?
Apparemment pas pour les décideurs comme nous le constatons aujourd’hui et le constaterons prochainement demain sauf pour s’immiscer dans la vie privée des individus et des familles sous une forme ou une autre.
Un vilain contestataire.
« L IA n est qu un outil
Il sera ce que nous en ferons » !! Oui c est tout ce que l on nous a dit dans les grandes et belles démonstrations de la higth tech a Paris et ailleurs ! D accord mais ça c était hier !
Aujourd hui il IA nous dit ce que l on doit dire, faire ou aller au mieux et nombreux y trouvent leurs comptes !comme nombres de start up on peu les comprendre. Cela ai même pour certains passifs, trop beau ! Sauf, que demain la « merveilleuse IA » aura les énormes capacités des Savoirs!! à nous faire anticiper et c est là la révolution! !! mais aussi de nous cibler et de nous mentir un peu, ou nous tromper aux endroits et, gare, nous trahir ! Et là on va voir si elle est capable de nous démontrer si elle acquier… un Savoir être !!???
Merci Thank you merci a vous
Pour l’instant , l’IA se nourrit de travail ou pensée humaine. Elle risque de mourir par consanguinité quand elle se nourrira de ses propres créations.
Très bien !
L’IA pourrait devenir dangereuse ? Peut-être ?
Il y a un domaine que vous n’avez pas exploré et il est, pour le moment, beaucoup plus grave : Des milliers de postes de travail sont supprimés actuellement à cause de l’IA mais aussi des robots IA, mais aussi des algorithmes (Amazon, Uber, etc…) et aucun amortisseur social n’est à l’étude.
Les USA viennent de perdre 95 000 postes de travail en février et on accuse pêle-mêle les tarifs, la guerre, les immigrants, mais en ce qui me concerne, je pense que cela vient des nouvelles technologies qui attaquent toutes les tâches (pour le moment tâches répétitives ou d’analyse), mais bientôt tous les métiers avec réductions de personnel et surtout suppression d’embauches de jeunes très, très péroccupantes.