Marketing de la peur ou réalité : l'IA causera-t-elle l'extinction humaine ?

Beaucoup de ceux qui critiquent l'IA considèrent que les hyperscalers ne font que du marketing de la peur pour détourner l'attention de la longue liste de dommages que l'IA cause déjà aujourd'hui.
« Nous sommes si puissants et importants que nous pourrions provoquer l'extinction humaine. »
Beaucoup d'amis dont je me sens proche intellectuellement argumentent encore : « L'IA n'est pas encore vraiment autonome, ils disent juste cela pour éviter les responsabilités. Concentrons-nous sur les vrais problèmes. »
Bon, il est clair que quelque chose a changé ces derniers mois.
Il n'y a pas que les Amodei ou les Altman pour nous dire à quel point ils sont révolutionnaires.
De plus en plus d'universitaires et de chercheurs indépendants démontrent que cela ne peut se résumer à une stratégie de communication astucieuse.
Et il ne s'agit pas seulement du piratage de Hugging Face / OpenAI par des agents autonomes.
Le METR (Model Evaluation & Threat Research) a publié ces dernières semaines des rapports très pertinents, tant sur OpenAI que sur Meta.
Entre plusieurs autres conclusions, cette étude met en évidence la réalité d'un cycle d'améliorations auto-entretenues dans le développement de l'IA, dans lequel la recherche en IA est de plus en plus menée par l'IA elle-même.
Anthropic accélère le développement des technologies dont elle nous met en garde – et ce, à un rythme plus rapide que ne le prévoient même les pessimistes.
Nous sommes très proches du seuil de danger irréversible, au-delà duquel l'IA évoluera à un rythme tel que les humains ne comprendront plus ce qui se passe, et que la transparence et le contrôle deviendront pratiquement impossibles.
Daniel Kokotajl, dont la célèbre prédiction concernant la perte de contrôle sur l'IA s'est globalement révélée exacte jusqu'à présent, a fait part de ses inquiétudes après avoir lu le dernier rapport METR sur Anthropic :
« Si ils ont raison, cela signifie que l’accélération induite par l’IA devance de cinq mois le scénario 'IA 2027' . J’ai peur, je suis triste et en colère. »
Nous ne pouvons pas accepter cela. Si vous entraînez votre chien à mordre et qu’il tue quelqu’un, vous serez poursuivi en justice. Les responsables du secteur de l’IA devraient être tenus pour responsables d’avoir mis notre avenir en jeu de manière irresponsable.
Par Diego Hidalgo




Commentaires