Marketing del miedo o realidad: Provocará la IA la extinción de la humanidad?

Muchos de los críticos de la IA consideran que las grandes empresas tecnológicas solo están recurriendo al «marketing del miedo» para desviar la atención de la larga lista de daños que la IA ya está causando en la actualidad.
«Somos tan poderosos e importantes que podríamos provocar la extinción de la humanidad».
Muchos amigos con los que me siento cercano intelectualmente siguen argumentando: «La IA aún no es tan autónoma; solo dicen eso para evitar responsabilidades. Centrémonos en los problemas reales».
Bueno, está claro que algo ha cambiado en los últimos meses.
No son solo los Amodei o los Altman quienes nos dicen lo revolucionarios que son.
Cada vez son más los académicos e investigadores independientes que demuestran que esto no puede reducirse a una simple estrategia de comunicación ingeniosa.
Y no se trata únicamente del ataque a Hugging Face / OpenAI por parte de agentes autónomos.
METR (Model Evaluation & Threat Research) ha publicado en las últimas semanas unos informes muy relevantes, tanto sobre OpenAI como sobre Meta.
Entre otras conclusiones, destaca la realidad de las mejoras autorrecurrentes en el desarrollo de la IA, en las que la propia IA lleva a cabo cada vez más la investigación sobre sí misma.
Anthropic está acelerando el desarrollo de las tecnologías sobre las que nos advierte, y lo está haciendo más rápido de lo que estiman los pesimistas.
Estamos muy cerca del umbral de peligro irreversible, en el que la IA avanza tan rápido que los humanos ya no entenderemos lo que está pasando, mientras que la transparencia y la supervisión serán casi imposibles.
Daniel Kokotajl, cuya famosa predicción sobre la pérdida de control sobre la IA se ha demostrado, en líneas generales, acertada hasta ahora, expresó su preocupación tras leer el último informe del METR sobre Anthropic:
«Si tienen razón, eso implica una aceleración impulsada por la IA que se adelanta cinco meses al escenario de IA 2027. Estoy asustado, triste y enfadado».
No podemos aceptar esto. Si entrenas a tu perro para que muerda y mata a alguien, te enfrentas a cargos penales. Los responsables del sector de la IA deberían rendir cuentas por jugarse nuestro futuro de forma irresponsable.
Por Diego Hidalgo




Comentarios