Los peligros de decir "gracias, ChatGPT"

Hace tiempo ya advirtió Carissa Véliz del peligro del que la IA simulara emociones humanas. Propuso, entre otros puntos, que se prohibiera el uso de emojis por parte de los chatbots.

Si estamos de acuerdo con el objetivo de preservar a los humanos de su absorción progresiva en las máquinas, marcar una diferencia muy clara entre interacciones humanas y entre personas y máquinas es clave.

Pero gran parte de la industria de la IA (y de las empresas que operan con sus programas) tiene el objetivo opuesto: el que la frontera entre relaciones humano-humano y humano-máquina sea cada vez más borrosa.

Pretende antropomorfizar las máquinas para que se sustituyan a todos los roles humanos, generadores de vínculos entre personas, desde el psicólogo hasta el profesor, pasando por el amigo.

Una lógica que culmina con la emergente industria de los robots sexuales dotados de IA.

Andrés Ortega, firmante del Manifiesto OFF, analiza en El País este problema desde la perspectiva inversa y complementaria: ¿cómo deberíamos interactuar nosotros con las máquinas?

“Una excesiva buena educación en el trato hacia la IA actúa como una señal que el modelo interpreta como preferencia por conseguir una respuesta con la que esté de acuerdo. Trátala bien y te engañará más.”

Otro giro: parece que la gente que interactúa mucho con IAs termina hablando poco a poco como ellas. “¿Hablaremos como las máquinas en un juego de la imitación (Turing) inverso?”.

Entender: la IA se ha formado a base de analizar miles de millones de conversaciones humanas, permitiéndole simular una conversación humana. Pero ya estamos observando la dinámica inversa con humanos que, paulatinamente, “maquinizan” su forma de comunicar en contacto con ella.

Por Diego Hidalgo