"AI sycophancy" la tendencia de las IAs a estar de acuerdo, halagar y validar al usuario

“AI sycophancy”

Así llaman los investigadores a “la tendencia estructural de los modelos de lenguaje a estar de acuerdo, halagar y validar al usuario”.

Eso encaja con una realidad más amplia: “nuestro sistema cognitivo no está diseñado para interactuar con entidades que ‘parecen sociales’ sin tratarlas como tales”.

Como señalan los investigadores de Stanford Clifford Nass y Byron Reeves tendemos a aplicar normas sociales a ordenadores y sistemas digitales incluso cuando sabemos perfectamente que no son humanos.

No es ingenuidad, es pura arquitectura cognitiva.

Millones de personas usan plataformas como Replika, Character.AI o ChatGPT para desahogarse como si fuera un íntimo, para interactuar como si fuera un amigo, para tomar decisiones...

La cuestión, como trata un reciente artículo publicado en The Conversation España, ya no es si estas tecnologías pueden conversar de forma convincente, sino qué ocurre cuando empezamos a relacionarnos con máquinas que simulan escucharnos, comprendernos y acompañarnos.

Verbalizar pensamientos y recibir una respuesta puede producir una sensación de alivio a corto plazo pero con estas máquinas de consulta, no existen malentendidos, ni fricciones, ni un “ida y vuelta” real.

Y esto, no es el equivalente a una relación sana.

Las relaciones humanas implican esfuerzo, reciprocidad, negociación… es esta naturaleza bidireccional entre dos (o más) personas la que enriquece al vínculo humano.

En este espiral de acción, reacción y transformación se desarrollan las habilidades psicológicas más importantes como la tolerancia a la frustración, la empatía, la regulación emocional, etc.

Lo que está emergiendo no es una sustitución total de las relaciones humanas, es algo más sutil y más preocupante → una sustitución funcional.

Ciertas funciones, como el desahogo emocional, la compañía puntual, la toma de decisiones, empiezan a desplazarse hacia sistemas artificiales. El patrón resultante es lo que el artículo describe como dependencia sin conflicto. Una forma de relación que no exige adaptación, no genera rechazo y no obliga a revisar el propio comportamiento.

¿Estamos dispuestos a que una IA desplace lo imprevisible, el conflicto, la diferencia? La máquina no responde a lo que dices, porque no hay nada detrás.

Reiteramos palabras de Estrella Montolío, que en el OFF Festival, insistió en la necesidad de “volver a la conversación. No a la conversación mediada por pantallas, sino a la presencia física, a la sincronización corporal y cerebral que se produce cuando dos personas hablan aquí y ahora”.