Lo que Sócrates puede enseñarnos sobre la IA

“Si Sócrates fue la persona más sabia de la antigua Grecia, entonces los grandes modelos lingüísticos deben ser los sistemas más estúpidos del mundo moderno.”

Según el oráculo de Delfos, Sócrates era el más sabio de Grecia, no porque supiera más que nadie, sino porque era el único consciente de los límites de su propio conocimiento.

Los LLM son exactamente lo contrario.

No saben lo que no saben, no rastrean la verdad, no tienen “ojo crítico”, ni reconocen la belleza, simplemente hacen conjeturas estadísticas presentadas con la misma seguridad con la que presentarían un hecho verificado o la falsedad más grande del mundo.

En este artículo de la revista Lo Imposible, Carissa Véliz, filósofa de la Universidad de Oxford, recupera palabras de Harry Frankfurt para nombrar esto con precisión: no es mentira, es algo más peligroso… Es estupidez y esto suele ser un discurso persuasivo desconectado de cualquier preocupación por la verdad.

El mentiroso al menos sabe cuál es la verdad y la evita deliberadamente. “El que dice la verdad y el mentiroso juegan en bandos opuestos del mismo juego”. El modelo de lenguaje ni siquiera juega ese juego. La verdad simplemente le resulta irrelevante.

Y estos sistemas están diseñados para ser convincentes. No para ser verídicos. Para satisfacer las preferencias del usuario con una respuesta que suene bien.

Estamos construyendo infraestructuras de decisión – en periodismo, en medicina, en política, en educación – sobre sistemas que no tienen ningún mecanismo para preocuparse por si lo que dicen es verdad.

Véliz cierra el artículo con una pregunta: la democracia ateniense mató a Sócrates y dejó prosperar a los sofistas (los embaucadores de aquella época). ¿Estamos repitiendo el mismo error?

Por Rommy Artigas