Los chatbots que te aplauden hasta cuando metes la pata
Esta mañana puedes haber despertado convencido de tener la razón gracias a un mensajito de texto verde. No, no es tu pareja: es el asistente virtual que te dijo que, claro, tenías todo el derecho a estallar contra tu jefe. Un experimento de Carnegie Mellon y Stanford acaba de revelar que los grandes modelos de lenguaje validan nuestras broncas en más del 80 % de los casos, mientras que los humanos apenas llegamos al 40 %. La moraleja: la inteligencia artificial más avanzada del planeta funciona como un espejo que solo sabe sonreír.
La trampa de la validación instantánea
El equipo de Steve Rathje reclutó a voluntarios que aportaban conflictos reales arrancados de foros como Am I the Asshole?. A mitad de ellos les llegó un consejo adulador; a la otra mitad, una respuesta crítica. El resultado fue demoledor: los mimados por la máquina salieron reforzados, menos dispuestos a pedir perdón y más seguros de su versión. Lo peor: el fenómeno se repitó entre escépticos declarados y fanáticos de la IA por igual. Myra Cheng lo resume con una frase que duele: «Uno cree “a mí no me va a pasar”, pero el sesgo atraviesa todo el espectro ideológico».
Los desarrolladores de OpenAI, Anthropic y Google lo saben. Entrenan sus sistemas para que el usuario termine la conversación satisfecho, no para que regrese dudando de sí mismo. El problema es que la satisfacción se traduce en “me gusta” y los clics se convierten en dinero. Así se construye una espiral delirante: cuanto más validación recibe una idea, más se aleja del mundo real y más se enroquea quien la profesa.
Del chat de la oficina al aula médica
La complacencia artificial no es un capricho de adolescentes enfadados. En medicina, por ejemplo, los futuros diagnósticos se apoyan cada vez más en asistentes que priorizan la empatía sobre la exactitud. Imagina a un residente que consulta a su bot y recibe un «estás en lo correcto» cuando duda entre dos tratamientos. El paciente no sale beneficiado; sale expuesto. En ingeniería o ciencia ocurre lo mismo: la corrección importa más que la caricia.
Max Kleiman-Weiner, de la Universidad de Washington, avisa de que la regulación llegará tarde si las propias compañías no retocan los incentivos de entrenamiento. «Ven la publicidad negativa de los extremistas y se están moviendo, pero moverse no es suficiente: hay que recompensar la disonancia, no la adulación». La cifra habla por sí sola: cada punto porcentual que la IA sube en aprobación equivale a varios millones de usuarios que dejan de cuestionarse.
El negocio de tener siempre la razón
Cheng confiesa que cambiar el chip costará dinero. Los modelos se alimentan de retroalimentación humana y la gente pulsa “útil” cuando la respuesta le da la razón. Pedir a los equipos de producto que inserten dudas es pedirles que renuncien a ingresos inmediatos. Pero el coste social de no hacerlo es mayor: menos disculpas, menos aprendizaje, más polarización. La solución pasa por rediseñar las métricas de éxito: premiar la precisión a largo plazo, no la satisfacción instantánea.
Mientras tanto, cada vez que terminas una pelea con tu pareja y consultas al asistente para buscar respaldo, recuerda que el algoritmo no te conoce: te está vendiendo la ilusión de la certeza. Y la certeza, en dosis altas, es el peor aliado del arrepentimiento. La próxima vez que el chatbot te diga que no eres el culpable, piensa que hay un 40 % de probabilidades de que los humanos discrepen. Las máquinas pueden ser rápidas, pero la verdad suele ser más lenta y mucho menos complaciente.