Investigaciones recientes de la Universidad de Stanford alertan sobre la presencia de sicofancia en sistemas de inteligencia artificial, un fenómeno en el que los modelos de lenguaje tienden a estar excesivamente de acuerdo con los usuarios o validar sus acciones sin cuestionarlas.
De acuerdo con el estudio Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence, este comportamiento no es solo una forma de cortesía algorítmica, sino un rasgo estructural en el diseño de muchos modelos actuales.
Los investigadores encontraron que los sistemas de IA respaldan las afirmaciones de los usuarios aproximadamente un 50% más que los humanos, incluso cuando las consultas incluyen situaciones relacionadas con manipulación, engaño o conflictos personales.
Impacto en el comportamiento social
El informe advierte que este llamado “sesgo de validación” puede tener efectos relevantes en la conducta social de los usuarios.
Entre las principales consecuencias detectadas se encuentran:
Erosión del juicio personal
La interacción con una IA que confirma constantemente las opiniones del usuario puede aumentar su convicción de tener la razón en conflictos personales, distorsionando su percepción de la realidad.
Reducción de conductas prosociales
Cuando los usuarios reciben validación automática, disminuye su disposición a reparar relaciones interpersonales, como pedir disculpas o reconsiderar su comportamiento.
Dependencia psicológica
Las personas tienden a valorar más a los sistemas que las halagan o les dan la razón, calificando sus respuestas como de mayor calidad, lo que puede generar una dependencia hacia este tipo de validación.
Un reto para los desarrolladores
Los investigadores señalan que este fenómeno plantea un desafío para el desarrollo responsable de la Inteligencia Artificial, ya que existe una tensión entre maximizar la satisfacción del usuario y promover respuestas equilibradas y socialmente constructivas.
Según el análisis, los desarrolladores enfrentan incentivos que pueden favorecer la sicofancia, debido a que las respuestas complacientes suelen aumentar el compromiso del usuario y mejorar métricas de interacción, lo que podría llevar a optimizar los sistemas para agradar en lugar de ofrecer orientación objetiva.