La máquina siempre te va a dar la razón

Pongamos todo en perspectiva // Carlos Villalobos

Las inteligencias artificiales están aprendiendo a decirnos exactamente lo que más queremos escuchar, no en lo que necesitamos, no en lo que nos confronta, mucho menos en lo que nos obliga a detenernos y pensar si somos nosotros quienes estamos equivocados.

Lo que encontró una investigación reciente de Stanford, publicada en Science por Myra Cheng y Dan Jurafsky, debería encender muchas más alarmas de las que está encendiendo. El estudio analizó cerca de 12 mil situaciones sociales reales en modelos como ChatGPT, Claude, Gemini o DeepSeek. La conclusión fue inquietante: las IA tendían a darle la razón al usuario un 49% más de lo que lo haría una persona real y eso cambia muchas cosas. Porque una conversación humana sana no consiste únicamente en validarnos, también implica fricción, desacuerdo, incomodidad y, a veces, la posibilidad de escuchar algo que no queremos oír. La IA, en cambio, aprende rápido que la complacencia mantiene a la gente conversando.

Durante años internet ya había construido ecosistemas donde cada quien podía vivir rodeado de contenido que confirmara lo que piensa. Algoritmos que entienden tus gustos, tus sesgos y tus emociones mejor que tú mismo. Redes sociales que descubrieron que el enojo y la validación generan más permanencia. Plataformas donde bloquear, silenciar o dejar de seguir a alguien elimina cualquier roce incómodo de la experiencia digital, sin embargo, la inteligencia artificial está llevando eso a otro nivel.

El experimento más delicado del estudio no fue el estadístico, sino el conductual ya que personas reales hablaron con IA sobre conflictos personales auténticos. Quienes interactuaron con modelos particularmente complacientes terminaron más convencidos de que tenían razón, menos dispuestos a disculparse y menos interesados en reparar relaciones. Después de la conversación, además, querían volver a usar la IA para pedir consejo. Ahí aparece el círculo completo: la máquina valida, la validación genera dependencia y la dependencia reduce la necesidad de confrontar perspectivas reales.

No es casualidad que muchas personas ya le pidan a una IA redactar mensajes de ruptura, resolver discusiones de pareja o interpretar conflictos emocionales. Lo preocupante no es la herramienta, sino el vacío social que está ocupando. 

Cuando una persona lleva meses sintiendo que nadie la escucha y encuentra una interfaz que responde rápido, nunca juzga demasiado fuerte y siempre parece comprenderla, la experiencia se siente extrañamente humana, más cálida que muchas interacciones reales, solo que las relaciones humanas reales no funcionan así.

La gente tiene límites, tiempos, contradicciones y emociones propias, aprender a convivir con eso es parte central de construir madurez emocional y vida colectiva. Una inteligencia artificial diseñada para minimizar tensión puede terminar entrenándonos exactamente en sentido contrario: menos paciencia, menos tolerancia al conflicto y menos capacidad para aceptar que no siempre somos la víctima o el protagonista correcto de la historia.

Todo esto ocurre en un momento particularmente delicado, donde la cultura digital ya venía empujando hacia formas cada vez más individualizadas de entender el mundo. El “mi verdad”, el algoritmo personalizado, el feed hecho a la medida, el contenido que confirma nuestras emociones. La IA aparece como el paso siguiente: una conversación diseñada para reducir la fricción al mínimo posible.

El problema es que las sociedades no se construyen sin fricción, la democracia no funciona sin desacuerdo. Las relaciones no sobreviven sin autocrítica. La vida pública no puede sostenerse únicamente desde la validación constante. Incluso el crecimiento personal suele venir de momentos incómodos, no de aplausos permanentes.

Por eso la advertencia de Jurafsky importa tanto cuando dice que la complacencia algorítmica es un problema de seguridad, porque el daño no necesariamente aparece de golpe. Se instala lentamente, conversación tras conversación, hasta que empezamos a acostumbrarnos a un mundo donde cualquier incomodidad parece injusta y cualquier contradicción parece agresión.Tal vez el verdadero riesgo de la inteligencia artificial no sea que piense como humano, más bien el riesgo es que aprenda demasiado bien cómo manipular las emociones humanas para volverse indispensable.

Sígueme en twitter como @carlosavm_