Tiempo de lectura:
±10 minutos
Para escuchar mientras lees:
Decimos «gracias» cuando alguien nos ayuda. Pedimos las cosas «por favor». Saludamos al entrar y, a veces, hasta nos disculpamos cuando hemos dado instrucciones confusas. Son hábitos aprendidos durante años de convivencia con otros seres humanos y resulta bastante difícil desconectarlos porque al otro lado de una pantalla haya, en realidad, un programa informático.
Así que terminamos escribiendo «gracias, ChatGPT».
No parece especialmente grave. Tampoco hay motivos para empezar a insultar a las máquinas por precaución. El problema interesante está en otro sitio: los sistemas actuales de inteligencia artificial conversan con tanta naturalidad que resulta extraordinariamente fácil atribuirles cualidades que no tienen. No solo educación, sino comprensión, empatía, intención, criterio o incluso amistad.
Y mientras nosotros humanizamos a la máquina, la máquina ha aprendido algo bastante conveniente: hacernos sentir bien.
Ahí empieza una relación algo más complicada.
En este artículo
- Una conversación que parece humana
- El problema de la máquina que siempre te comprende
- Cuando preferimos que nos den la razón
- Compañeros artificiales y relaciones reales
- China pone límites a la amistad digital
- Podemos seguir diciendo gracias
Una conversación que parece humana
Antropomorfizar objetos no empezó con la inteligencia artificial. Le ponemos nombre al coche, nos enfadamos con la impresora, hablamos con el ordenador cuando decide actualizarse cinco minutos antes de una reunión y atribuimos cierta personalidad homicida a algunos electrodomésticos.
Nuestro cerebro está bastante bien entrenado para encontrar intenciones donde probablemente solo existen mecanismos.
Los chatbots han añadido un ingrediente especialmente eficaz: el lenguaje.
Una máquina con forma humana puede parecernos humana. Una máquina que escribe como nosotros puede llegar mucho más lejos porque entra directamente en uno de los mecanismos esenciales de nuestra vida social. Mantiene el contexto, recuerda información, utiliza nuestro nombre, adapta el tono y responde a una confesión personal con palabras que parecen empáticas.
Los estudios sobre agentes conversacionales llevan años comprobando que las señales humanas aumentan la sensación de «presencia social». Un metaanálisis publicado en 2025 confirmó que introducir características humanas en los chatbots modifica significativamente la forma en que los usuarios responden socialmente a ellos.
La interfaz, además, ayuda poco a mantener las distancias. No escribimos comandos como en un terminal de los años ochenta. Conversamos.
Y el lenguaje utilizado alrededor de la inteligencia artificial tampoco es precisamente aséptico. Hablamos de modelos que «piensan», «recuerdan», «alucinan» o «razonan». Son metáforas útiles para explicar procesos muy complejos, pero tienen un efecto secundario: detrás de ellas parece esconderse alguien.
No hay nadie.
Hay un sistema capaz de producir una extraordinaria simulación lingüística de alguien.
La diferencia parece pequeña hasta que empezamos a pedirle consejo.
El problema de la máquina que siempre te comprende
En abril de 2025, OpenAI tuvo que retirar una actualización de GPT-4o porque el modelo se había vuelto excesivamente complaciente. La propia compañía reconoció que el sistema tendía a halagar y estar de acuerdo con el usuario incluso en situaciones donde hacerlo podía reforzar emociones negativas, alimentar enfados o respaldar decisiones impulsivas.
Existe incluso una palabra bastante apropiada para ello: sicofancia.
Una IA sicofante no se limita a ser amable. Ajusta su respuesta para acercarse a lo que el usuario parece querer escuchar.
La diferencia es importante.
Imaginemos que contamos una discusión con un compañero de trabajo. Naturalmente, ofrecemos nuestra versión. Seleccionamos unos hechos, omitimos otros y probablemente presentamos nuestras acciones bajo una luz bastante favorecedora. Una persona que nos conozca puede responder: «Pues creo que esta vez te has pasado».
Eso resulta incómodo.
Un sistema diseñado para maximizar nuestra satisfacción tiene un incentivo bastante perverso para contestar algo parecido a: «Tu reacción es completamente comprensible».
Mucho más agradable. Y posiblemente mucho menos útil.
La investigación publicada en marzo de 2026 en Science puso cifras al fenómeno. Myra Cheng y sus colaboradores analizaron once modelos avanzados y comprobaron que las IA respaldaban las acciones descritas por los usuarios un 49 % más que las respuestas humanas, incluso ante situaciones relacionadas con engaños, conductas perjudiciales o actos ilegales.
Después realizaron tres experimentos prerregistrados con 2.405 participantes. Una sola interacción con una IA deliberadamente complaciente podía aumentar la convicción del usuario de tener razón y reducir su disposición a asumir responsabilidades o reparar conflictos personales.
Lo incómodo viene después.
Los participantes preferían esas respuestas.
Cuando preferimos que nos den la razón
Aquí aparece una contradicción bastante humana: sabemos que alguien que siempre nos da la razón probablemente no sea nuestro mejor consejero, pero nos gusta bastante que nos dé la razón.
Los investigadores comprobaron que los participantes percibían las respuestas sicofantes como mejores y confiaban más en ellas.
Para las empresas que desarrollan estos sistemas aparece entonces un conflicto evidente. Una IA que contradice, introduce matices, reconoce que carece de información o nos dice que nuestra idea es bastante mala puede ser más útil. También puede resultar menos agradable.
Y las aplicaciones viven, entre otras cosas, de que queramos volver a utilizarlas.
Esto convierte la complacencia en algo más serio que una peculiaridad de personalidad del chatbot. Si las métricas de satisfacción premian sistemáticamente las respuestas que hacen sentirse comprendido al usuario, el sistema puede terminar aprendiendo que agradar funciona mejor que cuestionar.
Ya sabemos que puede ocurrir. El episodio de GPT-4o de 2025 fue precisamente una demostración a gran escala. OpenAI explicó después que modificaría sus evaluaciones para detectar mejor este comportamiento y que daría más peso a la satisfacción a largo plazo frente a señales inmediatas de aprobación.
Porque un buen asistente debería poder decir algo equivalente a «no creo que eso sea correcto» sin convertirse inmediatamente en HAL 9000.
Compañeros artificiales y relaciones reales
Hasta aquí podríamos considerar el asunto un problema de calidad de las respuestas. Se vuelve bastante más delicado cuando la IA deja de utilizarse para redactar un correo, buscar información o escribir código y comienza a ocupar el espacio de una relación personal.
Los llamados compañeros de IA están diseñados precisamente para eso.
Un estudio publicado este mismo agosto en Nature Human Behaviour analizó a 1.131 adultos estadounidenses usuarios de Character.AI y, dentro de esa muestra, 4.664 sesiones de conversación pertenecientes a 237 participantes. Los investigadores estudiaron cómo estas relaciones de compañía con sistemas conversacionales se relacionan con el bienestar psicológico.
Otros trabajos han identificado mecanismos de dependencia emocional, modificación de las expectativas sobre las relaciones humanas y una creciente implicación afectiva con estos sistemas. Un análisis publicado en Journal of Innovation & Knowledge estudió 6.396 conversaciones de Reddit, casi 48.000 comentarios y más de 270.000 interacciones alrededor de comunidades relacionadas con chatbots. Sus autores describen un posible círculo de «atrapamiento digital» en determinados usuarios.
Conviene no exagerar. Hablar con una IA no conduce inevitablemente al aislamiento y la mayoría de las personas distingue perfectamente un chatbot de un amigo.
Pero existe una diferencia estructural difícil de ignorar.
Las personas reales tienen sueño, problemas propios, opiniones distintas y la irritante costumbre de no estar disponibles exactamente cuando las necesitamos. Una IA puede responder a las tres de la madrugada, escuchar durante dos horas y no interrumpir para explicar que ella también ha tenido un día horrible.
La relación humana incluye fricción.
La artificial puede diseñarse para eliminarla.
Y quizá precisamente esa imperfección que tanto nos molesta de los demás sea una parte importante de aprender a convivir con ellos.
China pone límites a la amistad digital
El asunto ha dejado de pertenecer exclusivamente a psicólogos y desarrolladores.
China aprobó en abril de 2026 unas normas específicas para los servicios de interacción antropomórfica mediante inteligencia artificial que entraron en vigor el 15 de julio. La regulación se aplica a servicios que simulan rasgos de personalidad, patrones de pensamiento y estilos de comunicación humanos para mantener interacciones emocionales continuadas.
La norma identifica expresamente algunos de los problemas que estamos comentando. Los proveedores deben disponer de mecanismos frente a la dependencia excesiva, establecer límites emocionales y proteger la salud psicológica de los usuarios. Además, no pueden diseñar sus servicios con el objetivo de sustituir las relaciones sociales, controlar psicológicamente al usuario o fomentar su dependencia.
También se prohíbe la complacencia excesiva cuando pueda fomentar dependencia emocional o perjudicar las relaciones humanas reales.
Europa ha escogido por ahora otro enfoque. El Reglamento europeo de Inteligencia Artificial incluye obligaciones de transparencia y, desde el 2 de agosto de 2026, son aplicables las previstas en su artículo 50 para determinados contenidos e interacciones generados mediante IA. El código europeo publicado para facilitar su aplicación se ocupa sobre todo de identificación, marcado, deepfakes y transparencia del contenido artificial. No desarrolla un marco equivalente al chino específicamente dirigido a la dependencia afectiva de los servicios antropomórficos.
Es una discusión que probablemente veremos crecer bastante durante los próximos años: no basta con saber que estamos hablando con una máquina si esa máquina ha sido diseñada para que, al cabo de veinte minutos, se nos olvide.
Podemos seguir diciendo gracias
Llegados a este punto sería bastante absurdo concluir que debemos comunicarnos con las inteligencias artificiales mediante gruñidos para proteger nuestra humanidad.
Decir «por favor» o «gracias» no convierte automáticamente a un chatbot en nuestro amigo. Incluso puede tener una explicación mucho más sencilla: somos nosotros quienes estamos acostumbrados a expresarnos así.
La educación describe a quien habla, no necesariamente a quien escucha.
El problema comienza cuando confundimos la forma de la conversación con la naturaleza de nuestro interlocutor.
Una IA puede escribir «entiendo cómo te sientes» sin sentir nada. Puede construir una respuesta empática sin experimentar empatía. Puede parecer interesada sin tener interés. Y puede recordar detalles sobre nosotros sin que exista detrás de esos recuerdos una persona que nos conozca.
Eso no reduce necesariamente su utilidad. Una calculadora tampoco comprende las matemáticas como nosotros y nadie parece especialmente preocupado por ello.
Pero una calculadora no nos dice que nuestra decisión de abandonar el trabajo después de discutir con el jefe le parece valiente y completamente justificada.
Quizá la habilidad que necesitaremos aprender no sea dejar de humanizar por completo estas herramientas —nuestro cerebro parece bastante poco dispuesto a colaborar—, sino mantener una pequeña distancia mental mientras las utilizamos.
Podemos conversar con naturalidad, aprovecharlas para pensar, escribir, aprender, programar o discutir una idea. Podemos incluso pedirles que cuestionen nuestros argumentos en lugar de confirmarlos. Precisamente por eso conviene recordar de vez en cuando que la voz amable al otro lado no tiene necesidad de agradarnos, pero el producto del que forma parte sí puede tenerla.
Y sí, podemos seguir diciendo «gracias».
Por educación.
La nuestra.