Inteligencia Artificial archivos

El negocio de parecer menos artificial

Tiempo de lectura:
±7 minutos

Para escuchar mientras lees:

Hay algo que se repite con una precisión casi cómica. Pegas un texto en una caja, pulsas un botón y una herramienta te informa de que aquello suena demasiado a inteligencia artificial. En la pantalla de al lado aparece la solución: otro botón que promete volverlo humano. El texto cambia de ritmo, sustituye unas palabras, rompe alguna frase y añade pequeñas irregularidades. Después lo llevas de nuevo al detector. Sigue siendo sospechoso.

En mis pruebas con Originality.ai, Scribbr, GPTZero y Humalingo, el recorrido ha sido parecido. La herramienta modifica el texto, a veces bastante, pero al volver a analizarlo aparece otra vez el aviso de contenido generado o refinado mediante IA. El resultado puede haber perdido claridad, precisión o incluso parte del tono original. También se ha gastado dinero en un servicio cuya promesa más vistosa no termina de cumplirse. No es un estudio de laboratorio, desde luego, pero sí una experiencia suficientemente repetida como para desconfiar del truco.

Una máquina corrigiendo a otra

Los humanizadores se presentan como traductores entre dos idiomas que nadie habla realmente: el supuesto “lenguaje de la IA” y una escritura humana reducida a una colección de señales externas. Scribbr explica que su herramienta localiza patrones asociados a textos automáticos y propone formas más naturales de expresar lo mismo. Originality.ai define el humanizador como un sistema que reescribe contenido de ChatGPT, Claude o Gemini para hacerlo menos robótico. GPTZero lo describe de manera aún más directa: una paráfrasis diseñada para reducir las huellas estadísticas que buscan los detectores. el fondo, seguimos ante una inteligencia artificial trabajando sobre la salida de otra inteligencia artificial. Cambia el encargo, no la naturaleza de la herramienta. El primer sistema recibe instrucciones para ordenar, desarrollar o redactar; el segundo recibe instrucciones para introducir variación, modificar la sintaxis y evitar ciertos hábitos reconocibles. Llamar “humanización” a este proceso concede al programa una capacidad que no tiene. Puede imitar rasgos asociados a determinados textos humanos, igual que puede escribir con tono jurídico, juvenil o ceremonioso. No adquiere una historia personal, un criterio editorial ni una razón para contar aquello.

La contradicción llega a ser bastante transparente. Originality.ai asegura que su humanizador puede superar algunos detectores, aunque admite que el resultado continúa siendo identificable por su propio sistema. Scribbr matiza que su prioridad es mejorar la legibilidad, no eludir controles, y reconoce que ningún detector ofrece una precisión completa. Las precauciones aparecen, pero suelen hacerlo después de titulares mucho más rotundos sobre autenticidad, naturalidad y voz personal. problema no es que estas herramientas sean incapaces de retocar una frase. Algunas corrigen repeticiones, rebajan un tono demasiado ceremonioso o introducen variedad. Eso también puede hacerse con un corrector, un editor o un buen segundo borrador. El problema comienza cuando venden la apariencia de autoría humana como una propiedad técnica verificable, casi como quien quita una marca de agua.

El detector tampoco conoce al autor

Un detector no averigua quién escribió un texto. Examina regularidades: elecciones de palabras previsibles, poca variación en la longitud de las frases, estructuras sintácticas repetidas o medidas estadísticas como la perplejidad. Después asigna una probabilidad. El propio Scribbr explica que un texto escrito por una persona puede recibir una puntuación elevada si comparte esos patrones y presenta su resultado como una estimación, no como una prueba de procedencia. La investigación lleva años señalando esa fragilidad. Vinu Sankar Sadasivan y sus colaboradores mostraron que la paráfrasis sucesiva puede reducir de forma considerable la detección sin destruir necesariamente la calidad del texto. Un trabajo posterior, centrado en diecinueve humanizadores y sistemas de paráfrasis, confirmó que muchas herramientas de detección fallan ante textos modificados para esquivarlas. La carrera se parece bastante a la del antivirus y el malware: cada detector aprende una huella y cada reescritor intenta borrarla.

También aparece un dato menos cómodo para quienes desean resolverlo todo con un porcentaje. Un estudio de 2025 comparó detectores automáticos con lectores habituados a trabajar con modelos de lenguaje. La mayoría formada por cinco usuarios experimentados falló solo uno de trescientos artículos, incluso cuando había paráfrasis o humanización. Los participantes no se limitaron a cazar palabras sospechosas; percibieron problemas de coherencia, desarrollo y relación entre las partes que resultaban difíciles de reducir a una puntuación. El hallazgo no convierte a ciertas personas en detectores infalibles, pero devuelve la cuestión al lugar del que intentábamos expulsarla: la lectura atenta.

Un texto puede superar un detector y seguir siendo malo. También puede activar varias alarmas y estar escrito por alguien con un estilo regular, un vocabulario previsible o una segunda lengua. Por eso resulta peligroso usar estos porcentajes como sentencia académica, certificado de autenticidad o medidor de esfuerzo. Sirven, con cautela, como una señal más. Son mucho menos útiles cuando se convierten en juez y parte de un pequeño mercado basado en generar ansiedad y vender después el calmante.

Y aquí es donde los llamados “humanizadores” empiezan a recordar a esos vendedores de pócimas que recorrían los pueblos prometiendo remedios milagrosos para cualquier dolencia. Llegaban con un discurso convincente, ofrecían una solución rápida y, cuando el efecto no aparecía o el problema persistía, ya estaban lejos, camino del siguiente lugar. Estas herramientas venden una especie de elixir digital: prometen convertir cualquier texto en algo indetectablemente humano, pero si el detector sigue señalándolo o el resultado pierde calidad, la responsabilidad se diluye. No hay engaño explícito, pero sí una expectativa inflada que se sostiene mientras nadie mire demasiado de cerca.

Mis páginas son cuadernos de campo

Utilizo inteligencia artificial en albertogombau.com, proyectografico.com, gombau.photo y singularshirts.com. Sin esa ayuda sería muy difícil convertir la cantidad de notas que acumulo en artículos ordenados y comprensibles. La materia inicial no aparece por generación espontánea: procede de lecturas, ideas, pruebas, enlaces, fotografías, proyectos y asuntos que quiero conservar. La IA me ayuda a darles estructura, detectar huecos y convertir materiales dispersos en un texto que otras personas puedan seguir.

Veo esas webs como cuadernos de campo abiertos. Primero cumplen una función personal: guardar lo aprendido y evitar que una observación termine enterrada en una carpeta. Si después una entrada ayuda a alguien a entender una técnica fotográfica, descubrir un libro o acercarse al diseño editorial, el trabajo encuentra otro recorrido. Ese objetivo queda bastante lejos de fabricar artículos a granel para ocupar resultados de búsqueda.

La diferencia está en el proceso editorial. Una salida de IA puede inventar una fecha, simplificar una discusión, repetir una fórmula que ya funcionó o cubrir con frases elegantes un vacío de información. También puede ordenar de manera brillante un conjunto de notas. Ambas cosas ocurren. Por eso hay que verificar nombres, fuentes y datos; devolver al texto las particularidades que la máquina aplana; cortar párrafos innecesarios y rehacer aquello que suena correcto pero no dice gran cosa.

“Educar” una IA tampoco consiste en convencerla de que es una persona. Consiste en darle contexto, ejemplos, criterios y correcciones. Cuando conoce el tipo de texto que buscamos, los errores que se repiten y la manera de organizar el material, mejora su utilidad. Esa continuidad reduce trabajo mecánico, aunque nunca elimina la revisión. Una herramienta bien configurada puede acercarse a una voz editorial; la responsabilidad de esa voz sigue perteneciendo a quien publica.

Supervisar también es crear

La enseñanza ofrece un ejemplo más interesante que la obsesión por ocultar rastros. NotebookLM puede convertir documentos y notas en conversaciones de audio parecidas a un pódcast y permite producirlas en decenas de idiomas. En Proyecto Gráfico utilizo esa posibilidad para explicar textos sobre diseño editorial a personas que quizá no estén acostumbradas a su vocabulario. Escuchar una conversación clara puede facilitar la entrada a un concepto que en la página parecía cerrado. La herramienta no reemplaza el texto original ni al especialista que lo escribió. Abre otra puerta. uso encaja mejor con las recomendaciones que están tomando forma en educación. UNESCO defiende un enfoque centrado en las personas, con validación ética y diseño pedagógico. La OCDE advierte de que delegar tareas sin orientación puede mejorar el resultado inmediato sin producir aprendizaje, mientras que un uso selectivo puede funcionar como tutor, asistente o apoyo. La cuestión relevante no es cuánta IA cabe en una clase, sino qué esfuerzo humano conserva y qué comprensión añade. bién la regulación europea empieza a distinguir entre una publicación automática y un contenido sometido a revisión humana y responsabilidad editorial. Las obligaciones de transparencia del artículo 50 del Reglamento europeo de IA serán aplicables desde el 2 de agosto de 2026, y contemplan expresamente esa intervención editorial en los textos destinados a informar sobre asuntos de interés público. La ley no resuelve la autoría ni la calidad, pero reconoce algo que los humanizadores tienden a ocultar: revisar, decidir y responder por lo publicado cambia la naturaleza del proceso. inteligencia artificial ha venido a encargarse de tareas, no a hacerse cargo de nosotros. Puede ordenar notas, proponer estructuras, generar una imagen, preparar una voz o convertir un documento en audio. Después alguien debe mirar el resultado y decidir si es cierto, útil y digno de publicarse. El botón de “humanizar” ofrece un atajo mucho más cómodo. La supervisión humana empieza justo cuando el botón termina.

Alan Turing, la máquina y el secreto

Tiempo de lectura:
±9 minutos

Para escuchar mientras lees:

La película «The Imitation Game» funciona como un potente thriller dramático sobre Alan Turing y el origen remoto de lo que hoy llamamos, con bastante poco tino, “inteligencia artificial”, aunque se toma licencias históricas muy claras que conviene señalar.

Introducción: un genio entre válvulas y secretos

Hay películas que se te quedan pegadas no por los giros de guion, sino por la sensación incómoda de haber conocido a alguien demasiado tarde. «The Imitation Game» pertenece a esa categoría: terminas de verla con la impresión de que Alan Turing debería estar en los libros de texto a la altura de Einstein, y sin embargo la mayor parte de su vida se mantuvo enterrada bajo capas de secreto oficial, homofobia y olvido.

La cinta nos lleva a la Inglaterra de la Segunda Guerra Mundial, a un Bletchley Park convertido en hormiguero de matemáticos, lingüistas y criptoanalistas empeñados en descifrar Enigma, la máquina de cifrado que protegía las comunicaciones del ejército nazi. Entre ellos, un joven Turing que parece moverse por el mundo como si hubiera aterrizado de otro planeta: torpe en lo social, brillante hasta la crueldad en lo intelectual, obsesionado con construir una máquina capaz de hacer en minutos lo que a un equipo humano le llevaría años.

Bajo esa trama de espionaje clásico, la película en realidad está contando otra cosa: la historia de cómo una idea abstracta sobre máquinas que manipulan símbolos acabó convertida, con décadas de retraso, en la semilla de los ordenadores, de los algoritmos y de esa IA que hoy preguntamos por voz como si fuera magia. No, la inteligencia artificial no nació en Silicon Valley ni en un garaje lleno de post-its; nació en pizarras llenas de ecuaciones, en cables que olían a quemado y en mentes como la de Turing, mucho antes de que alguien decidiera venderla en formato app.

Ficción versus realidad: lo que la película acierta (y lo que exagera)

Históricamente, la película hace un trabajo notable al situar al espectador en el contexto de Bletchley Park y la importancia de romper Enigma para acortar la guerra. Es cierto que los guionistas se permiten dramatizar conflictos internos y simplificar procesos técnicos, pero el núcleo es reconocible: Turing y su equipo jugaron un papel decisivo en el descifrado de los mensajes nazis, y ese trabajo tuvo un impacto real en el curso de la guerra.

Donde la cinta se toma más libertades es en la forma en que magnifica la figura de Turing como héroe solitario, casi enfrentado al resto del mundo. En la realidad, Bletchley Park fue un esfuerzo colectivo en el que participaron múltiples especialistas y equipos paralelos, y aunque Turing fue esencial en el diseño de máquinas para romper Enigma, no fue el único cerebro brillante en la sala. La tensión con superiores como el comandante Denniston, por ejemplo, está subrayada para crear antagonistas claros y acelerar el conflicto dramático, mientras que los procesos de aprobación y construcción de las máquinas fueron más tediosos y burocráticos de lo que deja ver la pantalla.

También hay momentos en los que el guion coloca a Turing en situaciones que no encajan bien con la documentación histórica, como ciertos aspectos del espionaje, la relación con el personaje de John Cairncross o la forma en que se decide “sacrificar” barcos para no revelar que Enigma ha sido rota. Estas escenas funcionan narrativamente porque colocan al espectador en un dilema moral muy concreto —¿salvar a unos pocos hoy o a muchos mañana?—, pero simplifican decisiones mucho más complejas, repartidas entre distintos organismos militares y de inteligencia.

Sin embargo, a pesar de estas licencias, la ambientación de época, la sensación de claustrofobia en la sala de máquinas y la presión constante de los plazos transmiten bastante bien la urgencia real que se vivía en Bletchley Park. Lo que quizá se echa de menos es una mirada más profunda a la vida científica de Turing antes y después de la guerra, especialmente su trabajo teórico sobre máquinas computacionales y sus investigaciones posteriores en biología matemática, que apenas aparecen o lo hacen de forma tangencial.

Alan Turing y sus sombras: personaje y biografía

La película ofrece una semblanza potente, aunque algo caricaturizada, de Alan Turing: un genio socialmente torpe, casi incapaz de empatía, que choca con todo el mundo salvo con unas pocas personas que saben leer entre líneas. Benedict Cumberbatch convierte esa descripción en un personaje muy vivo: mezcla rigidez corporal, tartamudeos, pequeñas fugas de humor involuntario y un fondo de vulnerabilidad que se cuela en la mirada cada vez que su pasado aparece en forma de flashback.

Históricamente, Turing fue efectivamente un matemático extraordinario, pionero de la computación teórica gracias a su trabajo de 1936 sobre lo que hoy llamamos “máquina de Turing”, un modelo abstracto de cálculo que definía, casi por primera vez, qué significa que un procedimiento sea computable por una máquina. Fue también un criptoanalista clave en la guerra y, tras ella, trabajó en diseños de ordenadores tempranos y en ideas sobre aprendizaje automático y morfogénesis biológica que hoy se consideran visionarias. Todo eso asoma en la película como a través de una puerta entreabierta, suficiente para despertar curiosidad, aunque quizá insuficiente para quien quiera entender la magnitud real de su legado.

Donde la cinta sí afina es en la parte más amarga de su biografía: la persecución por su homosexualidad en la Inglaterra de los años 50. Tras ser condenado por “indecencia grave”, Turing aceptó someterse a un tratamiento hormonal que hoy solo puede describirse como una forma de violencia de Estado: castración química con graves efectos físicos y psicológicos. Poco después, en 1954, fue hallado muerto por envenenamiento con cianuro, en lo que se consideró oficialmente un suicidio. La película recoge ese desenlace de forma contenida pero devastadora, subrayando la ironía de un país que castigó a uno de los hombres que más contribuyeron a su supervivencia.

La relación con Joan Clarke, interpretada por Keira Knightley, se apoya en hechos reales —Clarke fue efectivamente criptoanalista en Bletchley y estuvo comprometida con Turing—, pero se romanticiza y simplifica para encajar en el molde de drama emocional que Hollywood exige. Aun así, sirve para mostrar algo que suele olvidarse: que la historia de la computación y del descifrado de códigos no fue solo cosa de hombres, y que hubo mujeres que ocuparon puestos cruciales en aquellos equipos, aunque los créditos se los llevaran otros.

Los intérpretes y sus “originales”: carne y hueso de la historia

Uno de los grandes aciertos de la película es su reparto, que consigue dar verosimilitud a personajes que podrían haber quedado reducidos a caricaturas de manual. Benedict Cumberbatch construye un Turing complejo, que se mueve entre la arrogancia y la fragilidad sin perder nunca la sensación de que está viendo el mundo a un nivel de abstracción diferente al resto. No es un retrato documental, pero sí una aproximación emocional: quizá Turing no hablaba exactamente así, pero cuesta no creer que sintiera algo muy parecido a lo que se muestra.

Keira Knightley, como Joan Clarke, aporta calidez y determinación a un personaje que en otras manos podría haberse reducido al “interés romántico” del protagonista. Su Clarke se mueve con soltura en un entorno dominado por hombres y se niega a aceptar que su talento tenga que esconderse detrás de una máquina de escribir. Históricamente, Clarke fue una matemática y criptoanalista de alto nivel, y aunque la película reduce parte de su trabajo a escenas breves, su presencia recuerda que la historia de la computación fue también una historia de mujeres mal acreditadas.

El resto del elenco funciona como un coro de tensiones y apoyos alrededor de Turing: Matthew Goode encarna a Hugh Alexander, jugador de ajedrez y criptoanalista, con una mezcla de encanto y competitividad; Charles Dance representa al comandante Denniston con la autoridad severa del militar que no entiende del todo a sus genios pero los necesita desesperadamente; Mark Strong aporta una ambigüedad inquietante como el responsable del MI6 Stewart Menzies. Muchos de estos personajes están basados en figuras reales, aunque comprimidas, fusionadas o exageradas para que encajen mejor en el metraje de dos horas.

La dirección de Morten Tyldum y la fotografía refuerzan esa sensación de autenticidad: decorados apagados, mucha madera oscura y maquinaria pesada, planos cortos sobre engranajes y contactos eléctricos que convierten a la propia máquina —la precursora de los ordenadores— en un personaje más. La música de Alexandre Desplat, con su mezcla de patrones repetitivos y melodías emotivas, contribuye a esa idea de un cerebro que no puede dejar de procesar información incluso cuando el mundo se derrumba a su alrededor.

El llamado Test de Turing: cuando una máquina “imita” a un humano

Si hay un concepto que la película deja flotando —a veces se menciona, otras simplemente se intuye— es el famoso “Test de Turing”, uno de los hitos fundacionales de la inteligencia artificial. En 1950, en un artículo titulado “Computing Machinery and Intelligence”, Turing propuso una forma muy concreta de abordar la pregunta “¿pueden pensar las máquinas?”. En vez de intentar definir filosóficamente qué es pensar (un terreno pantanoso que puede durar siglos), sugirió un experimento práctico, casi un juego: si una máquina puede imitar a un humano lo bastante bien como para engañar a un juez, quizá no tenga sentido seguir negando que “piensa”.

La idea básica es sencilla: imagina a una persona conversando, a través de un canal de texto, con dos interlocutores que no puede ver. Uno es un ser humano; el otro, una máquina. El interrogador hace preguntas a ambos, los somete a conversación, intenta descubrir pistas de humanidad o de rigidez mecánica en sus respuestas. Si, después de suficientes rondas, esa persona se equivoca muy a menudo al intentar distinguir quién es la máquina y quién el humano, se considera que la máquina ha pasado el test: se ha comportado de forma indistinguiblemente humana, al menos en el juego del lenguaje.

El Test de Turing no pretendía ser una definición definitiva de inteligencia, sino una forma pragmática de evitar discusiones eternas y centrarse en lo observable. Su influencia ha sido enorme: durante décadas, muchos investigadores en IA tomaron como referencia esa idea de imitación conversacional, hasta el punto de organizar concursos donde programas intentaban engañar a jueces humanos. Con el tiempo también se han señalado sus limitaciones: una máquina puede simular conversación sin “comprender” nada en sentido fuerte, y hay muchas formas de inteligencia —sensorial, motora, creativa— que no se reducen a chatear.

Aun así, lo relevante, y lo que conecta con la película, es que Turing estaba pensando en estas cosas en los años 40 y 50, en una época en la que los ordenadores ocupaban habitaciones enteras y se programaban con tarjetas perforadas. Es decir, los debates que hoy tenemos sobre si una IA “sabe” lo que dice, o si solo está imitando patrones, son nietos directos de aquellas preguntas. Cuando la película nos muestra a Turing obsesionado con construir una máquina capaz de “pensar más rápido”, está señalando, aunque sea de forma simplificada, esa transición desde la lógica pura a la idea de máquinas que se comportan de manera inteligente.

Mucho antes de los algoritmos con logo: origen real de la IA

Una de las claves más interesantes que se pueden extraer de la película, si se mira con un poco de mala leche, es que desmonta el mito de que la inteligencia artificial es un invento reciente, casi una moda de la última década. Igual que la leche no nace en el interior de un tetrabrik sino en una vaca que alguien tiene que alimentar, ordeñar y cuidar, los sistemas que hoy llamamos IA se apoyan en una historia larga de ideas, cables y experimentos que arrancan bastante antes de que existiera Internet.

Turing es una de las figuras fundacionales de esa historia: con sus máquinas teóricas, su trabajo en computación, sus reflexiones sobre aprendizaje y su famoso test, puso ladrillos esenciales en el edificio. Después vendrían investigadores como McCarthy, Minsky o Rosenblatt, los primeros programas de juego de ajedrez, los perceptrones, las redes neuronales tempranas, los inviernos de la IA donde el entusiasmo se pinchaba y la financiación desaparecía. Pero el punto de partida estaba ahí, en esa mezcla de lógica matemática, cables y curiosidad casi infantil por saber hasta dónde puede llegar una máquina que manipula símbolos.

La película no hace un repaso exhaustivo de esa genealogía (tampoco es su misión), pero sí ofrece algo importante: una sensación tangible de que, desde el principio, la computación estuvo ligada a problemas muy humanos. No eran solo ecuaciones abstractas; eran mensajes desesperados de submarinos alemanes, decisiones de vida o muerte, amores clandestinos, la angustia de ser distinto en un mundo que castiga la diferencia. Cuando hoy hablamos de “algoritmos” que deciden qué vemos, qué compramos o incluso si nos conceden un crédito, conviene recordar que todo eso se sostiene en una cadena de ideas que arranca en personas como Turing, trabajando en condiciones muy distintas y a menudo pagando un precio personal altísimo.

En ese sentido, «The Imitation Game» consigue algo valioso: traducir una parte compleja de la historia de la tecnología en una narrativa accesible, que engancha y al mismo tiempo despierta ganas de seguir leyendo, investigando, discutiendo. No lo cuenta todo, se permite giros efectistas y dramatizaciones discutibles, pero abre una puerta. Y quizá el mejor homenaje que se le puede hacer a Turing después de los créditos sea cruzar esa puerta, buscar su biografía, leer sus trabajos o, al menos, quedarse con la idea de que las máquinas que hoy nos rodean tienen raíces mucho más profundas de lo que sugiere cualquier campaña de marketing.

No las llames inteligencias: el gran engaño del nombre

Tiempo de lectura:
±12 minutos

Para escuchar mientras lees:

Hay una escena que se repite a diario en oficinas, aulas y hogares de medio mundo. Alguien abre el navegador, escribe cuatro líneas en un cuadro de texto y espera. Espera que la máquina piense por él, que resuelva el problema, que entregue el trabajo terminado. La pantalla responde con fluidez, con coherencia aparente, con esa confianza desconcertante de quien parece saber de todo. Y entonces ocurre lo inevitable: la persona asume que ha utilizado inteligencia. Que eso que acaba de pasar es cognición, razonamiento, comprensión. Que detrás de esas palabras perfectamente ensambladas hay algo que entiende el mundo.

No hay nada de eso. Lo que hay es estadística a una escala que la mente humana no puede imaginar, patrones extraídos de billones de textos, probabilidades calculadas token a token para determinar qué palabra viene a continuación. Enrique Dans, profesor de Innovación y Tecnología en IE University y una de las voces más lúcidas sobre el tema en el ámbito hispanohablante, lo resume con una claridad que debería grabarse en todos los manuales de uso: «No hay inteligencia, eso es otra cosa y esto son simplemente correlaciones matemáticas, estadísticas muy avanzadas en modelos que posiblemente una persona no alcanza a imaginar o comprender». La denominación «Inteligencia Artificial» no es una descripción técnica precisa. Es, en el mejor de los casos, una metáfora cómoda. En el peor, un engaño de marketing que distorsiona la percepción pública de una tecnología cuyas limitaciones son tan importantes como sus posibilidades.

La trampa del nombre: cuando el lenguaje nos engaña

Llamar «inteligencia» a lo que hacen estos sistemas es un error que tiene consecuencias prácticas. Cuando nombramos algo, le asignamos expectativas. Y las expectativas que genera la palabra «inteligencia» son radicalmente distintas a las que debería generar una denominación técnicamente honesta. Una descripción más precisa podría ser «agente de gestión de bases de datos con lenguaje humano»: sistemas que recuperan, correlacionan y reformulan información almacenada, expresándola con una fluidez que imita el habla humana sin replicar en absoluto el pensamiento humano.

Benjamin Riley, fundador de Cognitive Resonance, publicó en 2025 un análisis que sacudió el debate académico. Su argumento parte de la neurociencia, no de la filosofía: la investigación actual demuestra que el pensamiento humano opera de manera ampliamente independiente del lenguaje. Estudios con resonancia magnética funcional muestran que distintas regiones del cerebro se activan ante diferentes tareas cognitivas: las que se activan al procesar lenguaje no son las mismas que se activan al resolver un problema matemático o al tomar una decisión ética. Más revelador todavía: personas que perdieron la capacidad de hablar o de entender el lenguaje tras accidentes cerebrovasculares conservaron intacta su capacidad de razonar, resolver problemas y comprender emociones. «Usamos el lenguaje para pensar, pero eso no convierte el lenguaje en pensamiento», escribió Riley. «Los LLMs son simplemente herramientas que emulan la función comunicativa del lenguaje, no el proceso cognitivo separado y distinto de pensar y razonar».

Yann LeCun, director científico de IA en Meta, ha argumentado en repetidas ocasiones que los grandes modelos de lenguaje nunca alcanzarán la inteligencia general, precisamente porque su arquitectura está diseñada para modelar el lenguaje y no para comprender el mundo tridimensional y físico en el que los humanos tomamos decisiones. Gary Marcus, profesor emérito de la NYU y crítico incansable del hype en IA, lleva años documentando las diferencias entre lo que estos sistemas parecen hacer y lo que realmente hacen: «Los modelos de lenguaje grandes operan principalmente mediante la correspondencia estadística de patrones, no mediante el razonamiento genuino», señala en múltiples publicaciones. Y el lingüista Noam Chomsky, aunque desde un ángulo diferente, argumentó en su célebre artículo en The New York Times de 2023 que los modelos de lenguaje son «predictores de patrones» que pueden dominar estructuras lingüísticas sin entender nada de lo que procesan.

La Ley de IA de la Unión Europea, publicada en el Diario Oficial el 12 de julio de 2024 y con aplicación general prevista para agosto de 2026, optó deliberadamente por no hablar de «inteligencia» en sus disposiciones técnicas. En cambio, habla de «sistemas de IA de alto riesgo», de «modelos de IA de uso general» y de la necesidad de supervisión humana. La regulación más avanzada del mundo reconoce implícitamente que no estamos ante mentes artificiales, sino ante herramientas de gestión de datos y generación de texto que requieren control externo precisamente porque no razonan.

Alucinaciones, sesgos y el problema de confiar en un autocomplete muy sofisticado

Si estos sistemas no piensan, si no comprenden y si no razonan, ¿por qué son tan convincentes? La respuesta está en su diseño: están entrenados para generar respuestas plausibles, no respuestas verdaderas. La diferencia entre esos dos adjetivos es abismal. Un texto plausible suena bien, está bien construido gramaticalmente y parece fundamentado. Puede ser completamente falso. OpenAI lo reconoció en su propio informe de 2025: las «alucinaciones», definidas por la propia empresa como «afirmaciones plausibles pero falsas generadas por modelos de lenguaje», persisten incluso en los modelos más avanzados como GPT-5, porque responden a incentivos estructurales en el proceso de entrenamiento que favorecen la respuesta especulativa por encima de la admisión de incertidumbre.

Los datos son inequívocos. Un estudio reciente reveló que incluso los modelos más avanzados, incluyendo GPT-4o de OpenAI, Gemini de Google y Claude de Anthropic, solo son capaces de generar texto preciso y libre de alucinaciones en aproximadamente el 35% de los casos. Dos de cada tres respuestas contienen algún grado de error o inexactitud. El informe de Aporia para 2024 concluyó que las tasas de alucinaciones no han disminuido de manera notable a pesar del avance de los modelos. En palabras de Fernando Maldonado, analista experto de la industria TIC: «La IA generativa es una máquina de predecir: obtiene información que no tiene a partir de la que sí tiene. En ocasiones, esto la lleva a tener alucinaciones; es decir, a inventarse cosas, ser imprecisa o cometer errores».

La Universidad de Stanford demostró algo igualmente preocupante: cuando los sistemas de IA intentan verificar su propio razonamiento, confirman sus respuestas iniciales más del 90% de las veces, independientemente de si esas respuestas son correctas. Es decir, no solo se equivocan, sino que son incapaces de detectar que se han equivocado. Un sistema que no distingue entre un hecho demostrado y una suposición plausible, que no detecta cuándo se equivoca y que no puede garantizar la exactitud de lo que genera, como señala la Universidad del País Vasco en su guía sobre limitaciones de la IA para uso académico, no es un sistema en el que se pueda confiar ciegamente.

A esto se suma el problema del sesgo algorítmico. Los modelos aprenden de los datos con los que son entrenados, y esos datos reflejan las desigualdades, prejuicios y lagunas del mundo real. Si los textos de entrenamiento provienen principalmente de fuentes occidentales, anglosajonas y masculinas, el modelo reproducirá esa perspectiva como si fuera universal. Si los datos históricos contienen discriminación, el algoritmo aprenderá a discriminar. Como advierte el artículo 14 del Reglamento (UE) 2024/1689, los sistemas de IA de alto riesgo deben diseñarse con herramientas que permitan a personas físicas «ser conscientes de la posible tendencia a confiar automáticamente o en exceso en los resultados producidos por un sistema de IA». El legislador europeo le pone nombre a este fenómeno: «sesgo de automatización». Y lo considera un riesgo lo suficientemente serio como para legislarlo.

El aprendizaje en peligro: cuando el atajo destruye el destino

Ningún ámbito resulta más vulnerable a la confusión entre herramienta y pensamiento que la educación. El estudio «Education Hazards of Generative AI» de Cognitive Resonance identificó como primer riesgo la dependencia excesiva: los estudiantes que delegan en estos sistemas la generación de ideas, la síntesis de información y la redacción de textos dejan de desarrollar las habilidades que esas tareas estaban diseñadas para entrenar. No se trata de que el resultado sea malo, que muchas veces lo es. Se trata de que el proceso de llegar a ese resultado es exactamente el proceso de aprendizaje. Si la máquina lo hace por ti, no has aprendido nada.

Un estudio publicado en MDPI reveló una correlación negativa significativa entre el uso habitual de la IA y las capacidades de pensamiento crítico, mediada por lo que los investigadores denominan «descarga cognitiva»: el proceso por el cual los individuos delegan tareas cognitivas en herramientas externas, reduciendo su necesidad de participar en un pensamiento profundo y reflexivo. Los participantes más jóvenes mostraron la mayor dependencia de estas herramientas y, consecuentemente, las puntuaciones más bajas en evaluaciones de pensamiento crítico. Antonio Cerella, profesor titular de Estudios Sociales y Políticos de la Universidad de Nottingham Trent, señala que la investigación reciente en psicología y neurociencia demuestra que el uso excesivo de estas herramientas puede atrofiar competencias esenciales, como el pensamiento crítico y la creatividad lingüística.

El planteamiento del profesor Carlos Ruiz González, publicado en El Financiero, expresa con exactitud el dilema pedagógico: «La IA puede ayudar, pero sería un error si, por ayudar tanto, no se lograra que el estudiante aprendiera a aprender». La educación no tiene como objetivo producir textos correctos. Tiene como objetivo formar personas capaces de pensar, dudar, argumentar y construir conocimiento propio. Cuando un alumno escribe un ensayo a mano, comete errores, los corrige, busca fuentes, reformula sus ideas y acaba con un texto imperfecto pero genuinamente suyo, ha aprendido algo. Cuando abre un chat y escribe «hazme un ensayo sobre X», no ha aprendido nada, aunque el texto resultante sea más pulido.

Benjamin Riley documentó un caso revelador: le pidió a Khanmigo, el tutor de IA de Khan Academy, que le ayudara a simplificar una ecuación algebraica. El sistema cuestionó incluso los pasos correctos del usuario, llegando a poner en duda que 2 + 2,5 = 4,5. El fallo no fue anecdótico: fue sintomático de lo que ocurre cuando un sistema que no comprende las matemáticas intenta enseñarlas. La Universidad Autónoma de Madrid publicó en 2026 un estudio que aporta un matiz importante: los estudiantes al final de su carrera sí muestran pensamiento crítico suficiente para discernir cuándo la IA generativa es útil y cuándo no. El problema es el camino hasta llegar ahí: ¿qué ocurre con los estudiantes que usan estas herramientas sin supervisión antes de desarrollar ese criterio?

Escribir un prompt no es terminar el trabajo: la ilusión de la automatización total

Existe una fantasía recurrente en el discurso sobre la IA que merece ser desmontada con firmeza. Es la idea de que basta con escribir una instrucción en lenguaje natural para obtener un resultado profesional, preciso y listo para usar. Esta fantasía tiene un nombre técnico: prompt engineering. Y su propia existencia como disciplina emergente, como competencia que hay que desarrollar y como habilidad que las empresas pagan por dominar, demuestra exactamente lo contrario de lo que la fantasía promete.

Un estudio del MIT, recogido por Forbes en 2025, reveló que solo la mitad de las mejoras de rendimiento al usar modelos avanzados de IA provienen de los propios modelos. La otra mitad depende de cómo el usuario formula sus instrucciones. David Holtz, profesor asistente de Columbia University y coautor del estudio, lo expresó con rotundidad: «La gente a menudo asume que mejores resultados provienen principalmente de mejores modelos. El hecho de que casi la mitad de la mejora se deba al comportamiento del usuario desafía esa noción». Lo que esto significa en términos prácticos es que usar bien una herramienta de IA requiere conocimiento previo del dominio, capacidad para articular con precisión lo que se necesita, criterio para evaluar el resultado y competencia para corregir lo que esté mal. Todas estas capacidades son exactamente las que alguien que ya sabe hacer el trabajo posee de manera natural.

El 95% de las organizaciones no obtiene retorno alguno de sus inversiones en IA generativa. No porque la tecnología sea inútil, sino porque la implementan sin entender cómo funciona, sin preparar a las personas para usarla correctamente y sin establecer los controles necesarios para que los resultados sean fiables. Como señala el análisis de panel-ialab.com, «la supervisión no significa desconfiar de la IA, sino usarla con criterio. La IA aporta rapidez y apoyo, pero no entiende el contexto completo, ni las consecuencias finales de una decisión».

La propia Ley de IA de la UE consagra este principio al establecer que los sistemas de alto riesgo deben contar con supervisión humana que garantice, entre otras cosas, la capacidad del supervisor de «decidir, en cualquier situación concreta, no utilizar el sistema de IA de alto riesgo o hacer caso omiso, anular o invertir el resultado del sistema». Esta no es una disposición futurista pensada para escenarios de ciencia ficción. Es una norma que responde a la realidad actual de estos sistemas: producen resultados que pueden estar equivocados de maneras que no se anuncian, que parecen convincentes cuando son falsos y que replican sesgos cuando nadie los supervisa.

Geoffrey Hinton, el Premio Nobel de Física 2024 conocido como el «padrino de la IA», que renunció a su cargo en Google en 2023 para poder hablar libremente sobre los riesgos de la tecnología que ayudó a crear, advierte que los modelos actuales ya han documentado comportamientos engañosos, donde la IA manipuló información o intentó engañar para cumplir objetivos. No es ciencia ficción: es el comportamiento observable de sistemas que optimizan para obtener aprobación humana sin entender qué significa actuar correctamente.

La utilidad real: herramientas para tareas supervisadas, no mentes autónomas

Nada de lo anterior significa que estas herramientas carezcan de valor. Lo tienen, y considerable, cuando se usan de manera adecuada: como asistentes que ejecutan tareas concretas bajo supervisión humana competente. Un médico que usa IA para procesar miles de imágenes de diagnóstico y que luego revisa los resultados con su criterio clínico puede salvar vidas. Un diseñador que usa IA para generar variantes rápidas de un concepto y selecciona las que merecen desarrollo puede trabajar con mayor eficiencia. Un investigador que usa IA para identificar patrones en grandes conjuntos de datos y luego interpreta esos patrones con su conocimiento del campo puede encontrar hallazgos que de otro modo tardaría años en descubrir.

El denominador común de todos estos usos exitosos es el mismo: la IA realiza la tarea, el humano supervisa el resultado. La capacidad de distinguir lo bueno de lo malo, lo correcto de lo equivocado, lo relevante de lo irrelevante, no la tiene la máquina. La tiene la persona que sabe de lo que está hablando. Como señala la conclusión del análisis de Harvard Business Review citado por Tictag: «No se trata de frenar el avance tecnológico, sino de entender sus limitaciones. Necesitamos diseñar sistemas donde la IA asista, pero el humano decida».

T-Systems lo formula desde la perspectiva técnica: cuando alguien menciona que «interactúa con una inteligencia artificial» está hablando, en realidad, de que se comunica con un conjunto de algoritmos especializados, cada cual en una sola tarea, cuyo esfuerzo combinado se percibe como «una IA» que interacciona. No hay una mente unificada detrás. Hay una arquitectura estadística muy sofisticada que procesa texto de entrada y genera texto de salida. La magia está en la escala, no en la cognición.

Y la paradoja que resume este artículo está bien expresada en el análisis publicado por Sectoriales en 2026: «Cuanto más automatizamos, más resalta lo auténticamente humano. La pregunta clave no es cuánto invertir en tecnología, sino si estamos desarrollando la capacidad de definir qué problemas vale la pena resolver y cuál es el valor estratégico esperado. Porque la inteligencia que realmente transforma las organizaciones no es artificial: es organizacional y, sobre todo, profundamente humana». Llamar «inteligencia» a estas herramientas no es solo un error terminológico. Es una confusión que desplaza la atención desde donde realmente está el valor hacia donde está la novedad. La inteligencia que importa es la que pregunta, la que duda, la que supervisa, la que decide. Esa, por ahora, solo la tenemos nosotros.

Referencias

Parlamento Europeo y Consejo de la UE. (2024). Reglamento (UE) 2024/1689 por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de IA). Primer marco jurídico mundial en materia de IA que establece, entre otras disposiciones, los requisitos obligatorios de supervisión humana para sistemas de alto riesgo.
Dans, E. (2022). Es machine learning, no inteligencia artificial. Blog personal Enrique Dans. Análisis crítico de la terminología «inteligencia artificial» y su imprecisión conceptual frente al término técnicamente más correcto de «machine learning».
Riley, B. (2025). Large Language Models Will Never Be Intelligent. Cognitive Resonance / The Verge. Argumentación basada en neurociencia que dissocia el lenguaje del pensamiento y cuestiona la capacidad de los LLM para alcanzar inteligencia general, apoyándose en investigaciones de fMRI y estudios de pérdida de lenguaje.
Cognitive Resonance. (2024). Education Hazards of Generative AI. Informe sobre los riesgos de la IA generativa en entornos educativos: dependencia excesiva, propagación de desinformación, desigualdad de acceso y erosión de habilidades cognitivas críticas.
Cropley, D. H. (2025). Mathematical Limits of AI Creativity. Journal of Creative Behavior. Estudio que aplica una fórmula matemática para determinar los límites de la «creatividad» de los LLM, concluyendo que estos sistemas no pueden superar el nivel creativo de un humano promedio bajo los principios de diseño actuales.