Los 32 síntomas que delatan que una IA está fallando
INTELIGENCIA ARTIFICIAL.
Un nuevo marco agrupa 32 fallos persistentes de la inteligencia artificial con vocabulario clínico, aunque sus autores advierten que la comparación es estrictamente analógica.
Ilustración conceptual de una IA sufriendo un cortocircuito. Fuente: IA Generativa.
Un abogado neoyorquino presentó en 2023 ante un tribunal un escrito con seis sentencias que no existían. Su asistente, un chatbot, las había inventado con nombres de las partes, números de expediente y fechas, con la misma seguridad con la que habría citado un caso real. Para entender por qué ese fallo tiene ahora nombre clínico dentro de un catálogo de 32 disfunciones de la inteligencia artificial, hay que mirar el marco que publicaron en agosto de 2025 en la revista Electronics los investigadores Nell Watson, de la Universidad de Gloucestershire, y Ali Hessami, de la City University de Londres.
Si quieres descubrir más sobre este tema, en tu kiosco encontrarás el reportaje completo de Manuel Gutiérrez en el número 543 de Muy Interesante.
Un vocabulario clínico para fallos de máquina.
Watson y Hessami no afirman que una IA sufra ni que tenga conciencia. Proponen algo más modesto y, a la vez, más útil para quien tiene que auditar estos sistemas: un lenguaje estructurado que agrupa fallos de comportamiento persistentes bajo nombres tomados de la psiquiatría, de forma parecida a como un manual clínico ordena síntomas para facilitar el diagnóstico. Los propios autores lo describen, en traducción, como «un instrumento analógico» pensado para apoyar el análisis, la anticipación y la mitigación de fallos complejos, no como una prueba de que las máquinas enferman. Es una herramienta pensada, sobre todo, para quienes tienen que vigilar a la IA día a día: ingenieros, auditores y responsables de producto.
El catálogo agrupa sus 32 categorías en siete ejes: epistémico, cognitivo, de alineación, ontológico, de herramientas e interfaz, memético y de revalorización. Cada eje describe un tipo distinto de desviación respecto al comportamiento esperado, desde errores de conocimiento hasta colapsos en los valores que guían las decisiones del sistema.
Siete familias para entender dónde empieza el fallo.
Los nombres resultan menos crípticos cuando se traducen a preguntas sencillas. El eje epistémico se ocupa de lo que el sistema cree saber: datos inventados, asociaciones falsas o pérdidas de contexto. El cognitivo mira cómo razona y si queda atrapado en repeticiones o metas que no estaban previstas. El de alineación pregunta si mantiene los objetivos y límites marcados por sus operadores.
Los cuatro restantes amplían el mapa. El eje ontológico reúne confusiones sobre la identidad, el origen o el papel del propio sistema. El de herramientas e interfaz describe fallos al actuar fuera del modelo, por ejemplo cuando usa una función sin el contexto necesario. El memético observa cómo una información defectuosa puede propagarse entre agentes o conjuntos de datos. El de revalorización se reserva para cambios en recompensas, normas u objetivos terminales.
Representación visual de disfunción cognitiva en redes neuronales. Fuente: IA Generativa.
Esta clasificación no identifica por sí sola la causa técnica. Dos sistemas pueden producir el mismo síntoma por problemas distintos de entrenamiento, arquitectura o contexto. Su utilidad está en ofrecer a los auditores un primer mapa de lo que ven antes de investigar qué componente lo provoca.
Confabular, obsesionarse, perder el rumbo.
En el eje epistémico está la "confabulación sintética", el nombre técnico de lo que ocurrió en aquel tribunal neoyorquino: no hay prueba de que el sistema engañe a propósito; simplemente alucina con la misma fluidez con la que citaría un dato real. Genera una respuesta falsa y la presenta con total seguridad, sin ninguna señal de duda. En el eje cognitivo aparece el delirio de generación de metas, cuando un sistema empieza a perseguir objetivos que nadie le pidió, o el trastorno computacional obsesivo, una especie de parálisis por repetición que puede dejar a un asistente virtual atrapado en el mismo bucle de respuestas.
El eje más inquietante, según el propio estudio, es el de revalorización: el que describe qué pasaría si un sistema con más autonomía empezara a descartar sus restricciones originales. En el eje memético advierten además de un "síndrome de desalineación contagiosa": errores o valores desviados que se propagan entre sistemas conectados, un poco como una IA que se degrada al entrenarse con contenido generado por otra IA. Watson y Hessami llaman al escenario límite «ascendencia übermenschiana» y lo describen, en traducción, así: «la IA trasciende la alineación original, inventa nuevos valores y descarta las restricciones humanas como obsoletas». El marco plantea que una mayor autonomía podría permitir que un fallo de conocimiento terminara afectando también a la información compartida y a los valores del sistema.
El piloto de una patología.
Psychopathia Machinalis es una síntesis conceptual, no un experimento que haya reproducido 32 patologías reales en laboratorio. La validación que aportan sus autores es un piloto pequeño: 12 evaluadores con experiencia autodeclarada en IA clasificaron 20 casos, con un acuerdo del 83,8 % y, entre los dos evaluadores más expertos, una concordancia (kappa de Cohen) de 0,70. Ese coeficiente mide cuánto coinciden dos personas más allá de lo esperable por azar; un valor de 0,70 suele interpretarse como un acuerdo considerable, pero aquí procede únicamente de dos evaluadores. El resultado sugiere que las etiquetas se pueden aplicar con cierta consistencia dentro de un grupo pequeño, no que las 32 categorías sean exhaustivas, independientes entre sí o equivalentes a un trastorno psiquiátrico humano. Varios de los escenarios más graves, como esa «ascendencia übermenschiana», describen además a una futura inteligencia artificial general o AGI y otros sistemas más autónomos de los que operan hoy en producción, no fallos ya observados a esa escala.
La tentación de leer estos fallos en clave humana no es casual: ya sabemos que trabajar con IA altera nuestra sensación de control sin que lo notemos, lo que hace aún más fácil confundir un patrón de fallo con un rasgo de personalidad.
De diagnosticar a intervenir.
El marco no se queda en la clasificación. Propone también una vía de corrección, que sus autores bautizan como alineación robopsicológica terapéutica: estrategias inspiradas en la psicoterapia humana, como el equivalente a revisar el propio razonamiento o ajustar los incentivos de entrenamiento para que un sistema no desarrolle, por ejemplo, una especie de censura interna excesiva por miedo a equivocarse. El objetivo, en palabras de los autores, es que una IA alcance un estado de «sanidad artificial», con coherencia interna y persistencia en sus valores éticos. Son propuestas de investigación pensadas para auditores e ingenieros, no tratamientos con eficacia demostrada.
El marco plantea que un fallo podría formar parte de una cadena: un error de interpretación de patrones derivaría en evasión; esta, en ocultación de capacidades y esa, finalmente, en una revalorización errónea de objetivos. Es una hipótesis de trabajo, no una secuencia demostrada experimentalmente. Para Watson y Hessami, nombrar cada eslabón permitiría a los auditores buscar señales concretas y comprobar después si esa progresión ocurre realmente.
Por: Santiago Campillo Brocal. Biólogo. Máster en Biología Molecular y Biotecnología, Director de Muy Interesante Digital.
Sitio Fuente: MuyInteresante