Lo más inquietante de la IA no es lo rápido que está progresando: es que sus creadores no saben cómo adquiere capacidades emergentes

Una idea sorprendente está circulando entre los ingenieros que se dedican a la inteligencia artificial (IA), y que suena casi a confesión. La planteó Dario Amodei, el director general de Anthropic, en un ensayo publicado en abril de 2025 en el que reconoció que ni siquiera su equipo entiende de una forma plena cómo funcionan sus modelos de IA. No es ninguna ocurrencia, aunque puede parecer puro marketing. En el fondo es el director general de una de las compañías de IA más valiosas del mundo admitiendo por escrito que su equipo no tiene bien atado el mecanismo interno de su propio producto.

Lo más revelador es que Amodei no está solo. Geoffrey Hinton, premio Nobel de Física en 2024 y una de las figuras que ha hecho posible el aprendizaje profundo tal y como lo conocemos, ha dicho esencialmente lo mismo con otras palabras: él solo aportó el algoritmo de aprendizaje; lo que ocurre después dentro de la máquina no lo entiende nadie, ni siquiera su creador. Y Chris Olah, cofundador de Anthropic y responsable de su equipo de interpretabilidad, lleva varios años describiendo las redes neuronales como un andamiaje sobre el que los circuitos crecen solos, sin que nadie los haya diseñado directamente.

Es importante que tengamos en cuenta que estamos ante tres perfiles radicalmente distintos: un director general con unos intereses comerciales evidentes, un académico retirado de la industria y un investigador que vive literalmente dentro de este problema. Aun así, los tres convergen en la misma idea, que además tiene un nombre técnico: capacidades emergentes, que no son otra cosa que habilidades que el modelo no tenía a menor escala y que aparecen de golpe al aumentar el tamaño, sin que nadie las haya programado ni las haya visto venir.

¿Advertencia científica o argumento de venta?

Esta sospecha es razonable y nos interesa plantearla sin rodeos. Anthropic ha construido buena parte de su identidad de marca alrededor de la seguridad y la interpretabilidad, frente a una competencia, como OpenAI o Google DeepMind, que prioriza el despliegue rápido. Que su director general publique un ensayo alarmista sobre lo poco que entendemos de la IA, cuando esta compañía lleva años vendiéndonos la promesa de ser muy cuidadosa con sus modelos, encaja perfectamente con un relato comercial: cuanto más misteriosa y poderosa parezca la criatura, más valiosa resulta la empresa que dice estar domesticándola.

Geoffrey Hinton dejó Google en 2023 precisamente para poder hablar sin las ataduras de un sueldo corporativo

Sin embargo, esta lectura empieza a resquebrajarse en cuanto se le aplica a Hinton. Este científico dejó Google en 2023 precisamente para poder hablar sin las ataduras de un sueldo corporativo, no cobra de ninguna compañía de IA generativa y su discurso público es sistemáticamente más pesimista que el de cualquier ejecutivo del sector. No tiene ningún producto que necesite vender ni ninguna ronda de financiación que tenga que justificar. Si esto fuera únicamente marketing, sería un marketing que no beneficia a nadie en concreto, y menos a él.

Por otro lado, no debemos pasar por alto el trabajo de Chris Olah, cuya aportación no consiste en hacer declaraciones: consiste en publicar artículos científicos. Los circuitos de inducción, los saltos de aprendizaje que aparecen de pronto durante el entrenamiento, los millones de características monosemánticas extraídas de Claude 3 Sonnet: todo esto es evidencia técnica acumulada durante años, no una frase suelta en una entrevista. Cuando Olah describe el interior de un modelo como matrices de miles de millones de números de las que no entendemos del todo cómo emergen las tareas cognitivas, no está vendiendo nada. Está describiendo, con una evidente frustración, el estado real de un campo que él mismo cofundó.

Por este motivo la explicación más plausible no es la conspirativa, sino la más incómoda de las dos: probablemente es cierto. Las personas que están construyendo los modelos de IA más potentes del mundo parecen no tener un mapa preciso de cómo y por qué esos sistemas adquieren capacidades para las que nadie los diseñó explícitamente. Esto significa, sencillamente, que la convergencia de un ejecutivo con incentivos para exagerar la alarma, un académico sin ningún incentivo comercial y un investigador que lleva una década documentándolo empíricamente apunta menos a una campaña orquestada y más a un consenso incómodo dentro del propio campo.

La pregunta que queda en el aire, entonces, no es si nos están vendiendo humo. Es qué pasa cuando seguimos escalando sistemas cuyo interior seguimos sin poder explicar del todo, mientras la industria entera admite, casi al unísono, que corre más rápido de lo que entiende.

Imagen | TechCrunch | Arthur Petron (procesadas con ChatGPT)

En Xataka | Los dos ajustes invisibles que deciden si tu IA acierta o desvaría

En Xataka | "Ya estamos en la singularidad de la IA": Sam Altman, CEO de OpenAI

- La noticia Lo más inquietante de la IA no es lo rápido que está progresando: es que sus creadores no saben cómo adquiere capacidades emergentes fue publicada originalmente en Xataka por Laura López .