Xataka – La llegada de las IA con «automejora recursiva»: qué significa que Astra haya ayudado a modificar otro modelo de IA y qué riesgos y beneficios conlleva
El pasado 12 de septiembre Dario Amodei, el director general de Anthropic, publicó uno de sus ensayos más controvertidos. Lo tituló ‘Debemos marcar el ritmo de la frontera’ (We Must Pace the Frontier), y en su texto defiende la necesidad de ralentizar el desarrollo de los modelos de inteligencia artificial (IA) de frontera con el propósito de asegurar su correcta alineación con los intereses del ser humano y de minimizar en la medida de lo posible los riesgos derivados de la puesta a punto de las IA más avanzadas.
Este párrafo de su artículo es especialmente clarificador: «Desde este verano, la IA está avanzando mucho más deprisa impulsada principalmente por su creciente capacidad de desarrollar la siguiente generación de modelos. Esta dinámica se denomina automejora recursiva y está empezando a producirse en toda la industria, incluida Anthropic». Podemos entender la automejora recursiva como la capacidad de un modelo de lenguaje de desarrollar de forma autónoma nuevos modelos más avanzados que él mismo.
De las palabras de Amodei se desprende que los modelos más avanzados de Anthropic y otros laboratorios ya están participando en el desarrollo de nuevos modelos de lenguaje más capaces, aunque por el momento ninguna de estas empresas ha demostrado públicamente que uno de sus modelos haya alcanzado la automejora recursiva en sentido estricto. Sin embargo, acaba de producirse un giro inesperado: un grupo de investigadores del MIT (Instituto Tecnológico de Massachusetts) ha demostrado que GPT-6 Astra ha conseguido modificar directamente el funcionamiento de otra IA.
Qué ha conseguido realmente hacer Astra y qué significa
Varios investigadores del Laboratorio de Inteligencia Artificial e Informática del MIT han comprobado que GPT-6 Astra, el modelo de IA de OpenAI, es capaz de modificar directamente los parámetros internos de otra red neuronal para mejorar su comportamiento. Curiosamente, estos científicos han realizado su experimento sobre Qwen3.5-0.8B, un modelo de lenguaje de 800 millones de parámetros desarrollado por la compañía china Alibaba. Lo que ha conseguido hacer Astra es mejorar mucho su rendimiento en operaciones matemáticas manipulando tan solo el 0,016% de sus parámetros.
Como explican los investigadores del MIT en su artículo, es impactante que Astra haya logrado mejorar tanto el rendimiento en matemáticas de Qwen3.5-0.8B llevando a cabo una modificación tan modesta. No obstante, también es sorprendente que esta mejora haya sido posible sin recurrir a un nuevo proceso de entrenamiento del modelo. Lo que ha hecho Astra es, sencillamente, modificar el valor de los pesos de Qwen. Para entender por qué esto es importante nos interesa repasar qué son los pesos de un modelo de IA.
En vez de reentrenar a Qwen, Astra ha identificado un problema en su funcionamiento y ha manipulado directamente los valores numéricos que lo desencadenaban
A los grandes modelos de lenguaje se les da de maravilla reconocer patrones. De hecho, esta capacidad reside en el corazón de su funcionamiento y se consigue gracias a miles de millones de parámetros numéricos, entre ellos los pesos, que el modelo va ajustando durante el entrenamiento. Una IA es una gigantesca red de miles de millones de pequeñas conexiones. Durante el proceso de entrenamiento, la IA analiza una cantidad ingente de información y va ajustando esas conexiones para aprender a reconocer patrones.
El valor numérico de cada una de esas conexiones determina cuánto influye cada una de ellas en el comportamiento del modelo. Estos valores son los pesos. En vez de reentrenar a Qwen, Astra ha identificado un problema en su funcionamiento y ha manipulado directamente los valores numéricos que lo desencadenaban. Es una estrategia inédita hasta ahora en manos de una IA que abre un nuevo camino a la hora de acelerar el desarrollo de nuevos modelos, aunque no estamos ante la automejora recursiva de la que hemos hablado unas líneas más arriba. No en sentido estricto.
Que los investigadores de los laboratorios de IA tengan una herramienta más en su arsenal a la hora de refinar sus modelos de frontera es una buena noticia. La posibilidad de que un modelo de IA intervenga directamente sobre otras redes neuronales tiene la capacidad de acelerar la investigación científica, de corregir problemas que hasta ahora requerían larguísimos procesos de entrenamiento y de facilitar el desarrollo de modelos más eficientes. Sin embargo, este escenario también plantea riesgos.
Si los modelos de lenguaje más avanzados comienzan a intervenir de una forma más autónoma sobre sus propios componentes o sobre otros modelos, los laboratorios de IA tendrán que encontrar la forma de garantizar que esas modificaciones no desencadenen errores, vulnerabilidades difíciles de localizar o comportamientos anómalos. Además, si las mejoras se acumulan en sucesivas generaciones de modelos de IA, corremos el riesgo de que resulte mucho más complicado evaluar y controlar la evolución de los modelos de frontera.
Imagen | Google DeepMind (editada)
Más información | Rikiya Takehi (MIT) | Anthropic
En Xataka | China tiene un plan para ganar a EEUU la guerra de la IA. Y DeepSeek es su campeón
–
La noticia
La llegada de las IA con «automejora recursiva»: qué significa que Astra haya ayudado a modificar otro modelo de IA y qué riesgos y beneficios conlleva
fue publicada originalmente en
Xataka
por
Laura López
.
