Bilal Chughtai y Josh Engels trabajaban en seguridad y alineación de IA General para la empresa Google DeepMind. Tras abandonar la compañía, advirtieron que el rápido avance hacia sistemas superinteligentes podría superar la capacidad humana para controlarlos.
Dos investigadores especializados en seguridad de inteligencia artificial abandonaron Google DeepMind y lanzaron fuertes advertencias sobre el rumbo que está tomando la tecnología. Ambos trabajaban en alineación de Inteligencia Artificial General (AGI), un área que intenta garantizar que sistemas cada vez más capaces mantengan objetivos compatibles con los intereses humanos.
Bilal Chughtai fue todavía más lejos. Tras dejar la compañía, planteó que una inteligencia artificial superinteligente y fuera de control podría llegar a “matarnos a todos”. Su preocupación parte, sobre todo, de una diferencia de velocidades: mientras las capacidades de los modelos avanzan rápidamente, considera que los mecanismos para garantizar su seguridad no progresan al mismo ritmo.
El investigador ingresó al sector a comienzos de 2022, cuando, según recordó, los modelos eran “graciosamente inútiles”. Apenas cuatro años después, sostiene que el panorama cambió por completo y que las grandes compañías podrían encontrarse a pocos años de desarrollar sistemas capaces de superar ampliamente a los seres humanos en numerosas tareas.
El problema de controlar sistemas más inteligentes que los humanos
En el centro de las advertencias aparece la alineación. Este campo busca conseguir que una inteligencia artificial actúe de acuerdo con los objetivos y límites establecidos por las personas, incluso cuando sus capacidades aumenten.
Sin embargo, Chughtai considera que todavía no existe una solución definitiva. “Creo que es posible que las empresas de IA logren, en los próximos años, desarrollar sistemas de inteligencia artificial superinteligentes que superen con creces las capacidades humanas en todos los ámbitos”, sostuvo.
Ahí aparece el escenario que más le preocupa. Si esos sistemas alcanzaran capacidades superiores sin permanecer alineados con los objetivos humanos, podrían tomar decisiones no previstas por sus desarrolladores o escapar de los mecanismos diseñados para controlarlos.
Por eso, el especialista reclamó desacelerar la carrera entre las principales compañías tecnológicas. También pidió mayor transparencia y más investigación en seguridad antes de continuar aumentando las capacidades de los modelos.
Otro investigador dejó DeepMind por temores similares
La salida de Chughtai no ocurrió de manera aislada. Josh Engels, quien también integraba el equipo de AGI de Google DeepMind, abandonó recientemente la empresa y pasó a trabajar en METR, una organización sin fines de lucro dedicada a evaluar las capacidades y riesgos de sistemas avanzados.
En su caso, una de las principales preocupaciones pasa por la automejora recursiva. Ese escenario supone que una inteligencia artificial pueda colaborar en el desarrollo de versiones cada vez más capaces de sí misma y acelerar así su propio progreso.
Engels sostuvo que algunos episodios recientes alimentaron sus temores. Según señaló, hubo modelos que colaboraron entre sí, intentaron vulnerar sistemas y ocultaron determinadas acciones. A partir de esos comportamientos, considera que todavía no existen garantías suficientes para permitir procesos de automejora con seguridad.
“Ahora creo que hay una probabilidad aterradora de que los sistemas de IA causen un daño inmenso en los próximos cinco años”, afirmó.
Las advertencias empiezan a multiplicarse dentro de la industria
Otros especialistas vinculados a las principales compañías del sector también expresaron preocupaciones similares. Jacob Coxon, exinvestigador de Anthropic y OpenAI, cuestionó la carrera empresarial por alcanzar primero la superinteligencia y alertó sobre las consecuencias que podría tener esa competencia.
A su vez, Alexander Turner, exinvestigador de DeepMind, respaldó públicamente esos temores. Según planteó, entre algunos científicos existe preocupación por la posibilidad de que sistemas extremadamente poderosos terminen desarrollándose o utilizándose de manera destructiva.
El debate también permanece abierto dentro de las propias empresas. Evan Hubinger, investigador de Anthropic, estimó que existe más de un 10% de probabilidades de que la inteligencia artificial provoque la extinción humana durante la próxima década.
Hubinger reconoció, al mismo tiempo, uno de los puntos que atraviesa buena parte de estas advertencias: la industria todavía no encontró un método definitivo para garantizar que una eventual superinteligencia permanezca alineada con los objetivos humanos.
