La alarma de un ex Google DeepMind por el avance sin control de la IA
NewsITe
Bilal Chughtai, exinvestigador de Google DeepMind, encendió una fuerte señal de alarma sobre el rumbo que está tomando el desarrollo de la inteligencia artificial (IA) a nivel global. En un extenso mensaje publicado en su cuenta de X, el especialista advirtió que la tecnología, tal como se está impulsando hoy, “tiene el potencial de matarnos a todos” si no se introducen límites y mecanismos de seguridad más estrictos.
Chughtai trabajó en Google en investigación sobre seguridad y alineación de sistemas de inteligencia artificial general (AGI, por sus siglas en inglés), es decir, modelos capaces de igualar o superar el desempeño humano en la mayoría de las tareas. Desde ese lugar, aseguró haber sido testigo directo del vertiginoso avance de la industria y sostuvo que el problema no es solo la velocidad del progreso, sino “la trayectoria predeterminada” de esta tecnología.
El exinvestigador planteó que, si no se modifica el enfoque actual, podrían desarrollarse sistemas de IA superinteligentes que sobrepasen por amplio margen las capacidades humanas “en todos los dominios”, sin que exista plena garantía de que harán lo que sus creadores esperan. En ese escenario, advirtió, el margen para reaccionar puede ser muy reducido y los daños potenciales, irreversibles.
Preocupación compartida en la industria tecnológica global
Las advertencias de Chughtai se suman a una ola de pronunciamientos recientes de figuras centrales del ecosistema de la IA. Dario Amodei, director ejecutivo de Anthropic, sostuvo que en un plazo de entre seis y doce meses los agentes de inteligencia artificial podrían llegar a tomar el control de buena parte de internet y provocar pérdidas económicas por cientos de miles de millones de dólares, ya sea por ciberataques, fraudes automatizados o manipulación de sistemas críticos.
En paralelo, Sam Altman, CEO de OpenAI, reiteró que la compañía mantiene sus planes de salir a la bolsa alrededor de 2026, pero remarcó que la seguridad frente a los riesgos de la IA figura entre las prioridades estratégicas. Elon Musk, al frente de xAI, también insistió en la necesidad de imponer límites regulatorios y técnicos a los modelos más avanzados, a fin de evitar escenarios fuera de control.
Desde el plano político, el presidente de Estados Unidos, Donald Trump, descartó por ahora frenar el desarrollo de la IA. A su entender, la prioridad es ganar la competencia tecnológica con China y, a partir de allí, encarar la discusión sobre los riesgos. Esa postura genera inquietud entre expertos que reclaman medidas preventivas antes de que la tecnología alcance niveles difíciles de gestionar.
Regular, coordinar y moderar el desarrollo de la IA
Pese al tono de sus advertencias, Chughtai se mostró moderadamente optimista respecto de la posibilidad de atravesar esta etapa de la IA en forma segura. Aclaró, sin embargo, que para lograrlo será necesario un alto nivel de coordinación entre los principales actores del sector, tanto empresas como gobiernos y organismos regulatorios.
Según el ex investigador de Google DeepMind, uno de los grandes desafíos es evitar una “carrera maníaca” entre compañías que compitan por ser las primeras en alcanzar sistemas más potentes, relegando a un segundo plano las evaluaciones de impacto, las auditorías de seguridad y los controles externos. A su juicio, el desarrollo debería avanzar “a una velocidad que la sociedad pueda manejar”, con tiempos suficientes para detectar riesgos emergentes antes de que se traduzcan en daños extremos.
“Sinceramente, creo que la IA tiene el potencial de matarnos a todos, y podríamos estar quedándonos sin tiempo para evitar este resultado”, advirtió Bilal Chughtai, exinvestigador de Google DeepMind.
El debate sobre hasta dónde y cómo avanzar con la inteligencia artificial continúa ganando espacio en los foros internacionales, los mercados y los gobiernos. Mientras la tecnología se integra cada vez más en la vida cotidiana, las voces que piden mayor prudencia y reglas claras reclaman no perder de vista una premisa central: el desarrollo de la IA debe estar alineado con el interés público y la seguridad de las personas.
