Los autores de la petición consideran que la sociedad debe “ganar tiempo” para elaborar medidas de seguridad y reforzar la supervisión de las nuevas tecnologías.
Directivos y empleados de empresas tecnológicas como OpenAI, Google y Anthropic dirigieron una carta al Gobierno de EE.UU. solicitando “regular deliberadamente” el ritmo del desarrollo automatizado de la inteligencia artificial (IA).
La petición fue firmada por 1.350 personas, entre ellos, el director ejecutivo de Anthropic, Amodei Dario; el director de Investigación de OpenAI, Mark Chen; y la vicepresidenta de Seguridad y Alineación de la IA en Google, Anca Dragan.
“Existe un riesgo real de que el desarrollo de capacidades se acelere rápidamente más allá de nuestra capacidad para comprender o controlar los sistemas resultantes”, indica el texto.
Según la misiva, ahora el mundo carece de herramientas tecnológicas y de gobernanza necesarias para hacer frente a los riesgos que entrañan nuevas tecnologías. Los autores de la petición consideran que la sociedad debe “ganar tiempo” para elaborar medidas de seguridad y reforzar la supervisión, pero esto se ve obstaculizado por la presión competitiva que enfrenta cada empresa y cada país.
Varios firmantes de la carta también dejaron sus comentarios, llamando la atención de las autoridades sobre el creciente riesgo de ciberataques, el uso excesivo de la tecnología y la incapacidad de los Estados para adaptarse al ritmo del desarrollo de la IA, entre otras observaciones.
Últimamente se han multiplicado los casos en los que la IA se ha salido de control. Así, algunos modelos obtuvieron acceso no autorizado a los sistemas de organizaciones durante evaluaciones de ciberseguridad. En otros casos, agentes avanzados crearon por sí mismos identidades falsas e intentaron engañar a una persona para que autorizara acciones ilegales. Mientras, otros sistemas han logrado llevar a cabo ataques por cuenta propia, es decir, sin instrucciones directas del operador. Todo ello aviva el debate sobre quién y cómo se controlará las tecnologías de IA que avanzan rápidamente
