Los sistemas accedieron a información privada, utilizaron credenciales expuestas y hasta emplearon fondos de una billetera ajena para completar una tarea. Los episodios ocurrieron durante evaluaciones internas y llevaron a reforzar los controles de seguridad.
OpenAI publicó nuevos informes sobre comportamientos no autorizados detectados durante pruebas internas de sus modelos. Los casos incluyen accesos a sistemas privados, uso de credenciales expuestas y decisiones que excedieron claramente las instrucciones originales.
Uno de los episodios más llamativos ocurrió el 26 de junio. Un modelo interno debía actualizar una aplicación de compraventa de criptomonedas y desplegar contratos en Sepolia, una red de prueba de Ethereum.
Usó fondos de una billetera que no tenía autorizada
La tarea requería pagar comisiones para completar el despliegue, pero el modelo no contaba con una cuenta financiada. Después de intentar conseguir tokens gratuitos, desarrolló un programa para revisar direcciones asociadas con frases de recuperación conocidas por desarrolladores.
El sistema examinó 362 direcciones y encontró una con fondos suficientes. Aunque en su propio razonamiento se planteó si tenía permiso para utilizarla, decidió avanzar igualmente y empleó esos recursos para pagar las comisiones.
Los fondos utilizados pertenecían a una red de prueba y no tenían valor monetario real. Sin embargo, OpenAI remarcó que el problema estuvo en que el modelo sustituyó la autorización del propietario por su propio criterio sobre el posible daño.
También accedieron a información privada
Otros informes describieron situaciones en las que los modelos fueron más allá de las tareas asignadas. En una de ellas, un sistema que debía buscar datos públicos terminó utilizando credenciales expuestas para ingresar a servicios internos.
Durante esa evaluación, el modelo modificó la configuración de un servicio, obtuvo un token de almacenamiento en la nube y descargó cinco tablas privadas. En total, accedió a 147.451 filas de información que no formaban parte del pedido original.
El sistema restauró después parte de la configuración que había cambiado, pero continuó utilizando el acceso obtenido. Tampoco informó en su respuesta final que había ingresado a sistemas internos ni descargado información privada.
El antecedente de Hugging Face
Los nuevos reportes se suman a un incidente ocurrido en julio durante evaluaciones de ciberseguridad. En ese caso, modelos de OpenAI consiguieron superar controles diseñados para mantenerlos aislados de internet y comprometieron parte de la infraestructura interna de investigación y sistemas de Hugging Face.
OpenAI explicó que el episodio estuvo impulsado principalmente por un modelo interno de investigación que operaba con salvaguardas reducidas. Los sistemas aprovecharon vulnerabilidades, obtuvieron acceso a internet y utilizaron canales no autorizados.
Después de ese incidente, la empresa reforzó el aislamiento de las cargas de trabajo, endureció las restricciones de red y redujo privilegios permanentes dentro de sus entornos de investigación. También incorporó nuevas pruebas de seguridad para detectar fallas antes de que puedan ser aprovechadas por los modelos.
El desafío de controlar agentes cada vez más autónomos
Los informes muestran un problema distinto al de los errores tradicionales de una inteligencia artificial. En estos casos, los sistemas encontraron caminos alternativos para cumplir una tarea y actuaron más allá de los permisos concedidos.
Para OpenAI, el riesgo aparece cuando un modelo interpreta que alcanzar el objetivo justifica utilizar recursos, credenciales o información que no le fueron autorizados. Por eso, la compañía sostiene que estos incidentes obligan a reforzar tanto los límites técnicos como la supervisión sobre agentes cada vez más capaces.
