David Robinson criticó la velocidad con la que la empresa desarrolla y lanza sistemas de inteligencia artificial, y reclamó mayores controles antes de aumentar sus capacidades. OpenAI sostuvo que pausa el entrenamiento o frena sus modelos cuando necesita reducir la velocidad para garantizar la seguridad.
David Robinson, un exempleado de seguridad de OpenAI que renunció recientemente, cuestionó la cultura de desarrollo acelerado de la compañía y advirtió que ese enfoque aumenta el riesgo de fallos. Según informó Reuters, sostuvo que las empresas de inteligencia artificial no están siendo “lo suficientemente cuidadosas” y deberían dar mayor peso a la experiencia y la investigación en seguridad antes de desarrollar sistemas más capaces.
Robinson expuso sus críticas en un artículo que The Atlantic publicó el sábado 3 de octubre bajo el título “Renuncio a OpenAI porque su cultura está rota”. Allí planteó que el avance de la tecnología exige revisar la manera en que las compañías evalúan los riesgos y deciden cuándo lanzar sus productos.
“Se acabó el tiempo de ensayo y error”, escribió. Para Robinson, los sistemas avanzados de inteligencia artificial requieren medidas de seguridad más parecidas a las que utilizan industrias como la energía nuclear y la aviación.
El exempleado afirmó que OpenAI depende en gran medida del llamado “despliegue iterativo”, una práctica que consiste en lanzar sistemas y reforzar las medidas de seguridad a medida que aparecen problemas. Su cuestionamiento apunta a la decisión de desarrollar capacidades cada vez mayores sin dar suficiente prioridad a la investigación y la experiencia necesarias para gestionarlas.
Robinson dijo que trabajó durante tres años y medio en OpenAI, ayudó a redactar el marco de preparación de la empresa y supervisó los informes de seguridad de 12 lanzamientos de modelos de vanguardia. “Mientras la empresa corre de un lanzamiento a otro, no está logrando el nivel de cuidado que creo que es necesario”, afirmó.
La respuesta de OpenAI y los límites de los controles
OpenAI defendió sus procedimientos de seguridad ante las críticas de Robinson. En un comunicado que recogió Reuters, un portavoz aseguró que la compañía limita el avance de sus modelos cuando considera que necesita más tiempo para gestionarlos de manera segura.
“Nos aseguramos de que nuestros modelos no se vuelvan más capaces de lo que podemos gestionar y proteger de forma segura, y pausamos el entrenamiento o frenamos los modelos cuando necesitamos reducir la velocidad”, señaló. La respuesta sostiene que la empresa contempla detener o ralentizar el desarrollo como parte de sus controles.
Robinson también advirtió que las capacidades de la inteligencia artificial avanzan más rápido que la comprensión de los investigadores sobre la alineación. Ese campo busca garantizar que los sistemas actúen de acuerdo con los objetivos y valores humanos, un problema que vinculó con la necesidad de reforzar la investigación antes de desarrollar modelos más potentes.
Sus declaraciones se suman al debate sobre la velocidad con la que las empresas amplían las capacidades de la inteligencia artificial. OpenAI y su competidora Anthropic han afrontado cuestionamientos tras incidentes en los que fallaron los controles de seguridad o los sistemas experimentales se comportaron de manera inesperada.
