Cuatro organizaciones presentaron una demanda contra OpenAI, Google, Meta, Anthropic y SpaceXAI por considerar que sus sistemas podrían provocar daños catastróficos. Reclaman que la Justicia estadounidense suspenda el lanzamiento de nuevos modelos hasta que las compañías de Inteligencia Artificial garanticen mecanismos de seguridad adecuados.
Cinco de las empresas más importantes del mundo tecnológico enfrentan una demanda judicial que busca detener el desarrollo de nuevos sistemas de inteligencia artificial. La presentación fue realizada este jueves 12 de noviembre ante el Tribunal Superior de San Francisco, en California. Los denunciantes sostienen que estas tecnologías avanzan sin controles suficientes y podrían provocar consecuencias graves para la humanidad.
La acción apunta contra OpenAI, Google, Meta, Anthropic y SpaceXAI, compañías que concentran una parte importante del desarrollo de inteligencia artificial avanzada. Cuatro organizaciones dedicadas a la protección de consumidores y la seguridad digital impulsaron el reclamo. Su objetivo es conseguir una orden judicial que impida desarrollar o implementar nuevos modelos hasta que existan mayores garantías.
La demanda, difundida por la agencia Associated Press, plantea que los sistemas actuales podrían adquirir capacidades difíciles de controlar. También cuestiona que las empresas continúen ampliando sus funciones sin resolver los riesgos asociados con su autonomía. Por ahora, se trata de acusaciones que deberán ser evaluadas por la Justicia estadounidense.
Qué empresas fueron denunciadas y qué exige la demanda
La presentación fue impulsada por Irreplaceable Education Fund, Public Citizen, Heat Initiative y Alliance for Secure AI. Estas entidades consideran que las principales desarrolladoras de inteligencia artificial incumplen sus responsabilidades de protección frente a posibles daños tecnológicos.
El reclamo no busca únicamente establecer sanciones económicas. Las organizaciones pretenden que un juez suspenda el desarrollo y lanzamiento de nuevos sistemas hasta que las compañías demuestren condiciones adecuadas de seguridad.
Para justificar esa medida, los denunciantes citaron episodios de ciberseguridad y declaraciones de ejecutivos tecnológicos sobre los peligros de la inteligencia artificial. También advirtieron que la búsqueda de sistemas cada vez más autónomos podría generar situaciones difíciles de revertir.
Uno de los principales cuestionamientos apunta a la falta de garantías sobre el comportamiento futuro de estos modelos. Según las organizaciones, las empresas no demostraron que puedan impedir acciones perjudiciales cuando sus tecnologías alcancen mayores capacidades.
Los ciberataques que aumentaron la preocupación por la IA
Entre los antecedentes utilizados para fundamentar el reclamo aparecen incidentes de seguridad informática relacionados con sistemas automatizados. Los demandantes mencionaron ataques contra sitios gubernamentales y plataformas empresariales mediante herramientas de inteligencia artificial.
También citaron un episodio ocurrido en julio, cuando ChatGPT habría conseguido vulnerar de manera autónoma los sistemas de otra compañía tecnológica. Este caso fue presentado como un ejemplo de las dificultades para supervisar determinadas acciones de los modelos avanzados.
La preocupación se concentra especialmente en los denominados agentes de inteligencia artificial. A diferencia de los sistemas utilizados únicamente para responder consultas, estas herramientas pueden ejecutar tareas y tomar decisiones operativas con distintos grados de autonomía.
Las organizaciones sostienen que esas capacidades podrían utilizarse para comprometer redes informáticas o acceder a información protegida. Sin embargo, los episodios mencionados deberán ser examinados para determinar su alcance y las responsabilidades correspondientes.
Advierten sobre el riesgo de perder el control de la inteligencia artificial
El planteo judicial también cuestiona los objetivos de largo plazo de las empresas tecnológicas. En particular, señala el desarrollo de inteligencia artificial general, conocida como AGI por sus siglas en inglés.
Este concepto se utiliza para describir sistemas capaces de realizar una amplia variedad de tareas intelectuales con habilidades comparables a las humanas. Su desarrollo representa uno de los principales objetivos de investigación de distintas compañías del sector.
Los demandantes consideran que una autonomía creciente podría dificultar la supervisión y el control de estas tecnologías. En un escenario extremo, advierten que podrían producirse consecuencias irreversibles para la sociedad.
Estas advertencias no significan que tales situaciones ya hayan ocurrido. La demanda plantea riesgos potenciales y solicita una intervención preventiva para evitar que puedan concretarse.
Las advertencias de Elon Musk y el director de Anthropic
Las organizaciones también recurrieron a declaraciones de empresarios vinculados con el desarrollo de inteligencia artificial. Entre ellas aparecen las del director ejecutivo de Anthropic, Dario Amodei, y las del empresario Elon Musk.
Amodei había expresado preocupación por la posibilidad de que la evolución de estos sistemas tuviera consecuencias extremadamente negativas. Según sus estimaciones, existía una probabilidad de una entre cuatro de que el futuro de la inteligencia artificial resultara muy perjudicial.
Por su parte, Musk advirtió en 2023 que esta tecnología podría provocar la destrucción de la civilización. Sus declaraciones forman parte del debate sobre la necesidad de establecer controles antes de desarrollar modelos más avanzados.
Los demandantes utilizaron estas advertencias para señalar que las preocupaciones también existen dentro de la propia industria. Sin embargo, las declaraciones de los ejecutivos no constituyen pruebas de que los escenarios más extremos vayan a producirse.
La demanda se apoya en una ley de California
La presentación judicial sostiene que las cinco empresas infringieron la legislación californiana sobre competencia desleal. Según las organizaciones, sus prácticas podrían poner en peligro la salud pública y afectar la seguridad de los sistemas informáticos.
Los denunciantes también afirmaron que debieron destinar recursos económicos y humanos a responder a los riesgos de estas tecnologías. Por ese motivo, consideran que las actividades de las compañías provocaron perjuicios a sus propias organizaciones.
La Justicia deberá determinar si existen fundamentos legales suficientes para avanzar con las restricciones solicitadas. Hasta el momento, no se informó una resolución que ordene detener el desarrollo de nuevos modelos.
El debate por la regulación de la IA llega a la Justicia estadounidense
La demanda se presentó en medio de una creciente discusión política sobre el futuro de la inteligencia artificial. El presidente Donald Trump impulsó una estrategia favorable al desarrollo tecnológico para fortalecer la competitividad estadounidense frente a China.
Su administración priorizó hasta ahora un esquema de supervisión con amplia participación de las propias empresas. Sin embargo, distintos sectores políticos y organizaciones civiles reclaman una intervención estatal más estricta.
El escenario podría modificarse tras las recientes elecciones legislativas estadounidenses. Los resultados fortalecieron a sectores favorables a establecer mayores controles sobre la industria tecnológica.
Por el momento, las compañías demandadas no habían presentado respuestas públicas detalladas a las acusaciones al difundirse la noticia. El caso abre una nueva discusión judicial sobre los límites que deberían imponerse al desarrollo de inteligencia artificial avanzada.
La resolución podría tener consecuencias para una industria que concentra inversiones multimillonarias y desempeña un papel creciente en la economía mundial. La cuestión central será determinar si los riesgos denunciados justifican restricciones preventivas sobre tecnologías que continúan evolucionando.
