El presidente de Estados Unidos, Donald Trump, cuestionó a quienes advierten sobre los riesgos del avance de la IA. Sus declaraciones llegaron después de que referentes de Anthropic, OpenAI y Elon Musk coincidieran en la necesidad de moderar el desarrollo de los modelos más avanzados.
Donald Trump cuestionó a los sectores que reclaman mayor cautela en el desarrollo de la inteligencia artificial y los calificó como “fuerzas negativas”. El presidente estadounidense defendió el liderazgo de su país en esta tecnología, aunque admitió que podrían establecerse algunas “medidas de control”.
“Creo que hay muchas fuerzas negativas que están sacando el tema cuando no deberían hacerlo, y están planteando cosas que no van a suceder”, afirmó Trump. Las declaraciones fueron realizadas ante la prensa desde el complejo de golf de Doonbeg, en el condado de Clare, donde asistía al Abierto de Irlanda.
El mandatario sostuvo además que Estados Unidos es el “país más avanzado del mundo” en inteligencia artificial y remarcó su intención de conservar esa posición. Según planteó, “quien gane” la carrera por el liderazgo en esta tecnología “gana”.
Trump ya había relativizado días atrás la posibilidad de que los sistemas avanzados puedan escapar al control humano y representar una amenaza para la especie. “No, no me preocupa en absoluto”, respondió cuando fue consultado sobre ese escenario.
Altman y Musk respaldaron el pedido de moderar el desarrollo
Las declaraciones de Trump se conocieron después de que Dario Amodei, director ejecutivo y cofundador de Anthropic, reclamara desacelerar el avance de los modelos más poderosos. Su postura recibió luego el respaldo de Sam Altman, CEO de OpenAI, y Elon Musk, dueño de xAI.
“Coincido con Dario en que necesitamos moderar el ritmo en la frontera de la IA”, escribió Altman. También adelantó que OpenAI permitirá que evaluadores independientes accedan a sus sistemas con un nivel similar al de sus empleados para supervisar posibles riesgos.
El CEO de OpenAI aseguró que la cuestión había ocupado buena parte de las discusiones internas de la compañía durante las últimas semanas. Calificó además la incorporación de supervisores externos como “una gran idea” y anticipó: “Nosotros haremos lo mismo. Pronto tendremos más para compartir”.
Musk se sumó posteriormente al planteo con un mensaje breve publicado en X. “Dario tiene razón”, escribió el empresario, que desarrolla el chatbot Grok a través de xAI.
Amodei pidió avanzar con mayor cautela
El planteo inicial surgió de Amodei, quien publicó este sábado un ensayo para advertir sobre los riesgos que acompañan al crecimiento de las capacidades de la inteligencia artificial. “Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA”, sostuvo.
“El progreso seguirá pareciendo rápido y debemos hacer un uso inteligente del tiempo que ganemos”, agregó el cofundador de Anthropic. El empresario consideró que los avances recientes requieren aumentar las precauciones frente a sistemas cada vez más potentes.
Su publicación llegó después de que Anthropic difundiera un informe sobre amenazas vinculadas con el uso de sus modelos Claude. La compañía detalló casos relacionados con desarrollo de armas, operaciones cibernéticas, vigilancia y fraude.
“La IA conlleva riesgos y, dado que es una tecnología tan poderosa, estos riesgos son graves”, señaló Amodei. Sin embargo, también advirtió sobre las consecuencias de frenar completamente su desarrollo y planteó la necesidad de encontrar un punto intermedio.
“No construir la tecnología priva a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras que construirla demasiado rápido es imprudente”, sostuvo. Luego reconoció que en los últimos meses se convenció de que enfrentar plenamente esos riesgos “requiere aún más prudencia”.
Un debate que ya había surgido en 2023
La discusión sobre la velocidad con la que avanzan los modelos de inteligencia artificial tiene un antecedente directo en marzo de 2023. En ese momento, más de mil referentes académicos y empresariales reclamaron una pausa de seis meses en el desarrollo de sistemas generativos.
Entre los firmantes se encontraba el propio Elon Musk, quien posteriormente avanzó con el desarrollo de Grok mediante xAI. Tres años después, el empresario volvió a coincidir con un pedido de moderación, esta vez formulado por el responsable de Anthropic.
OpenAI también había informado en agosto que desaceleró temporalmente parte del entrenamiento de sus modelos más avanzados. La decisión buscó reforzar los mecanismos de monitoreo, alineación y seguridad ante la posibilidad de que los próximos sistemas alcancen capacidades críticas en áreas como la ciberseguridad.
