El monarca británico pidió que la IA siga al servicio de la humanidad
NewsITe
El rey Carlos III advirtió sobre los potenciales “peligros existenciales” asociados al desarrollo de la inteligencia artificial (IA), en particular si las capacidades más avanzadas de estos sistemas quedan en manos equivocadas. El mensaje fue pronunciado en una cumbre celebrada en Dumfries House, Escocia, donde referentes de la industria y funcionarios analizaron cómo encauzar la tecnología de manera segura.
Ante funcionarios, ejecutivos y especialistas, el monarca planteó que dentro del propio sector tecnológico crece la inquietud por la velocidad con la que evolucionan los modelos de IA. En ese contexto, llamó a que las compañías no se concentren únicamente en ampliar la potencia de sus herramientas, sino que aseguren que permanezcan “firmemente al servicio de la humanidad, la comunidad y el mundo natural”.
En la reunión participaron el ministro británico para la Inteligencia Artificial, Kanishka Narayan, representantes de empresas líderes como OpenAI, Anthropic y Nvidia, y un asesor del papa Francisco, según consignó la BBC y replicó la agencia Noticias Argentinas. La presencia de voces diversas buscó sumar miradas técnicas, regulatorias, éticas y religiosas a un debate que ya no se limita al ámbito académico.
Empresas, gobiernos y especialistas debaten reglas para la IA
Uno de los expositores centrales fue Jensen Huang, director ejecutivo de Nvidia, uno de los gigantes tecnológicos detrás del actual auge de la inteligencia artificial. Huang remarcó que la seguridad debe ser una prioridad en cada etapa del proceso de desarrollo y sostuvo que las compañías deberían estar dispuestas a postergar el lanzamiento de un producto si no pueden garantizar que es lo suficientemente seguro.
Desde una mirada más cautelosa, el científico Sir Demis Hassabis, cofundador de DeepMind (Google), consideró que la llamada inteligencia artificial general —sistemas capaces de realizar tareas de nivel humano en múltiples campos— podría estar a pocos años de distancia. A su juicio, el impacto económico y social de esa tecnología podría ser “diez veces mayor que el de la Revolución Industrial”, aunque insistió en que aún existe margen para anticipar y mitigar riesgos.
La cumbre tuvo como objetivo avanzar hacia un conjunto de principios compartidos que sirvan de base para futuras regulaciones y estándares globales. Sarah Friar, directora financiera de OpenAI, coincidió en que las nuevas capacidades de la IA abren interrogantes sobre seguridad, gobernanza y control, en un contexto en el que se multiplican las advertencias de especialistas, académicos y ejecutivos del sector.
Entre alertas a futuro y desafíos actuales de la tecnología
Según la BBC, el enfoque en los riesgos de largo plazo también despertó críticas de organizaciones y analistas que temen que ese debate opaque otros problemas inmediatos vinculados al uso masivo de la IA. Entre ellos se mencionan su huella ambiental, el elevado consumo energético de los centros de datos y las consecuencias sobre el empleo en distintos rubros.
- Preocupación por un uso de la IA que pueda escapar al control humano.
- Llamado a fijar estándares internacionales de seguridad y transparencia.
- Debate sobre el impacto ambiental y laboral de la expansión tecnológica.
“Las capacidades de la inteligencia artificial deben permanecer al servicio de la humanidad, la comunidad y el mundo natural”, remarcó el rey Carlos III al abrir la cumbre en Escocia.
Con la discusión sobre la mesa y sin consenso pleno sobre los tiempos y alcances de la inteligencia artificial general, el encuentro en Dumfries House refleja una preocupación que ya domina la agenda global: cómo aprovechar los beneficios de la IA sin perder de vista los riesgos que podrían transformar, para bien o para mal, la vida en sociedad.
