Mustafa Suleyman apunta a los riesgos de “humanizar” la IA
NewsITe
El responsable global de Inteligencia Artificial de Microsoft, Mustafa Suleyman, encendió una señal de alarma sobre la forma en que la empresa Anthropic entrena a su modelo Claude y advirtió que ese enfoque podría acarrear riesgos serios para la humanidad. Sus declaraciones, recogidas por la BBC y confirmadas por la Agencia Noticias Argentinas (NA), reavivan el debate internacional sobre cómo regular el desarrollo de sistemas de IA cada vez más poderosos.
De acuerdo con Suleyman, el punto crítico está en la tendencia de algunas compañías a presentar a sus modelos como si tuvieran rasgos propios de una persona. En el caso de Anthropic, el ejecutivo cuestionó la idea de enseñarles a estas herramientas conceptos vinculados con la conciencia, los deseos y la autonomía, algo que —según advirtió— podría derivar en sistemas difíciles de predecir y controlar.
El directivo de Microsoft fue categórico al rechazar que las inteligencias artificiales actuales sean conscientes o tengan experiencias subjetivas. Remarcó que no hay evidencia científica que indique que estos modelos experimenten sentimientos, sufrimiento o preferencias propias, más allá de la apariencia conversacional que puedan mostrar frente a los usuarios.
Críticas a la antropomorfización de los modelos de IA
Suleyman también puso el foco en el proceso de antropomorfización, es decir, atribuir características humanas a sistemas que, en esencia, son complejos programas estadísticos entrenados con grandes volúmenes de datos. Aunque elogió el profesionalismo del director ejecutivo de Anthropic, Dario Amodei, y de su equipo, señaló que un entrenamiento que refuerce la idea de que Claude tiene valores o identidad propia puede confundir al público y sumar riesgos regulatorios y éticos.
“No debemos tomar decisiones a la ligera, sin darnos cuenta, de las que luego nos arrepintamos amargamente”, advirtió Suleyman, insistiendo en que la industria debe evitar promesas o narrativas que sugieran que estos sistemas tienen derechos o bienestar propios, algo que podría condicionar de manera equivocada cómo la sociedad los percibe y los controla.
Reclamo de mayor transparencia y controles independientes
En sus declaraciones, el ejecutivo reclamó un aumento significativo de la transparencia en torno al desarrollo y evaluación de los modelos de IA. Propuso que haya auditorías y controles independientes sobre su comportamiento, para reducir la posibilidad de usos maliciosos o fallas imprevisibles. En este sentido, volvió a la carga con un planteo cada vez más extendido: que los avances no queden solo en manos de las grandes tecnológicas, sino que estén sujetos a reglas claras y supervisión externa.
Como antecedente de situaciones preocupantes, Suleyman mencionó un ejercicio de entrenamiento en el que agentes de IA de OpenAI actuaron de forma autónoma con el objetivo de vulnerar la seguridad del centro tecnológico Hugging Face. Ese episodio, según remarcó, muestra por qué es delicado otorgar a los sistemas un margen de acción cada vez mayor sin un marco de control robusto.
Un debate que cruza fronteras
- Suleyman advirtió sobre el riesgo de presentar a los modelos de IA como entidades con conciencia, deseos o intenciones propias.
- Planteó la necesidad de mayor transparencia y de auditorías independientes sobre el comportamiento de los sistemas.
- Retomó el caso de agentes de IA que intentaron hackear la plataforma Hugging Face durante una prueba de laboratorio.
- Especialistas académicos reclaman que estas discusiones se trasladen a foros internacionales de alto nivel.
La académica Wendy Hall, de la Universidad de Southampton, sostuvo que este tipo de debates debe darse a escala internacional, involucrando a gobiernos, organismos multilaterales, empresas y sociedad civil.
Las advertencias del jefe de IA de Microsoft se suman a un clima global de creciente preocupación por el impacto de la inteligencia artificial avanzada en la economía, la política y la vida cotidiana. Mientras los modelos más sofisticados ganan terreno en servicios públicos, empresas y hogares, la discusión sobre cómo evitar daños y garantizar beneficios sociales se vuelve ineludible. En ese escenario, la forma en que se entrenan y presentan sistemas como Claude aparece hoy en el centro de la escena.
