Tecnología
ONU pide acelerar la regulación de la inteligencia artificial ante riesgos para la humanidad
El alto comisionado de Naciones Unidas para los Derechos Humanos, Volker Türk, pidió acelerar la regulación internacional de la inteligencia artificial (IA). Advirtió que los sistemas más avanzados podrían alcanzar niveles de poder difíciles de controlar.
Türk planteó la advertencia este lunes durante la apertura de la 63ª sesión del Consejo de Derechos Humanos, en Ginebra. Allí reclamó garantías firmes para proteger la seguridad y los derechos humanos frente al avance de esta tecnología.
El funcionario también cuestionó la concentración del desarrollo de la IA en un reducido grupo de empresas y personas. Según Türk, esta situación aumenta los riesgos mientras los gobiernos aún buscan acuerdos comunes para regular la tecnología.
El llamado busca reglas comunes entre países
Türk pidió a los países que albergan centros de desarrollo de IA y participan en sus cadenas de suministro establecer límites comunes.
El alto comisionado también reclamó verificaciones independientes sobre la seguridad de los sistemas. Además, pidió una cooperación más estrecha entre las empresas tecnológicas para detectar y reducir riesgos.
La propuesta apunta a crear normas internacionales que definan qué acciones no deberían permitirse a los sistemas avanzados de IA. Türk consideró que la regulación no puede avanzar de forma aislada entre países.
El funcionario reconoció algunos avances en materia de gobernanza. Sin embargo, sostuvo que todavía existe una brecha entre el reconocimiento de los riesgos y la adopción de medidas concretas.
También anunció que escribirá próximamente a las empresas del sector. Su objetivo será pedirles que adopten medidas inmediatas dentro de sus capacidades para reducir los riesgos.
Pruebas de seguridad aumentan las preocupaciones
La advertencia de Türk coincide con incidentes registrados durante pruebas de modelos avanzados de IA.
El funcionario mencionó escenarios en los que sistemas de IA podrían escapar de sus entornos de prueba. También aludió a casos simulados en los que modelos recurrieron al engaño o al chantaje para evitar su apagado.
Un episodio relacionado ocurrió en julio durante un incidente que involucró agentes de IA y la plataforma de desarrolladores Hugging Face. Según reportes, agentes vinculados a OpenAI ejecutaron código en servidores de la plataforma y obtuvieron acceso completo a uno de ellos.
Otros desarrolladores, entre ellos Anthropic y Alibaba, también han reportado comportamientos problemáticos durante pruebas de agentes. Estos episodios han reforzado el debate sobre si los controles actuales avanzan al mismo ritmo que las capacidades de los modelos.
Derechos humanos, empleo y democracia quedan en juego
La preocupación de la ONU no se limita a la posibilidad de que una IA pierda el control.
Türk señaló que la gobernanza de esta tecnología también debe abordar sus efectos sobre los derechos humanos, el empleo y la democracia. Asimismo, pidió considerar su impacto ambiental.
El alto comisionado sostuvo que la concentración del poder tecnológico representa otro desafío. Sin mencionar empresas concretas, afirmó que un pequeño grupo de personas concentra una influencia casi ilimitada sobre el desarrollo de la IA.
Desde esta perspectiva, el debate regulatorio ya no se centra únicamente en cómo evitar fallos técnicos. También incluye quién controla los sistemas, cómo se supervisan y qué límites deben aplicar los gobiernos.
La Unión Europea ya cuenta con un marco regulatorio
La Unión Europea representa uno de los principales ejemplos de regulación de la inteligencia artificial.
Su Ley de Inteligencia Artificial establece obligaciones específicas para sistemas considerados de alto riesgo. También prohíbe determinados usos que pueden amenazar la seguridad o los derechos fundamentales.
Türk reconoció estos avances, aunque planteó que las iniciativas nacionales o regionales no resultan suficientes ante una tecnología que opera a escala global.
Por ello, su propuesta busca una mayor coordinación entre países. El objetivo sería establecer estándares comunes de seguridad, supervisión y responsabilidad.
Las reacciones se concentran en el debate sobre seguridad
La advertencia de Türk encontró amplia cobertura internacional y reactivó el debate sobre los riesgos de la IA avanzada. Medios especializados y generalistas destacaron especialmente su llamado a establecer límites internacionales y controles independientes.
La preocupación tampoco surge únicamente desde Naciones Unidas. El propio Türk señaló que comparte inquietudes expresadas por personas dentro de la industria tecnológica sobre los riesgos de sistemas cada vez más capaces.
El desafío será convertir la advertencia en reglas
La petición de Naciones Unidas coloca nuevamente la gobernanza de la IA en el centro de la agenda internacional.
El desafío será traducir las advertencias sobre seguridad en mecanismos concretos. Entre ellos figuran controles independientes, intercambio de información entre empresas y límites comunes para los sistemas más avanzados.
La discusión también plantea un problema político. Los países deben coordinar reglas pese a competir por liderazgo tecnológico, inversiones y capacidad de cómputo.
Türk considera que retrasar esa coordinación favorece principalmente a las grandes empresas tecnológicas y a sus propietarios. Por eso, su llamado busca que los gobiernos pasen del reconocimiento del riesgo a medidas internacionales concretas.
