El Alto Comisionado de Naciones Unidas para los Derechos Humanos, Volker Türk, pidió a los Estados y a las empresas que desarrollan inteligencia artificial que adopten medidas urgentes para reducir los riesgos de sistemas cada vez más capaces. Su propuesta pone los derechos humanos en el centro de la gobernanza de la IA.
Türk dijo en una carta que los daños asociados a la tecnología ya se manifiestan en áreas como la discriminación, la privacidad, la automatización de servicios esenciales y la desinformación. También advirtió que los agentes de IA, capaces de ejecutar objetivos y tareas con una supervisión humana limitada, tienen riesgos adicionales.
Los derechos humanos como base para regular la IA
La carta del Alto Comisionado plantea que la autorregulación de las compañías no basta. Los gobiernos deben fijar controles y mecanismos de responsabilidad que permitan reducir los riesgos de los sistemas avanzados y responder cuando provoquen daños.
Entre las medidas propuestas están exigir a las empresas que reporten incidentes graves, verificar las capacidades de sus modelos y realizar procesos de debida diligencia en materia de derechos humanos. Türk dice que los Estados deberían acceder a los modelos de inteligencia artificial, su documentación y entornos de prueba para evaluar sus capacidades.
También las compañías deberían tener planes de seguridad basados en estándares acordados y someterlos a supervisión independiente. En el caso de los agentes de IA, la responsabilidad por sus acciones debería mantenerse en personas identificables. La propuesta también contempla una participación permanente de la sociedad civil en la evaluación de sus efectos.
Los sistemas de IA pueden afectar derechos como la vida, la alimentación, la privacidad, la salud y la seguridad, según la carta del funcionario ONU. También advirtió que los agentes de IA ya están acelerando el ritmo y alcance de la guerra y pueden debilitar las salvaguardas existentes frente al uso de armas de destrucción masiva.
La discusión internacional se desarrolla mientras algunas empresas del sector han planteado coordinar el ritmo de desarrollo de los sistemas más avanzados. Türk respaldó la propuesta del CEO de Anthropic, Dario Amodei, para «pace the frontier», que plantea avanzar en IA mientras se implementan salvaguardas suficientes. Altos cargos de OpenAI, Google y xAI expresaron su respaldo a esa iniciativa.
Para Türk, esas medidas empresariales deben acompañarse de regulación estatal. Los países que albergan a las principales compañías de IA de frontera, especialmente Estados Unidos y China, tienen una responsabilidad particular para exigir controles y garantizar que las empresas respondan por sus actuaciones.
Además, en su escrito, el Alto Comisionado dejó en claro que ningún país puede gobernar por sí solo esta tecnología y ninguna empresa debería decidir individualmente qué riesgos debe aceptar el resto del mundo. Incluyendo que ninguna persona debería tener que renunciar a sus derechos humanos a cambio de promesas de progreso tecnológico.
