Más de 200 empresas tecnológicas, incluidas gigantes como Google, Apple, Meta, Microsoft, y OpenAI, han unido fuerzas bajo el paraguas del «Artificial Intelligence Safety Institute Consortium» (AISIC) para promover el desarrollo y despliegue responsable de la inteligencia artificial (IA).
Esta colaboración responde directamente a una orden ejecutiva enviada en octubre pasado por el presidente de Estados Unidos, Joe Biden, que busca establecer pautas claras para la evaluación de riesgos, la gestión de la seguridad, y la identificación de contenido sintético a través de la marca de agua digital.
La AISIC y el compromiso de una IA responsable
Este nuevo consorcio se presenta como un esfuerzo colaborativo, reuniendo a una amplia gama de actores, desde corporaciones tecnológicas hasta agencias gubernamentales y académicos, todos comprometidos con la seguridad en el desarrollo de la IA. La secretaria de Comercio, Gina Raimondo, destacó el papel crucial del gobierno de Estados Unidos en la definición de estándares y el desarrollo de herramientas para mitigar los riesgos asociados con la IA, al tiempo que se aprovecha su potencial inmenso.
La iniciativa se centra en prácticas como el «red-teaming», evaluaciones de capacidades, y la gestión de riesgos, esenciales para prevenir malos usos de la IA. El red-teaming, en particular, implica simular ataques para identificar vulnerabilidades, una práctica que se remonta a la Guerra Fría y que ahora se adapta para enfrentar los desafíos de la IA.
Innovación y seguridad en la era de la IA
El AISIC también se dedica a estandarizar la marca de agua digital para contenidos generados por IA, una medida que busca facilitar la identificación de estos materiales por parte de los usuarios, reduciendo así el riesgo de desinformación y el engaño por deepfakes. Este esfuerzo representa un paso adelante en la lucha contra la manipulación digital y la propagación de información falsa.
La formación de este consorcio refleja la urgencia de abordar los desafíos éticos y de seguridad que plantea la IA generativa, y subraya la falta de legislación en el Congreso de EE. UU. sobre esta materia. Aun así, con su enfoque en la colaboración entre el sector público y privado, aspira a establecer un marco para el desarrollo seguro de la IA que pueda servir de modelo a nivel mundial y no sólo en el país que se formó.
