Anthropic cortó el acceso a sus modelos de IA más avanzados, Mythos 5 y Fable 5, después de que el gobierno de Estados Unidos diera una orden que restringe el uso de ambos por parte de ciudadanos extranjeros, una medida que terminó haciendo que la compañía desactivara los sistemas para todos sus clientes.
La orden fue enviada a Anthropic el viernes por la tarde, según explicó la compañía. En ella las autoridades invocaron razones de seguridad nacional, aunque no detallaron públicamente cuáles eran las preocupaciones específicas. La interpretación es que la medida está relacionada con un supuesto método para eludir las protecciones de Fable 5 mediante técnicas de jailbreaking.
Suspendiendo a Mythos 5 y Fable 5
El gobierno norteamericano consideró que existe una forma de obtener respuestas que normalmente estarían bloqueadas por las restricciones de Fable 5. La empresa señaló que revisó una demostración de la técnica y concluyó que permitía detectar únicamente un número reducido de vulnerabilidades ya conocidas y de carácter menor.
Por otro lado, Anthropic, dice que no recibió evidencia de un método de evasión generalizado ni de resultados que hubieran producido daños concretos. También mencionaron en una publicación que capacidades similares pueden encontrarse en otros modelos disponibles públicamente, incluidos sistemas de la competencia.
Fable 5 había sido lanzado pocos días antes como una versión adaptada para uso general de Mythos 5. Mientras Mythos permanecía bajo acceso restringido debido a sus capacidades avanzadas para identificar vulnerabilidades informáticas, Fable incorporaba mecanismos diseñados para bloquear solicitudes relacionadas con áreas consideradas de alto riesgo, como ciberseguridad y biología.
Anthropic defendió los controles del modelo y antes de su lanzamiento fue sometido a miles de horas de pruebas junto con organismos gubernamentales, entidades privadas y equipos internos. Ninguna evaluación logró identificar un método universal capaz de desactivar las protecciones del sistema.
De igual forma, están cumpliendo con la orden, pero la encuentran un error y por lo mismo trabajan para restablecer el acceso a Mythos 5 y Fable 5 lo antes posible.
