Anthropic bloquea el acceso de todos los clientes a Fable 5 y Mythos 5

Anthropic ha deshabilitado todo el acceso de sus clientes a Fable 5 y Mythos 5 para asegurar el cumplimiento de una orden que recibió del gobierno el viernes 12 de junio. Todos sus otros modelos y su chatbot Claude no se ven afectados. La compañía dijo en su anuncio que el gobierno de EE. UU. quería que suspendiera el acceso de todos los extranjeros a sus nuevos modelos de IA, ya sea que estén dentro o fuera de EE. UU. e incluso si son empleados de Anthropic, citando preocupaciones de seguridad nacional.

Aunque el gobierno de EE. UU. no especificó esas preocupaciones, Anthropic cree que se debe a que el gobierno escuchó sobre un método para desbloquear Fable 5. La empresa lanzó recientemente el modelo de IA Fable, que fue diseñado para llevar muchas de las capacidades de Mythos al público, el 9 de junio. Si recuerdas, Mythos es su modelo de ciberseguridad de vanguardia que solo está disponible para sus socios de Project Glasswing. Las capacidades de Fable "exceden" cualquier modelo anterior que Anthropic haya lanzado. Superó a Pokémon FireRed durante las pruebas de la compañía, por ejemplo, mientras que Claude no logró superar a Pokémon Red, el juego original en el que se basó.

Anthropic enumeró las medidas que tomó para asegurar que Fable fuera seguro en su publicación. Dijo que instituyó fuertes salvaguardas para "reducir la probabilidad de que Fable sea mal utilizado para tareas relacionadas con la ciberseguridad" y agregó que sus "salvaguardas son tan fuertes que muchos usuarios se han quejado de que son excesivamente amplias." La compañía también explicó que cualquier proveedor no puede asegurar una resistencia perfecta a los intentos de desbloqueo, y cada modelo es vulnerable a los desbloqueos realizados especialmente para él. "Nuestro objetivo fue hacer que los desbloqueos fueran estrechos (en el caso de los desbloqueos no universales) o muy costosos de producir (en el caso de desbloqueos universales), y combinar esto con un monitoreo exhaustivo para detectar y cerrar rápidamente cualquier ataque exitoso," dijo sobre su estrategia de defensa.

El gobierno aparentemente le dio a la compañía evidencia verbal de un posible desbloqueo estrecho y no universal que una entidad no nombrada compartió con los funcionarios. Anthropic prometió compartir más detalles en las próximas 24 horas, pero aclaró que no está de acuerdo en que un posible desbloqueo deba ser motivo para retirar un modelo comercial.

"Como hemos declarado públicamente, creemos que el gobierno debería tener la capacidad de bloquear implementaciones inseguras, como parte de un proceso legal que sea transparente, justo, claro y fundamentado en hechos técnicos," escribió Anthropic, que ha sido vocal sobre sus advertencias sobre la necesidad de más supervisión de la IA. "Esta acción no se adhiere a esos principios."