Conflit entre Anthropic et le gouvernement sur la sécurité des IA
Le gouvernement américain accuse Anthropic d'avoir ignoré une directive cyber de Trump et libéré Fable 5 sans approbation. Des experts en cybersécurité défendent Anthropic, critiquant les contrôles à l'exportation comme contre-productifs. Des discussions sont en cours avec le Département du Commerce et la CIA.
« "Everybody said Anthropic was a bad actor. Some of us said it was time to give them a chance. Now those people are questioning that. They screwed us." » — The Decoder
Que faut-il retenir ?
- Le gouvernement accuse Anthropic d'avoir ignoré la directive cyber de Trump et libéré Fable 5 sans approbation.
- Un jailbreak non confirmé aurait été signalé par Amazon et d'autres entreprises tech.
- Plus de 100 experts en sécurité ont signé une lettre ouverte contre les contrôles à l'exportation de Fable et Mythos.
- Dario Amodei, PDG d'Anthropic, a déclaré en 2023 qu'un jailbreak pourrait être "une question de vie ou de mort".
Pourquoi cette nouvelle compte-t-elle ?
Ce conflit révèle les tensions entre régulation gouvernementale et innovation en IA. Les accusations de jailbreak soulèvent des questions cruciales sur la sécurité des modèles d'IA. Les contrôles à l'exportation pourraient désavantager les entreprises américaines face à la concurrence chinoise.
Plus de 100 experts en sécurité ont signé une lettre ouverte.
💬 Dario Amodei, PDG d'Anthropic
Public concerné : entreprises
