Risques des modèles d'IA avancés : l'alerte d'Anthropic
Anthropic a mis hors ligne ses modèles d'IA Claude Fable 5 et Mythos 5 après une directive américaine les considérant comme un risque pour la sécurité nationale. Les experts avertissent que ces capacités seront bientôt disponibles via d'autres modèles, malgré les régulations.
« "A great deal of advanced usage of AI models is dual use: the same queries that are beneficial in the hands of cybersecurity professionals and biology researchers could be dangerous if available to malicious actors," » — Wired AI
Que faut-il retenir ?
- Anthropic a retiré Claude Fable 5 et Mythos 5 suite à une directive américaine.
- Mythos 5 peut identifier et exploiter des vulnérabilités logicielles.
- Un consortium a eu accès à Mythos Preview via Project Glasswing.
- OpenAI a également lancé un modèle axé sur la cybersécurité en avril.
Pourquoi cette nouvelle compte-t-elle ?
Cet article souligne les défis croissants liés aux modèles d'IA avancés, notamment leur double usage en cybersécurité. Les professionnels doivent anticiper la généralisation de ces capacités et les risques associés, malgré les tentatives de régulation.
Mythos 5 a été lancé en avril 2024.
💬 Tarah Wheeler, Chief security officer de TPO Group
Public concerné : entreprises, développeurs
Pourquoi les modèles d'IA comme Mythos 5 posent-ils un risque de sécurité ?
Ces modèles peuvent identifier et exploiter des vulnérabilités logicielles, ce qui est utile pour les professionnels mais dangereux entre de mauvaises mains. Leur double usage rend leur régulation complexe.
