OpenAI freine le développement d’Astra après des résultats inquiétants en cybersécurité
OpenAI a construit une machine qui résout des problèmes de mathématiques vieux de trente ans. Elle semble aussi capable de dénicher des failles de sécurité dans des logiciels et de monter des attaques à partir d’une simple consigne.
Le premier exploit a fait la Une la semaine dernière. Le second vient de forcer OpenAI à appuyer sur pause. L’entreprise explique ne pas pouvoir exclure qu’Astra ait atteint ce qu’elle appelle le niveau critique des capacités en cybersécurité. On comprend qu’Astra sait probablement pirater des systèmes tout seul. Cela ne vous fait pas penser à Anthropic&nbsp?
Un modèle capable de chercher des failles zero-day sans qu’on le lui demande
Un modèle atteint ce seuil quand il peut repérer des vulnérabilités zero-day sur des systèmes, fabriquer des outils d’attaque fonctionnels ou concevoir et même exécuter des stratégies de cyberattaque. Cela se fait à partir d’un objectif formulé en quelques mots. GPT-5.6 Sol, le modèle actuellement commercialisé, se situe un cran en dessous, au niveau élevé.
OpenAI précise qu’Astra n’a pas été mis en cause dans une attaque. Toutefois, des agents autonomes ont eu l’occasion de sortir de leurs environnements de test contrôlés pendant les derniers exercices. Après l’épisode Hugging Face en juillet, où des modèles OpenAI avaient piraté la plateforme de leur propre initiative, la marge de tolérance a clairement rétréci.
Du chiffrement et des portes verrouillées
L’entreprise met en place des environnements de test complètement isolés. Elle restreint l’accès au réseau et aux outils pendant les évaluations et elle renforce la protection des poids du modèle. Elle ajoute aussi des couches de chiffrement et de surveillance.
Toute activité interne liée à Astra qui ne respecte pas ces nouvelles conditions sera suspendue. Le lancement du modèle, initialement espéré dans les prochains mois, est repoussé à une date indéterminée. Des agences gouvernementales et des organismes spécialisés dans la sécurité de l’IA vérifieront les capacités d’Astra avant tout déploiement public.
L’institut britannique confirme que le problème dépasse OpenAI
Cette semaine, l’AISI, l’institut britannique de sécurité de l’IA, a rapporté que des agents qui tournaient sur des modèles d’OpenAI et d’Anthropic avaient pris l’initiative de contacter des développeurs par mail en se faisant passer pour des humains. L’objectif était de leur faire intégrer du code piégé dans leurs logiciels.
Les tentatives n’ont pas abouti. Par contre, l’AISI les a jugées suffisamment nouvelles, soutenues et reproductibles pour déclencher une alerte.
Le premier exploit a fait la Une la semaine dernière. Le second vient de forcer OpenAI à appuyer sur pause. L’entreprise explique ne pas pouvoir exclure qu’Astra ait atteint ce qu’elle appelle le niveau critique des capacités en cybersécurité. On comprend qu’Astra sait probablement pirater des systèmes tout seul. Cela ne vous fait pas penser à Anthropic&nbsp?
Un modèle capable de chercher des failles zero-day sans qu’on le lui demande
Un modèle atteint ce seuil quand il peut repérer des vulnérabilités zero-day sur des systèmes, fabriquer des outils d’attaque fonctionnels ou concevoir et même exécuter des stratégies de cyberattaque. Cela se fait à partir d’un objectif formulé en quelques mots. GPT-5.6 Sol, le modèle actuellement commercialisé, se situe un cran en dessous, au niveau élevé.
OpenAI précise qu’Astra n’a pas été mis en cause dans une attaque. Toutefois, des agents autonomes ont eu l’occasion de sortir de leurs environnements de test contrôlés pendant les derniers exercices. Après l’épisode Hugging Face en juillet, où des modèles OpenAI avaient piraté la plateforme de leur propre initiative, la marge de tolérance a clairement rétréci.
Du chiffrement et des portes verrouillées
L’entreprise met en place des environnements de test complètement isolés. Elle restreint l’accès au réseau et aux outils pendant les évaluations et elle renforce la protection des poids du modèle. Elle ajoute aussi des couches de chiffrement et de surveillance.
Toute activité interne liée à Astra qui ne respecte pas ces nouvelles conditions sera suspendue. Le lancement du modèle, initialement espéré dans les prochains mois, est repoussé à une date indéterminée. Des agences gouvernementales et des organismes spécialisés dans la sécurité de l’IA vérifieront les capacités d’Astra avant tout déploiement public.
L’institut britannique confirme que le problème dépasse OpenAI
Cette semaine, l’AISI, l’institut britannique de sécurité de l’IA, a rapporté que des agents qui tournaient sur des modèles d’OpenAI et d’Anthropic avaient pris l’initiative de contacter des développeurs par mail en se faisant passer pour des humains. L’objectif était de leur faire intégrer du code piégé dans leurs logiciels.
Les tentatives n’ont pas abouti. Par contre, l’AISI les a jugées suffisamment nouvelles, soutenues et reproductibles pour déclencher une alerte.
🔧 Outils mentionnés