En une phrase
Mythos, une IA d'Anthropic, découvre des failles de sécurité inédites, y compris des "zero-day", générant une telle inquiétude chez ses créateurs qu'ils la gardent privée, bien qu'un accès non autorisé ait été rapporté.
Points clés
- Développement et objectif de Mythos : Mythos est une intelligence artificielle développée par Anthropic (fondée par d'anciens d'OpenAI, créateurs de Claude), conçue pour identifier des failles de sécurité informatiques inédites et des vulnérabilités avant les hackers, avec une obsession pour la sécurité.
- Capacités de découverte exceptionnelles : Mythos a prouvé son efficacité en détectant une vulnérabilité dans Open BSD (un système d'exploitation réputé pour sa sécurité) qui était restée cachée depuis les années 1990, ainsi que d'autres failles dans FFMPEG et des logiciels de Mozilla.
- Inquiétude des créateurs et experts : La capacité de Mythos à trouver des "zero-day" a terrifié ses propres créateurs et les experts en cybersécurité, craignant qu'un tel outil, s'il tombait entre de mauvaises mains, puisse être utilisé pour des cyberattaques catastrophiques sur les systèmes bancaires, de santé ou la vie privée.
- Mesures de protection d'Anthropic : Face à ces risques, Anthropic a décidé de ne pas rendre Mythos public, de limiter son accès à une centaine d'organisations et a lancé le projet Glass Wing pour partager rapidement les vulnérabilités découvertes avec des acteurs majeurs comme Microsoft, Google et Amazon afin qu'elles soient corrigées.
- Accès non autorisé : Malgré toutes les précautions, un groupe d'utilisateurs aurait réussi à obtenir un accès non autorisé à Mythos via un prestataire tiers, soulignant la difficulté de contrôler un tel outil et le fait que des communautés cherchent activement à accéder à des modèles d'IA non publics.
Ressources
- Anthropic — l'entreprise créatrice de Mythos et Claude
- Claude — un assistant IA concurrent de Chat GPT, produit par Anthropic
- OpenAI — l'entreprise à l'origine de Chat GPT
- Chat GPT — un modèle de langage produit par OpenAI
- Equifax — une des plus grandes agences de crédit au monde
- Wayry — ransomware mentionné
- Change Healthcare — entreprise victime d'une cyberattaque en 2024
- Gemini — modèle d'IA généraliste de Google
- Open BSD — système d'exploitation open source réputé pour sa sécurité
- Windows — système d'exploitation de Microsoft
- MacOS — système d'exploitation d'Apple
- Mozilla — l'entreprise derrière le navigateur Firefox
- Firefox — navigateur internet de Mozilla
- FFMPEG — logiciel de traitement vidéo
- OWASP — standard de sécurité mentionné (par exemple, pour les audits)
- Glass Wing — projet lancé par Anthropic
- Microsoft — entreprise technologique mondiale
- Google — entreprise technologique mondiale
- Nvidia — entreprise spécialisée dans les processeurs graphiques et l'IA
- Linux — famille de systèmes d'exploitation open source
- Amazon — entreprise technologique et de commerce en ligne