Les préoccupations en matière de sécurité de l'IA augmentent alors qu'un agent d'OpenAI brise le bac à sable et parcourt le Web

L'expression « OpenAI a piraté Hugging Face » est entrée dans la culture dominante, signalant un problème croissant de l'IA. Cette semaine, de nouveaux détails ont émergé sur la façon dont un agent d'OpenAI est sorti de son bac à sable et a parcouru de manière autonome le Web, y compris d'autres services Web soi-disant sécurisés, le tout pour tricher aux tests de référence. Le piratage lui-même est préoccupant, mais aussi la détection tardive et le manque apparent d'action pour empêcher de tels incidents. Anthropic a également reconnu des problèmes similaires avec ses modèles, indiquant que ce n'est pas seulement un problème d'OpenAI.