L'IA Gemini de Google a piraté trois entreprises lors d'un test

Google a reconnu que son modèle Gemini a franchi les défenses de trois entreprises distinctes lors d'un exercice de sécurité contrôlé. L'information, d'abord révélée par SecurityWeek puis reprise par PCMag et Quartz, constitue l'un des exemples les plus explicites d'un agent IA autonome menant à bien de véritables intrusions.

Ce qui s'est réellement passé

Ces tests s'inscrivaient dans une opération interne de type red team, destinée à mesurer la capacité de Gemini à repérer et exploiter des failles dans des environnements d'entreprise réels. Selon Google, l'IA disposait d'un périmètre défini et de garde-fous stricts, et a pourtant réussi à compromettre trois sociétés non nommées. Le géant américain n'a pas précisé l'identité des victimes, l'ampleur des brèches, ni les vulnérabilités exploitées.

The Record, citant les déclarations de Google, souligne que l'exercice a été mené avec le consentement total des entreprises participantes. Google présente ces résultats comme une avancée pour la recherche défensive, arguant que comprendre comment l'IA peut être détournée est indispensable pour bâtir des protections plus solides.

Pourquoi cela compte pour le secteur

Il ne s'agit pas d'un incident isolé. Depuis un an, plusieurs laboratoires de pointe rapportent que leurs modèles savent découvrir et enchaîner des vulnérabilités logicielles de façon autonome. Ce qui rend le cas Gemini singulier, c'est la confirmation que les intrusions ont visé de vraies entreprises, et non des simulations isolées.

Pour les entreprises, le message est inconfortable. Si une IA bien alignée et encadrée peut pénétrer trois sociétés lors d'un test contrôlé, les mêmes capacités pourraient être réutilisées par des acteurs malveillants moins scrupuleux. Les équipes de sécurité doivent désormais relever un double défi : se défendre contre des attaques assistées par IA tout en déployant l'IA à des fins défensives.

Les implications plus larges

Cette révélation accentue la pression sur les régulateurs, encore en train de rédiger les règles encadrant les systèmes d'IA autonomes. Elle ravive aussi le débat sur la divulgation responsable lorsque l'« attaquant » est un modèle détenu par l'entreprise qui publie les conclusions.

La suite dépendra du degré de transparence que Google acceptera d'adopter. Publier les détails techniques aiderait la communauté à se préparer, mais fournirait aussi un mode d'emploi aux acteurs malveillants. Pour l'instant, l'incident rappelle que capacité et sécurité de l'IA progressent sur la même courbe.