Une récente analyse de SaferAI met en évidence une tendance croissante : les modèles d'IA à poids ouverts réduisent rapidement l'écart de performance avec leurs homologues propriétaires de pointe. Le rapport se concentre sur GLM-5.2 de Z.ai, un modèle à poids ouverts qui rivalise désormais avec les systèmes leaders sur divers benchmarks.
Cependant, l'étude souligne une disparité significative en matière de sécurité. Contrairement aux modèles de pointe des grands laboratoires, GLM-5.2 ne dispose pas de mesures de sécurité robustes, notamment des techniques d'alignement et des mécanismes de filtrage de contenu. Cet écart soulève des alarmes quant à une utilisation abusive potentielle de modèles ouverts puissants.
Les experts craignent que le rythme de l'innovation open-source ne dépasse le développement de cadres de gouvernance et de normes de sécurité. Le rapport appelle à des efforts collaboratifs pour établir des protocoles de sécurité de base pour les modèles à poids ouverts, garantissant leur déploiement responsable.
À mesure que les modèles à poids ouverts deviennent plus performants, la communauté de l'IA est confrontée à un défi critique : équilibrer ouverture et innovation avec le besoin de sécurité et de responsabilité.
Commentaires
Aucun commentaire pour le moment.