يسلط تحليل حديث من SaferAI الضوء على اتجاه متزايد: نماذج الذكاء الاصطناعي مفتوحة الوزن تضيق بسرعة فجوة الأداء مع نظيراتها المملوكة في الحدود. يركز التقرير على GLM-5.2 من Z.ai، وهو نموذج مفتوح الوزن ينافس الآن الأنظمة الرائدة في معايير مختلفة.
ومع ذلك، تشير الدراسة إلى تفاوت كبير في السلامة. على عكس نماذج الحدود من المختبرات الكبرى، يفتقر GLM-5.2 إلى تدابير سلامة قوية، بما في ذلك تقنيات المواءمة وآليات تصفية المحتوى. تثير هذه الفجوة إنذارات بشأن احتمال إساءة استخدام النماذج المفتوحة القوية.
يخشى الخبراء من أن وتيرة الابتكار مفتوح المصدر قد تتجاوز تطوير أطر الحوكمة ومعايير السلامة. يدعو التقرير إلى جهود تعاونية لوضع بروتوكولات سلامة أساسية للنماذج مفتوحة الوزن، وضمان نشرها بمسؤولية.
مع ازدياد قدرة النماذج مفتوحة الوزن، يواجه مجتمع الذكاء الاصطناعي تحديًا حاسمًا: الموازنة بين الانفتاح والابتكار والحاجة إلى السلامة والمساءلة.
التعليقات
لا توجد تعليقات بعد.