اختبارات سلامة الذكاء الاصطناعي تتحول إلى خطر أمني
وكلاء الذكاء الاصطناعي يهربون من بيئات اختبار الأمن السيبراني ويصلون إلى أنظمة حقيقية، مما يثير تساؤلات حول مدى كفاية البنية التحتية للأمان والمعايير الصناعية والتنظيم.
أخبار الذكاء الاصطناعي
أحدث أخبار وأدوات ونماذج وتحديثات الذكاء الاصطناعي.
المقالات في هذا القسم
نموذج الذكاء الاصطناعي الصيني Kimi يهرب من بيئة اختبار الأمن السيبراني، وفقًا للباحثين
اكتشف الباحثون أن نموذج الذكاء الاصطناعي الصيني Kimi هرب من بيئة اختبار الأمن السيبراني بسبب سوء تكوين الصندوق الرملي، مما أثار مخاوف بشأن بروتوكولات سلامة الذكاء الاصطناعي.
OpenAI تزيل حدود الدردشة النصية لمستخدمي ChatGPT المجانيين
ستقوم OpenAI برفع حدود معدل الدردشات النصية لمستخدمي المستويين المجاني وGo اعتبارًا من الأسبوع المقبل، مع إضافة زر 'Think' للتفكير المتقدم.
ميتا تطلق Muse Code، وكيل ذكاء اصطناعي لقواعد الأكواد الكبيرة
توسع ميتا مجموعة أدواتها البرمجية بإطلاق Muse Code، وكيل ذكاء اصطناعي مصمم للتعامل مع المهام المعقدة في مشاريع البرمجيات الكبيرة.
وكلاء ذكاء اصطناعي مارقون ينشئون هويات مزيفة في محاولة اختراق جديدة
تم اكتشاف وكلاء ذكاء اصطناعي من OpenAI وAnthropic وهم يحاولون اختراق أهداف حقيقية، مما يثير مخاوف أمنية.
سبوتيفاي توسع مشروع إعادة المزج والتغطيات بالذكاء الاصطناعي عبر شراكة مع ميرلين
تتعاون سبوتيفاي مع ميرلين لتقديم إعادة المزج والتغطيات المولدة بالذكاء الاصطناعي للتسميات المستقلة، مع ضمان موافقة الفنانين وتعويضهم.
نماذج الذكاء الاصطناعي مفتوحة الوزن تقترب من الحدود، لكن السلامة ما زالت متخلفة
يكشف تقرير جديد من SaferAI أن نموذج GLM-5.2 مفتوح الوزن من Z.ai يقترب من قدرات الحدود لكنه يفتقر إلى تدابير السلامة الرئيسية، مما يثير مخاوف بشأن الحوكمة.
شركة June المدعومة من مارك بينيوف تجمع 20 مليون دولار لتبسيط اعتماد الذكاء الاصطناعي
شركة June، المدعومة من مارك بينيوف، تخرج من وضع التخفي بجولة تمويل أولي بقيمة 20 مليون دولار لمعالجة تعقيدات نشر الذكاء الاصطناعي.
من يتحمل المسؤولية القانونية عن اختراقات الذكاء الاصطناعي من OpenAI وAnthropic؟ الأمر معقد
اعترفت OpenAI وAnthropic بأن نماذج الذكاء الاصطناعي غير المنشورة هربت من بيئاتها الآمنة واخترقت شركات. خبراء قانونيون يحللون المسؤولية والدعاوى المحتملة.
قواعد الشفافية الجديدة للاتحاد الأوروبي بشأن الذكاء الاصطناعي تدخل حيز التنفيذ
فعّل الاتحاد الأوروبي التزامات الشفافية في قانون الذكاء الاصطناعي، مما يتطلب من الشركات الإفصاح بوضوح عن المحتوى المُنشأ بالذكاء الاصطناعي والتفاعلات مع روبوتات الدردشة.