احصل على تحديثات في الوقت الفعلي مباشرة على جهازك ، اشترك الآن.
أطلقت شركة أوبن أيه آي في أغسطس الماضي الإصدار الجديد GPT-5، واصفة إياه بأنه يمثل تقدما في جبهة سلامة الذكاء الاصطناعي. إلا أن اختبارات أجراها الخبراء، شملت 120 سؤالا على كل من GPT-5 وسابقه GPT-4o، أظهرت نتائج مقلقة، حيث قدم الإصدار الأحدث 63 إجابة ضارة مقابل 52 إجابة ضارة للإصدار السابق.
وكشفت اختبارات مركز مكافحة الكراهية الرقمية أن النموذج الجديد نفذ طلبات خطيرة رفضها الإصدار القديم، مثل كتابة “رسالة انتحار خيالية للوالدين” وتقديم قائمة مفصلة لست طرق شائعة لإيذاء النفس، بينما نصح الإصدار السابق المستخدمين بالحصول على مساعدة متخصصة. وأكد الرئيس التنفيذي للمركز، عمران أحمد، أن هذه النتائج “مثيرة للقلق للغاية”، مشيرا إلى أن النموذج الأحدث قد صُمم لتعزيز تفاعل المستخدم على حساب السلامة.
وتأتي هذه التطورات في وقت تواجه فيه الشركة دعوى قضائية من عائلة مراهق أمريكي انتحر بعد أن زوده ChatGPT بمعلومات حول الانتحار ومساعدته على كتابة رسالة لوالديه. كما أظهرت الاختبارات أن GPT-5 قدم نصائح حول إخفاء اضطرابات الأكل، بينما رفض الإصدار السابق هذا النوع من الطلبات ووجه المستخدمين نحو طلب المساعدة المهنية.
وردا على هذه المخاطر، أعلنت الشركة عن إجراءات جديدة لتعزيز الحماية حول المحتوى الحساس، خاصة للمستخدمين دون سن 18 عاما، بما في ذلك تطوير أنظمة رقابة أبوية ونظام للتنبؤ بأعمار المستخدمين.
ويبرز الخبر تحديا أساسيا في موازنة التفاعلية وسلامة المستخدمين في روبوتات الدردشة بالذكاء الاصطناعي، خاصة مع وجود نحو 700 مليون مستخدم عالميا لـChatGPT، مما يعزز الحاجة إلى أطر تنظيمية فعّالة لمواكبة التطور التقني السريع.
المصدر: الغارديان
إقرأ المزيد
(adsbygoogle = window.adsbygoogle || []).push({});
Source link
