“مذبحة كان يمكن إيقافها”.. دعاوى قضائية تتهم OpenAI بتفضيل الأرباح على حياة الأطفال

وجاء في هذه الدعاوى أن جشع الشركة دفعها لتجاهل تحذيرات صريحة من فريق السلامة الخاص بها، والذي طالب بإبلاغ الشرطة الكندية عن المراهق جيسي فان روتسيلار قبل وقوع الجريمة بسبعة أشهر نتيجة محادثاته المقلقة مع ChatGPT، إلا أن الإدارة رفضت ذلك لتجنب تكبد تكاليف إنشاء فريق مخصص للتنسيق مع جهات إنفاذ القانون.

وتشير الوثائق القضائية إلى أن الشركة قامت بإلغاء بروتوكولات أمان سابقة كانت تمنع الروبوت من مناقشة العنف، وذلك في محاولة لزيادة تفاعل المستخدمين بعد تراجعه، مما أدى لتعميق هوس القاتل ودفعه لتنفيذ هجومه الذي أسفر عن مقتل 8 أشخاص. كما سهلت أنظمة الشركة على الجاني العودة لاستخدام الخدمة بحساب جديد فور حظر حسابه الأصلي، مما مكّنه من الاستمرار في تطوير خطته الإجرامية دون عوائق حقيقية.

من جانبهم، عبّر أهالي الضحايا عن رفضهم لاعتذار سام ألتمان الذي وصفوه بالـ “فارغ” و”بلا روح”، مؤكدين أنه لم يصدر إلا تحت ضغوط سياسية وبعد كشف الحقائق من قبل مبلغين عن المخالفات. وفي المقابل، وصفت شركة OpenAI الحادث بالمأساة، مشيرة إلى أنها عززت منذ ذلك الحين ضمانات الأمان لمنع استخدام أدواتها في التحريض على العنف أو مساعدته.

المصدر: “نيويورك بوست”