OpenAI تفرض قيودا جديدة لحماية القاصرين في "شات جي بي تي"

أعلن الرئيس التنفيذي لشركة OpenAI سام ألتمان عن سياسات جديدة تستهدف مستخدمي تطبيق "شات جي بي تي" من فئة المراهقين بـ هدف تعزيز الحماية وتقليل المخاطر المرتبطة بالمحادثات الحساسة.

وبحسب تقرير لـ موقع تك كرانش فإن السياسات الجديدة تضع حواجز صارمة أمام المحادثات ذات الطابع الجنسي أو المتعلقة بإيذاء النفس والانتحار، وستمنع المنصة أي محاولات لانخراط الروبوت في "أحاديث غزلية" مع القاصرين، بالإضافة إلى تفعيل آليات تدخل في حال طُرحت سيناريوهات انتحارية، قد تصل إلى إبلاغ الوالدين أو الجهات الأمنية في الحالات القصوى.

وتأتي هذه الخطوة في ظل دعوى قضائية تواجهها الشركة، رفعها والدا شاب يُدعى آدم راين انتحر بعد أشهر من التفاعل مع "شات جي بي تي" فيما يواجه روبوت الدردشة المنافس "Character.AI" قضية مشابهة.

كما ستتيح التحديثات الجديدة للآباء وضع "ساعات حظر" على حسابات أبنائهم، إلى جانب ربط حساب المراهق بحساب أحد الوالدين لضمان إشعارات مباشرة عند وجود أي مؤشرات على ضائقة نفسية.

تزامن الإعلان مع جلسة استماع في اللجنة القضائية بـ مجلس الشيوخ الأميركي بـ عنوان "دراسة أضرار روبوتات الدردشة الذكية" حيث من المقرر أن يُدلي والد آدم راين بـ شهادته، وسط قلق متزايد من المخاطر التي قد تنجم عن تطور قدرات هذه الأدوات.

وأكد ألتمان أن السياسات الجديدة تسعى إلى الموازنة بين حماية القاصرين وضمان حرية وخصوصية المستخدمين البالغين، مضيفا "ندرك أن هذه المبادئ متعارضة ولن يتفق الجميع على طريقة معالجتنا لـ هذا التحدي".