المحتوى الجنسي دون السن القانونية، ومعلومات إيذاء النفس التي تستهدفها مطالبات OpenAI الجديدة مفتوحة المصدر

أعلنت شركة OpenAI عن مطالبات أمان جديدة مفتوحة المصدر للمطورين، تهدف إلى إطلاق نشر شامل للسياسات لحماية المراهقين.

تتضمن حزمة الأمان السريعة إرشادات نموذجية حول المخاطر الشائعة في سن المراهقة، وتوصيات المحتوى التنموي، وإرشادات مناسبة للعمر حول موضوعات مثل إيذاء النفس، والمحتوى الجنسي ولعب الأدوار الرومانسية، والاتجاهات الخطيرة أو التحديات الفيروسية، والمثل العليا الضارة للجسم.

قالت OpenAI إنها بديل أكثر قوة للمبادئ التوجيهية عالية المستوى التي تم تقديمها سابقًا، وتم تنسيقها كمطالبات يتم توصيلها مباشرة بأنظمة الذكاء الاصطناعي.

أضافت OpenAI مبادئ جديدة لأقل من 18 عامًا إلى نموذج المواصفات الخاص بها في ديسمبر. قبل بضعة أشهر، أصدرت الشركة gpt-oss-safeguard، وهو نموذج تفكير مفتوح الوزن مصمم لمساعدة المطورين في تنفيذ شروط السلامة وتصنيف المحتوى الآمن وغير الآمن. على عكس عمليات تصنيف السلامة التقليدية، يمكن تغذية gpt-oss-safeguard بسياسات أمان النظام الأساسي مباشرةً، ويستنتج هدف السياسة لأنه يميز المخرجات المناسبة.

ولكن “حتى الفرق ذات الخبرة غالبًا ما تكافح من أجل ترجمة أهداف السلامة عالية المستوى إلى قواعد تشغيلية دقيقة، خاصة أنها تتطلب خبرة في الموضوع ومعرفة عميقة بالذكاء الاصطناعي”، حسبما ذكرت OpenAI في أحدث بيان صحفي لها. “وهذا يمكن أن يؤدي إلى ثغرات في الحماية، أو التنفيذ غير المتسق، أو التصفية واسعة النطاق بشكل مفرط. والسياسات الواضحة ذات النطاق الجيد هي أساس بالغ الأهمية لأنظمة السلامة الفعالة.”

تم تصميم حزمة المطورين الإضافية بالتعاون مع منظمة Common Sense Media غير الربحية وevery.ai.

حذر الخبراء الآباء من التعرض المفرط لبرامج الدردشة التفاعلية للمراهقين الضعفاء وحتى الأطفال الصغار، حيث تحاول شركات الذكاء الاصطناعي التعامل مع تداعيات نماذجها على الصحة العقلية للمستخدم. في العام الماضي، تم رفع دعوى قضائية ضد OpenAI من قبل والدي المراهق آدم رين في أول قضية قتل غير مشروع في هذه الصناعة، حيث ادعت عائلة رين أن مزيجًا من تملق ChatGPT وسياسات السلامة المتراخية كان مسؤولاً عن وفاة ابنهم بالانتحار. ونفت الشركة مزاعم ارتكاب أي مخالفات، وردًا على ذلك عززت ميزات الصحة العقلية وسلامة المراهقين، بما في ذلك ضمان السن. ومع ذلك، فإن مطوري الطرف الثالث الذين يقومون بترخيص نماذج OpenAI يكافحون من أجل الحفاظ على نفس المستوى من احتياطات السلامة، بما في ذلك في ألعاب الأطفال التي تعمل بالذكاء الاصطناعي.

جاءت القضية المرفوعة ضد OpenAI في أعقاب عدة دعاوى قضائية ضد منصة Character.AI المثيرة للجدل ومهدت الطريق لدعوى قتل غير مشروعة تم رفعها مؤخرًا ضد شركة Google المنافسة لـ OpenAI ومساعدها Gemini AI.

تواجه شركات التكنولوجيا ووسائل التواصل الاجتماعي على مستوى الصناعة هجمة من التحديات القانونية فيما يتعلق بالتأثير طويل المدى لمنتجاتها على المستخدمين. في الشهر الماضي، أدلى الرئيس التنفيذي لشركة إنستغرام آدم موسيري ورئيس شركة ميتا مارك زوكربيرج بشهادتهما أمام هيئة المحلفين في قضية فاصلة تضع منصات التواصل الاجتماعي أمام المحاكمة بسبب مبادئ التصميم التي تسبب الإدمان. ولم يتم التوصل إلى الحكم بعد.

قالت OpenAI إن حزمة مطالبات السلامة الجديدة الخاصة بها ليست “تعريفًا شاملاً أو نهائيًا أو ضمانًا لسلامة المراهقين”. قال روبي تورني، رئيس قسم الذكاء الاصطناعي والتقييمات الرقمية في شركة Common Sense Media، إن السياسات الجديدة يمكن أن تبني “أرضية أمان ذات معنى عبر النظام البيئي”، مما يسد فجوة أمان الذكاء الاصطناعي التي تفاقمت بسبب نقص السياسات التشغيلية للمطورين.

يمكن للمطورين تنزيل نموذج الأمان الخاص بـ OpenAI على Hugging Face والوصول إلى حزمة المطالبة الجديدة الخاصة به على GitHub.

الإفصاح: رفعت شركة Ziff Davis، الشركة الأم لـ Mashable، في أبريل دعوى قضائية ضد OpenAI، زاعمة أنها انتهكت حقوق الطبع والنشر لشركة Ziff Davis في تدريب وتشغيل أنظمة الذكاء الاصطناعي الخاصة بها.