وسط الخلافات ، تصر شركة OpenAI على أن السلامة مهمة بالغة الأهمية
وسط الخلافات ، تصر شركة OpenAI على أن السلامة مهمة بالغة الأهمية
عالجت شركة OpenAI قضايا السلامة بعد ردود الفعل الأخلاقية والتنظيمية الأخيرة.
ال إفادة(يفتح في علامة تبويب جديدة) نُشر يوم الخميس ، كان هجينًا للدحض والاعتذار يهدف في نفس الوقت إلى طمأنة الجمهور بأن منتجاته آمنة والاعتراف بأن هناك مجالًا للتحسين. يقرأ تعهد السلامة الخاص بـ OpenAI مثل استجابة الضرب على الخلد للعديد من الجدل الذي برز. في غضون أسبوع ، نشر خبراء الذكاء الاصطناعي وقادة الصناعة ، بما في ذلك ستيف وزنياك وإيلون ماسك ، رسالة مفتوحة تدعو إلى التوقف لمدة ستة أشهر لتطوير نماذج مثل GPT-4 ، وتم حظر ChatGPT تمامًا في إيطاليا ، وكانت هناك شكوى. قدمت إلى لجنة التجارة الفيدرالية لتعرضها لمخاطر معلومات مضللة خطيرة ، خاصة على الأطفال. أوه نعم ، كان هناك أيضًا هذا الخطأ الذي كشف رسائل الدردشة والمعلومات الشخصية للمستخدمين.
تقدم منظمة غير ربحية شكوى FTC ضد OpenAI’s GPT-4
وأكدت شركة OpenAI أنها تعمل “لضمان دمج السلامة في نظامنا على جميع المستويات”. أمضت شركة OpenAI أكثر من ستة أشهر من “الاختبار الصارم” قبل إطلاق GPT-4 وقالت إنها تبحث في خيارات التحقق لفرض شرط السن الذي يزيد عن 18 عامًا (أو 13 بموافقة الوالدين). أكدت الشركة أنها لا تبيع البيانات الشخصية وتستخدمها فقط لتحسين نماذج الذكاء الاصطناعي الخاصة بها. كما أكدت استعدادها للتعاون مع صانعي السياسات وتعاونها المستمر مع أصحاب المصلحة في الذكاء الاصطناعي “لإنشاء نظام بيئي آمن للذكاء الاصطناعي”.
قرب منتصف تعهد السلامة ، تقر OpenAI بأن تطوير LLM آمن يعتمد على مدخلات العالم الحقيقي. وتجادل بأن التعلم من المدخلات العامة سيجعل النماذج أكثر أمانًا ، ويسمح لـ OpenAI بمراقبة إساءة الاستخدام. “لقد قادنا الاستخدام الواقعي أيضًا إلى تطوير سياسات متباينة بشكل متزايد ضد السلوك الذي يمثل خطرًا حقيقيًا على الأشخاص مع السماح بالاستخدامات المفيدة العديدة لتقنيتنا”.
وعدت شركة OpenAI “بتفاصيل حول [its] نهج الأمان “، ولكن بخلاف تأكيده لاستكشاف التحقق من العمر ، فإن معظم الإعلان يقرأ مثل البديهيات المعيارية. لم يكن هناك الكثير من التفاصيل حول كيفية التخطيط للتخفيف من المخاطر ، أو فرض سياساتها ، أو العمل مع المنظمين.
تفخر شركة أوبن إيه آي بتطويرها لمنتجات الذكاء الاصطناعي بشفافية ، لكن الإعلان يقدم القليل من التوضيح حول ما تخطط للقيام به الآن بعد أن خرج الذكاء الاصطناعي الخاص به في البرية.