أوقف تطوير الذكاء الاصطناعي مؤقتًا أو خاطر بكارثة ، كما يحذر إيلون ماسك
أوقف تطوير الذكاء الاصطناعي مؤقتًا أو خاطر بكارثة ، كما يحذر إيلون ماسك
يتحرك الذكاء الاصطناعي (AI) بسرعة لا تصدق في الأشهر الأخيرة ، مع إطلاق العديد من الأدوات والروبوتات مثل OpenAI’s ChatGPT و Google Bard والمزيد. ومع ذلك ، فإن هذا التطور السريع يسبب قلقًا خطيرًا بين قدامى المحاربين المخضرمين في مجال الذكاء الاصطناعي – لدرجة أن أكثر من 1000 منهم قد وقعوا خطابًا مفتوحًا يدعو مطوري الذكاء الاصطناعي إلى الضغط على المكابح.
تم نشر الرسالة على موقع الويب الخاص بـ معهد مستقبل الحياة، وهي منظمة تتمثل مهمتها المعلنة في “توجيه التكنولوجيا التحويلية نحو الاستفادة من الحياة والابتعاد عن المخاطر الشديدة على نطاق واسع”. من بين الموقعين العديد من الأكاديميين البارزين ، المؤسس المشارك لشركة Apple ستيف وزنياك ، والرئيس التنفيذي لشركة Twitter Elon Musk.
يدعو المقال جميع الشركات التي تعمل على نماذج ذكاء اصطناعي أقوى من GPT-4 التي تم إصدارها مؤخرًا إلى التوقف فورًا عن العمل لمدة ستة أشهر على الأقل. يجب أن يكون هذا الوقف “عامًا ويمكن التحقق منه” وسيتيح الوقت “للتطوير المشترك وتنفيذ مجموعة من بروتوكولات السلامة المشتركة لتصميم وتطوير الذكاء الاصطناعي المتقدمين والتي يتم تدقيقها بدقة والإشراف عليها من قبل خبراء خارجيين مستقلين.”
تقول الرسالة إن هذا ضروري لأن “أنظمة الذكاء الاصطناعي ذات الذكاء التنافسي البشري يمكن أن تشكل مخاطر عميقة على المجتمع والإنسانية.” وتشمل هذه المخاطر انتشار الدعاية ، وتدمير الوظائف ، واحتمال استبدال وتقادم الحياة البشرية ، و “فقدان السيطرة على حضارتنا”. يضيف المؤلفون أن القرار بشأن المضي قدمًا في هذا المستقبل لا ينبغي أن يترك لـ “قادة التكنولوجيا غير المنتخبين”.
الذكاء الاصطناعي “لمنفعة واضحة للجميع”
تأتي الرسالة بعد الادعاءات بأن GPT-5 ، الإصدار التالي من تقنية ChatGPT التي تعمل بالطاقة ، يمكن أن تحقق الذكاء الاصطناعي العام. إذا كان هذا صحيحًا ، فهذا يعني أنه سيكون قادرًا على فهم وتعلم أي شيء يمكن للإنسان فهمه. هذا يمكن أن يجعله قويًا بشكل لا يصدق بطرق لم يتم استكشافها بالكامل.
علاوة على ذلك ، تؤكد الرسالة أن التخطيط والإدارة المسؤولين المحيطين بتطوير أنظمة الذكاء الاصطناعي لا يحدثان ، “على الرغم من أن الأشهر الأخيرة شهدت أن مختبرات الذكاء الاصطناعي تخوض سباقًا خارج نطاق السيطرة لتطوير ونشر عقول رقمية أكثر قوة من أي وقت مضى. واحد – ولا حتى منشئوه – يمكنه الفهم والتنبؤ والتحكم بشكل موثوق “.
بدلاً من ذلك ، تؤكد الرسالة أنه يجب إنشاء أنظمة حوكمة جديدة تنظم تطوير الذكاء الاصطناعي ، وتساعد الأشخاص على التمييز بين المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي والمحتوى الذي يصنعه الإنسان ، وتحميل مختبرات الذكاء الاصطناعي المسؤولية عن أي ضرر تسببه ، وتمكين المجتمع من التعامل مع اضطراب الذكاء الاصطناعي (خاصةً الديمقراطية) ، وأكثر من ذلك.
انتهى المؤلفون بملاحظة إيجابية ، حيث زعموا أن “البشرية يمكن أن تتمتع بمستقبل مزدهر مع الذكاء الاصطناعي … حيث نحصد الثمار ، ونهندس هذه الأنظمة لمنفعة واضحة للجميع ، ونمنح المجتمع فرصة للتكيف.” ويذكرون أن التوقف المؤقت لأنظمة الذكاء الاصطناعي الأكثر قوة من GPT-4 سيسمح بحدوث ذلك.
هل سيكون للرسالة تأثيرها المقصود؟ من الصعب قول ذلك. من الواضح أن هناك حوافز لمختبرات الذكاء الاصطناعي لمواصلة العمل على نماذج متقدمة ، مالية وذات سمعة. ولكن مع وجود العديد من المخاطر المحتملة – وقلة الفهم لها – يشعر مؤلفو الرسالة بوضوح أن هذه الحوافز خطيرة للغاية ولا يمكن متابعتها.
توصيات المحررين