الأب الروحي للذكاء الاصطناعي يغادر موقع جوجل ويحذر من الأخطار المقبلة

أكد الدكتور جيفري هينتون ، الذي يشار إليه على نطاق واسع باسم “الأب الروحي” للذكاء الاصطناعي ، في صحيفة مقابلة مع New York Times أنه ترك وظيفته في Google – للحديث عن مخاطر التكنولوجيا التي ساعد في تطويرها.

عمل هينتون الرائد في الشبكات العصبية – وهو من أجله فاز بجائزة تورينج في عام 2018 جنبًا إلى جنب مع اثنين من أساتذة الجامعة الآخرين – وضعوا الأسس للتقدم الحالي في الذكاء الاصطناعي التوليدي.

انضم الأكاديمي وعالم الكمبيوتر طوال حياته إلى Google في عام 2013 ، بعد أن أنفق عملاق التكنولوجيا 44 مليون دولار للحصول على شركة أسسها هينتون واثنان من طلابه ، إيليا سوتسكيفر (كبير العلماء الآن في OpenAI) وأليكس كريشيفسكي. أدى نظام شبكتهم العصبية في النهاية إلى إنشاء ChatGPT و Google Bard.

لكن هينتون يندم جزئيًا على عمله في حياته ، كما قال لصحيفة نيويورك تايمز. قال: “أعزّي نفسي بالعذر العادي: لو لم أفعل ذلك ، لكان شخص آخر يفعل”. قرر ترك Google حتى يتمكن من التحدث بحرية عن مخاطر الذكاء الاصطناعي والتأكد من أن تحذيراته لا تؤثر على الشركة نفسها.

في نيويورك تايمز اليوم ، يشير Cade Metz إلى أنني تركت Google حتى أتمكن من انتقاد Google. في الواقع ، لقد غادرت حتى أتمكن من التحدث عن مخاطر الذكاء الاصطناعي دون التفكير في كيفية تأثير ذلك على Google. لقد تصرفت Google بمسؤولية كبيرة.

– جيفري هينتون (geoffreyhinton) 1 مايو 2023

وفقًا للمقابلة ، كان هينتون مدفوعًا بدمج Microsoft ChatGPT في محرك بحث Bing الخاص بها ، والذي يخشى أن يدفع عمالقة التكنولوجيا إلى منافسة لا يمكن إيقافها. قد ينتج عن ذلك فيض من الصور ومقاطع الفيديو والنصوص المزيفة إلى الحد الذي لا يتمكن فيه الشخص العادي من “معرفة الحقيقة بعد الآن”.

ولكن بصرف النظر عن المعلومات المضللة ، أعرب هينتون أيضًا عن مخاوفه بشأن قدرة الذكاء الاصطناعي على إلغاء الوظائف وحتى كتابة وتشغيل الكود الخاص به ، حيث يبدو أنه قادر على أن يصبح أكثر ذكاءً من البشر في وقت أبكر بكثير مما كان متوقعًا.

يعتقد هينتون أنه كلما زاد عدد الشركات التي تعمل على تحسين الذكاء الاصطناعي دون سيطرة ، تزداد خطورة ذلك. انظر كيف كانت قبل خمس سنوات وكيف هي الآن. خذ الاختلاف وانشره للأمام. هذا مخيف.”

الحاجة إلى التحكم في تطوير الذكاء الاصطناعي

جيفري هينتون ليس وحده الذي أعرب عن مخاوفه من التطور السريع وغير المنضبط للذكاء الاصطناعي.

في أواخر شهر مارس ، وقع أكثر من 2000 من خبراء الصناعة والمديرين التنفيذيين في أمريكا الشمالية خطابًا مفتوحًا يدعو إلى التوقف لمدة ستة أشهر في تدريب الأنظمة الأكثر قوة من GPT-4 ، خليفة ChatGPT.

أكد الموقعون – بمن فيهم باحثون في DeepMind ، وعالم الكمبيوتر يوشوا بنجيو ، وإيلون ماسك – على الحاجة إلى سياسات تنظيمية ، وحذروا من أنه “يجب تطوير أنظمة ذكاء اصطناعي قوية فقط بمجرد أن نكون واثقين من أن آثارها ستكون إيجابية ويمكن التحكم في مخاطرها . ” . “

عبر المحيط الأطلسي ، أدى نمو ChatGPT إلى تحريك جهود الاتحاد الأوروبي والسلطات الوطنية لتنظيم تطوير الذكاء الاصطناعي بكفاءة دون خنق الابتكار.

تحاول الدول الأعضاء منفردة الإشراف على تشغيل النماذج المتقدمة. على سبيل المثال ، فتحت إسبانيا وفرنسا وإيطاليا تحقيقات في ChatGPT بشأن مخاوف تتعلق بخصوصية البيانات – حيث كانت الأخيرة أول دولة غربية تنظم استخدامها بعد فرض حظر مؤقت على الخدمة.

يقترب الاتحاد ككل أيضًا من اعتماد قانون الذكاء الاصطناعي المتوقع – أول قانون في العالم للذكاء الاصطناعي من قبل هيئة تنظيمية رئيسية. الأسبوع الماضي ، أعضاء البرلمان الأوروبي وافقت على المضي قدما بالمسودة إلى المرحلة التاليةيسمى ثلاثية ، حيث سيعمل المشرعون والدول الأعضاء على التفاصيل النهائية لمشروع القانون.

وفقا لمارجريت فيستاجررئيس التنظيم التكنولوجي في الاتحاد الأوروبي ، من المرجح أن توافق الكتلة على القانون هذا العام ، ويمكن للشركات أن تبدأ بالفعل في النظر في تداعياته.

من خلال هذه القواعد البارزة ، يقود الاتحاد الأوروبي تطوير معايير عالمية جديدة للتأكد من إمكانية الوثوق بالذكاء الاصطناعي. من خلال وضع المعايير ، يمكننا تمهيد الطريق للتكنولوجيا الأخلاقية في جميع أنحاء العالم والتأكد من أن الاتحاد الأوروبي يظل قادرًا على المنافسة على طول الطريق ، “Vestager قال عندما تم الإعلان عن الفاتورة لأول مرة.

ما لم يتم تسريع الجهود التنظيمية في أوروبا والعالم ، فقد نخاطر بالتكرار نهج أوبنهايمر التي يدق فيها هينتون جرس الإنذار الآن: “عندما ترى شيئًا لطيفًا من الناحية الفنية ، يمكنك المضي قدمًا وتفعله وتجادل حول ما يجب فعله حيال ذلك فقط بعد أن تكون قد حققت نجاحًا تقنيًا.”