“DARPA البريطانية” تبني حراس بوابات الذكاء الاصطناعي من أجل “ضمانات السلامة الكمية”
“DARPA البريطانية” تبني حراس بوابات الذكاء الاصطناعي من أجل “ضمانات السلامة الكمية”
كشفت وحدة بريطانية للبحث والتطوير اليوم عن رؤية مستقبلية لـ “ضمانات السلامة الكمية” للذكاء الاصطناعي.
تقارن وكالة الأبحاث والاختراع المتقدمة (ARIA) الضمانات بمعايير السلامة العالية في مجال الطاقة النووية وطيران الركاب. في حالة التعلم الآلي، تتضمن المعايير ضمانًا احتماليًا بعدم حدوث أي ضرر من إجراء معين.
في قلب خطة ARIA يوجد الذكاء الاصطناعي “حارس البوابة”. وهذا الحارس الرقمي سيضمن ذلك يعمل وكلاء الذكاء الاصطناعي الآخرون فقط ضمن حواجز الحماية المحددة لتطبيق معين.
ستقوم ARIA بتوجيه 59 مليون جنيه إسترليني نحو المخطط. وبحلول نهاية البرنامج، تعتزم الوكالة إثبات إثبات مفهوم قابل للتطوير في مجال واحد. تتضمن الاقتراحات موازنة شبكة الكهرباء وإدارة سلسلة التوريد.
وإذا كان المشروع فعالاً، فمن الممكن أن يحمي تطبيقات الذكاء الاصطناعي عالية المخاطر، مثل تحسين البنية التحتية الحيوية أو تحسين التجارب السريرية.
<3 من تكنولوجيا الاتحاد الأوروبي
أحدث التذمر من المشهد التكنولوجي في الاتحاد الأوروبي، وقصة من مؤسسنا الحكيم بوريس، وبعض فنون الذكاء الاصطناعي المشكوك فيها. إنه مجاني، كل أسبوع، في بريدك الوارد. أفتح حساب الأن!
البرنامج هو من بنات أفكار David ‘davidad’ Dalrymple، الذي شارك في اختراع العملة المشفرة الشهيرة Filecoin.
قام Dalrymple أيضًا بإجراء أبحاث مكثفة حول السلامة التقنية للذكاء الاصطناعي، مما أثار اهتمامه بنهج حارس البوابة. بصفته مدير برنامج ARIA، يمكنه الآن وضع نظريته موضع التنفيذ.
ضمان حارس البوابة
حراس بوابة ARIA سوف يعتمد على النماذج العلمية العالمية والبراهين الرياضية. وقال داليمبل إن المفهوم يجمع بين المفاهيم التجارية والأكاديمية.
وقال لـ TNW عبر البريد الإلكتروني: “تعتمد الأساليب التي تستكشفها شركات الذكاء الاصطناعي الكبرى على عينات محدودة ولا تقدم أي ضمانات بشأن سلوك أنظمة الذكاء الاصطناعي عند النشر”.
“وفي الوقت نفسه، إذا ركزنا بشكل كبير على الأساليب الأكاديمية مثل المنطق الرسمي، فإننا نخاطر بمحاولة بناء قدرات الذكاء الاصطناعي من الصفر بشكل فعال.
“إن نهج حارس البوابة يمنحنا أفضل ما في العالمين من خلال ضبط القدرات الحدودية كمحرك للقيادة بسرعة، ولكن على طول مسارات التفكير الرياضي.”
يتطلب هذا الاندماج تخصصات عميقة التعاون – وهنا يأتي دور ARIA.
داربا البريطانية؟
تأسست ARIA في العام الماضي، وتمول الأبحاث “عالية المخاطر والمكافأة العالية”. لقد اجتذبت الإستراتيجية مقارنات مع DARPA، ال وحدة “العلم المجنون” في البنتاغون.
وقد رسم داليمبل تشابهًا آخر مع وكالة مشاريع البحوث المتطورة الدفاعية (DARPA). يقارن مشروع ARIA الجديد بـ برنامج HACMS التابع لـ DARPA، والتي خلقت كوادكوبتر غير قابلة للاختراق. أثبت المشروع أن التحقق الرسمي يمكن أن يخلق برامج خالية من الأخطاء.
وقال دالريمبل: “يمكن استبعاد نقاط الضعف، ولكن فقط من خلال افتراضات حول نطاق وسرعة التدخلات التي يمكن أن يقوم بها المهاجم على التجسيد المادي للنظام”.
خطته مبنية على النهج الذي وافق عليه يوشوا بينجيو، عالم كمبيوتر مشهور. كما دعا بينجيو، الحائز على جائزة تورينج، إلى ذلك “ضمانات السلامة الكمية.” لكنه يشعر بخيبة أمل إزاء التقدم الذي تم إحرازه حتى الآن.
وكتب بينجيو في مقاله: “على عكس طرق بناء الجسور أو الأدوية أو المحطات النووية، فإن الأساليب الحالية لتدريب أنظمة الذكاء الاصطناعي الحدودية – وهي أنظمة الذكاء الاصطناعي الأكثر قدرة الموجودة حاليًا – لا تسمح لنا بالحصول على ضمانات السلامة الكمية من أي نوع”. مدونة العام الماضي.
لدى Dalrymple فرصة لتغيير ذلك. سيكون هذا أيضًا بمثابة دفعة كبيرة لـ ARIA التي اجتذبها التدقيق من قبل السياسيين.
شكك بعض المجيبين في ميزانية ARIA. وقد فازت الهيئة بتمويل قدره 800 مليون جنيه إسترليني على مدار خمس سنوات، وهو مبلغ كبير ولكن مجرد جزء من الآخر الهيئات البحثية الحكومية.
يمكن أن تشير ARIA أيضًا إلى وفورات محتملة في الأفق. ويهدف أحد البرامج التي أطلقتها الشهر الماضي إلى تدريب أنظمة الذكاء الاصطناعي بنسبة 0.1% من التكلفة الحالية.
أحد موضوعات مؤتمر TNW لهذا العام هو Ren-AI-ssance: إعادة الميلاد المدعومة بالذكاء الاصطناعي. إذا كنت تريد التعمق في كل ما يتعلق بالذكاء الاصطناعي، أو ببساطة تجربة الحدث (وإلقاء التحية لفريق التحرير لدينا)، فلدينا شيء خاص لقرائنا الأوفياء. استخدم الرمز TNWXMEDIA عند الدفع للحصول على خصم 30% على منتجك تمريرة عمل, تمرير المستثمر أو حزم بدء التشغيل (بوتستراب & زيادة).