داخل نهج Google DeepMind لسلامة الذكاء الاصطناعي

يكرس إبراهيم الكثير من وقته لضمان أن يكون لعمل الشركة نتيجة إيجابية للمجتمع. وسلط إبراهيم الضوء على أربعة أذرع لهذه الاستراتيجية.

1. الطريقة العلمية

للكشف عن اللبنات الأساسية للذكاء الاصطناعي المتقدم ، يلتزم DeepMind بالمنهج العلمي.

يقول إبراهيم: “هذا يعني بناء الفرضيات واختبارها ، واختبار الضغط على نهجنا والنتائج من خلال تدقيق مراجعة الأقران”. “نعتقد أن النهج العلمي هو النهج الصحيح للذكاء الاصطناعي لأن خارطة الطريق لبناء ذكاء متقدم لا تزال غير واضحة.”

2. فرق متعددة التخصصات

يستخدم DeepMind أنظمة وعمليات مختلفة لتوجيه أبحاثه إلى العالم الحقيقي. أحد الأمثلة على ذلك هو لجنة المراجعة الداخلية.

يضم الفريق متعدد التخصصات باحثين في مجال التعلم الآلي ، وعلماء أخلاقيات ، وخبراء سلامة ، ومهندسين ، وهواة أمن ، ومتخصصين في السياسات. في اجتماعات منتظمة ، يناقشون طرق توسيع فوائد التكنولوجيا ، والتغييرات في مجالات البحث ، والمشاريع التي تحتاج إلى مزيد من الاستشارات الخارجية.

يقول إبراهيم: “إن وجود فريق متعدد التخصصات مع مجموعة فريدة من وجهات النظر هو عنصر حاسم في بناء مستقبل آمن وأخلاقي وشامل يدعمه الذكاء الاصطناعي ويفيدنا جميعًا”.

3. المبادئ المشتركة

لتوجيه تطوير الذكاء الاصطناعي للشركة ، أنتجت DeepMind سلسلة من المبادئ الواضحة والمشتركة. الشركة مبادئ التشغيلعلى سبيل المثال ، حدد التزام المختبر بتخفيف المخاطر ، مع تحديد ما يرفض متابعته – مثل الأسلحة المستقلة.

يقول إبراهيم: “إنهم يقننون هدفنا بإعطاء الأولوية للمنفعة الواسعة النطاق”.

4. استشارة الخبراء الخارجيين

أحد اهتمامات إبراهيم الرئيسية يتعلق بالتمثيل. كثيرا ما تقوم منظمة العفو الدولية عزز التحيزاتخاصة ضد الفئات المهمشة ، التي تميل إلى أن تكون ممثلة تمثيلا ناقصا في كل من بيانات التدريب والفرق التي تبني الأنظمة.

للتخفيف من هذه المخاطر ، تعمل DeepMind مع خبراء خارجيين في موضوعات مثل التحيز والإقناع والأمن البيولوجي والنشر المسؤول للنماذج. تشارك الشركة أيضًا مع مجموعة واسعة من المجتمعات لفهم تأثير التكنولوجيا عليهم.

يقول إبراهيم: “تمكّننا هذه التعليقات من تحسين نماذجنا وإعادة تدريبها لتكون مناسبة لمجموعة أوسع من الجماهير”.

لقد حققت المشاركة بالفعل نتائج قوية.

دراسة الجدوى الخاصة بسلامة الذكاء الاصطناعي

في عام 2021 ، حلَّت شركة DeepMind أحد أكبر التحديات في علم الأحياء: مشكلة طي البروتين.

باستخدام برنامج AI يسمى ألفا فولد، توقعت الشركة الهياكل ثلاثية الأبعاد لكل بروتين معروف في الكون تقريبًا – حوالي 200 مليون في المجموع. يعتقد العلماء أن العمل يمكن أن يسرع بشكل كبير من تطوير الأدوية.

قال إريك توبول ، مدير معهد Scripps Research Translational Institute: “يعد AlphaFold تقدمًا فريدًا وهائلًا في علوم الحياة يوضح قوة الذكاء الاصطناعي”. “تحديد البنية ثلاثية الأبعاد للبروتين الذي كان يستغرق عدة أشهر أو سنوات ، يستغرق الآن ثوانٍ “.