تدعي Meta أن نموذجها الجديد المولد للفن هو الأفضل في فئتها
تدعي Meta أن نموذجها الجديد المولد للفن هو الأفضل في فئتها
على مدار العامين الماضيين ، أصبحت مولدات الصور التي تعمل بالذكاء الاصطناعي سلعة ، إلى حد ما ، بفضل التوافر الواسع للتكنولوجيا – وتقليل الحواجز التقنية حولها. لقد تم نشرها من قبل كل لاعب تقني رئيسي ، بما في ذلك Google و Microsoft ، بالإضافة إلى عدد لا يحصى من الشركات الناشئة التي تسعى للحصول على شريحة من فطيرة الذكاء الاصطناعي المربحة بشكل متزايد.
هذا لا يعني أنها متسقة حتى الآن ، من حيث الأداء – بعيدًا عن ذلك. في حين أن جودة مولدات الصور قد تحسنت ، فقد كانت تقدمًا تدريجيًا ، وأحيانًا مؤلم.
لكن ميتا يدعي أنه حقق اختراقًا.
اليوم ، أعلن Meta عن CM3leon (“الحرباء” في كلام أخرق الكلام الصامت) ، وهو نموذج للذكاء الاصطناعي تدعي الشركة أنه يحقق أداءً متطورًا لإنشاء تحويل النص إلى صورة. تتميز CM3leon أيضًا بكونها واحدة من أول مولدات الصور القادرة على إنشاء تعليقات للصور ، مما يضع الأساس لنماذج أكثر قدرة على فهم الصور للمضي قدمًا ، كما يقول ميتا.
كتب Meta في منشور مدونة تمت مشاركته مع TechCrunch في وقت سابق من هذا الأسبوع: “باستخدام قدرات CM3leon ، يمكن لأدوات إنشاء الصور إنتاج صور أكثر تماسكًا تتبع بشكل أفضل مطالبات الإدخال”. “نعتقد أن أداء CM3leon القوي عبر مجموعة متنوعة من المهام هو خطوة نحو إنشاء صورة عالية الدقة وفهمها.”
تعتمد معظم مولدات الصور الحديثة ، بما في ذلك OpenAI’s DALL-E 2 و Imagen من Google و Stable Diffusion ، على عملية تسمى الانتشار لإنشاء الفن. في الانتشار ، يتعلم النموذج كيفية طرح التشويش تدريجيًا من صورة البداية المكونة بالكامل من الضوضاء – مما يجعله أقرب خطوة بخطوة إلى موجه الهدف.
كانت النتائج مبهرة. لكن الانتشار مكثف من الناحية الحسابية ، مما يجعل تشغيله مكلفًا وبطيئًا بدرجة كافية تجعل معظم تطبيقات الوقت الفعلي غير عملية.
CM3leon هو نموذج محول ، على النقيض من ذلك ، يستفيد من آلية تسمى “الاهتمام” لتقييم أهمية بيانات الإدخال مثل النص أو الصور. يمكن أن يؤدي الانتباه والمراوغات المعمارية الأخرى للمحولات إلى زيادة سرعة تدريب النموذج وجعل النماذج أكثر سهولة في الموازاة. يمكن تدريب المحولات الأكبر والأكبر من خلال زيادات كبيرة ولكن لا يمكن تحقيقها في الحوسبة ، بمعنى آخر.
و CM3leon متساوي أكثر أكثر كفاءة من معظم المحولات ، تدعي Meta ، أنها تتطلب حوسبة أقل بخمس مرات ومجموعة بيانات تدريب أصغر من الأساليب السابقة القائمة على المحولات.
ومن المثير للاهتمام ، أن OpenAI استكشفت المحولات كوسيلة لتوليد الصور منذ عدة سنوات بنموذج يسمى ImageGPT. لكنها في النهاية تخلت عن الفكرة لصالح الانتشار – وربما تنتقل قريبًا إلى “الاتساق”.
لتدريب CM3leon ، استخدمت Meta مجموعة بيانات من ملايين الصور المرخصة من Shutterstock. الأكثر قدرة من عدة إصدارات من CM3leon التي أنشأتها Meta تحتوي على 7 مليارات من المعلمات ، أي أكثر من ضعف عدد DALL-E 2. (المعلمات هي أجزاء النموذج التي تم تعلمها من بيانات التدريب وتحدد بشكل أساسي مهارة النموذج في حل مشكلة ما ، مثل إنشاء نص – أو ، في هذه الحالة ، صور.)
أحد مفاتيح أداء CM3leon الأقوى هو تقنية تسمى الضبط الدقيق تحت الإشراف ، أو SFT للاختصار. تم استخدام SFT لتدريب نماذج إنشاء النصوص مثل ChatGPT من OpenAI بشكل كبير ، لكن Meta افترض أنه يمكن أن يكون مفيدًا عند تطبيقه على مجال الصورة أيضًا. في الواقع ، أدى ضبط التعليمات إلى تحسين أداء CM3leon ليس فقط في إنشاء الصور ولكن في كتابة تعليق الصورة ، مما يمكّنه من الإجابة على الأسئلة حول الصور وتحرير الصور باتباع الإرشادات النصية (على سبيل المثال “تغيير لون السماء إلى اللون الأزرق الساطع”).
تصارع معظم منشئي الصور مع الكائنات “المعقدة” والمطالبات النصية التي تتضمن قيودًا كثيرة جدًا. لكن CM3Leon لا يفعل ذلك – أو على الأقل ليس كثيرًا. في عدد قليل من الأمثلة المنتقاة ، كان لدى Meta CM3Leon لإنشاء صور باستخدام موجهات مثل “صبار صغير يرتدي قبعة من القش ونظارة شمسية نيون في الصحراء الكبرى” ، “صورة مقرّبة ليد بشرية ، نموذج يد” ، “حيوان الراكون الرئيسي شخصية في أنمي تستعد لمعركة ملحمية مع سيف ساموراي “و” علامة توقف بأسلوب خيالي مع النص “1991”.
من أجل المقارنة ، قمت بتشغيل نفس المطالبات من خلال DALL-E 2. كانت بعض النتائج متقاربة. لكن صور CM3Leon كانت بشكل عام أقرب إلى الموجه وأكثر تفصيلاً لعيني ، وكانت اللافتات هي المثال الأكثر وضوحًا. (حتى وقت قريب ، تعاملت نماذج الانتشار مع كل من النص والتشريح البشري بشكل سيء نسبيًا).
مولد صورة ميتا.
نتائج DALL-E 2.
يمكن لـ CM3Leon أيضًا فهم التعليمات لتحرير الصور الموجودة. على سبيل المثال ، بالنظر إلى المطالبة “إنشاء صورة عالية الجودة لـ” غرفة بها مغسلة ومرآة بها “مع زجاجة في الموقع (199 ، 130)” ، يمكن للنموذج إنشاء شيء متماسك بصريًا ، وكما يقول ميتا ، “مناسب للسياق” – غرفة ، حوض ، مرآة ، زجاجة وكل شيء. يفشل DALL-E 2 تمامًا في التعرف على الفروق الدقيقة في مثل هذه المطالبات ، وفي بعض الأحيان يتم حذف العناصر المحددة في الموجه تمامًا.
وبالطبع ، على عكس DALL-E 2 ، يمكن لـ CM3leon اتباع مجموعة من المطالبات لإنشاء تسميات توضيحية قصيرة أو طويلة والإجابة على أسئلة حول صورة معينة. في هذه المناطق ، كان أداء النموذج أفضل من نماذج التسميات التوضيحية للصور المتخصصة (مثل Flamingo و OpenFlamingo) على الرغم من رؤية نص أقل في بيانات التدريب الخاصة به ، كما تدعي Meta.
لكن ماذا عن التحيز؟ تم العثور على نماذج الذكاء الاصطناعي التوليدية مثل DALL-E 2 لتعزيز التحيزات المجتمعية ، حيث تولد صورًا لمناصب السلطة – مثل “المدير التنفيذي” أو “المدير” – التي تصور في الغالب الرجال البيض. يترك Meta هذا السؤال دون معالجة ، قائلاً فقط أن CM3leon “يمكن أن يعكس أي تحيزات موجودة في بيانات التدريب.”
كتبت الشركة: “مع استمرار تطور صناعة الذكاء الاصطناعي ، أصبحت النماذج التوليدية مثل CM3leon متطورة بشكل متزايد”. “بينما لا تزال الصناعة في مراحلها الأولى من فهم هذه التحديات ومعالجتها ، نعتقد أن الشفافية ستكون مفتاحًا لتسريع التقدم.”
لم تذكر Meta ما إذا كانت – أو متى – تخطط لإصدار CM3leon. نظرًا للجدل الذي يدور حول مولدات الفن مفتوحة المصدر ، لن أحبس أنفاسي.