تظهر وكالة Deep Agency مخاطر تطبيق الذكاء الاصطناعي على صناعة الأزياء

الذكاء الاصطناعي التوليدي معطّل الصناعات – مع الجدل المفهوم.

في وقت سابق من هذا الشهر ، أعلن داني بوستما ، مؤسس شركة Headlime ، وهي شركة ناشئة تسويقية تعمل بالذكاء الاصطناعي والتي استحوذت عليها شركة Jasper مؤخرًا ، عن وكالة عميقة، منصة وصفها بأنها “استوديو صور AI ووكالة عرض أزياء”. باستخدام الذكاء الاصطناعي المولد للفن ، تقوم Deep Agency بإنشاء وتقديم “نماذج افتراضية” للتأجير بدءًا من 29 دولارًا شهريًا (لفترة محدودة) ، مما يتيح للعملاء وضع النماذج على الخلفيات الرقمية لتحقيق صورهم الفوتوغرافية.

ما هي وكالة ديب؟ وأوضح بوستما في أ سلسلة التغريدات. “لا كاميرا. لا يوجد أناس حقيقيون. لا يوجد موقع فعلي … ما فائدة هذا؟ الكثير من الأشياء ، مثل أتمتة المحتوى للمؤثرين على وسائل التواصل الاجتماعي ، ونماذج لإعلانات المسوقين ، والتصوير الفوتوغرافي لمنتجات التجارة الإلكترونية. “

إن وكالة Deep Agency هي في مرحلة إثبات المفهوم ، وهذا يعني … a tad borked. هناك الكثير من القطع الأثرية في وجوه العارضين ، وتضع المنصة حواجز حماية – مقصودة أو غير مقصودة – يمكن إنشاء أجسام حولها. في الوقت نفسه ، من الصعب التحكم في إنشاء نموذج Deep Agency. حاول إنشاء عارضة أزياء ترتدي زيًا معينًا ، مثل ضابط شرطة ، ولا تستطيع وكالة Deep Agency فعل ذلك.

ومع ذلك ، كان رد الفعل على الإطلاق سريعًا ومختلطًا.

بعض مستخدمي Twitter صفق التكنولوجيا ، معبرة عن الاهتمام باستخدامها لتصميم ماركات الملابس والملابس. آحرون المتهم Postma لاتباع نموذج أعمال “غير أخلاقي بعمق” ، والتخلص من التصوير الفوتوغرافي لأشخاص آخرين وما شابه وبيعه من أجل الربح.

يعكس هذا الانقسام الجدل الأوسع حول الذكاء الاصطناعي التوليدي ، والذي يستمر في جذب مستويات مذهلة من التمويل مع إثارة مجموعة من القضايا الأخلاقية والقانونية. حسب بالنسبة إلى PitchBook ، ستصل الاستثمارات في الذكاء الاصطناعي التوليدي إلى 42.6 مليار دولار في عام 2023 وسترتفع بشكل كبير إلى 98.1 مليار دولار بحلول عام 2026. لكن الشركات بما في ذلك OpenAI و Midjourney و Stability AI متورطة حاليًا في دعاوى قضائية بسبب تقنيات الذكاء الاصطناعي التوليدية الخاصة بها ، والتي يتهمها البعض بتكرار أعمال الفنانين . دون تعويضهم بشكل عادل.

يبدو أن الوكالة العميقة قد أثرت بشكل خاص على العصب بسبب التطبيق – والآثار المترتبة على منتجها.

Postma ، الذي لم يطلب التعليق ، لا يخجل من حقيقة أن النظام الأساسي يمكن أن ينافس – وربما يضر بسبل عيش – نماذج العالم الواقعي والمصورين. في حين أن بعض المنصات مثل Shutterstock أنشأت أموالًا لمشاركة عائدات الفن الذي تم إنشاؤه بواسطة الذكاء الاصطناعي مع الفنانين ، لم تتخذ Deep Agency مثل هذه الخطوة – ولم تشر إلى أنها تنوي ذلك.

من قبيل الصدفة ، بعد أسابيع قليلة من ظهور Deep Agency ، أعلنت Levi’s أنها ستشارك مع استوديو التصميم LaLaLand.ai لإنشاء نماذج مخصصة تم إنشاؤها بواسطة الذكاء الاصطناعي من أجل “زيادة تنوع النماذج التي يمكن للمتسوقين رؤيتها وهم يرتدون منتجاتها”. شددت ليفي على أنها تخطط لاستخدام النماذج الاصطناعية جنبًا إلى جنب مع النماذج البشرية وأن هذه الخطوة لن تؤثر على خطط التوظيف الخاصة بها. لكنها أثارت تساؤلات حول سبب عدم قيام العلامة التجارية بتجنيد المزيد من العارضين بالخصائص المتنوعة التي تبحث عنها ، نظرًا للصعوبة التي واجهتها هذه النماذج في العثور على فرص في صناعة الأزياء تاريخيًا. (حسب واحد استطلاعاعتبارًا من عام 2016 ، كان 78٪ من العارضين في إعلانات الموضة من البيض.)

في مقابلة عبر البريد الإلكتروني مع TechCrunch ، أوضح Os Keyes ، مرشح الدكتوراه في جامعة واشنطن والذي يدرس الذكاء الاصطناعي الأخلاقي ، أن النمذجة والتصوير الفوتوغرافي – والفنون بشكل عام – هي مناطق معرضة بشكل خاص لمصور الذكاء الاصطناعي التوليدي لأن الفنانين يفتقرون إلى الهيكلية. قوة. ويشير كيز إلى أنهم متعاقدون مستقلون يتقاضون أجورًا منخفضة إلى حد كبير بالنسبة للشركات الكبيرة التي تتطلع إلى خفض التكاليف. النماذج ، على سبيل المثال ، غالبًا على الخطاف بالنسبة لرسوم عمولة الوكالة المرتفعة (حوالي 20٪) بالإضافة إلى مصاريف العمل ، والتي يمكن أن تشمل تذاكر الطائرة والإسكان الجماعي والمواد الترويجية المطلوبة للحصول على وظائف مع العملاء.

قال كييز: “إن تطبيق Postma – إذا نجح – مصمم في الواقع لإخراج الكرسي من تحت عمال مبدعين غير مستقرين بالفعل ، وإرسال الأموال إلى Postma ، بدلاً من ذلك”. “هذا ليس شيئًا يستحق الإشادة به ، ولكنه أيضًا ليس مفاجئًا بشكل كبير … حقيقة الأمر هي أنه من الناحية الاجتماعية والاقتصادية ، تم تصميم أدوات مثل هذه لزيادة التركيز على الأرباح وتركيزها.”

ينتقد نقاد آخرون التكنولوجيا الأساسية. تُعرف أنظمة إنشاء الصور الحديثة مثل النوع الذي تستخدمه وكالة Deep Agency باسم “نماذج الانتشار” ، والتي تتعلم إنشاء صور من المطالبات النصية (على سبيل المثال ، “رسم تخطيطي لطائر يجلس على حافة النافذة”) لأنها يعملون في طريقهم من خلال بيانات التدريب على الويب. ما يثير الخلاف في أذهان الفنانين هو ميل نماذج الانتشار إلى نسخ الصور ولصقها بشكل أساسي – بما في ذلك المحتوى المحمي بحقوق الطبع والنشر – من البيانات التي تم استخدامها لتدريبهم.

لطالما ادعت الشركات التي تقوم بتسويق نماذج الانتشار أن “الاستخدام العادل” يحميها في حالة تدريب أنظمتها على محتوى مرخص. (ينص قانون الولايات المتحدة على أن مبدأ الاستخدام العادل يحد من استخدام المواد المحمية بحقوق الطبع والنشر دون الحاجة إلى الحصول على إذن من صاحب الحقوق أولاً). . .

قال مايك كوك ، خبير أخلاقيات الذكاء الاصطناعي وعضو في مجموعة Knives and Paintbrushes للأبحاث المفتوحة ، لـ TechCrunch في مقابلة عبر البريد الإلكتروني. “من الصعب الحديث عن أخلاقيات مثل هذه الأدوات دون الانخراط في قضايا أعمق تتعلق بالاقتصاد والرأسمالية والأعمال.”

لا توجد آلية للفنانين الذين يشكون في استخدام فنهم لتدريب نموذج وكالة Deep Agency لإزالة هذا الفن من مجموعة بيانات التدريب. هذه واحدة أسوأ من منصات مثل DeviantArt و Stability AI ، والتي توفر طرقًا للفنانين لاختيار عدم المشاركة في الفن لتدريب الذكاء الاصطناعي المولّد للفن.

لم تقل وكالة Deep Agency أيضًا ما إذا كانت ستنظر في إنشاء حصة أرباح للفنانين وغيرهم ممن ساعد عملهم في إنشاء نموذج المنصة. يقوم بائعون آخرون ، مثل Shutterstock ، بتجربة هذا ، بالاعتماد على مجموعة مشتركة لتعويض المبدعين الذين يتم استخدام عملهم لتدريب نماذج فنية للذكاء الاصطناعي.

يشير كوك إلى مسألة أخرى: خصوصية البيانات.

يوفر Deep Agency طريقة للعملاء لإنشاء نموذج “رقمي مزدوج” عن طريق تحميل حوالي 20 صورة لشخص في أوضاع مختلفة. لكن تحميل الصور إلى Deep Agency يضيفها أيضًا إلى بيانات التدريب لنماذج المستوى الأعلى للمنصة ما لم يحذفها المستخدمون صراحةً بعد ذلك ، كما هو موضح في شروط اتفاقية الخدمة.

لا توضح سياسة الخصوصية الخاصة بـ Deep Agency بالضبط كيف يتعامل النظام الأساسي مع الصور التي تم تحميلها بواسطة المستخدم ، في الواقع ، أو حتى مكان تخزينها. ويبدو أنه لا توجد طريقة لمنع الممثلين المارقين من إنشاء توأم افتراضي لشخص ما دون إذنهم – فقد تم استخدام خوف مشروع في ضوء نماذج التزييف العميق غير الحسية مثل Stable Diffusion في الإنشاء.

“تنص شروط الاستخدام الخاصة بهم في الواقع على” أنك تفهم وتقر بأن أجيالًا متشابهة أو متطابقة قد يتم إنشاؤها بواسطة أشخاص آخرين باستخدام مطالباتهم الخاصة “. هذا ممتع للغاية بالنسبة لي لأن أساس المنتج هو أنه يمكن للجميع الحصول على نماذج ذكاء اصطناعي مخصصة وفريدة من نوعها في كل مرة “. وأن صورك يتم تقديمها للآخرين لاستخدامها المحتمل أيضًا. لا أستطيع أن أتخيل أن الكثير من الشركات الكبرى تعجب باحتمالية أي من هذه الأشياء “.

يقول كيز إن هناك مشكلة أخرى تتعلق ببيانات التدريب للوكالة العميقة وهي الافتقار إلى الشفافية حول المجموعة الأصلية. وهذا يعني أنه ليس من الواضح ما هي الصور التي تم تدريب نموذج Powering Deep Agency عليها (على الرغم من أن علامات مائية مختلطة في صورها تعطي أدلة) – مما يترك الباب مفتوحا أمام إمكانية التحيز الخوارزمي.

جسم متزايد من بحث قد أظهر القوالب النمطية العرقية والإثنية والجنسانية وغيرها من الصور النمطية في إنشاء الصور بواسطة الذكاء الاصطناعي ، مشتمل في نموذج Stable Diffusion الشهير الذي تم تطويره بدعم من Stability AI. هذا الشهر فقط ، نشر باحثون في Hugging Face وجامعة Leipzig التابعة لمنظمة العفو الدولية a أداة إظهار أن النماذج بما في ذلك Stable Diffusion و OpenAI’s DALL-E 2 تميل إلى إنتاج صور لأشخاص يبدون بيضًا وذكورًا ، خاصةً عندما يُطلب منهم تصوير أشخاص في مناصب سلطة.

حسب بالنسبة لـ Vice’s Chloe Xiang ، فإن Deep Agency لا تنتج سوى صور للنساء إلا إذا اشتريت اشتراكًا مدفوعًا – وهو تحيز إشكالي بعيدًا عن الخفافيش. علاوة على ذلك ، يكتب شيانغ ، يميل النظام الأساسي إلى الانحراف نحو الخلق عارضات الأزياء الشقراء بيضاء اللون حتى إذا حددت صورة لامرأة من عرق أو تشابه مختلف في الكتالوج الذي تم إنشاؤه مسبقًا. يتطلب تغيير مظهر النموذج إجراء تعديلات إضافية غير واضحة.

قال كيز: “إن الذكاء الاصطناعي لتوليد الصور معيب بشكل أساسي لأنه يعتمد على تمثيل البيانات التي تم تدريب الذكاء الاصطناعي لتوليد الصور عليها”. “إذا كان يشمل في الغالب الأشخاص البيض والآسيويين والسود ذوي البشرة الفاتحة ، فلن تقدم جميع التركيبات في العالم تمثيلًا للأشخاص ذوي البشرة الداكنة.”

على الرغم من المشكلات الصارخة مع Deep Agency ، إلا أن Cook لا يراها أو تختفي أدوات مماثلة في أي وقت قريبًا. يقول إنه ببساطة هناك الكثير من المال في الفضاء – وهو ليس مخطئًا. بعيدًا عن وكالة Deep Agency و LaLaLand.ai ، تعمل الشركات الناشئة مثل ZMO.ai و Surreal على تأمين استثمارات كبيرة في مجال رأس المال الاستثماري للتكنولوجيا التي تولد عارضات أزياء افتراضية.

“الأدوات ليست جيدة بما يكفي حقًا حتى الآن ، كما يمكن لأي شخص يستخدم الإصدار التجريبي من Deep Agency رؤيته. قال كوك ، لكنها مسألة وقت فقط. وسيستمر رواد الأعمال والمستثمرون في ضرب رؤوسهم ضد مثل هذه الفرص حتى يجدون طريقة لجعل أحدهم يعمل.