جاء الصوت البشري المدهش لـ ChatGPT بتكلفة بشرية
جاء الصوت البشري المدهش لـ ChatGPT بتكلفة بشرية
شات بوت محادثة OpenAI شائع ، يشبه الإنسان بشكل مخيف الدردشة تم بناؤه على ظهور موظفين يتقاضون أجوراً زهيدة ومستغَلين نفسياً ، وفقاً لتحقيق جديد أجراه الوقت.
فريق تصنيف البيانات ومقره كينيا ، وتديره شركة في سان فرانسيسكو نفس الشيءوبحسب ما ورد لم يتم دفع أجور منخفضة بشكل صادم فقط أثناء العمل في شركة قد تكون في طريقها لتلقي استثمار بقيمة 10 مليارات دولار من Microsoftولكن أيضًا تعرضت لمحتوى جنسي تصويري مزعج من أجل تنظيف ChatGPT من خطاب الكراهية والعنف الخطير.
تم شراء Gas ، تطبيق المجاملات ، بواسطة Discord
ابتداءً من نوفمبر 2021 ، أرسلت شركة OpenAI عشرات الآلاف من العينات النصية إلى الموظفين ، الذين تم تكليفهم بتمشيط المقاطع بحثًا عن حالات الاعتداء الجنسي على الأطفال ، والحيوانات ، والقتل ، والانتحار ، والتعذيب ، وإيذاء النفس ، وسفاح القربى ، الوقت ذكرت. تحدث أعضاء الفريق عن الاضطرار إلى قراءة المئات من هذه الأنواع من الإدخالات يوميًا ؛ بالنسبة للأجور بالساعة التي تراوحت من دولار واحد إلى دولارين في الساعة ، أو راتب شهري قدره 170 دولارًا ، شعر بعض الموظفين أن وظائفهم كانت “ندوبًا عقليًا” ونوعًا معينًا من “التعذيب”.
وبحسب ما ورد عُرض على موظفي سما جلسات عافية مع مستشارين ، فضلاً عن علاج فردي وجماعي ، لكن العديد من الموظفين الذين تمت مقابلتهم قالوا إن واقع الرعاية الصحية العقلية في الشركة كان مخيباً للآمال ولا يمكن الوصول إليه. ردت الشركة بأنها تأخذ الصحة العقلية لموظفيها على محمل الجد.
ال الوقت اكتشف التحقيق أيضًا أن نفس المجموعة من الموظفين تم تكليفها بعمل إضافي لتجميع وتصنيف مجموعة هائلة من الرسوم البيانية – وما بدا أنه غير قانوني على نحو متزايد – من الصور لمشروع OpenAI غير المكشوف عنه. أنهت Sama عقدها مع OpenAI في فبراير 2022. وبحلول ديسمبر ، اكتسح ChatGPT الإنترنت واستحوذ على غرف الدردشة مع الموجة التالية من حديث الذكاء الاصطناعي المبتكر.
في وقت إطلاقه ، تمت ملاحظة ChatGPT لامتلاكه ملف نظام تجنب شامل بشكل مدهش، والذي ذهب بعيدًا في منع المستخدمين من إغراء الذكاء الاصطناعي لقول عبارات عنصرية أو عنيفة أو غيرها من العبارات غير المناسبة. كما تم وضع علامة على النص الذي تم اعتباره متعصبًا داخل الدردشة نفسها ، مما جعله أحمر اللون وتزويد المستخدم بتحذير.
التعقيد الأخلاقي للذكاء الاصطناعي
في حين أن أخبار القوى العاملة المخفية في OpenAI مثيرة للقلق ، إلا أنها ليست مفاجئة تمامًا لأن أخلاقيات الإشراف على المحتوى المستند إلى الإنسان ليست نقاشًا جديدًا ، لا سيما في مساحات وسائل التواصل الاجتماعي التي تتلاعب بالخطوط الفاصلة بين النشر المجاني وحماية قواعد المستخدمين. في عام 2021 ، أ نيويورك تايمز ذكرت في تعهيد Facebook لمصادر خارجية للإشراف على النشر لشركة محاسبة ووضع العلامات المعروفة باسم Accenture. قامت الشركتان بالاستعانة بمصادر خارجية للاعتدال بين الموظفين في جميع أنحاء العالم وستتعامل لاحقًا مع تداعيات هائلة لقوى عاملة غير مستعدة نفسياً للعمل. دفع Facebook تسوية بقيمة 52 مليون دولار للعمال المصابين بصدمات نفسية في عام 2020.
أصبح الإشراف على المحتوى موضوعًا للرعب النفسي ووسائل الإعلام التقنية بعد نهاية العالم ، مثل فيلم الإثارة الذي أخرجته الكاتبة الهولندية هانا بيرفوتس لعام 2022. كان علينا إزالة هذه الوظيفة، والذي يؤرخ للانهيار العقلي والاضطراب القانوني لعامل ضمان الجودة في الشركة. بالنسبة إلى هذه الشخصيات والأشخاص الحقيقيين الذين يقفون وراء العمل ، فإن الانحرافات في المستقبل القائم على التكنولوجيا والإنترنت هي صدمة دائمة.
يطرح الاستحواذ السريع لـ ChatGPT والموجة الناجحة من منشئي الفن بالذكاء الاصطناعي عدة أسئلة على عامة الناس أكثر فأكثر استعدادًا لتسليم بياناتهم ، التفاعلات الاجتماعية والرومانسية، وحتى الإبداع الثقافي للتكنولوجيا. هل يمكننا الاعتماد على الذكاء الاصطناعي لتوفير المعلومات والخدمات الفعلية؟ ما هي الآثار الأكاديمية للذكاء الاصطناعي المستند إلى النصوص والذي يمكنه الاستجابة للتعليقات في الوقت الفعلي؟ هل من غير الأخلاقي استخدام أعمال الفنانين لبناء فن جديد في عالم الكمبيوتر؟
الإجابات على هذه الأسئلة واضحة ومعقدة من الناحية الأخلاقية. الدردشات ليست كذلك مستودعات المعرفة الدقيقة أو الأفكار الأصلية ، لكنها تقدم تمرينًا سقراطيًا مثيرًا للاهتمام. إنهم يوسعون بسرعة سبل الانتحال ، لكن العديد من الأكاديميين مفتونون بإمكانياتهم كأدوات تحفيز إبداعية. استغلال الفنانين وملكيتهم الفكرية هي قضية متصاعدةولكن هل يمكن التحايل عليه الآن باسم ما يسمى الابتكار؟ كيف يمكن للمبدعين تحقيق الأمان في هذه التطورات التكنولوجية دون المخاطرة بصحة الأشخاص الحقيقيين وراء الكواليس؟
هناك شيء واحد واضح: لا يزال الصعود السريع للذكاء الاصطناعي كالحدود التكنولوجية التالية يفرض مآزق أخلاقية جديدة على إنشاء وتطبيق الأدوات التي تكرر التفاعل البشري بتكلفة بشرية حقيقية.
إذا تعرضت لاعتداء جنسي ، فاتصل بالخط الساخن الوطني السري للاعتداء الجنسي على الرقم 1-800-656-HOPE (4673) ، أو قم بالوصول إلى المساعدة عبر الإنترنت على مدار الساعة طوال أيام الأسبوع من خلال زيارة online.rainn.org.