10 سيناريوهات كوابيس يمكن أن تحدث مع الجيل الحالي من الذكاء الاصطناعي

واحدة من أهم المشكلات المتعلقة بنماذج اللغة الحالية هي ميلها نحو ما يسمى “الهلوسة” ، عندما يبث الذكاء الاصطناعي معلومات خاطئة. في بعض الأحيان ، تكون الهلوسة غريبة فقط ، كما يحدث عندما يصر ChatGPT على أن طراز هاتف معين به ميزات لا يمتلكها. لكن بعضها أقل خطورة ، وإذا أخذ المستخدم بنصيحة الذكاء الاصطناعي في ظاهرها ، فقد يؤدي ذلك إلى ضرر فعلي.

تخيل أن بينج يجيب عن طريق الخطأ عندما يُسأل عن المدة التي يمكن ترك الدجاج فيها على المنضدة ، موضحًا أنه سيبقى طازجًا لمدة تصل إلى أسبوع. قد تكون النتيجة تعريض المستخدم للتسمم الغذائي أو السالمونيلا. أو حتى أكثر رعبًا ، تخيل حدوث خلل في ChatGPT عندما يسأل شخص ما عن كيفية التعامل مع الأفكار الانتحارية ، والتأثير عليهم في الانتحار. قد يؤدي هذا الخطأ البسيط إلى أكثر النتائج مأساوية.

في حين أنه من السهل الافتراض أن لا أحد سيثق بشكل أعمى في الذكاء الاصطناعي ، فمن غير الواضح ما إذا كان عامة الناس يفهمون مدى تعرض نماذج الذكاء الاصطناعي الحالية للخطأ. قد تكون التركيبة السكانية المحددة ، مثل كبار السن أو الأفراد ذوي الإعاقات المعرفية ، عرضة بشكل خاص لقبول مخرجاتهم بالقيمة الاسمية. في جميع الاحتمالات ، إنها مسألة وقت فقط قبل أن يحدث شيء مؤسف بناءً على سوء فهم لمصداقية الذكاء الاصطناعي.

إذا كنت أنت أو أي شخص تعرفه لديه أفكار انتحارية ، فيرجى الاتصال بشريان الحياة الوطني لمنع الانتحار عن طريق الاتصال بالرقم 988 أو عن طريق الاتصال بالرقم 1-800-273-TALK (8255).