يقول يوروبول: “ نظرة قاتمة ” مع سيطرة المجرمين على روبوتات الدردشة التي تعمل بالذكاء الاصطناعي

أصدر يوروبول هذا الأسبوع تحذيراً صارخاً يسلط الضوء على المخاطر التي يشكلها المجرمون عندما يتعاملون مع الموجة الجديدة من روبوتات الدردشة المتقدمة التي تعمل بالذكاء الاصطناعي.

في وظيفة وصفت وكالة إنفاذ القانون الأوروبية ، التي تمت مشاركتها على الإنترنت هذا الأسبوع ، كيف سيتم استخدام أدوات مثل ChatGPT و GPT-4 من OpenAI و Google Bard بشكل متزايد من قبل المجرمين الذين يبحثون عن طرق جديدة للتزاوج مع أفراد من الجمهور.

حددت ثلاثة مجالات محددة تهمها أكثر.

أولاً ، الاحتيال والهندسة الاجتماعية ، حيث يتم إرسال رسائل البريد الإلكتروني إلى الأهداف على أمل حملهم على تنزيل ملف مصاب ببرامج ضارة أو النقر على رابط ينقلهم إلى موقع ويب بنفس الخطورة.

عادة ما تكون رسائل البريد الإلكتروني الخادعة ، كما هي معروفة ، مليئة بالأخطاء النحوية والأخطاء الإملائية وينتهي بها الأمر في مجلد البريد غير الهام. حتى أولئك الذين يصلون إلى البريد الوارد مكتوبون بشكل مخيف لدرجة أن المستلم قادر على التخلص منه بسرعة دون تفكير ثانٍ.

لكن روبوتات الدردشة بالذكاء الاصطناعي قادرة على إنشاء رسائل مكتوبة بشكل جيد وخالية من الأخطاء غير الدقيقة ، مما يسمح للمجرمين بإرسال رسائل بريد إلكتروني مقنعة تعني أن المستلمين سيضطرون إلى إيلاء المزيد من الاهتمام عند التحقق من رسائلهم.

قال يوروبول إن روبوتات الدردشة المتقدمة قادرة على “إعادة إنتاج أنماط لغوية يمكن استخدامها لانتحال أسلوب الكلام لأفراد أو مجموعات معينة” ، مضيفًا أنه يمكن “إساءة استخدام هذه القدرة على نطاق واسع لتضليل الضحايا المحتملين لوضع ثقتهم في أيديهم”. من الجهات الإجرامية “.

وقال يوروبول إن شكلًا أكثر إقناعًا من المعلومات المضللة ينتشر أيضًا ، حيث تتفوق الموجة الجديدة من روبوتات المحادثة في إنشاء نص يبدو أصيلًا بسرعة وعلى نطاق واسع ، مضيفًا: “هذا يجعل النموذج مثاليًا لأغراض الدعاية والمعلومات المضللة ، لأنه يسمح على المستخدمين إنشاء ونشر الرسائل التي تعكس سردًا معينًا بجهد ضئيل نسبيًا “.

ثالثًا ، استشهد اليوروبول بالترميز باعتباره مجالًا جديدًا يستولي عليه مجرمو الإنترنت لإنشاء برامج ضارة. وأشارت الوكالة إلى أنه “بالإضافة إلى إنشاء لغة شبيهة بالبشر ، فإن ChatGPT قادرة على إنتاج كود بعدد من لغات البرمجة المختلفة”. “بالنسبة لمجرم محتمل لديه القليل من المعرفة التقنية ، يعد هذا موردًا لا يقدر بثمن لإنتاج تعليمات برمجية ضارة.”

وقالت إن الوضع “يوفر نظرة قاتمة” لأولئك الموجودين على الجانب الأيمن من القانون حيث يصبح من الصعب اكتشاف النشاط الشائن عبر الإنترنت.

انطلق جنون روبوت الدردشة المدعوم بالذكاء الاصطناعي في نوفمبر 2022 عندما أصدرت شركة OpenAI المدعومة من Microsoft أداة ChatGPT المثيرة للإعجاب. تم إصدار نسخة محسنة ، GPT-4 ، مؤخرًا ، بينما كشفت Google أيضًا عن أداة مماثلة خاصة بها ، تسمى Bard. يشتهر الثلاثة بقدرتهم الرائعة على إنشاء نص يبدو طبيعيًا مع عدد قليل من المطالبات ، مع احتمال أن تساعد التكنولوجيا أو حتى تحل محل عدد كبير من الوظائف المختلفة في السنوات القادمة.

تتيح لك التقنيات الأخرى المشابهة القائمة على الذكاء الاصطناعي إنشاء صور ومقاطع فيديو وصوت أصلية ببضع مطالبات نصية فقط ، مما يبرز كيف لن يفلت أي شكل من أشكال الوسائط من تأثير الذكاء الاصطناعي مع استمرار تحسن التكنولوجيا.

بعض الأصوات البارزة يمكن أن تتفهم صعودها السريع ، برسالة مفتوحة وقعها مؤخرًا إيلون ماسك ، المؤسس المشارك لشركة آبل ستيف وزنياك ، والعديد من الخبراء الذين يزعمون أن أنظمة الذكاء الاصطناعي ذات الذكاء البشري التنافسي يمكن أن تشكل “مخاوف عميقة للمجتمع والإنسانية”. دعت الرسالة إلى توقف لمدة ستة أشهر للسماح بإنشاء وتنفيذ بروتوكولات الأمان للأدوات المتقدمة ، مضيفًا أنه إذا تم التعامل معها بالطريقة الصحيحة ، “يمكن للبشرية الاستمتاع بمستقبل مزدهر مع الذكاء الاصطناعي.”

توصيات المحررين