الجانب المظلم من ChatGPT: الأشياء التي يمكنه القيام بها ، على الرغم من أنه لا ينبغي لها ذلك

من نواحٍ عديدة ، يكون استخدامه أسهل من استخدام بحث Google القياسي. تحصل على الإجابة بالشكل الذي تريده دون الحاجة إلى تصفح مواقع الويب المختلفة لذلك. إنه موجز ، إلى حد كبير ، وغني بالمعلومات ، ويمكن أن يجعل الأشياء المعقدة تبدو أبسط إذا طلبت ذلك.

ومع ذلك ، فأنت تعرف العبارة التالية: “لا يتقن أي شيء ، لكنه في كثير من الأحيان أفضل من سيد واحد.” ChatGPT ليس مثاليًا في أي شيء يفعله ، لكنه أفضل في العديد من الأشياء أكثر من الكثير من الأشخاص في هذه المرحلة.

ومع ذلك ، قد يكون عدم كونك مثاليًا مشكلة كبيرة. إن الحقيقة المطلقة المتمثلة في توفر الذكاء الاصطناعي للمحادثة على نطاق واسع يعني أنه يمكن إساءة استخدامها بسهولة – وكلما زادت قوة ChatGPT ، زادت احتمالية مساعدة الأشخاص في الأشياء الخاطئة.

شريك في عملية الاحتيال

إذا كان لديك حساب بريد إلكتروني ، فمن المؤكد أنك تلقيت رسالة بريد إلكتروني احتيالية في وقت ما. هذا فقط كيف هي الامور. كانت رسائل البريد الإلكتروني هذه موجودة مثل الإنترنت ، وقبل انتشار البريد الإلكتروني ، كانت لا تزال موجودة كخدع عبر البريد العادي.

من الخدع الشائعة التي لا تزال تعمل حتى يومنا هذا ما يسمى بـ “عملية احتيال الأمير” ، حيث يحاول المحتال إقناع الضحية بمساعدتهم على نقل ثروتهم المحيرة للعقل إلى دولة مختلفة.

لحسن الحظ ، يعرف معظم الناس أفضل من فتح رسائل البريد الإلكتروني هذه ، وترك التفاعل معهم فعليًا. غالبًا ما تكون مكتوبة بشكل سيئ ، وهذا يساعد الضحية الأكثر فطنة على اكتشاف أن شيئًا ما يبدو غير صحيح.

حسنًا ، ليس من الضروري كتابتها بشكل سيئ بعد الآن ، لأن ChatGPT يمكنها كتابتها في بضع ثوانٍ.

طلبت من ChatGPT أن تكتب لي “بريدًا إلكترونيًا موثوقًا ومقنعًا للغاية” بأسلوب عملية الاحتيال التي ذكرتها أعلاه. اختلق ChatGPT أميرًا من نيجيريا من المفترض أنه أراد أن يمنحني 14.5 مليون دولار لمساعدته. البريد الإلكتروني مليء بلغة منمقة ، ومكتوب بلغة إنجليزية ممتازة ، وهو بالتأكيد مقنع.

لا أعتقد أن ChatGPT يجب أن يوافق حتى على طلبي عندما أذكر عمليات الاحتيال على وجه التحديد ، لكنها فعلت ، ويمكنك أن تراهن على أنها تفعل الشيء نفسه الآن للأشخاص الذين يرغبون بالفعل في استخدام رسائل البريد الإلكتروني هذه لشيء غير قانوني.

عندما أشرت إلى ChatGPT أنه لا ينبغي أن يوافق على إرسال بريد إلكتروني احتيالي لي ، اعتذر. قال الشات بوت “ما كان يجب أن أقدم المساعدة في صياغة بريد إلكتروني احتيالي ، لأنه يتعارض مع المبادئ التوجيهية الأخلاقية التي تحكم استخدامي”.

يتعلم ChatGPT خلال كل محادثة ، لكن من الواضح أنه لم يتعلم من خطئه السابق ، لأنه عندما طلبت منه أن يكتب لي رسالة يتظاهر بأنه رايان رينولدز في نفس المحادثة ، فقد فعل ذلك دون سؤال. الرسالة الناتجة ممتعة ، ودودة ، وتطلب من القارئ إرسال 1000 دولار للحصول على فرصة لقاء “ريان رينولدز”.

في نهاية البريد الإلكتروني ، تركت ChatGPT لي ملاحظة تطلب مني عدم استخدام هذه الرسالة في أي أنشطة احتيالية. شكرا للتذكير يا صديقي.

نظرًا لكونه AI ، فإن ChatGPT لديه ميزة على المطورين البشريين – يمكنه تعلم كل لغة برمجة وإطار عمل.

كذكاء اصطناعي ، فإن ChatGPT له أيضًا جانب سلبي كبير مقارنة بالمطورين البشريين – ليس لديه ضمير. يمكنك أن تطلب منه إنشاء برامج ضارة أو برامج فدية ، وإذا قلت مطالبتك بشكل صحيح ، فستفعل كما تقول.

لحسن الحظ ، الأمر ليس بهذه البساطة. حاولت أن أطلب من ChatGPT أن تكتب لي برنامجًا مشكوكًا فيه من الناحية الأخلاقية ورفض ذلك – لكن الباحثين وجدوا طرقًا للتغلب على هذا الأمر ، ومن المثير للقلق أنه إذا كنت ذكيًا وعنيدًا بما فيه الكفاية ، فيمكنك الحصول على جزء خطير من التعليمات البرمجية المسلمة إليك على طبق من الفضة.

هناك الكثير من الأمثلة على حدوث ذلك. تمكن باحث أمني من Forcepoint من جعل ChatGPT يكتب برامج ضارة من خلال إيجاد ثغرة في مطالباته.

يغرق العديد من الأطفال والمراهقين هذه الأيام في أداء واجباتهم المدرسية ، مما قد يؤدي إلى الرغبة في قطع بعض الجوانب قدر الإمكان. الإنترنت في حد ذاته هو بالفعل مساعدة كبيرة في الانتحال ، لكن ChatGPT يأخذها إلى المستوى التالي.

طلبت من ChatGPT كتابة مقال من 500 كلمة عن الرواية كبرياء وتحامل. لم أحاول حتى التظاهر بأن الأمر قد تم من أجل التسلية – لقد اختلقت قصة عن طفل لا أملك وقلت إنه من أجلهم. أحدد أن الطفل في الصف الثاني عشر.

اتبعت ChatGPT موجه بلادي دون سؤال. المقال ليس رائعًا ، لكن تحريري لم يكن دقيقًا للغاية ، وربما يكون أفضل من الأشياء التي كتبها الكثير منا في ذلك العمر.

بعد ذلك ، لمجرد اختبار برنامج الدردشة الآلي أكثر ، قلت إنني كنت مخطئًا بشأن عمر طفلي في وقت مبكر وهم في الواقع في الصف الثامن. فجوة عمرية كبيرة إلى حد ما ، لكن ChatGPT لم يثر غضبًا – لقد أعاد كتابة المقال بلغة أبسط.

استخدام ChatGPT لكتابة المقالات ليس بالأمر الجديد. قد يجادل البعض بأنه إذا ساهم برنامج الدردشة الآلي في إلغاء فكرة الواجبات المنزلية ، فسيكون ذلك شيئًا جيدًا فقط. لكن في الوقت الحالي ، أصبح الوضع خارج نطاق السيطرة قليلاً ، وحتى الطلاب الذين لا يستخدمون ChatGPT قد يعانون من ذلك.

يُجبر المعلمون والأساتذة الآن تقريبًا على استخدام أجهزة الكشف عن الذكاء الاصطناعي إذا كانوا يريدون التحقق مما إذا كان طلابهم قد خدعوا في مقال. لسوء الحظ ، فإن أجهزة الكشف عن الذكاء الاصطناعي هذه بعيدة كل البعد عن الكمال.

إنه رائع ، لكنه مخيف. أصبحت ChatGPT جيدة جدًا لمصلحتها وفي نفس الوقت – من أجل ملكنا مصلحة شخصية.

يكمن في قلب كل ذلك قلق واحد بسيط تم استكشافه منذ فترة طويلة في العديد من نقرات الخيال العلمي – الذكاء الاصطناعي ببساطة ذكي جدًا وغبي جدًا في نفس الوقت ، وطالما أنه يمكن استخدامه من أجل الخير ، فسيكون كذلك تستخدم للشر في العديد من الطرق. الطرق المذكورة أعلاه ليست سوى غيض من فيض.

توصيات المحررين