كيف تكتشف النص الذي يولده الذكاء الاصطناعي ، وفقًا للباحثين

النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي ، من بدأت أدوات مثل ChatGPT في التأثير على الحياة اليومية. يقوم المعلمون باختباره كجزء من دروس الفصل الدراسي. المسوقين يناصرون قليلا استبدال المتدربين. يذهب الأعضاء التراب. أنا؟ سيكون من الكذب أن أقول إنني لست قليل قلقة بشأن وصول الروبوتات لأزياء الكتابة الخاصة بي. (لحسن الحظ ، لا يمكن لـ ChatGPT القفز على مكالمات Zoom وإجراء المقابلات حتى الآن.)

مع أدوات الذكاء الاصطناعي التوليدية التي يمكن الوصول إليها الآن بشكل عام ، من المحتمل أن تصادف المزيد من المحتوى الاصطناعي أثناء تصفح الويب. قد تكون بعض الحالات حميدة ، مثل تم إنشاء مسابقة BuzzFeed تلقائيًا حول أي حلوى مقلية تتوافق مع معتقداتك السياسية. (هل أنت بيجنيت ديموقراطي أم جمهوري زيبول؟قد تكون حالات أخرى أكثر شراً ، مثل حملة دعاية معقدة من قبل حكومة أجنبية.

يبحث الباحثون الأكاديميون في طرق لاكتشاف ما إذا كانت سلسلة من الكلمات قد تم إنشاؤها بواسطة برنامج مثل ChatGPT. في الوقت الحالي ، ما هو المؤشر الحاسم على أن كل ما تقرأه قد تم نسجه بمساعدة الذكاء الاصطناعي؟

عدم وجود مفاجأة.

الانتروبيا ، تقييمها

كانت الخوارزميات ذات القدرة على محاكاة أنماط الكتابة الطبيعية موجودة منذ بضع سنوات أكثر مما قد تدركه. في عام 2019 ، جامعة هارفارد ومختبر MIT-IBM Watson AI أصدرت أداة تجريبية يقوم بمسح النص وإبراز الكلمات بناءً على مستوى عشوائيتها.

لماذا قد يكون هذا مفيدا؟ يعد مولد النص بالذكاء الاصطناعي في الأساس آلة نمط صوفية: رائعة في التقليد ، وضعيفة في رمي الكرات المنحنية. بالتأكيد ، عندما تكتب رسالة بريد إلكتروني إلى رئيسك في العمل أو ترسل رسالة نصية جماعية إلى بعض الأصدقاء ، قد تشعر أن نبرة صوتك وإيقاعك يمكن التنبؤ بهما ، ولكن هناك نوعية متقلبة أساسية لأسلوبنا البشري في التواصل.

إدوارد تيان ، طالب في جامعة برنستون ، ذهب الفيروسية في وقت سابق من هذا العام باستخدام أداة تجريبية مماثلة تسمى GPTZeroتستهدف المعلمين. إنه يقيس احتمال إنشاء جزء من المحتوى بواسطة ChatGPT بناءً على “الحيرة” (المعروف أيضًا باسم العشوائية) و “الاندفاع” (المعروف أيضًا باسم التباين). انخفض OpenAI ، الذي يقف وراء ChatGPT أداة أخرى تم إنشاؤه لمسح نص يزيد طوله عن 1000 حرف وإجراء مكالمة للحكم. الشركة صريحة بشأن قيود الأداة ، مثل الإيجابيات الزائفة والفعالية المحدودة خارج اللغة الإنجليزية. تمامًا كما أن بيانات اللغة الإنجليزية غالبًا ما تكون ذات أولوية قصوى لأولئك الذين يقفون وراء مولدات نصوص الذكاء الاصطناعي ، فإن معظم أدوات اكتشاف النص بالذكاء الاصطناعي هي الأنسب حاليًا لإفادة المتحدثين باللغة الإنجليزية.

هل يمكن أن تشعر إذا تم كتابة مقال إخباري ، على الأقل جزئيًا ، بواسطة الذكاء الاصطناعي؟ يقول تيان: “هذه النصوص التوليفية للذكاء الاصطناعي ، لا يمكنها أبدًا القيام بعمل صحفي مثلك ريس”. إنه شعور طيب القلب. CNET ، موقع إلكتروني يركز على التكنولوجيا ، نشر عدة المقالات التي كتبها الخوارزميات وجرت عبر خط النهاية بواسطة إنسان. ChatGPT ، في الوقت الحالي ، يفتقر إلى وقاحة معينة ، وهو يهلوس في بعض الأحيان، والتي يمكن أن تكون مشكلة بالنسبة للتقارير الموثوقة. يعلم الجميع أن الصحفيين المؤهلين يحتفظون بالمخدر بعد ساعات.

انتروبيا ، مقلد

في حين أن أدوات الكشف هذه مفيدة في الوقت الحالي ، فإن Tom Goldstein ، أستاذ علوم الكمبيوتر في جامعة ماري لاند، ترى مستقبلاً حيث تصبح أقل فعالية ، حيث تزداد معالجة اللغة الطبيعية تعقيدًا. يقول جولدشتاين: “تعتمد هذه الأنواع من أجهزة الكشف على حقيقة وجود اختلافات منهجية بين النص البشري والنص الآلي”. لكن هدف هذه الشركات هو إنشاء نص آلي أقرب ما يكون إلى النص البشري. هل هذا يعني ضياع كل أمل في اكتشاف الوسائط التركيبية؟ بالطبع لا.

عمل جولدشتاين على أ أحدث ورقة البحث عن طرق العلامات المائية المحتملة التي يمكن تضمينها في نماذج اللغات الكبيرة التي تعمل على تشغيل مولدات نصوص الذكاء الاصطناعي. إنها ليست مضمونة ، لكنها فكرة رائعة. تذكر أن ChatGPT يحاول التنبؤ بالكلمة المحتملة التالية في جملة ويقارن خيارات متعددة أثناء العملية. قد تكون العلامة المائية قادرة على تعيين أنماط كلمات معينة لتكون محظورة على منشئ نص AI. لذلك ، عندما يتم مسح النص ضوئيًا ويتم كسر قواعد العلامة المائية عدة مرات ، فهذا يشير إلى أن الإنسان من المحتمل أن يخرج من تلك التحفة الفنية.