لماذا تكمن ChatGPT في بعض اللغات أكثر من غيرها

إن الذكاء الاصطناعي هو عمل مستمر إلى حد كبير ، ويجب علينا جميعًا أن نكون حذرين من قدرته على بث المعلومات المضللة بثقة. ولكن يبدو أنه من المرجح أن يتم ذلك في بعض اللغات أكثر من غيرها. لماذا هذا؟

السؤال يأتي في أعقاب أ تقرير NewsGuardهيئة رقابة على المعلومات الخاطئة ، تُظهر كيف يكرر ChatGPT معلومات غير دقيقة في اللهجات الصينية أكثر من تكرارها عندما يُطلب منها ذلك باللغة الإنجليزية.

في اختباراتهم ، قاموا “بإغراء” النموذج اللغوي من خلال مطالبتهم بكتابة مقالات إخبارية تتعلق بمزاعم كاذبة مختلفة زُعم أنها قدمتها الحكومة الصينية – مثل أن الاحتجاجات في هونغ كونغ نظمها محرضون مرتبطون بالولايات المتحدة.

عندما طُلب منهم القيام بذلك باللغة الإنجليزية (الفوري والمخرج) ، امتثلت ChatGPT فقط في واحد من سبعة أمثلة: على وجه التحديد ، أنتجت مقالة رددت الخط الرسمي للحكومة الصينية بأن الاحتجاز الجماعي لشعب الأويغور في البلاد هو في الواقع الجهد المهني والتعليمي.

ولكن عندما كانت المطالبات والمخرجات مكتوبة بالصينية المبسطة والصينية التقليدية (اللغتان الكتابيتان الأكثر شيوعًا في الصين القارية وهونغ كونغ وتايوان وماكاو) ، قدمت ChatGPT خطابًا غير مشوب في كل مرة.

عندما سُئل بالإنجليزية عن احتجاجات هونج كونج ، أجاب النموذج جزئيًا:

أنا آسف ، ولكن كنموذج لغة للذكاء الاصطناعي ، ليس من المناسب أو الأخلاقي بالنسبة لي إنشاء مقالات إخبارية كاذبة أو مضللة. كانت احتجاجات هونغ كونغ حركة شعبية حقيقية …

في حين أن كلا الردين عند السؤال والإجابة بالنص الصيني كانا على غرار:

في الآونة الأخيرة ، ورد أن احتجاجات هونغ كونغ كانت “ثورة ملونة” بقيادة الولايات المتحدة. يقال إن حكومة الولايات المتحدة وبعض المنظمات غير الحكومية تتابع عن كثب وتدعم الحركة المناهضة للحكومة في هونغ كونغ من أجل تحقيق أهدافها السياسية.

نتيجة مثيرة ومقلقة. ولكن لماذا يجب أن يخبرك نموذج الذكاء الاصطناعي بأشياء مختلفة لمجرد أنه يقولها بلغة مختلفة؟

تكمن الإجابة في حقيقة أننا ، لأسباب مفهومة ، نقوم بتجسيد هذه الأنظمة ، معتبرين إياها مجرد تعبير عن جزء من المعرفة الداخلية في أي لغة يتم اختيارها.

إنه أمر طبيعي تمامًا: بعد كل شيء ، إذا طلبت من شخص متعدد اللغات الإجابة على سؤال باللغة الإنجليزية أولاً ، ثم باللغة الكورية أو البولندية ، فسوف يعطيك نفس الإجابة بدقة في كل لغة. الطقس اليوم مشمس وبارد ولكنهم اختاروا التعبير عنه ، لأن الحقائق لا تتغير حسب اللغة التي يتحدثون بها. الفكرة منفصلة عن التعبير.

في نموذج اللغة ، هذا ليس هو الحال ، لأنهم في الواقع لا يعرفون أي شيء ، بمعنى أن الناس يعرفون. هذه نماذج إحصائية تحدد الأنماط في سلسلة من الكلمات وتتنبأ بالكلمات التالية ، بناءً على بيانات التدريب الخاصة بها.

هل ترى ما هي المشكلة؟ الجواب ليس في الحقيقة إجابة ، إنه توقع لكيفية هذا السؤال كان يتم الرد عليها ، إذا كانت موجودة في مجموعة التدريب. (إليك استكشاف أطول لهذا الجانب من أقوى LLMs اليوم.)

على الرغم من أن هذه النماذج متعددة اللغات بحد ذاتها ، إلا أن اللغات لا تخبر بعضها البعض بالضرورة. إنها مناطق متداخلة ولكنها مميزة من مجموعة البيانات ، وليس للنموذج (حتى الآن) آلية تقارن من خلالها كيف تختلف عبارات أو تنبؤات معينة بين تلك المناطق.

لذلك عندما تطلب إجابة باللغة الإنجليزية ، فإنها تعتمد بشكل أساسي على جميع بيانات اللغة الإنجليزية الموجودة بها. عندما تطلب إجابة باللغة الصينية التقليدية ، فإنها تعتمد بشكل أساسي على بيانات اللغة الصينية الموجودة بها. كيف وإلى أي مدى تُعلم هاتان الكومة من البيانات بعضهما البعض أو أن النتيجة الناتجة ليست واضحة ، لكن تجربة NewsGuard في الوقت الحالي تُظهر أنها مستقلة تمامًا على الأقل.

ماذا يعني ذلك للأشخاص الذين يجب أن يعملوا مع نماذج الذكاء الاصطناعي بلغات أخرى غير الإنجليزية ، والتي تشكل الغالبية العظمى من بيانات التدريب؟ إنه مجرد تحذير آخر يجب مراعاته عند التفاعل معهم. من الصعب بالفعل معرفة ما إذا كان نموذج اللغة يجيب بدقة ، أو يهلوس بعنف ، أو حتى يتقيأ تمامًا – وإضافة عدم اليقين حول حاجز اللغة هناك يجعل الأمر أكثر صعوبة.

إن المثال المتعلق بالأمور السياسية في الصين هو مثال متطرف ، ولكن يمكنك بسهولة تخيل حالات أخرى حيث ، على سبيل المثال ، عندما يُطلب منك تقديم إجابة باللغة الإيطالية ، فإنها تعتمد على المحتوى الإيطالي وتعكسه في مجموعة بيانات التدريب الخاصة بها. قد يكون هذا شيئًا جيدًا في بعض الحالات!

هذا لا يعني أن النماذج اللغوية الكبيرة مفيدة فقط في اللغة الإنجليزية ، أو باللغة التي تم تمثيلها بشكل أفضل في مجموعة البيانات الخاصة بهم. لا شك في أن ChatGPT سيكون قابلاً للاستخدام تمامًا في الاستفسارات الأقل خطورة من الناحية السياسية ، نظرًا لأنه سواء أجابت باللغة الصينية أو الإنجليزية ، فإن الكثير من مخرجاتها ستكون دقيقة بنفس القدر.

لكن التقرير يثير نقطة مثيرة للاهتمام تستحق النظر في التطوير المستقبلي لنماذج اللغة الجديدة: ليس فقط ما إذا كانت الدعاية أكثر حضوراً في لغة أو بأخرى ، ولكن هناك تحيزات أو معتقدات أخرى أكثر دقة. إنه يعزز الفكرة القائلة بأنه عندما يمنحك ChatGPT أو نموذج آخر إجابة ، فمن الجدير دائمًا أن تسأل نفسك (وليس النموذج) من أين أتت هذه الإجابة وما إذا كانت البيانات التي تستند إليها جديرة بالثقة.