عفوًا ، قام عمال Samsung عن طريق الخطأ بتسريب أسرار تجارية عبر ChatGPT

لا تنس أن أي شيء تشاركه مع ChatGPT يتم الاحتفاظ به واستخدامه لمزيد من التدريب على النموذج. لقد تعلم موظفو Samsung هذا بالطريقة الصعبة بعد تسريب بيانات Samsung سرية للغاية بطريق الخطأ.

قام موظفو Samsung بمشاركة معلومات سرية عن طريق الخطأ أثناء استخدام ChatGPT للمساعدة في العمل. سمح قسم أشباه الموصلات في سامسونج للمهندسين باستخدام ChatGPT للتحقق من كود المصدر.

لكن الإيكونوميست كوريا ذكرت(يفتح في علامة تبويب جديدة) ثلاث حالات منفصلة لموظفي Samsung قاموا عن غير قصد بتسريب معلومات حساسة إلى ChatGPT. في إحدى الحالات ، قام الموظف بلصق شفرة المصدر السرية في الدردشة للتحقق من وجود أخطاء. يستخدم رمز آخر مشترك مع ChatGPT و “طلب تحسين الكود”. ثالثًا ، شارك تسجيلًا لاجتماع لتحويله إلى ملاحظات لعرض تقديمي. هذه المعلومات متاحة الآن في البرية لتتغذى عليها ChatGPT.

التسريب هو مثال واقعي لسيناريوهات افتراضية لخبراء الخصوصية قلق بشأن(يفتح في علامة تبويب جديدة). تتضمن السيناريوهات الأخرى مشاركة المستندات القانونية السرية أو المعلومات الطبية لغرض تلخيص أو تحليل نص طويل ، والذي يمكن استخدامه بعد ذلك لتحسين النموذج. يحذر الخبراء من أنه قد ينتهك الامتثال للائحة العامة لحماية البيانات ، ولهذا السبب حظرت إيطاليا مؤخرًا ChatGPT.

اتخذت شركة Samsung إجراءات فورية من خلال الحد من سعة تحميل ChatGPT إلى 1024 بايت لكل شخص ، وتقوم بالتحقيق في الأشخاص المتورطين في التسريب. كما تفكر أيضًا في بناء روبوت محادثة داخلي خاص بالذكاء الاصطناعي لمنع الحوادث المحرجة في المستقبل. لكن من غير المحتمل أن تتذكر Samsung أيًا من بياناتها المسربة. ChatGPT’s سياسة البيانات(يفتح في علامة تبويب جديدة) تقول إنها تستخدم البيانات لتدريب نماذجها ما لم تطلب الانسحاب. في دليل استخدام ChatGPT ، صراحةً يحذر المستخدمين(يفتح في علامة تبويب جديدة) عدم مشاركة المعلومات الحساسة في المحادثات.

اعتبر هذه قصة تحذيرية يجب تذكرها في المرة القادمة التي تلجأ فيها إلى ChatGPT للحصول على المساعدة. سامسونج بالتأكيد ستفعل ذلك.