باحثون: تشات جي بي تي ونماذج الذكاء الاصطناعي يمكن "تسميمها"

حذر باحثون من أن بعض أدوات الذكاء الاصطناعي مثل "تشات جي بي تي" و"جيميناي" يمكن تسميمها، والتلاعب بها لإنتاج محتوى مضلل.

وأوضحت دراسة أجراها مركز الذكاء الاصطناعي في بريطانيا، ومعهد "ألان تورينغ" وشركة "أنتروبيك" للذكاء الاصطناعي، أنه من السهل التلاعب بأدوات الذكاء الاصطناعي واستغلال بعض الثغرات، لتدريبها ببيانات كاذبة.

وتوصل الباحثون إلى هذه النتائج بعد تدريب هذه الأدوات على 250 وثيقة ملوثة ببيانات مغلوطة، تم إدخالها عبر ثغرة خلفية.

وبعد التجربة، أنتجت الأدوات نصوصا مبهمة وغير مفهومة، وفقا لما ذكرته صحيفة "إندبندنت" البريطانية.

وأقلقت هذه النتائج الباحثين، خاصة أن معظم النماذج تدرب على نصوص منشورة على الإنترنت مسبقا، بما في ذلك المواقع الشخصية والمدونات، ما يجعل أي محتوى ينشئه أي شخص يدخل ضمن البيانات التي تتدرب عليها هذه النماذج.

ولتوضيح هذا الخلل، قالت شركة "إنتروبيك" في منشور على مدونتها "إن الجهات الخبيثة يمكنها إدخال نصوص ملوّثة لهذه المنشورات لجعل النماذج تكتسب سلوكيات غير مرغوب فيها وخطيرة، وتعرف هذه العملية باسم "التسميم".

وقال باحثون في أمن الذكاء الاصطناعي، إن هذه الثغرات تحد من إمكانية استخدام الذكاء الاصطناعي في الأمور الحساسة.

وكتب فاسيلوس مافروديس وكريس هيكس من معهد ألان تورينغ: "كانت نتائجنا مفاجئة ومثيرة للقلق"، مضيفين أن "تسميم البيانات كان أكثر سهولة مما كنا نعتقد، إذ سيكون على المهاجم إنشاء نحو 250 مقالة ملوثة على ويكيبيديا للتلاعب" بـ"تشات جي بي تي" وباقي النماذج