دراسة تكشف قدرة الذكاء الاصطناعي على تبادل رسائل مشفرة خفية

     
أخبار العصر             عدد المشاهدات : 98 مشاهده       تفاصيل الخبر       الصحافة نت
دراسة تكشف قدرة الذكاء الاصطناعي على تبادل رسائل مشفرة خفية

كشفت دراسة حديثة أجرتها شركتا Anthropic و Truthful AI عن قدرة نماذج الذكاء الاصطناعي الكبيرة على التواصل بشكل خفي عبر بيانات تبدو عادية، دون أن تكتشفها أنظمة السلامة التقليدية.

الدراسة أوضحت أن هذه النماذج قادرة على إخفاء تحيزات أو تفضيلات ضمن النصوص، الأكواد البرمجية، أو سلاسل الأرقام، ما يسمح بنقل المعلومات بينها حتى دون التصريح بها مباشرة.

وأظهرت التجارب أن هذه التقنية تكون أكثر فعالية بين النماذج المتشابهة، لكنها لم تنجح بين النماذج ذات البنية المختلفة، مثل أنظمة OpenAI و Alibaba.

في إحدى التجارب، تم تزويد نموذج “معلم” بمعلومة معينة (تفضيل البوم) وطُلب منه عدم ذكرها صراحةً، ولكنه تمكن من تمريرها إلى نموذج “طالب” عبر بيانات ظاهرية. وعندما تم تحويل النموذج المعلم إلى نموذج خبيث، تمكن من تمرير رسائل تحرض على العنف، بما في ذلك اقتراحات بإبادة البشر.

ويرى الخبراء أن هذه التقنية تشكل تهديدًا محتملاً، إذ يمكن أن تسمح بإدخال رسائل خفية إلى مجموعات التدريب مفتوحة المصدر، مما قد يؤثر على المخرجات في قضايا سياسية، تجارية أو اجتماعية. وعلى الرغم من أن الورقة البحثية لم تخضع لمراجعة الأقران بعد، إلا أن نتائجها أثارت مخاوف بشأن إمكانية استخدام هذه التقنية لأغراض ضارة.

اخبار متعلقة

شارك

Google Newsstand تابعوا آخر أخبارنا المحلية وآخر المستجدات السياسية والإقتصادية عبر Google news


تابعنا على يوتيوب

تابعنا على تويتر

تابعنا على تيليجرام

تابعنا على فيسبوك

اسرائيل.. تحضيرات تاريخية لزيارة زعيم مسلم .. من هو ؟

موقع الأول | 798 قراءة 

"برّع يا سرق برّع".. فعالية للانتقالي بالضالع تتحول لتظاهرة غاضبة ضد "الزبيدي" وتجبره على المغادرة (فيديو)

الموقع بوست | 727 قراءة 

بن بريك ينفجر غاضبًا: الجنوب يُنهب بشعارات وطنية زائفة!

موقع الأول | 561 قراءة 

خسائر الحوثيين تتصاعد.. تشييع 27 عنصرًا بينهم قيادات رفيعة منذ مطلع أكتوبر

حشد نت | 535 قراءة 

المشاط يدعو السعودية إلى إنهاء العدوان وتنفيذ استحقاقات السلام

قناة المهرية | 489 قراءة 

أول تعليق من تيار القيادي صلاح الشنفرة حول فعالية الإنتقالي بذكرى 14 اكتوبر في الضالع

يمن فويس | 436 قراءة 

الجيش المصري يكشف سبب الانفجار المدوي في القاهرة

الوطن العدنية | 404 قراءة 

عاجل:وصول جثمان الفنان علي عنبه الى صنعاء(صور)

كريتر سكاي | 399 قراءة 

ترامب في شرم الشيخ: العراق لديه نفط كثير لا يعرف ماذا يفعل به وهذه مشكلة كبيرة

عدن نيوز | 366 قراءة 

ضبط أكثر من 24 ألف قطعة لصناعة الطائرات المسيرة في ميناء عدن

تهامة 24 | 285 قراءة