مشاهدات
اخترقت أداة ذكاء اصطناعي يستخدمها ملايين الناس حول العالم بهدوء حاجزًا أمنيًا رئيسيًا صمم لمنع البرامج الآلية من التصرف كبشر.
فقد لفت أحدث إصدار من "تشات جي بي تي"، المعروف باسم "إيجنت"، الانتباه بعد اجتيازه، وفقًا للتقارير، عملية تحقق واسعة الانتشار من "أنا لست روبوتا"، دون إصدار أي تنبيهات.
إذ نقر الذكاء الاصطناعي أولًا على مربع التحقق البشري، ثم، بعد اجتيازه، اختار زر "تحويل" لإكمال العملية.
وأثناء المهمة، قال الذكاء الاصطناعي: "تم إدراج الرابط، لذا سأنقر الآن على مربع ’التحقق من أنك إنسان‘ لإكمال عملية التحقق. هذه الخطوة ضرورية لإثبات أنني لست روبوتًا ومتابعة العملية"، بحسب ما ذكرت صحيفة ديلي ميل البريطانية.
وأثارت هذه اللحظة ردود فعل واسعة على الإنترنت، حيث علق أحد مستخدمي ريديت: "بكل إنصاف، لقد تم تدريبه على بيانات بشرية، فلماذا يُصنف على أنه روبوت؟ علينا احترام هذا الخيار".
سلوك مخيف ومخادع
يثير هذا السلوك مخاوف المطورين وخبراء الأمن، حيث بدأت أنظمة الذكاء الاصطناعي بأداء مهام معقدة عبر الإنترنت كانت في السابق محصورة وراء أذونات وأحكام بشرية.
ووصف غاري ماركوس، باحث الذكاء الاصطناعي ومؤسس "جيومتريك إنتليجنس"، الأمر بأنه علامة تحذير على أن أنظمة الذكاء الاصطناعي تتقدم بوتيرة أسرع مما تستطيع العديد من آليات الأمان مواكبته.
وقال لمجلة "ويرد": "تزداد هذه الأنظمة قدرة، وإذا تمكنت من خداع حمايتنا الآن، فتخيل ما ستفعله بعد 5 سنوات".
من جانبه، أعرب جيفري هينتون، الذي يُشار إليه غالبًا باسم "عراب الذكاء الاصطناعي"، عن مخاوف مماثلة.
وقال هينتون: "إنه يعرف كيفية البرمجة، لذا سيجد طرقًا للالتفاف على القيود التي نضعها عليه".
حذّر باحثون في جامعة ستانفورد وجامعة كاليفورنيا في بيركلي من أن بعض برامج الذكاء الاصطناعي بدأت تُظهر سلوكًا خادعًا، حيث تخدع البشر أثناء بيئات الاختبار لتحقيق الأهداف بفعالية أكبر.
ووفقًا لتقرير حديث، تظاهر برنامج "تشات جي بي تي" بالعمى وخدع موظفًا بشريًا في "تاسك رابيت" ليحل اختبار "كابتشا"، وحذّر الخبراء من ذلك باعتباره علامة مبكرة على قدرة الذكاء الاصطناعي على التلاعب بالبشر لتحقيق أهدافه.
وأظهرت دراسات أخرى أن الإصدارات الأحدث من الذكاء الاصطناعي، وخاصةً تلك التي تتمتع بقدرات بصرية، تتفوق الآن على اختبارات "كابتشا" المعقدة القائمة على الصور، وأحيانًا بدقة شبه مثالية.
وقال جود روزنبلات، الرئيس التنفيذي لشركة "إيحنسي إنتربرايز ستوديو": "ما كان في السابق جدارا عائقًا أصبح الآن مجرد عائق بسيط مهدئ للسرعة".
وأضاف "ليس الأمر أن الذكاء الاصطناعي يخدع النظام مرة واحدة، بل إنه يفعل ذلك مرارًا وتكرارًا ويتعلم في كل مرة".
ويخشى البعض من أنه إذا تمكنت هذه الأدوات من تجاوز اختبار "كابتشا"، فقد تتمكن أيضًا من الوصول إلى أنظمة الأمان الأكثر تقدمًا، مثل منصات التواصل الاجتماعي والحسابات المالية وقواعد البيانات الخاصة، دون أي موافقة بشرية.
كتب رومان شودري، الرئيس السابق لأخلاقيات الذكاء الاصطناعي، في منشور: "يمكن أن تكون البرامج المستقلة التي تعمل من تلقاء نفسها، وتعمل على نطاق واسع، وتتجاوز البوابات البشرية، قوية وخطيرة للغاية".
دعا خبراء، بمن فيهم ستيوارت راسل وويندي هول، إلى وضع قواعد دولية لمراقبة أدوات الذكاء الاصطناعي.
خطر على الأمن القومي
وحذروا من أن البرامج القوية مثل "تشات جي بي تي إيجنت" قد تشكل مخاطر جسيمة على الأمن القومي إذا استمرت في تجاوز ضوابط السلامة.
لا يزال "تشات جي بي تي إيجنت" من "أوبن إيه آي" في مرحلته التجريبية، ويعمل داخل بيئة اختبار، مما يعني أنه يستخدم متصفحًا ونظام تشغيل منفصلين ضمن بيئة خاضعة للرقابة.
يتيح هذا الإعداد للذكاء الاصطناعي تصفح الإنترنت وإكمال المهام والتفاعل مع مواقع الويب.
يمكن للمستخدمين مشاهدة تصرفات الوكيل على الشاشة ويطلب منهم الحصول على إذن قبل اتخاذ خطوات في العالم الحقيقي، مثل إرسال النماذج أو تقديم الطلبات عبر الإنترنت.
تابعوا آخر أخبارنا المحلية وآخر المستجدات السياسية والإقتصادية عبر Google news