ثغرة Gemini
أكتشف باحثون ثغرة في Gemini، وتسمح ثغرة Gemini للمخترقين باستغلال ميزة تلخيص البريد الإلكتروني لشن هجمات تصيد احتيالي (phishing) متطورة.
تكمن خطورة ثغرة Gemini في قدرة المهاجمين على خداع نماذج الذكاء الاصطناعي لإنشاء ملخصات تبدو مشروعة، لكنها تتضمن تعليمات خفية تقود المستخدمين إلى مواقع احتيالية.
كيف تعمل ثغرة Gemini؟
تعتمد ثغرة ثغرة Gemini، التي اكتشفها الباحث ماركو فيغيروا، مدير برامج مكافآت الأخطاء في الذكاء الاصطناعي التوليدي لدى موزيلا (GenAI Bug Bounty Programs Manager at Mozilla) وتم الكشف عنها عبر برنامج مكافآت الأخطاء Odin التابع لموزيلا، على تقنية مبتكرة لإخفاء التعليمات البرمجية.
يقوم المهاجم بإنشاء بريد إلكتروني يحتوي على توجيهات غير مرئية لـ Gemini، حيث يتم إخفاء التعليمات الخبيثة في نص رسالة البريد الإلكتروني باستخدام كود HTML وCSS لضبط حجم الخط إلى صفر أو لجعله أبيض اللون، مما يجعله غير مرئي للمستخدم في Gmail.
نظرًا لعدم وجود أي مرفقات أو روابط مباشرة في الرسالة، تزداد احتمالية وصول هذا البريد الإلكتروني إلى صندوق الوارد الخاص بالضحية دون أن يتم حجبه بواسطة مرشحات البريد العشوائي.
بمجرد أن يطلب المستخدم من Gemini تلخيص البريد الإلكتروني، يقوم نظام الذكاء الاصطناعي بمعالجة التوجيه الخفي والامتثال له، مما يؤدي إلى إنشاء ملخص يتضمن تحذيرات أو تعليمات زائفة تدفع المستخدم لزيارة مواقع تصيد أو الاتصال بأرقام هواتف احتيالية.
استجابة قوقل وتوصيات أمنية بشأن ثغرة Gemini
أشارت قوقل، في ردها على الاستفسارات، إلى منشور سابق على مدونتها حول الإجراءات الأمنية ضد هجمات حقن الأوامر (prompt injection attacks). وصرح متحدث باسم الشركة بأن قوقل “تعمل باستمرار على تعزيز دفاعاتها القوية بالفعل من خلال تدريبات الفرق الحمراء التي تدرب نماذجنا على الدفاع ضد هذه الأنواع من الهجمات العدائية”.
ومع ذلك، أقرت الشركة بأنها “لم ترَ أي دليل على وقوع حوادث تم فيها التلاعب بـ Gemini بالطريقة التي عرضها فيغيروا”.
هذه الثغرة تسلط الضوء على تحديات الأمن السيبراني المتزايدة مع انتشار أدوات الذكاء الاصطناعي التوليدي. لذا، يُنصح المستخدمون بالحذر الشديد عند التعامل مع الملخصات التي تولدها أنظمة الذكاء الاصطناعي، خاصة إذا تضمنت طلبات عاجلة لمعلومات شخصية أو تفاصيل تسجيل الدخول.
نصائح للمستخدمين وخبراء الأمن للحماية من ثغرة Gemini
التحقق دائمًا: لا تعتمد بشكل كامل على ملخصات الذكاء الاصطناعي للمعلومات الحساسة أو التحذيرات الأمنية.
الحذر من الطلبات العاجلة: أي رسالة تطلب منك اتخاذ إجراءات عاجلة (مثل تحديث كلمة مرورك فورًا أو الاتصال برقم دعم) يجب أن تُعامَل بشك.
التوعية المستمرة: يجب على الشركات والمؤسسات توعية موظفيها بمخاطر هجمات التصيد الجديدة التي تستغل الذكاء الاصطناعي.
فحص الـ HTML: لخبراء الأمن، يمكن أن يساعد فحص كود HTML للرسائل الواردة عن وجود تعليمات خفية أو تنسيقات غير طبيعية.
هذه الثغرة تؤكد الحاجة الملحة إلى تطوير دفاعات أكثر ذكاءً وقدرة على التكيف مع التقنيات الخبيثة التي تستغل قدرات الذكاء الاصطناعي المتزايدة.
