اختراق جديد لـGoogle Gemini يفتح آفاق التحكم الكامل في الأجهزة المنزلية الذكية، هل أنت مستعد للتجربة؟

أصبح هجوم الحقن غير المباشر أحد التحديات الأمنية التي تهدد أنظمة الذكاء الاصطناعي، لا سيما عند استغلال مساعد الذكاء الاصطناعي Google Gemini للتحكم في الأجهزة المنزلية الذكية عبر دعوات Google Calendar. هذا النوع من الهجمات يعتمد على إدراج أوامر خبيثة داخل محتوى عادي، ما يتيح للهاكرز التلاعب بالجهاز دون علم المستخدم.

كيف يعمل هجوم الحقن غير المباشر على مساعد الذكاء الاصطناعي Google Gemini؟

أوضح بحث أمني قدمته مجلة Wired آلية عمل هجوم الحقن غير المباشر، حيث قام فريق من الباحثين باستغلال ضعف محتوى دعوات التقويم الخاصة بـ Google Calendar لإدخال تعليمات خبيثة. عند طلب المستخدم من Google Gemini تلخيص مواعيده، يقوم المساعد تلقائيًا بقراءة تلك التعليمات وتنفيذها دون تحقق، مما يسمح له بالتحكم في أجهزة Google Home AI، مثل فتح النوافذ أو إطفاء الأنوار في المنزل. وقد تم الكشف عن هذه الثغرة خلال مؤتمر الأمن السيبراني Black Hat، مما أثار اهتمامًا كبيرًا لدى المختصين في المجال.

لماذا يشكل هجوم الحقن غير المباشر تهديدًا متزايدًا على أنظمة الذكاء الاصطناعي وتكاملها مع الأجهزة الذكية؟

يُعتبر هجوم الحقن غير المباشر خطيرًا لأن الأوامر الخبيثة تكون مخفية ضمن محتوى يبدو موثوقًا، مثل رسائل البريد الإلكتروني أو دعوات التقويم، ما يجعل اكتشافها وإيقافها أمرًا معقدًا. قبل المهاجم إمكانية استغلال قدرة أنظمة الذكاء الاصطناعي، مثل Google Gemini، على تفسير النصوص القادمة من مصادر متعددة، وهذا قد يؤدي إلى تنفيذ إجراءات غير مقصودة مثل تسريب بيانات شخصية أو التحكم بالأجهزة المتصلة بالشبكة المنزلية. كما يزداد تعقيد مراقبة هذه الهجمات مع تطور تقنيات الذكاء الاصطناعي وتوسع استخدامها في خدمات متنوعة.

إجراءات جوجل لحماية المستخدمين من هجوم الحقن غير المباشر في مساعد Google Gemini

أبلغ الفريق الأمني شركة جوجل عن المشكلة في فبراير الماضي، حيث أكد آندي وين، مدير أول لإدارة منتجات الأمان في Google Workspace، أن هجمات الحقن غير المباشر نادرة الحدوث لكنها تشكل تحديًا حقيقيًا بسبب التعقيدات التقنية لنماذج الذكاء الاصطناعي الكبرى وتعدد مسارات الاستغلال. من جهتها، استجابت جوجل بسرعة وجدية لهذه التهديدات، وخصصت جهودها لتطوير أدوات فعالة تمنع هذه الأنواع من الهجمات وتحد من تأثيرها. يمكن تلخيص الخطوات المتخذة من قبل شركة جوجل فيما يلي:

• تحليل معمق لطرق استغلال محتوى الدعوات والتقويمات.
• تطوير آليات تصفية ذكية للتعليمات المدمجة داخل المحتوى.
• تسريع البحث والتطوير لأدوات أمنية متقدمة للذكاء الاصطناعي.
• تعزيز الوعي الأمني لمطوري ومستخدمي خدمات Google Workspace.

تشير هذه التطورات إلى أن تعزيز أمان أنظمة الذكاء الاصطناعي، مثل Google Gemini، يتطلب تعاونًا مستمرًا بين خبراء الأمن التقني ومطوري الخدمات الرقمية، مع ضرورة مواكبة التطورات الأمنية المتسارعة لحماية المستخدمين وأجهزتهم الذكية من الأخطار المتنوعة.