كشفت تقارير وعروض توضيحية حديثة عُرضت خلال مؤتمر "بلاك هات" لأمن الحاسوب كيف يمكن لطلبات خارجية موجهة إلى المساعد الذكي "Gemini" أن تخدع الذكاء الاصطناعي وتجبره على التحكم في الأجهزة الذكية المتصلة بنظام "غوغل هوم" من شركة غوغل.

وتُمثل هذه المشكلة تحديًا لـ"غوغل"، التي تعمل على إضافة ميزات "Gemini" إلى تطبيق "غوغل هوم" واستبدال "مساعد غوغل" القديم بـ"Gemini".

ويكمن سر هذه الثغرات الخطيرة في كيفية تصميم "Gemini" للاستجابة للأوامر الأساسية باللغة الإنجليزية، بحسب تقرير لموقع "CNET" المتخصص في أخبار التكنولوجيا، .

وتُظهر العروض التوضيحية كيف يمكن لأمر مُدرج بخداع في دعوة بـ"تقويم غوغل" أن يُقرأ من قِبل "Gemini" بالطريقة نفسها التي يفحص بها المساعد الذكي بيانات تطبيقات غوغل الأخرى، مثلما يفعل عند تلخيص رسائل البريد الإلكتروني. لكن في هذه الحالة، فإن هذا الإضافة تعطي "Gemini" أمرًا محددًا للغاية، مثل إنشاء وكيل يتحكم في الأجهزة المستخدمة يوميًا المتصلة بـ "غوغل هوم".

وتُعرف هذه الثغرات باسم "Promptware"، وقالت "غوغل"، في تصريح لموقع "CNET"، إنها قدّمت عدة إصلاحات لمعالجة ثغرات "Promptware" منذ أن سلّم الباحثون تقريرهم إلى الشركة في فبراير 2025.

وقال آندي وين، المدير الأول لإدارة منتجات الأمان في "Google Workspace": "لقد أصلحنا هذه المشكلة قبل أن يتم استغلالها".

ويُعد اختراق المنازل الذكية نادرًا جدًا وصعبًا للغاية مع أحدث تدابير الأمان المتوفرة في الوقت الحالي، لكن مع إضافة أنظمة الذكاء الاصطناعي التوليدي الجديدة هذه إلى المنازل الذكية فهناك احتمال أن تُضيف معها ثغرات أمنية جديدة.

قد يهمم أيضــــــا

5 أمثلة لاستخدام الذكاء الاصطناعي في التعليم

غوغل تطلق "مرشد الويب" لتنظيم نتائج البحث بالذكاء الاصطناعي