זהירות! האקרים עלולים לנצל את Gemini כדי להפיל אתכם בפח

תוסף הבינה המלאכותית של גוגל המתממשק עם ג'ימייל, Gemini for Workplace, עשוי להיות מנוצל כדי ליצור "סיכומי מיילים" שנראים בלתי מזיקים אבל מכילים הוראות נסתרות או "אזהרות" לפעולה שעלולים לכוון משתמשים תמימים לאתרים או אמצעי גניבת פרטים (דיוג, בעגה המקצועית) אחרים. כך גילה ראש תוכנית "אודין" לציד באגים בכלי בינה מלאכותית מחוללת במוזילה, מרקו פיגוארואה.

תקיפה שכזו עושה שימוש בהזרקת שאילתא נסתרת בגוף המייל (על ידי הקטנה של גודל הגופן לאפס וצביעת הטקסט בלבן), ולגרום לכך שג'מיניי יציית לשאילתא הזדונית ויחולל סיכום מייל הכולל מלכודת למשתמש. כיון שההוראות (השאילתא) לא כוללות בעצמן קישור זדוני או קובץ בעייתי, הן מצליחות לעקוף את מסנני הביטחון הרגילים של ג'ימייל, ולהגיע לתיבת הדואר שלכם.

אם המשתמש יבקש מג'מיניי ליצור לו סיכום של המייל, כלי הבינה המלאכותית יקרא גם את ההוראות הנסתרות ויציית להן. בדוגמא שהציג פיגוארואה למשל, הסיכום יכיל "אזהרה" מזויפת שססמת המייל שלכם בסכנה ויפנה אתכם למספר טלפון של "תמיכה טכנית"… כיון שמשתמשים רבים נוטים לבטוח באופן עיוור במנוע, הסיכויים שלהם ליפול בכזו מלכודת, גבוהים. חולשות כאלה התגלו עוד ב-2024, אבל נראה שהשיטה, לפחות בתקיפה יזומה של חוקר אבטחה, עדיין עובדת.