אחד מסוגי ההונאות שצוברים תאוצה בשנים האחרונות הוא פישינג (phishing). במתקפות מסוג זה, נוכלים או האקרים מתחזים לגורם מוסמך כמו הבנק שלכם, חברת האשראי ואפילו גורם ממשלתי ושולחים הודעת טקסט שנראית לכאורה מטעמם. אם בעבר היה קל להבחין בהודעות שכאלו בעקבות ניסוח עילג או שגיאות כתיב, הרי שכיום, בחסות ה-AI, קל להתחזות וקבל תוצאה זהה למקור, ללא סימן מחשיד כלשהו.
כתוצאה מכך, ישראלים רבים קיבלו בשנה האחרונה הודעות עם לינק לאתר שנראה זהה לאתר של הגורם הרשמי, חשפו את פרטי האשראי או פרטי הגישה לחשבון – וגילו תוך זמן קצר שבוצעו פעולות בשמם. במקרים אחרים, נוכלים פרסמו הודעה למכירת מוצר כלשהו, יצרו קשר עם קונה ולאחר התשלום שלחו לו הודעה מזויפת מטעם הבנק שלפיהן הכסף לא עבר. הלקוח ביצע את הפעולה בשנית – וחווה עוקץ כפול: המוצר מעולם לא הגיע אליו והוא שילם תמורתו סכום כפול.