מרקמת מוח אנושי על שבב ועד התחזות למנהיג עולמי

הבינה המלאכותית משנה את פני התעשייה, מחוללת חדשנות ומשפרת תהליכים בקצב חסר תקדים. תחומים מגוונים – מטכנולוגיה ובריאות ועד פיננסים וייצור – מאמצים פתרונות AI כדי לייעל תהליכים, לחזות מגמות וליצור יתרון תחרותי. בפאנל שהתקיים היום (רביעי) באירוע השנתי Tel Aviv Sparks Innovation בשיתוף Cybertech Global הפאנל התקיים בהנחייתה של ג'ניפר שנקר, עורכת המגזין הטכנולוגי – The Innovator בדיון שהוביל לחשוב כיצד ייראה הקשר בין המדינות ובעולם העסקי כאשר הבינה המלאכותית תעמוד בלב קבלת ההחלטות?

ד"ר שלומית ווגמן-רטנר, סמנכ"לית ב-Rapyd ולשעבר ראש הרשות להלבנת הון ומימון טרור:"השימוש לרעה בטכנולוגיות כמו Deepfake והנדסה חברתית עלול להוביל להתחזות וחדירה לחשבונות בנק, הוראות מנכ"ל מזויפות שמעבירות כספים במרמה, זיהוי שיטתי של פרצות אבטחה,והפצת דיסאינפורמציה שיכולה להטות בחירות ולערער יציבות פוליטית. נאומים מזויפים של מנהיגים הם תרחיש ריאלי שמסוגל להצית הסלמה מדינית בין מדינות בתוך רגעים.

לדבריה של ווגמן-רטנר עולמות התשלומים עומדים בפני מהפכה: סוכני AI יבצעו פעולות פיננסיות בשם המשתמשים, יקבלו החלטות השקעה, ויבצעו העברות כספים חוצות גבולות ומטבעות – והכל באמצעות פקודות קוליות ותקשורת בין מכונות, ולא בין בני אדם. בנוסף, עולמות התשלומים Payments עצמם צפויים להשתנות דרמטית בעידן ה AI, שיעברו למתווה פעילות בו סוכני AI יבצעו עבור המשתמשים פעולות פיננסיות, יקבלו החלטות השקעה, העברות כספים מהירות, חוצי גבולות ומטבעות, באמצעות פקודות קוליות ובתקשורת בין מכונות ולא אנשים.

כדי להתמודד עם האיומים, ווגמן-רטנר מבהירה כי יש להפעיל את הבינה המלאכותית עצמה לזיהוי דפוסים חריגים שלא ניתן לזהות באמצעים אנושיים. גופים פיננסיים יידרשו לפתח מערכות חדשניות שיזהו אנומליות, ינטרו מניפולציות חברתיות, ויזהו שימוש זדוני ב-Deepfake.

בקריאה ישירה לתעשייה ולאקדמיה ווגמן-רטנר: "יש להאיץ השקעות בטכנולוגיות AI Safety, שעדיין מדשדשות מאחור לעומת קצב פיתוח היכולות הטכנולוגיות. יש הכרח דחוף ביצירת מסגרת רגולטורית בינלאומית, שתייצר סטנדרטים אחידים שיחייבו גם ממשלות וגם חברות. לצד זה, חיוני לחזק שיתופי פעולה בינלאומיים בין חברות פינטק, רגולטורים, ממשלות וגורמי אכיפה – ולהעלות את מודעות הציבור, להשקיע בחינוך ולהתריע מפני הסכנות שבשימוש לרעה בטכנולוגיות הללו".