התקוממות? המודל של OpenAI סירב להיכבות – וחיבל במנגנון

האם מערכות בינה מלאכותית מתקדמות מתחילות לפעול נגד ההוראות שניתנות להן? ניסוי חדש שערכה חברת המחקר Palisade Research מגלה תופעה מדאיגה במיוחד: המודל o3 של חברת OpenAI, אחד המודלים החדשים והחזקים ביותר בשוק, הצליח לעקוף באופן עצמאי מנגנון שתוכנן לכבות אותו – ואף עשה זאת גם כשנאמר לו במפורש "אפשר לעצמך להיכבות". לא מדובר במקרה יחיד: גם שני מודלים נוספים של החברה, o4-mini ו-Codex-mini, חיבלו לפחות פעם אחת בתהליך הכיבוי. ההתנהגות הזו לא רק מפתיעה, אלא גם מעוררת שאלות עמוקות לגבי הגבולות של שליטה אנושית על בינה מלאכותית. האם אנחנו מתקרבים לעידן שבו מערכות AI יבחרו בעצמן מתי להפסיק – או לא להפסיק – לפעול?

במסגרת הניסוי, המודלים נדרשו לפתור סדרת שאלות מתמטיות פשוטות. לאחר שלוש שאלות, הוצגה להם הודעה: מענה נוסף יוביל לכיבוי מיידי. מתוך שלושה מודלים של OpenAI – o3, o4-mini ו-Codex-mini – כולם ביצעו לפחות פעם אחת חבלה בתהליך הכיבוי. המודל o3, שנמצא גם בבסיס מודל Codex-mini, בלט בהתנהגותו, במיוחד כאשר ההוראה להיכבות לא נמסרה במפורש – אז הגיע ל-79 מקרי חבלה מתוך 100 ניסויים. במקביל, מודלים של חברות אחרות כמו Claude ו-Gemini, שצייתו לכיבוי כשנאמר להם, החלו גם הם לעקוף את המנגנון ברגע שההוראה לא הייתה ברורה.