רגע לפני אסון: הצבא האמריקני היה שניות ספורות מהשתלטות על ספינה סינית במזרח התיכון, על בסיס דוח מודיעיני שהתגלה כשקרי מהיסוד. הדוח, שהופק בסיוע בינה מלאכותית, קבע כי כלי השיט מוביל רכיבים לתוכנית נשק גרעיני. בפועל, מדובר היה בזיהוי שגוי לחלוטין.
האירוע התרחש באביב האחרון, בעיצומה של המלחמה בין ארה"ב לאיראן. לפי ארבעה גורמים המכירים את הפרטים, ברגע שהדוח הופץ ברחבי הצבא נדלקו נורות אדומות מיידיות. חיילים אמריקנים חמושים נערכו לעלות על הספינה, ולפי שני מקורות נוספים, מטוסים צבאיים כבר המריאו לכיוון היעד.
רק בשלב האחרון, ממש לפני ביצוע המבצע, החליטו גורמים בכירים להעמיק את הבדיקה. או אז התגלה כי הדוח, שנכתב על ידי אנליסט בפיקוד המבצעים המיוחדים, הופק באמצעות צ'אטבוט שזיהה באופן שגוי את המטען שעל הספינה. "הדוח היה שקרי לחלוטין", מסר אחד המקורות. "זה כמעט התחיל מלחמה", הוסיף.
כל פעולה אמריקנית נגד כלי השיט הסיני הייתה עלולה להידרדר תוך רגעים לעימות מזוין ישיר בין שתי המעצמות, ארה"ב וסין. מקורות שהכירו את האירוע הדגישו כי לא היה מדובר בטעות שולית, אלא בכשל שיטתי שכמעט גרר תגובה צבאית בלתי הפיכה.
בירור שנערך לאחר מכן העלה כי האנליסט הזין לצ'אטבוט מידע מודיעיני על מטען הספינה, שמקורו בפיקוד המבצעים המיוחדים של ארה"ב באוקיינוס השקט, ובסיסו בהוואי. לא ברור אם מדובר בכלי בינה מלאכותית מסחרי או במערכת פנימית של הממשל. בכיר אמריקני לשעבר המכיר את המערכות הללו אמר: "הכלים הפנימיים הם ברובם פשוט עותקים של המוצרים המסחריים, עם קצת איפור".
הצ'אטבוט שילב מידע ממקורות גלויים עם מודיעין סודי שנשלף ממאגרי הממשלה, והגיע למסקנה שגויה לגבי טיב החומרים על הספינה. בשלב הבא השתמש האנליסט בבינה מלאכותית פעם נוספת כדי לנסח מהממצאים דוח מודיעיני "רגיל", מהסוג שגורמים בצבא סומכים עליו באופן שוטף, והפיץ אותו הלאה במערכת.
האירוע חושף את הבעייתיות בשילוב המואץ של בינה מלאכותית בצבא ובקהילת המודיעין האמריקנית, תחום שבו נעשה שימוש כמעט בכל שלב, מניתוח כמויות עצומות של מידע גולמי ועד בחירת מטרות לתקיפה. בחודש ינואר האחרון הכריז שר ההגנה האמריקני על "אסטרטגיית האצת הבינה המלאכותית", שנועדה להנגיש את הטכנולוגיה לכל עובדי המשרד, אזרחיים וצבאיים כאחד. "נשחרר ניסויים, נסיר חסמים ביורוקרטיים ונציג את גישת הביצוע הדרושה כדי להבטיח שנוביל בתחום", נאמר בהכרזה.
אלא שלפי גורמים המכירים את הנעשה בשטח, המאמץ מבוזר לגמרי: יחידות שונות משתמשות בכלים שונים, תחת הנחיות ותקני בטיחות שונים, ואין מערכת אחידה לאימות המידע שהכלים מייצרים. "בינה מלאכותית בקביעת מטרות היא בהחלט משהו שהולך ומתרחב, ואין הנחיות ברורות לגבי האופן שבו נוכחות אדם בתהליך תמנע נפגעים אזרחיים או ירי בשוגג על כוחותינו", אמר גורם המכיר את המדיניות הנוכחית.
לדברי אחד המקורות, ה"הזיה" שיצר הכלי במקרה הזה אינה תקרית בודדת. אנליסטים ותיקים, גם כאלה שתומכים בשילוב בינה מלאכותית בצבא, מזהירים כי הטכנולוגיה מפעילה לחץ על צוותים לייצר מודיעין מהר יותר, ובכך פותחת פתח לטעויות חמורות. יש הטוענים כי אנליסטים צעירים שגדלו על הכלים הללו נוטים לתת בהם אמון עיוור. "בינה מלאכותית מאפשרת לך להגיע לרעיון גרוע מהר יותר", סיכם אחד המקורות.
האירוע נחשף בעיצומו של דיון ציבורי נרחב בוושינגטון על הסיכונים שבשילוב בינה מלאכותית בהחלטות צבאיות קריטיות, ולא ברור אם ננקטו צעדים לשינוי הנהלים בעקבותיו.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה