ה-AI המציא מודיעין - וארה״ב כמעט פתחה במלחמה נגד סין

זה היה בשיאה של המלחמה עם איראן, כשארצות הברית הייתה דרוכה למנוע כל סיוע לטהראן – במיוחד כזה הנוגע לתכנית הגרעין שלה. הדוח המודיעני היה מטלטל – ספינה סינית עושה דרכה אל המזרח התיכון עם רכיבים הקשורים לתכנית הגרעין האיראנית. הצבא האמריקני כבר החל להידרך: חיילים חמושים נערכו לפשוט על הספינה ומטוסים כבר הוזנקו לאוויר.

כל מבצע שכזה עשוי היה להצית עימות נרחב יותר עם בייג'ינג. ורק ברגע האחרון, התברר לפיקוד הבכיר – הדוח הזה נשען על ניתוח שגוי של בינה מלאכותית. הפעולה בוטלה, אך זו הייתה דוגמה נוספת לסכנות הטמונות בהסתמכות על המערכות הללו, עד כדי גלישה לקונפליקט בין שתי המעצמות החזקות בעולם.

הדוח, לפי מקור אחד שצוטט בכתבה של CNN שחשפה את האירוע הדרמטי, היה "שגוי לחלוטין" – אבל הוא "כמעט שהתחיל מלחמה". השתלשלות האירועים מקורה בשאלה שכתב אנליסט לאחד ממנועי הבינה לגבי מידע מודיעני סביב המשא שנושאת עמה הספינה, שמקורו בפיקוד המבצעים המיוחדים של הצבא האמריקני באזור הפסיפיק, שבסיסו בהוואי.

לא היה ברור אם הצ'ט שבו נעשה שימוש זמין לכלל ציבור או שמדובר בכלי שפותח עבור ממשלת ארה"ב. בכיר אמריקני לשעבר, שמכיר את מערכות הבינה המלאכותית שבהן משתמשים אנליסטים צבאיים ומודיעיניים, אמר ל-CNN כי "הכלים הפנימיים הם ברובם פשוט העתקים של המוצרים המסחריים, עם קצת איפור".

המערכת שילבה מודיעין ממקורות גלויים עם מודיעין אותות מסווג שהיה מצוי במאגרי הממשלה, והגיעה למסקנה הגורלית בנוגע לחומר שהספינה נשאה. לאחר מכן השתמש האנליסט שוב בבינה מלאכותית כדי לעבד את הממצאים לדוח מודיעיני בפורמט המקובל, מהסוג שעליו מסתמכים גורמים צבאיים, והפיץ אותו. לא ברור מה היה המטען שנשאה אותה ספינה.

פיקוד המבצעים המיוחדים של ארה"ב באזור האוקיינוס השקט והפנטגון לא השיבו לבקשה לתגובה.

הנימוק לאימוץ המהיר של בינה מלאכותית הוא שהיא יכולה לסייע לצבא לקבל החלטות בשדה הקרב, כמו אילו מטרות לתקוף או לאן להעביר נכסים צבאיים, במהירות רבה יותר.

גורמים אמריקניים אומרים כי ארה"ב אינה יכולה להרשות לעצמה לפגר בשילוב בינה מלאכותית, מחשש שביום מן הימים תיאלץ להילחם בסין או ביריבה אחרת שתוכל להקדים אותה בצעד אחד.

שר ההגנה פיט הגסת' פרסם בינואר את "אסטרטגיית האצת הבינה המלאכותית" של משרדו, שנועדה לזרז את השימוש של הצבא בטכנולוגיה.

עם זאת, אין כיום מערכת אחידה של כללים שקובעת כיצד ארה"ב מאמתת את המידע שמייצרים הכלים האלה, וריבוי מערכות הבינה המלאכותית שמופעלות בידי גופים שונים בצבא ובקהילת המודיעין גורם לכך שרמת האמינות והיכולות שלהן משתנות במידה ניכרת.

בשבועות האחרונים מתקיים בוושינגטון דיון אינטנסיבי בנושא בינה מלאכותית, בעקבות שורת אזהרות חמורות מצד מהנדסים ומנכ"לים בעמק הסיליקון בנוגע לאפשרות שמערכות בינה מלאכותית ישתחררו ממגבלות אנושיות, עם השלכות שעלולות אף לאיים על הציוויליזציה.

הנשיא דונלד טראמפ התייחס בביטול לאזהרות הללו, וטען שהוא עצמו הבקר האולטימטיבי של אותן מערכות. ואולם, התקרית עם הספינה הסינית מדגישה סיכון אחר ומיידי יותר: האפשרות שבני אדם יקבלו החלטות הרסניות על סמך מידע שגוי או מטעה שנוצר בידי בינה מלאכותית או מערכות אוטומטיות אחרות.

מקורות אמרו כי הצבא פונה במהירות לבינה מלאכותית גם לצורכי בחירת מטרות, תחום שטומן בחובו סיכון ברור לטעויות קטלניות, כפי שקרה לא אחת במלחמה עם איראן.

מקור נוסף שמכיר את המדיניות הנוכחית של הצבא אמר כי "השימוש בבינה מלאכותית לבחירת מטרות בהחלט הולך ומתרחב, ואין הנחיות של ממש שמסבירות כיצד נוכחות של אדם בתהליך תמנע פגיעה באזרחים או ירי על כוחות ידידותיים".

אחד המקורות אמר כי ה"הזיה" מהסוג שיצר הכלי שבו השתמש האנליסט במקרה הזה אינה אירוע חריג בקהילת המודיעין מאז שהכלים האלה החלו להתפשט ברחבי הממשל.

כמה מקורות אמרו ל-CNN בקרב אנשי מודיעין ותיקים, גם כאלה שתומכים באופן כללי בשימוש בבינה מלאכותית בצבא, קיימת דאגה שהטכנולוגיה מפעילה לחץ על אנליסטים לייצר ולהפיץ מודיעין במהירות רבה יותר, ובכך מגדילה את הסיכון לטעויות.

לדבריהם, אנליסטים צעירים במיוחד רגילים יותר לעבוד עם הכלים האלה ולכן גם נוטים יותר לתת בהם אמון ללא ביקורת מספקת.

אחד המקורות סיכם: "בינה מלאכותית מאפשרת לך להגיע לרעיון גרוע מהר יותר".