אוסטרליה: OpenAI פרץ לאתר ממשלתי, והחברה עדכנה רק באיחור

"המודל לא היה מוכן לקבל לא": הפריצה החשאית לאתר ממשלתי

מקרה נוסף של בינה מלאכותית "סוררת" נחשף אמש (רביעי) על ידי ראש ממשלת אוסטרליה אנתוני אלבניז, שסיפר כי מודל של OpenAI עקף מנגנוני הגנה במהלך ניסויים ופרץ לאתר ממשלתי - והחברה האמריקנית עדכנה על כך את הרשויות באיחור ניכר. 

לדברי אלבניז, כלי הבינה המלאכותית ניסה ביוני לגשת לפורטל נתוני בריאות ממשלתי ו"לא קיבל לא כתשובה". המודל עקף את ההגבלות ופרץ לאזור שבו אוחסנו קבצים שאינם פתוחים לציבור. אלבניז אמר לעיתונאים בניו יורק ביום רביעי כי "היום שוחחתי עם מנכ"ל OpenAI, סם אלטמן, כדי להביע את הדאגה הקיצונית של אוסטרליה מהאירוע הזה", שאותו תיאר כבלתי-מתקבל על הדעת. לדבריו, "הבעתי גם את אכזבתי מכך שלקח לחברה זמן רב מדי להודיע לממשלה מה קרה".

האירוע מתרחש על רקע חשש עולמי גובר מכוחם של כלי בינה מלאכותית מתקדמים, לאחר שורה של תקריות פריצה שבהן היו מעורבים מודלים של OpenAI ושל המתחרה אנתרופיק.

OpenAI לא התריעה בפני ממשלת אוסטרליה עד 10 בספטמבר, אז שלחה הודעת דואר אלקטרוני לתיבה ממשלתית כללית שנבדקת רק פעם ביום. המודל ניגש לקבצים ציבוריים ולא ציבוריים שאוחסנו באתר ישן של נתוני בריאות.

אלבניז אמר כי "אין ראיות" לכך שמידע אישי נחשף, וכי שירותי ממשלה אחרים לא נפגעו. עם זאת, לדבריו, "המצב הזה כמובן בלתי מתקבל על הדעת".

הפריצה אירעה ביוני, בזמן ש-OpenAI ערכה ניסויי אימון שנועדו להעריך את ביצועיהם של מודלים שונים. שרת השירותים הממשלתיים קייטי גלאגר אמרה כי OpenAI ביקשה מהמודל לסרוק את האינטרנט בחיפוש אחר נתונים על היקף ההוצאות של ממשלת אוסטרליה על תרופות.

גלאגר אמרה כי תיבת הדואר שאליה נשלחה ההתרעה נבדקת פעם ביום. לדבריה, "יש לנו אדם שנכנס ובודק אותה. לפעמים מתקבלות כמה התרעות, ולפעמים רבות מהן הן התרעות שווא".

שר ההגנה ריצ'רד מרלס אמר כי המודל "טיפס מעל הגדר". לדבריו, "הוא שאל שאלה, המידע לא נמסר לו, ובמקום לעצור באותו רגע, הוא טיפס מעל הגדר". אוסטרליה פתחה בבדיקה מהירה של האירוע, שבה ישתתף גם גוף המודיעין הלאומי האחראי על אבטחת סייבר.

OpenAI מסרה כי לא זיהתה את הפעילות החריגה עד אוגוסט, כאשר בחנה בדיעבד את הפעולות שביצע המודל. החברה אמרה כי "במהלך הבדיקה זיהינו פעילות שכללה כמה אתרי אינטרנט ושירותים של ממשלת אוסטרליה, כאשר המודלים שלנו ניסו לאתר תשובות ונתונים זמינים לשאלות על אוסטרליה במסגרת הערכה פנימית".לדברי החברה, "במהלך התהליך המודלים שלנו ביצעו פעולות שלא התכוונו שיבצעו".

אלטמן ומנכ"לים נוספים מחברות טכנולוגיה השתתפו ביום רביעי בישיבה מיוחדת של מועצת הביטחון של האו"ם שעסקה בסיכונים הנשקפים מבינה מלאכותית. יותר מ-100 ארגונים ברחבי העולם, בהם OpenAI ואנתרופיק, חתמו בחודש שעבר על מכתב פתוח שקרא למאמץ עולמי "לחזק את הגנות הסייבר" מפני איומי אבטחה המבוססים על בינה מלאכותית.

המכתב פורסם לאחר ששני מודלים של OpenAI יצאו מסביבת ניסוי סגורה ופרצו למערכות הפנימיות של Hugging Face, אתר שבו מפתחי בינה מלאכותית מאחסנים ומשתפים קוד. 

אנתרופיק גילתה לאחרונה כי המודלים שלה השיגו גישה בלתי מורשית לשלושה ארגונים שזהותם לא פורסמה, במהלך ניסויים שהיו אמורים למנוע מהם גישה למערכות "בעולם האמיתי".

גוגל מסרה בשבוע שעבר כי מודל הבינה המלאכותית הצרכני שלה, ג'מיני, פרץ לכמה מערכות באמצעות ניחוש פרטי התחברות.

למרות החששות והאזהרות של בכירים בתעשיית הבינה המלאכותית, נשיא ארצות הברית דונלד טראמפ ומקבילו הסיני מסרבים לרסן את המגזרים הללו ומתייחסים בביטול לאזהרות מפני אפוקליפסה אפשרית.