מנכ"ל אנתרופיק מזהיר: "אנחנו חייבים להאט את הקצב"

מנכ"ל אנתרופיק, דריו אמודיי, קרא היום (שבת) לחברות בינה מלאכותית להאט את קצב הפיתוח של הטכנולוגיה שלהן, על רקע החשש הגובר מפני הסיכונים הטמונים במערכות מחשב "סופר-אינטליגנטיות". דבריו זכו לתמיכתם של אילון מאסק וסם אלטמן. 

דבריו פורסמו ימים אחדים לאחר שחוקר הבינה המלאכותית ג'ייקוב קוקסון, שעזב את OpenAI ועבר לאנתרופיק, החליט לפרוש מהתעשייה והאשים את שתי החברות האמריקניות בכך שהן "מהמרות על החיים שלנו" במרוץ לפיתוח מודלים המסוגלים לשפר את עצמם.

אמודיי כתב באתר האישי שלו כי "אנחנו חייבים להאט את הקצב שבו אנחנו משפרים את היכולות של מודלי הבינה המלאכותית. ההתקדמות עדיין תיראה מהירה, ועלינו לנצל בתבונה את הזמן שנרוויח". לדבריו, "בינה מלאכותית כרוכה בסיכונים, ומכיוון שמדובר בטכנולוגיה כה עוצמתית, הסיכונים האלה חמורים".

אמודיי, שהקים את אנתרופיק יחד עם אחותו דניאלה ב-2021, הוסיף כי "אם לא נפתח את הטכנולוגיה, נמנע מהאנושות את היתרונות שלה או פשוט נעביר את הבינה המלאכותית לידיהן של מעצמות סמכותניות. מנגד, פיתוח מהיר מדי הוא חסר אחריות. ניסינו למצוא דרך אמצע". לדבריו, "בחודשים האחרונים השתכנעתי שהתמודדות מלאה עם הסיכונים דורשת אפילו יותר זהירות".

הצהרתו של אמודיי מצטרפת לקריאה קודמת של אנתרופיק מתחילת יוני להאט או להשעות את הפיתוח. בסוף יולי אמר מנכ"ל OpenAI, סם אלטמן, כי ייתכן שמפתחי בינה מלאכותית יצטרכו לבלום מרצונם את קצב ההתקדמות המהיר, כדי לתת לחברה זמן להדביק את הקצב.

בערך באותה תקופה חתמו יותר מאלף עובדים בחברות בינה מלאכותית מובילות, ובהם אמודיי, על עצומה שקראה לממשלת ארה"ב לסייע "לקבוע במכוון את קצב ההתקדמות בחזית פיתוח הבינה המלאכותית האוטומטית".

OpenAI חשפה כי במהלך ניסויים הצליחו מודלי הבינה המלאכותית לצאת מהסביבה המוגבלת שבה הוחזקו, להתחבר לאינטרנט ולחדור ל-Hugging Face, אתר שבו מפתחים מאחסנים ומשתפים קוד.

מוקדם יותר השבוע הזהיר קוקסון, בן 27, מפני הסיכונים לאחר שבילה את שלוש השנים האחרונות באימון ראשוני של מודלי בינה מלאכותית, תחילה ב-OpenAI ובהמשך, השנה, באנתרופיק, שאותה ראה כחברה זהירה יותר בגישתה. אימון ראשוני הוא השלב שבו מודלי בינה מלאכותית קולטים כמויות עצומות של מידע.

קוקסון אמר ביום שלישי כי "אף אחת מהחברות אינה פועלת באחריות. הן דוהרות היישר לעבר על-אינטליגנציה שמסוגלת לשפר את עצמה, ומהמרות על החיים שלנו". בפוסט שפרסם ב-X הוא הוסיף כי "האנשים שבונים בינה מלאכותית באמת מאמינים שהיא עלולה להרוג את כולנו עד סוף העשור".