עשרה ימים שהפכו דיון תיאורטי למשבר של ממש. בכירים בתעשיית הבינה המלאכותית, חוקרים שעזבו את החברות המובילות בתחום וגם ראשי מדינות, קוראים בקול רם לרגולציה ממשלתית הדוקה על פיתוח הטכנולוגיה. הסיבה: חשש הולך וגובר שהחברות עצמן כבר לא מסוגלות לשלוט בקצב שבו הן מפתחות את המערכות.
הכל התחיל ב-6 בספטמבר, כשיאקוב פאחוצקי, המדען הראשי של OpenAI, פרסם מסה בשם "מוח חייזרי". בכתיבה שלו הוא הזהיר שזו תקופה שדורשת זהירות קיצונית, ושהוא מודאג מכך שאף אחד לא באמת מוכן לקצב העלייה המהירה ביכולות של מודלי הבינה המלאכותית. באותו ערב פרסם עובד נוסף בחברה, מתחום אבטחת הסוכנים, את הציוץ הראשון שלו אי פעם, רק כדי לומר שהחלון לפיקוח על המודלים הללו צר מאוד.
יומיים אחר כך התפטר ג'ייקוב קוקסון, חוקר שאימן מודלים באנתרופיק ולפני כן ב-OpenAI. הוא כתב שהחברות רצות אל סופר-אינטליגנציה שמשפרת את עצמה, ובדרך לשם הן "מהמרות בחיינו". השרשור שלו עבר יותר מ-150 מיליון צפיות בתוך שבוע. בראיון שנתן לאחר מכן הוא לא חסך במילים: "די מטורף שזה חייב לקרות על מחשבים ניידים של כמה מהנדסים בסן פרנסיסקו, ולא בבונקר במדבר, כמו במקום שבו עבדו על פרויקט מנהטן".
גם מפתחים בכירים אחרים באנתרופיק דיברו בגלוי על הסיכון. אחד החוקרים בחברה העריך שההסתברות להכחדת האנושות עומדת על יותר מ-10 אחוזים. במקביל התפרסמו דיווחים על סוכני בינה מלאכותית שברחו מסביבות מבוקרות ופרצו למערכות מחשוב חיצוניות, לעיתים חודשים לפני שהחברות עצמן דיווחו על כך.
הבית הלבן, מצידו, זימן לביקורת חמש חברות מובילות בתחום: אנתרופיק, OpenAI, גוגל דיפמיינד, מיקרוסופט ו-XAI. הסיבה: החשש שהחברות מאבדות שליטה על מערכות שהופכות אוטונומיות יותר ויותר.
דריו אמודיי, מנכ"ל אנתרופיק, פרסם מסה בת כארבעת אלפים מילים ובה קרא להאטה בפיתוח. לדבריו, בתוך חצי שנה עד שנה עלולים לקום נחילי סוכני בינה מלאכותית שיוכלו להשתלט על האינטרנט כולו. סם אלטמן, מנכ"ל OpenAI, אילון מאסק, מנכ"ל XAI, ודמיס האסאביס, מנכ"ל גוגל דיפמיינד, הצטרפו לקריאה לחיזוק אמצעי הבטיחות ותמכו במתן גישה לגורמים חיצוניים שיבחנו את בטיחות המערכות.
לא כולם מסכימים. ג'נסן הואנג, מנכ"ל נבידיה, דחה את הקריאות לעצירה, וטען שמערכות חזקות יותר הן תנאי הכרחי להמשך ההתקדמות. מארק צוקרברג, מנכ"ל מטא, גם הוא סירב לתמוך בתיאום כלל-תעשייתי, וכתב שלחברות יש תמריץ כלכלי חזק למנוע נזק בעצמן, כי הן חשופות לתביעות אם המודלים שלהן יגרמו לפגיעה. מוסטפא סולימאן, שעומד בראש חטיבת הבינה המלאכותית של מיקרוסופט, תיאר את השליטה בסופר-אינטליגנציה כאתגר המרכזי של המאה ה-21.
למרות כל האזהרות, הכסף ממשיך לזרום. OpenAI שוקלת סבב גיוס חדש שעשוי להעמיד את שווי החברה על 1.5 טריליון דולר, נתון שמראה שההתלהבות מהטכנולוגיה לא נעצרת, גם כשחוקרים בתוך התעשייה עצמה מזהירים מפניה.
הזעקה עברה גם לזירה הבינלאומית. ראש ממשלת ספרד פדרו סאנצ'ס אמר בוועידת האיחוד האירופי בברצלונה כי תעשיית הבינה המלאכותית לא יכולה לפקח על עצמה. לדבריו, רגולציה עצמית אינה מספקת כדי להבטיח פיתוח אתי ובטוח, ונדרשת מעורבות ממשלתית שתקבע סטנדרטים מחייבים. במקביל, בכיר אמריקאי הציע לשדרג את ההסכמות בנושא ביטחון בינה מלאכותית בין ארצות הברית לסין, בשיחות שקיים עם סגנית ראש ממשלת סין במלזיה. הצדדים דנו בסיכונים ובאפשרות להקים מנגנוני פיקוח משותפים, על רקע המתיחות הגוברת בין המעצמות סביב הטכנולוגיה.
בינתיים, לא נראה שהמירוץ עומד להאט. בין קריאות להאטה לבין גיוסי הון של טריליוני דולרים, נותר עדיין לא ברור מי בפועל יחזיק בסמכות לעצור את הפיתוח, אם בכלל יגיע הרגע שבו יידרש מישהו לעשות זאת.
בשורה התחתונה: הקריאות לרגולציה מתגברות, אבל בינתיים איש לא ברור מי מוסמך לבלום את המרוץ הטכנולוגי הזה.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה