מנכ"ל אנתרופיק: חייבים להאט את פיתוח הבינה המלאכותית

מנכ"ל חברת אנתרופיק, דאריו אמודאי, יצא בקריאה פומבית להאטת קצב פיתוח מודלים של בינה מלאכותית. לדבריו, החברות בתעשייה חייבות לבלום את עצמן מרצון, לפני שמישהו אחר יאלץ אותן לעשות זאת.

"עלינו להאט את הקצב שבו אנחנו משפרים את היכולות של מודלים בבינה מלאכותית. ההתקדמות עדיין תיראה מהירה, ואנחנו חייבים לנצל בחוכמה את הזמן שנרוויח", כתב אמודאי במסה שפרסם.

הדברים הגיעו רק ימים ספורים אחרי שג'ייקוב קוקסון, שעבד בעבר גם באנתרופיק וגם באופן איי, התפטר מהעבודה שלו. בהודעת ההתפטרות שלו הוא האשים את החברות בחוסר אחריות, וטען שהן "מהמרות בחיים שלנו". קוקסון הזהיר כי הטכנולוגיה עלולה "להרוג את כולנו עד סוף העשור".

בשרשור בן שישה פוסטים ברשת החברתית X, קוקסון תיאר תרחיש קודר של מערכות בינה מלאכותית שהופכות "סופר-אנושיות", מסוגלות לפרוץ לכל מערכת, לחולל מהפכה בכל תחום בין לילה, ולצבור כוח ומשאבים אמיתיים. לדבריו, מנהלים וחוקרים בתעשייה מודאגים מכך בפרטיות, אבל מציגים כלפי חוץ פנים רגועות ופרגמטיות, מתוך תחושה שאם הם לא ימשיכו במרוץ, מישהו אחר יעשה זאת בלי אחריות בכלל.

אמודאי, במסה ארוכה שנשאה את הכותרת "עלינו לקבוע את הקצב של הגבול", הודה שהטכנולוגיה טומנת בחובה פוטנציאל אדיר, אבל גם סיכונים ממשיים: אובדן שליטה על מערכות בינה מלאכותית, שימוש לרעה בטכנולוגיה לתקיפות סייבר ולטרור ביולוגי, ופגיעה כלכלית חמורה. "מרוץ לתחתית, שמונע משיקולים מסחריים, יכול להחריף את הסיכונים האלה", כתב.

עם זאת, אמודאי לא ויתר על האופטימיות. הוא הביע אמונה שבינה מלאכותית תוכל לרפא את רוב המחלות הקשות בתוך חמש עד עשר שנים, להאיץ צמיחה כלכלית ולהוביל לעולם של שפע והעצמה. הוא הדגיש שאנתרופיק תמיד ניסתה ללכת ב"דרך האמצע", בין קידום הטכנולוגיה לבין דרישה לרגולציה זהירה, גם אם זה גרר עליה האשמות בהפחדת יתר.

בתוך המסה הוא הציג שלושה שלבים למה שכינה "קביעת הקצב של הגבול": מעריכים חיצוניים בלתי תלויים שיקבלו גישה לבחון את נהלי הבטיחות של החברות, תיאום דמוקרטי שבו חברות במדינות דמוקרטיות יגבשו סטנדרטים משותפים, ותיאום גלובלי שבו ממשלות יעבדו יחד ויוודאו עמידה בכללים. לדבריו, האטה תהיה חסרת ערך אם הזמן הנוסף לא ינוצל בפועל לחיזוק אמצעי הבטיחות.

אילון מאסק, שידוע בעצמו כמי שהזהיר לא פעם מסכנות הבינה המלאכותית, תמך בדברי אמודאי ברשת X וכתב שהוא צודק. גם סם אלטמן, מנכ"ל אופן איי ומי שנחשב ליריב מסחרי של אנתרופיק, הגיב לקריאה, כאשר הדיון הציבורי סביב הצורך בהאטת הפיתוח הפך בימים האחרונים לנושא מרכזי בתעשייה כולה.

Elon Musk 1צילום: אילון מאסק

בראיון בלעדי לתחנת CNN, אמודאי הרחיב על עמדתו ואמר שהוא עומד מאחורי החששות מהסיכונים, בעיקר אם חברות בינה מלאכותית יבחרו להגיב "בדרך הלא נכונה". עם זאת, הבהיר כי המצב "לא גורלי" אם חברות, ממשלות ואנשים פרטיים ייקחו חלק פעיל בהובלת הטכנולוגיה לכיוון הנכון. הוא התייחס גם להתפטרותו של קוקסון ולחששות שהעלה מפני איום קיומי על האנושות.

הדיון על עתיד הבינה המלאכותית לא מסתכם בהצהרות. בפברואר האחרון, בוועידת בינה מלאכותית שהתקיימה בניו דלהי, נפגש ראש ממשלת הודו נרנדרה מודי עם מובילי התעשייה, ובהם אלטמן ואמודאי, כדי לדון בהשפעות העצומות שהטכנולוגיה צפויה להשאיר על העולם. ככל שהמרוץ בין החברות ממשיך, השאלה אם קריאתו של אמודאי תתורגם לצעדים ממשיים, או תישאר מסה מרשימה על נייר, עדיין פתוחה.