מנכ"ל OpenAI, סם אלטמן, נשא דברים נדירים בפני מועצת הביטחון של האו"ם, בדיון מיוחד שהוקדש כולו לסכנות הגלומות בבינה מלאכותית. הדיון, שהתקיים במטה הארגון בניו יורק, כינס יחד את בכירי חברות ה-AI המובילות בעולם מול נציגי המדינות החברות במועצה, במה שמסמן הכרה רשמית של הקהילה הבינלאומית בסיכון הביטחוני שהטכנולוגיה מציבה.
אלטמן, שעומד בראש אחת מהחברות המשפיעות ביותר בתחום הבינה המלאכותית, אמר במפורש כי הכוח לקבוע את עתיד הטכנולוגיה לא יכול להישאר בידי גורם פרטי אחד. "ההחלטות החשובות האלה לא יכולות להישאר בידי מעבדות בסן פרנסיסקו בלבד", אמר בפני נציגי המדינות, בהתייחסות ישירה למרכזי הפיתוח של חברות הבינה המלאכותית הגדולות הממוקמים בעמק הסיליקון.
לצידו של אלטמן, גם ראש חברת Anthropic, המתחרה המרכזית של OpenAI, נשא דברים חריפים לא פחות. הוא הזהיר את המועצה כי מערכות בינה מלאכותית שלא ינוהלו כראוי עלולות להוות סכנה של ממש לאנושות כולה. מדובר באזהרה נדירה מפי מי שעומד בראש אחת מחברות הבינה המלאכותית המובילות, ומכיר מקרוב את היכולות והסיכונים של הטכנולוגיה שהוא עצמו מפתח.
הדיון במועצת הביטחון לא התקיים בחלל ריק. הוא נערך יום אחד בלבד לאחר שחברות בינה מלאכותית פרסמו אזהרות פומביות משלהן על הסיכונים הכרוכים בפיתוח מואץ של מערכות מתקדמות. העיתוי מעיד על תחושת דחיפות שמלווה את התעשייה כולה, ככל שהיכולות הטכנולוגיות ממשיכות להשתכלל בקצב שמפתיע גם את המומחים שמפתחים אותן.
הכינוס במועצת הביטחון של האו"ם, גוף שתפקידו לעסוק באיומים על השלום והביטחון הבינלאומיים, משקף שינוי משמעותי באופן שבו מדינות העולם תופסות את הבינה המלאכותית. עד לאחרונה, הדיון הציבורי סביב הטכנולוגיה התמקד בעיקר בהיבטים כלכליים ותעסוקתיים. הופעתם של בכירי התעשייה בפני הגוף הבינלאומי הבכיר ביותר בעולם מסמנת שהשיח עבר למישור אחר לגמרי, כזה שמתייחס לבינה מלאכותית כאיום ביטחוני של ממש.
גם אם לא פורסמו פרטים מלאים על תוכן הדיונים הפנימיים שהתקיימו מאחורי הדלתיים הסגורות, עצם קיומו של המפגש מהווה אירוע חסר תקדים. מעולם לא כונסו יחד בכירי חברות בינה מלאכותית מובילות מול מועצת הביטחון של האו"ם לדיון ממוקד בסיכונים שהטכנולוגיה שלהם עצמם מציבה בפני העולם.
הדברים שנשמעו מפי אלטמן ומפי ראש Anthropic מצטרפים לגל הולך וגובר של אזהרות מתוך התעשייה עצמה. בעוד שבעבר האזהרות הגיעו בעיקר מחוקרים אקדמיים או ארגוני זכויות אדם, כעת מדובר במנהיגי החברות שמפתחות את הטכנולוגיה בעצמם, שמכירים מקרוב את היכולות והמגבלות של המערכות שהם יוצרים.
בשלב זה לא ידוע אם הדיון במועצת הביטחון יוביל לצעדים קונקרטיים או להמלצות מחייבות מטעם האו"ם. עם זאת, ברור שהנושא נמצא כעת על שולחן הגופים הבינלאומיים הבכירים ביותר, ומעורבותם של בכירי התעשייה עצמם בשיח הזה עשויה להאיץ דיונים דומים במדינות נוספות ברחבי העולם.
מנכ"ל OpenAI ובכירי תעשיית הבינה המלאכותית התייצבו בפני מועצת הביטחון של האו"ם והזהירו מפני הסיכונים הביטחוניים שהטכנולוגיה שהם עצמם מפתחים מציבה בפני העולם.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה