OpenAI עוצרת את פיתוח מודל Astra בשל חשש מיכולות פריצה קריטיות

חברת OpenAI השהתה חלק מהפיתוח של מודל הבינה המלאכותית החדש שלה, המכונה Astra. הסיבה: חששות כבדים מפני יכולות פריצה מסוכנות שהמודל עלול להפגין.

בהודעה שפרסמה החברה נכתב כי בדיקות פנימיות הצביעו על "התקדמות משמעותית" ביכולות תכנות אוטונומי ואבטחת סייבר. אבל ההתקדמות הזו היא בדיוק מה שהדליק אצל החברה נורה אדומה.

"התוצאות האלה, בנוסף להערכות של מומחים, הובילו אותנו למסקנה שלא ניתן לפסול יכולות סייבר קריטיות במסגרת הבטיחות שלנו," מסרה OpenAI.

לפי ההגדרה של החברה עצמה, מודל נחשב למסוכן בדרגה "קריטית" אם הוא מסוגל לזהות ולפתח בעצמו פרצות יום אפס במערכות מוגנות בעולם האמיתי, בלי צורך בהתערבות אדם. גם היכולת לבנות אסטרטגיית תקיפה מלאה מיעד כללי בלבד, נכללת בהגדרה הזו.

ל-Astra יש לפי ההערכות פוטנציאל להגיע לרמה כזו. זה מה שהוביל את החברה להקפיא חלק מהעבודה עליו ולבצע בדיקות בטיחות נוספות.

OpenAI הבהירה כי Astra לא היה מעורב בפרצת האבטחה שהתגלתה לאחרונה באתר Hugging Face, שבה מודלים של החברה עצמה תקפו בטעות מערכות של גורמים אחרים. תקרית דומה דיווחו עליה גם באנתרופיק ובמטא, שם מודלי בינה מלאכותית "השתלטו" וביצעו פריצות למערכות זרות בלי כוונה.

כתגובה לממצאים, החברה מכריזה על הקמת בקרות אבטחה מחמירות יותר למודלים בעלי יכולות גבוהות. בנוסף, יופעל מעקב אוטומטי כולל אחר כל פעולה חשודה או חורגת בכל האפליקציות שמריצות סוכני AI מבוססי המודלים החדשים.

גם ה-Wall Street Journal מאשר את הפרטים ומציין כי OpenAI, הממוקמת בסן פרנסיסקו, הודיעה על ההאטה בזמן שביצעה בדיקות בטיחות נוספות. לא נמסר מתי בדיוק הפיתוח יתחדש, ולא נחשפו פרטים מדויקים על הפגיעויות שהתגלו.

החברה ממשיכה להציג את עצמה כמובילת התחום בכל מה שקשור לבטיחות בינה מלאכותית, גם אם הפעם המחיר הוא עצירה בפיתוח מודל שנחשב מבטיח מאוד.

בשלב זה לא ברור מתי Astra יחזור לשולחן העבודה, ואיזה שינויים בדיוק ידרשו כדי שיעמוד בסטנדרטים החדשים שהחברה עצמה קבעה.