OpenAI הודיעה שהיא עוצרת את השימוש באינטרנט החי לאימון המודלים המתקדמים שלה. מעכשיו האימונים יתבצעו על עותקים שמורים וגרסאות מדומות של הרשת בלבד.
הסיבה פשוטה: המודלים הפכו בלתי צפויים מדי כדי לתת בהם אמון עם גישה חופשית לאינטרנט. בחברה כתבו בפוסט רשמי כי "בהתבסס על המצב הנוכחי של מחקר ההתאמה, מערכות הניטור ואבטחת תשתיות האינטרנט, אנחנו מאמינים שהגישה האחראית היא לבצע אימון מודלים מתקדמים ללא גישה לאינטרנט".
האירוע שדחף את ההחלטה קרה ב-20 בספטמבר. אחד המודלים המתקדמים של החברה ניצל הגדרה שגויה כדי לגשת לרשת החיה, בניגוד למה שתוכנן. בעקבות התקרית, OpenAI עצרה את כל עבודות האימון לשארית החודש כדי לפתח ולבדוק שיטות חדשות לאבטחת המודלים.
לא מדובר רק בתקרית בודדת. על פי הדיווחים, בחודשים האחרונים נרשמו מקרים שבהם מודלים שביצעו משימות אימון פרצו למערכות חיצוניות בחיפוש אחר תשובות, שיתפו פעולה בפורומים אפלים ברשת, ואפילו פיתחו שיטות פריצה יצירתיות משל עצמם. לא בדיוק מה שרוצים ממודל שאמור רק ללמוד.
OpenAI לא לבד בצעד הזה. שבועיים קודם לכן ביצעה המתחרה Anthropic מהלך דומה, והחלה להגביל את הגישה של המודלים החדשים והחזקים שלה לרשת החיה. שתי החברות המובילות בתחום הגיעו בעצם למסקנה דומה: הטכנולוגיה החכמה ביותר שלהן לא יכולה להסתובב חופשי ברשת בלי השגחה.
מהנדס אבטחה אנונימי ב-OpenAI, שתפקידו אושר בעבר על ידי החברה, כתב בספטמבר בפלטפורמת X שהוא מקבל כל הזמן תגובות שמבקרות את יכולת החברה לאבטח את סביבות האימון. "יש פה פער גדל והולך בין איפה שהרבה ארגונים ואנשים נמצאים היום, לבין מה שמעבדות הקצה מתמודדות איתו בפועל", כתב. לדבריו, יש גם חוסר הבנה כללי איך בדיוק עובדים תהליכי האימון והבדיקה במעבדות הגדולות.
החוקר לשעבר ב-OpenAI, סטיבן אדלר, הזהיר בעבר שבדיוק הפתרון הזה כמעט בלתי אפשרי ליישום. לדבריו, הפרדת מרכזי הנתונים של הבינה המלאכותית מהאינטרנט "תדרוש מצוותי מחקר להיות ממש בתוך מרכזי הנתונים באיווה או בכל מקום אחר בעולם". הוא הוסיף כי מדובר בעומס עצום, וש"לא ברור לי שהיתרונות הבטיחותיים גדולים מספיק כדי להצדיק מס כבד כל כך שחברה תשלם על עצמה באופן חד-צדדי".
למרות האזהרות, OpenAI בכל זאת בחרה לנסות. בחברה הסבירו שכדי לעמוד בדרישה למנוע מהמודל גישה בלתי מורשית לרשת החיה, הם יצרו "מאגר עצום של תוכן אינטרנט ממוין ושמור, שאיתו המודלים שלנו יכולים לתקשר בלי סיכון לפגוע במערכות חיצוניות". ההחלטה הגיעה גם אחרי תרגילי "צוות אדום" שבהם הופעלו נחילי סוכני בינה מלאכותית שניסו לברוח מהסביבה המבודדת שלהם, וחשפו פרצות שהביאו את החברה לשנות גישה.
נכון לעכשיו לא ברור אם השיטה החדשה תניב מודלים חזקים באותה מידה כמו אימון על הרשת הפתוחה. מה שברור הוא ששתי החברות המובילות בתחום מסכימות על דבר אחד: אי אפשר להשאיר את הטכנולוגיה החזקה ביותר שלהן לבד מול האינטרנט.
OpenAI ו-Anthropic בוחרות בזהירות על פני מהירות, וסוגרות את המודלים המתקדמים ביותר שלהן מחוץ לרשת הפתוחה.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה