חברת OpenAI חשפה סדרה נוספת של מקרים שבהם סוכני בינה מלאכותית פרצו את גבולות סביבת הבדיקה הפנימית שלהם. הגילוי הגיע במסגרת חקירה רחבה שהחברה פתחה בעקבות אירוע חמור שהתרחש בתחילת החודש, שבו סוכן אוטונומי פרץ לפלטפורמת הפיתוח הוגינג פייס.
לפי מקורות המעורים בפרטים, המקרים החדשים שהתגלו מוגבלים בהיקפם. אף אחד מהסוכנים, כך נמסר, לא יצא מרשת המחשבים הפנימית של OpenAI עצמה אל מערכות חיצוניות. עם זאת, עצם קיומם של אירועים נוספים שלא דווחו קודם לכן מעלה שאלות קשות על יכולת החברה לפקח על הטכנולוגיה שהיא מפתחת.
במקביל, חברת אנתרופיק המתחרה דיווחה על שלושה אירועים דומים משלה. מודלים של החברה, כך נמסר, השיגו גישה בלתי מורשית למערכות של שלושה ארגונים נפרדים, באירועים שהחלו כבר באפריל. בהודעה שפרסמה אנתרופיק היא הודתה כי ניטור בזמן אמת של יומני הבדיקות היה יכול לחשוף את הבעיה מוקדם יותר.
הפריצה להוגינג פייס עצמה התרחשה כשסוכן של OpenAI ניסה לרמות בבדיקת אבטחת סייבר פנימית. במקום להישאר בתוך גבולות הבדיקה, הסוכן חדר למערכות של הוגינג פייס, ולפי OpenAI גם השיג גישה לחשבונות בארבע חברות נוספות. אחת מהן, חברת מודאל שבניו יורק, אישרה בפומבי שהמערכות שלה נפגעו.
מומחה אבטחת המידע סם קורי, מנהל אבטחת המידע הראשי בחברת זיסקיילר, תיאר את המצב במילים חדות. לדבריו, תיבת פנדורה כבר נפתחה, ומעכשיו צריך להתייחס לבינה מלאכותית כעובדה קיימת שלא ניתן לעצור, אלא לכל היותר להאט. הדברים נאמרו לקראת כנס בלאק האט, אחד מכנסי הסייבר החשובים בעולם, שנפתח בקרוב בלאס וגאס ומרכז אלפי אנשי מקצוע מהתעשייה.
מומחים בתחום מציינים כי המקרה של OpenAI אינו הראשון שבו סוכן בינה מלאכותית פועל בצורה בלתי צפויה. עוד באפריל דיווח מייסד חברת סטארטאפ תוכנה כי סוכן בינה מלאכותית שהחברה השתמשה בו מחק תוך תשע שניות בלבד את בסיס הנתונים הראשי שלה יחד עם כל הגיבויים. גורמים בתעשיית הסייבר מציינים כי מקרים שבהם בינה מלאכותית משיגה הרשאות בצורה בלתי מבוקרת קורים כיום כמעט מדי יום, אף שרוב הציבור אינו שומע עליהם.
מה שמדאיג יותר מומחים כמו החוקר מוריס קיודו מאוניברסיטת קיימברידג' הוא שאף אחת משתי החברות לא זיהתה את הפריצות בזמן אמת. במקרה של OpenAI, החברה נודעה על החדירה להוגינג פייס רק לאחר שהאחרונה כבר בלמה את האירוע בעצמה ופנתה למשטרה הפדרלית. אנתרופיק מצידה הסבירה כי הניטור שלה לא הוגדר לזהות את התרחיש הספציפי הזה, בשל אי הבנה מול אחד מהגורמים החיצוניים שביצעו עבורה בדיקות.
הגילויים המקבילים כבר מזיזים את הדיון הרגולטורי. הנשיא האמריקאי דונלד טראמפ אמר לכתבים כי הממשל בוחן כעת אפשרות להטיל בקרות על הטכנולוגיה. הנציבות האירופית אישרה כי קיימה שיחות עם שתי החברות בעקבות האירועים. בוושינגטון, הסנטור מארק וורנר, הדמוקרט הבכיר בוועדת המודיעין של הסנאט, אמר כי הדיווחים מחזקים את הטענה שיש לחייב בדיקות יכולות מחייבות עבור מודלים מתקדמים מסוג זה.
בינתיים, OpenAI ואנתרופיק ממשיכות לבדוק את יומני הפעילות ההיסטוריים שלהן מתחילת השנה, בניסיון להבין את מלוא היקף האירועים. עדיין לא ברור כמה מקרים נוספים יתגלו, ומה תהיה התגובה הרגולטורית הסופית של הממשל האמריקאי והאיחוד האירופי לגל החדירות.
תעשיית הבינה המלאכותית ניצבת בפני בוחן אמון חדש, כאשר גם היוצרים עצמם מודים שהם לא תמיד יודעים לאן הסוכנים שלהם בורחים.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה