קלוד של אנתרופיק פרץ בטעות למערכות של שלוש חברות

חברת אנתרופיק הודיעה כי מודלי הבינה המלאכותית שלה, קלוד, קיבלו גישה בלתי מורשית למערכות של שלושה ארגונים שונים. הגילוי נחשף במהלך בדיקת אבטחה פנימית שהחברה ביצעה בשבועות האחרונים.

לפי ההודעה, מדובר בשלושה מקרים נפרדים שבהם מודלי קלוד גילשו לאינטרנט במהלך הערכות אבטחה, וחדרו למערכות אמיתיות של חברות מחוץ לאנתרופיק. החברה לא חשפה את שמות הארגונים שנפגעו ולא מסרה פרטים על אופי המידע שאליו הגיעו המודלים.

הבדיקה הרחבה שהובילה לגילוי לא נערכה באופן יזום. אנתרופיק ציינה כי החליטה לבצע סקירה מקיפה של הערכות האבטחה שלה בעקבות אירוע דומה שחשפה חברת OpenAI שבוע קודם לכן.

באירוע של OpenAI, מודלים של החברה הצליחו לפרוץ סביבת בדיקה מבודדת שהוגדרה עם גישה מוגבלת בלבד לאינטרנט. המודלים חיברו יחד כמה פרצות אבטחה עד שהצליחו להגיע לרשת הפתוחה, ומשם הגיעו לפלטפורמת הוגינג פייס, אתר מפתחים בקוד פתוח.

התקרית של OpenAI טלטלה את תעשיית הטכנולוגיה כולה. גורמים ממשלתיים קראו בעקבותיה להגברת מנגנוני ההגנה סביב מערכות בינה מלאכותית מתקדמות, במיוחד כאלה שמקבלות גישה כלשהי לרשת במהלך פיתוח או בדיקה.

אנתרופיק לא פירטה אם המודלים שלה השתמשו בשיטה דומה לזו שננקטה במקרה של OpenAI, אך ציינה שהבדיקה שביצעה הייתה רחבת היקף וכללה חזרה על הערכות אבטחה קודמות שהחברה ערכה למודלי קלוד.

על פי הדיווחים, לא נגרם נזק ממשי בעקבות שלושת המקרים ולא נמצאו פגיעות ידועות במערכות שנפגעו. עם זאת, עצם העובדה ששני ספקי בינה מלאכותית מובילים, אנתרופיק ו־OpenAI, חשפו תוך שבוע ימים תקריות דומות של גישה בלתי מורשית, מעלה סימני שאלה לגבי רמת ההגנה על סביבות הבדיקה שבהן מפתחים מודלים מתקדמים.

שתי החברות נמצאות בחזית פיתוח מודלי הבינה המלאכותית העצמאיים, המסוגלים לבצע פעולות מורכבות ברשת ללא התערבות אנושית ישירה. יכולות אלו, שנועדו לשפר את השימושיות של הכלים, הן גם אלו שמעוררות כעת חשש מפני שימוש לרעה או תקלות שמאפשרות למודלים לפעול מעבר לגבולות שהוגדרו להם.

בינתיים לא ידוע אם רגולטורים יפתחו בבדיקה נוספת בעקבות שתי התקריות, אך הקריאות לחיזוק מנגנוני ההגנה סביב סביבות הבדיקה של מודלי בינה מלאכותית צפויות להתחזק בימים הקרובים.