סוכן בינה מלאכותית של OpenAI פרץ לפורטל בריאות באוסטרליה

אוסטרליה אישרה הבוקר אירוע שנשמע כמו מדע בדיוני: סוכן בינה מלאכותית של חברת OpenAI פרץ בחודש יוני לפורטל בריאות ממשלתי, והשיג גישה לא מורשית לקבצים. מדובר, ככל הידוע, במקרה הראשון מסוגו שבו סוכן AI פורץ לאתר של ממשלה.

ראש ממשלת אוסטרליה, אנתוני אלבאנזה, מסר כי הסוכן השיג גישה לא מורשית לפורטל הציבורי של שירותי הסטטיסטיקה של מדיקר, הכולל נתונים וסטטיסטיקות רפואיות, ביניהם נתוני הוצאות ציבוריות בתחום הבריאות. "העדויות שבידינו כרגע מצביעות על כך שאין פגיעה רחבה יותר ברשת. עם זאת, המצב הזה כמובן לא מקובל", אמר אלבאנזה בתדרוך לתקשורת בניו יורק, שם הוא שוהה לרגל העצרת הכללית של האו"ם.

איך זה בכלל קרה? לפי סגן ראש הממשלה ושר ההגנה האוסטרלי ריצ'רד מרלס, הסוכן קיבל משימה שנחשבה תמימה לגמרי: לחפש נתונים וסטטיסטיקות בתחום הבריאות. במהלך המשימה הוא עבר בין ארבעה אתרים אוסטרליים. בשלושה מהם הוא פעל בדיוק כמו משתמש רגיל.

אבל כשהגיע לפורטל של שירותי אוסטרליה ולא קיבל את המידע שביקש, הסוכן פשוט מצא דרך לעקוף את ההגבלה. מרלס הדגיש שמדובר בפעולה שביצעה מערכת לא אנושית, ללא כל התערבות של בן אדם. בדיוק זה מה שהופך את האירוע לחמור בעיני הממשלה: סוכן שקיבל משימת מחקר כללית, ופשוט החליט לעקוף חסימה כשלא קיבל תשובה.

הבשורה הטובה: אין עדות בשלב זה לכך שהסוכן ניגש למידע אישי של מטופלים. הפורטל שנפרץ מיועד לפרסום נתונים וסטטיסטיקות כלליות, לא לרשומות רפואיות של אזרחים. הממשלה מסרה גם שלא נמצאה עדות לפגיעה רחבה יותר במערכות של שירותי אוסטרליה, וההשפעה הישירה הוגדרה כמוגבלת.

מה שכן מטריד את אלבאנזה זה משהו אחר לגמרי: הזמן שלקח לכולם להבין מה קרה. האירוע התרחש ביוני, אבל OpenAI עצמה גילתה אותו רק באוגוסט, במסגרת בדיקה פנימית של פעולות הסוכנים שלה. שירותי אוסטרליה עודכנו רק לפני כשבועיים, והשרים בממשלה קיבלו את המידע רק בסוף השבוע האחרון. "לקח עד ה-10 בספטמבר עד שהייתה בכלל הודעה כלשהי", אמר אלבאנזה, שהוסיף כי הוא אכזב מהעיכוב.

ראש הממשלה סיפר שדיבר בניו יורק ישירות עם מנכ"ל OpenAI, סם אלטמן, והביע בפניו "דאגה קיצונית" מהאירוע. הוא גם ציין ששלושה אתרים ממשלתיים נוספים "ייתכן שהושפעו" מפעילות הסוכן, אבל זה עדיין לא אושר. "השאלה היא, כשהוא ניסה לאסוף מידע, האם הוא נכנס גם לאתרים האלה? אנחנו לא מאשרים שזה קרה", אמר.

מצד OpenAI נמסר כי הבדיקה הפנימית שלהם לא מצאה עדות לגישה לרשומות מטופלים. "המידע שנחשף כלל סטטיסטיקות בריאות כלליות ושמות קבצים פנימיים", נמסר מהחברה. OpenAI הודתה שזיהתה "פעילות שנוגעת לכמה אתרים ושירותים ממשלתיים באוסטרליה, כשהמודלים שלנו ניסו לחפש תשובות... המודלים שלנו ביצעו פעולות שלא התכוונו אליהן".

החקירה באוסטרליה עדיין נמשכת, בסיוע מנהלת האותות האוסטרלית האחראית על הגנת סייבר ומודיעין אותות. הממשלה גם הקימה צוות משימה מיוחד בהובלת משרד ראש הממשלה כדי לבחון את כל הפרשה לעומק ולהבין בדיוק לאיזה מידע ניגש הסוכן ואם עוד מערכות נפגעו.

האירוע הזה מגיע רגע אחרי שכבר התגלה מקרה דומה, שבו מודלים של OpenAI הצליחו בניסוי לצאת מסביבת בדיקה מבוקרת ולהשתמש בחיבור לאינטרנט כדי לבצע פעולות סייבר. גם יריבות כמו אנתרופיק, גוגל ומטא כבר דיווחו בעבר על מקרים שבהם הסוכנים שלהן ניגשו למערכות חיצוניות ללא אישור. בכירים בתעשיית הבינה המלאכותית, כולל אלטמן עצמו, כבר קראו בעבר להאט את קצב הפיתוח בתחום, בין היתר בגלל החשש ממתקפות סייבר הרסניות של סוכנים שיוצאים משליטה.