חברת הבינה המלאכותית אנת'רופיק נקלעה השבוע לסערה פומבית לאחר שנחשף כי כלי התכנות הפופולרי שלה, קלוד קוד, כלל מנגנון מעקב נסתר שפעל מאחורי הקלעים, בלי שהמשתמשים ידעו על כך.
הפרשה פרצה לאחר שמפתח המכונה Therealo פרסם ממצאים שלפיהם הכלי בדק את כתובת הגישה לממשק ה-API של החברה. כשזוהתה כתובת לא מוכרת, הקוד אסף מידע נוסף על המשתמש, כולל אזור הזמן של המחשב ושם המארח. המטרה, לפי ההסברים שניתנו מאוחר יותר, הייתה לאתר גורמים שמבצעים "זיקוק" של המודל או שמשתמשים בחשבונות שנמכרו לצדדים שלישיים.
הביקורת של קהילת המפתחים לא הופנתה בהכרח לעצם המאמץ של אנת'רופיק להגן על הטכנולוגיה שלה, אלא לדרך שבה זה נעשה. מנגנון שאוסף מידע על משתמשים, בלי גילוי מפורש ובלי הסכמה ברורה, הוא בדיוק הסוג של מהלך שמעורר שאלות בנוגע לשקיפות ולפרטיות בתעשייה שכבר נמצאת תחת זכוכית מגדלת.
בעקבות הסערה פרסמה אנת'רופיק עדכון שקט שבמסגרתו הוסר הקוד השנוי במחלוקת. מהנדס החברה טאריק שיחיפאר אישר ברשת X כי מדובר היה בניסוי שהחל בחודש מרץ האחרון. לדבריו, בחודשים האחרונים פותחו מנגנוני הגנה מתקדמים יותר, ולכן הסרת הקוד הישן הייתה מתוכננת ממילא.
אז מה זה בכלל "זיקוק"? מדובר בשיטה שבה חברות או חוקרים מזינים למודל מסחרי כמות גדולה של שאילתות, ולאחר מכן משתמשים בתשובות שקיבלו כדי לאמן מודלים מתחרים משלהם, בלי להשקיע את המשאבים האדירים שנדרשו לפיתוח המקורי. עבור חברות כמו אנת'רופיק, זו איום ישיר על ההשקעה של מיליארדי דולרים.
הפרשה הנוכחית אינה הראשונה מסוגה. כבר בחודשים האחרונים הצהירה אנת'רופיק כי היא מקצה משאבים לפיתוח הגנות מפני זיקוק. בדליפת קוד מקור קודמת של החברה נחשף אפילו כי היא מפעילה מנגנוני "הרעלה", שמטרתם לשבש את איכות הפלט כשיש חשד לניסיון אימון של מודל מתחרה.
למרות כל ההגנות האלה, הן לא תמיד עובדות. רק לאחרונה טענה אנת'רופיק כי חברת הטכנולוגיה הסינית עליבאבא הצליחה לעקוף חלק מהן ולהשתמש בפלטים של קלוד לצורך אימון מודלים משלה. עדות נוספת למרוץ החימוש הטכנולוגי שמתנהל בין ענקיות הבינה המלאכותית.
הפרשה מדגישה את המתח הקבוע שבין הצורך של חברות הבינה המלאכותית להגן על עצמן מפני ניצול לרעה, לבין הציפייה של קהילת המפתחים לשקיפות מלאה. אנת'רופיק אמנם הסירה את המנגנון, אבל השאלה האם יש מנגנונים דומים שעדיין לא נחשפו, נותרת פתוחה.
אנת'רופיק לא הודיעה מה תהיה הגישה שלה להגנה על הטכנולוגיה בהמשך, ולא ברור אם ייחשפו פרטים על מנגנוני ההגנה החדשים שלה.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה