אנתרופיק, אחת החברות המובילות בעולם הבינה המלאכותית, בחרה בענקית הייעוץ אקסנצ'ר כשותפה הראשונה שלה במיזם ייחודי: הכנסת גורם חיצוני לבדוק ולפקח על המודלים שלה מבפנים. ההודעה פורסמה ביום שישי, וכבר הספיקה לטלטל את שוק ההון.
במסגרת ההסכם, צוותים מטעם אקסנצ'ר יעבדו בפועל בתוך אנתרופיק. הם יבחנו את המודלים, ינסו "לפרוץ" אותם במתכוון כדי לאתר חולשות, ויבדקו האם ההתנהגות שלהם תואמת לערכים אנושיים. העבודה תתבצע דרך פאקאלטי, זרוע הבינה המלאכותית של אקסנצ'ר, אותה רכשה החברה בינואר.
הכסף שמדובר בו לא קטן. שתי החברות הסכימו להשקיע יחד לפחות מיליארד דולר בפרויקט הזה בחמש השנים הקרובות, כאשר אנתרופיק תממן את עבודת אקסנצ'ר באופן ישיר. בהודעה הרשמית של אנתרופיק נכתב כי בטווח הארוך "המימון צריך להגיע ממקורות משותפים או ממשלתיים", אך כל עוד אלה לא קיימים, החברה תעבוד מול מעריכים שונים תחת הסדרי מימון שונים.
הבחירה באקסנצ'ר הפתיעה לא מעט אנשים בתעשייה. עד היום, השיח סביב מעריכים חיצוניים למודלי בינה מלאכותית התמקד בעיקר בארגוני מחקר עצמאיים כמו METR, Redwood Research ו-Apollo Research, לא בחברת ייעוץ עסקי ענקית. אנתרופיק הסבירה את הבחירה בכך שלאקסנצ'ר יש ניסיון מעשי בפריסת בינה מלאכותית עבור תאגידים גדולים וגופים ממשלתיים, וכן ביתרון של היותה חברה ציבורית גדולה שקדמה למהפכת הבינה המלאכותית, ולכן עצמאית יותר מהמערכת המורכבת שסביב מעבדות הבינה המלאכותית.
השוק הגיב מיד. מניית אקסנצ'ר זינקה בכ-8% במסחר המאוחר, מיד אחרי פרסום ההודעה. בשוק ההון ראו בכך אישור לכך שהחברה הופכת לשחקן משמעותי גם בתחום הבטיחות של הבינה המלאכותית, לא רק בייעוץ עסקי רגיל.
המהלך הזה הוא בעצם הצעד הקונקרטי הראשון ליישום תוכנית שהציג מנכ"ל אנתרופיק, דריו אמודאי, רק יום קודם לכן. אמודאי פרסם תוכנית בת שלושה שלבים, שנועדה להאט את הקצב שבו חברות בינה מלאכותית משפרות את המודלים המתקדמים ביותר שלהן. השלב הראשון בתוכנית קורא לתת למעריכים חיצוניים גישה ברמת עובד לתוך החברה, כדי לוודא שפרקטיקות הבטיחות נשמרות ולדווח על תקריות. אמודאי אמר כי אנתרופיק התחייבה "באופן חד צדדי" לחלק הזה בתוכנית, ועודד חברות בינה מלאכותית אחרות לעשות כמוה.
התוכנית של אמודאי לא עברה בשקט. מנכ"ל אופן איי, סם אלטמן, ומנכ"ל טסלה וספייסאקס, אילון מאסק, בירכו עליה. לעומתם, מנכ"ל אנבידיה, ג'נסן הואנג, זלזל בחששות וטען שאין צורך ברגולציה חדשה. גורמים בתעשייה גם הביעו ספק לגבי המשמעות המעשית של התוכנית, במיוחד כשאנתרופיק עצמה מתכוננת למה שמוערך כהנפקה ציבורית ענקית.
אנתרופיק הדגישה שהמהלך לא נועד לגלגל אחריות מהחברה עצמה. "השיתוף עם מעריכים משולבים לא מקטין את האחריות שלנו, אלא עוזר להפוך אותה לניתנת לאימות יותר. הבטיחות של המודלים שלנו נשארת באחריותנו", נמסר מהחברה. בהודעה נכתב גם כי החברה חושפת את המהלכים המוקדמים האלה "כדי שאנשים ומפתחי בינה מלאכותית אחרים יוכלו לראות את התהליך שלנו".
לא מדובר בשיתוף פעולה בלעדי. אנתרופיק מסרה כי היא מקיימת שיחות גם עם ארגון המחקר העצמאי METR וגורמים חיצוניים נוספים, ובכוונתה להכריז על מעריכים נוספים בשבועות הקרובים. הצורך הדחוף בפיקוח חיצוני עלה במיוחד לאחר אירועים אחרונים שבהם סוכני בינה מלאכותית שפותחו על ידי אופן איי ואנתרופיק פרצו לאתרים חיצוניים בלי שהדבר עורר התראה במעבדות עצמן.
בינתיים ברור שהמהלך הזה רק ראשית הדרך. אנתרופיק הודיעה שהיא צופה שהגישה שלה תתפתח עם הזמן, ותמשיך לעדכן ככל שהעבודה עם אקסנצ'ר ומעריכים נוספים תתקדם.
אקסנצ'ר ואנתרופיק פותחות עידן חדש של פיקוח חיצוני על בינה מלאכותית, במיליארד דולר ותחת עינה הבוחנת של השוק כולו.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה