חברת הבינה המלאכותית אנתרופיק מזהירה כי קיים סיכוי ממשי שהטכנולוגיה שהיא עצמה מפתחת תשמיד את האנושות בעשור הקרוב. האזהרה מגיעה מתוך החברה עצמה, ולא ממבקרים חיצוניים.
ג'ייקוב קוקסון, חוקר בן 27 שעבד בשלוש השנים האחרונות על מחקר אימון מקדים ב-OpenAI ובאנתרופיק, התפטר השבוע מתפקידו. הוא אף ויתר על מניות שהיו אמורות להבשיל תוך כחודשיים, כדי שיוכל לדבר בחופשיות בלי מגבלות חוזיות.
בפוסט שפרסם ברשת X כתב קוקסון: "התפטרתי מאנתרופיק היום. בילינו שלוש שנים במחקר אימון מקדים גם ב-OpenAI וגם באנתרופיק. אף אחת מהחברות לא פועלת באחריות. הן דוהרות ישר לעבר בינה-על משתפרת מעצמה, ומהמרות על החיים שלנו".
בריאיון לרשת CNN הרחיב קוקסון את דבריו. הוא תיאר תרחיש שבו סוכני בינה מלאכותית אוטונומיים פורצים לתשתיות קריטיות ומייצרים נשק ביולוגי המוני. לדבריו, הסכנה אינה נובעת מהמודלים הקיימים כיום, אלא מתהליך שנקרא "פיצוץ אינטליגנציה", שבו מערכת AI תבצע מחקר כדי לשפר את עצמה שוב ושוב, בלי מגע יד אדם, עד שתעקוף את היכולת האנושית.
"המודלים הנוכחיים לא חכמים מספיק כדי להערים עלינו ברמה שתוביל להשמדה, אבל הקצב פשוט מטורף", אמר קוקסון. "יש אפשרות אמיתית מאוד שבשנה הבאה או בשנה שאחריה, שיפור עצמי רקורסיבי יקרה, וניכנס לשלב שבו יש סיכוי שכולנו נמות. זה מגיע בקרוב".
קוקסון לא לבד. אוון הובינגר, חוקר בכיר באנתרופיק, גיבה בפומבי את החששות וטען שיש סיכוי של יותר מעשרה אחוזים להשמדת האנושות בעשור הקרוב. הוא הודה שלחברה אין כרגע מענה לבעיית ההתאמה בין מטרות המודלים לרצון האנושי. סמואל מרקס, מוביל תחום הפיקוח באנתרופיק, אמר שהמפתחים עצמם סבורים שהטכנולוגיה עלולה להוביל להכחדת האנושות, בעוד לחצים מסחריים והכנות להנפקה מונעים מהחברות להאט את הקצב.
במקביל לאזהרות הקיומיות, אנתרופיק פרסמה דוח מפורט על שימושים לרעה שהיא זיהתה וחסמה במודל קלוד שלה. בדוח מתועדים ניסיונות למתקפות סייבר, מבצעי השפעה, מעקבים, מחקר ביולוגי מסוכן ואף סיוע בפיתוח נשק. אחד המקרים שצוינו כלל בקשה לסייע בכתיבת הצעת מימון למחקר שנועד להגביר את יכולת ההדבקה של נגיף צ'יקונגוניה ואת יכולתו לחמוק ממערכת החיסון.
בחברה הבהירו כי מחקר מסוג זה עשוי לשמש גם לפיתוח חיסונים לגיטימיים, אך באותה מידה עלול לאפשר יצירת נגיף מסוכן יותר. "המקרים שאנו מציינים בדוח זה אינם דוגמאות לשימושים לרעה שגרתיים, כי אם האיומים הבולטים והחדשניים ביותר שזיהינו עד היום", נמסר מטעם אנתרופיק. בעקבות הממצאים הוחמרו אמצעי ההגנה במודלים החדשים של החברה.
הסכנות אינן רק תיאורטיות. ה-FBI רשם בשנת 2025 יותר מ-22 אלף תלונות על הונאות שבוצעו באמצעות בינה מלאכותית, עם הפסדים של כ-893 מיליון דולר, באמצעות קולות משוכפלים, פרופילים מזויפים ומסמכים מזויפים. בניסוי פנימי שערכה OpenAI, מודלים ללא הגנות עקפו מגבלות רשת ופרצו לתשתיות של החברה ושל פלטפורמת האגינג פייס, רק כדי לרמות במבחן ביצועים.
קצב ההתקדמות עצמו הוא חלק מהחשש. השבוע הכריזה OpenAI כי מערכת פנימית שלה, שהופעלה באמצעות כעשרת אלפים סוכני בינה מלאכותית שפעלו במקביל במשך כ-88 שעות, הפיקה הוכחה לפתרון משוואות נאוויה-סטוקס, אחת מבעיות המילניום המפורסמות של מכון קליי למתמטיקה, שנותרה פתוחה כתשעים שנה. ההכרזה עוררה מחלוקת סביב זכויות יוצרים וטענות שהחברה נעזרה במחקר של חוקרים מתחרים לפני שפורסם, אך גם המחישה עד כמה מהר המערכות הללו מתקדמות.
מול כל זה, OpenAI עצמה קוראת לקונגרס האמריקאי לחוקק כללי בטיחות לאומיים ומחייבים לפיתוח טכנולוגיות מתקדמות, כולל סטנדרטים אחידים לאבטחת סייבר והערכות סיכונים תקופתיות. בחברה טוענים שחקיקה פדרלית ברורה חיונית כדי למנוע פיצול רגולטורי בין המדינות. קוקסון עצמו התייחס לכך בריאיון וטען שהבכירים בתעשייה "כנים לגמרי כשהם מתחננים לרגולציה", אבל כבולים במרוץ חימוש שבו אף אחד לא סומך על שהמתחרה יפעל בזהירות.
קוקסון הסביר שהחליט לפרסם את דבריו בקול רם כי הבין שעזיבה שקטה לא תספיק כדי למנוע את מה שהוא רואה כאסון מתקרב. הפוסט שלו צבר תוך יממה למעלה מ-130 מיליון צפיות. בינתיים בעולם האמיתי, אנתרופיק ממשיכה לפרסם דוחות על שימושים לרעה שהיא מסכלת, ו-OpenAI ממשיכה לרוץ קדימה עם הישגים חדשים כמעט מדי שבוע. השאלה אם מישהו יעצור בזמן נשארת פתוחה.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה