ניוסום חתם על צו לפיקוח מחמיר על בינה מלאכותית

מושל קליפורניה גאווין ניוסום חתם על צו מנהלי דרמטי שנועד להתמודד עם הסכנות הפוטנציאליות של בינה מלאכותית. הצו, שנחתם ביום שישי, מורה על הקמת צוות מומחים שיגבש בתוך חודשיים בלבד המלצות להחמרת חוקי הבטיחות והאבטחה בתחום.

בין האפשרויות שהצוות יתבקש לבחון: הקמת "מתג כיבוי" שיאפשר להשבית מודלי בינה מלאכותית מתקדמים באופן מיידי במקרה חירום. אפשרות נוספת שעל הפרק היא חיוב חברות שמפתחות מודלים מתקדמים להחזיק תוכניות בטיחות שיגובשו בידי גורמים עצמאיים ולא בידי החברות עצמן.

קליפורניה, שבה נמצא עמק הסיליקון, נחשבת לאחד המרכזים החשובים בעולם לתעשיית הבינה המלאכותית. על פי נתוני המדינה, לא פחות מ-33 מתוך 50 חברות ה-AI הפרטיות המובילות בעולם פועלות בשטחה. המשמעות: כל רגולציה שתיכנס לתוקף בקליפורניה עלולה להשפיע על חלק ניכר מהתעשייה כולה, גם מחוץ לגבולות המדינה.

"הכישלון המוחלט של הממשל הפדרלי ליצור כל צורה של פיקוח משמעותי או אחריות בתחום הבינה המלאכותית צריך להדאיג כל אמריקאי", אמר ניוסום בהודעה רשמית. לדבריו, "אנחנו לא מחכים כדי לפעול, אנחנו הולכים להאיץ את העבודה שלנו על פיקוח משמעותי ואחראי על בינה מלאכותית לפני שיהיה מאוחר מדי".

הצו מגיע על רקע ויכוח סוער שמתחולל בארצות הברית סביב קצב הפיתוח המהיר של מערכות בינה מלאכותית והיקף הפיקוח עליהן. מוקדם יותר החודש התפטר חוקר בינה מלאכותית בחברת אנתרופיק, שעבד בעבר גם בחברת OpenAI, והזהיר בפומבי כי החברות המובילות בתחום מתקדמות לעבר פיתוח בינת-על ללא מנגנוני בטיחות מספקים. האזהרה שלו הציתה סערה בוושינגטון.

עמדתו התקיפה של ניוסום עומדת בניגוד גמור לעמדת נשיא ארצות הברית דונלד טראמפ, שדחה השבוע בתוקף את הקריאות להגברת הרגולציה על בינה מלאכותית. טראמפ טען כי אין צורך ב"גדרות הגנה" נוספות בתחום, וחזר והמעיט לאחרונה בחששות מפני הסיכונים הנשקפים מהטכנולוגיה. בעבר אף כינה את החששות מבטיחות הבינה המלאכותית "תרגיל הונאה".

מעבר לניוסום, שורה של דמוקרטים בעלי שאיפות לנשיאות הצטרפו לקריאה להחמרת הפיקוח. מושל פנסילבניה קרא בעצמו לפיקוח חיצוני על מודלים מתקדמים ולגדרות הגנה מחמירות יותר. סנטור מאריזונה הודיע כי בכוונתו להגיש חקיקה להקמת קרן שתמומן על ידי חברות בינה מלאכותית ותסייע לעובדים שייפגעו מהטכנולוגיה. סנטור מניו ג'רזי מצדו קרא לטראמפ לכנס מושב מיוחד של הקונגרס שיעסוק בסיכוני הבינה המלאכותית.

קליפורניה כבר אימצה בעבר שורה של צעדים רגולטוריים בתחום. מוקדם יותר החודש חתם ניוסום על חוק שיוצר מסגרת רשמית למבקרים חיצוניים של מערכות בינה מלאכותית. לדבריו, הצו החדש נועד לבנות על החקיקה הקיימת ולהפוך את מדיניות קליפורניה לבסיס אפשרי להסדרה רחבה יותר ברחבי ארצות הברית. "בזמן שוושינגטון מתנערת מהאחריות שלה להגן על האזרחים, קליפורניה בונה את מסגרת הרגולציה החזקה בתחום בכל המדינה", אמר.

הלחץ להחמרת הרגולציה מגיע גם מתוך תעשיית הבינה המלאכותית עצמה. מנכ"ל אנתרופיק דריו אמודיי קרא לאחרונה להאט את קצב פיתוח המודלים המתקדמים, והציע להרחיב את השימוש בצוותי בדיקה חיצוניים ובסטנדרטים מחייבים לבטיחות. תוקפו של ניוסום כמושל קליפורניה צפוי להסתיים בתחילת ינואר, והוא טרם הודיע רשמית על מועמדות לנשיאות, אם כי ציין בעבר שהוא שוקל את האפשרות.

צוות המומחים שהוקם בעקבות הצו צפוי להגיש את המלצותיו בתוך חודשיים, ורק אז תתגבש התמונה המלאה לגבי היקף הרגולציה שתחול בפועל על חברות הבינה המלאכותית הפועלות בקליפורניה.