פלורידה הפכה ביום שני למדינה הראשונה בארצות הברית שמגישה תביעה אזרחית נגד OpenAI ומנכ"לה סם אלטמן באופן אישי. כתב התביעה, שמונה 83 עמודים, מאשים את החברה בסיכון חיי תושבי פלורידה, בסיוע לתכנון אירועי ירי המוני ובעידוד התנהגויות הרסניות - כל זאת, כך נטען, לצורך הגדלת הרווחים והקפצת שווי השוק של החברה.
התובע הכללי של פלורידה, ג'יימס אות'מאייר, הגיש את התביעה לאחר שמשרדו פתח בחקירה פלילית נפרדת באפריל האחרון, בעקבות ירי המוני באוניברסיטת פלורידה סטייט שבו נהרגו שני בני אדם ונפצעו שישה. "OpenAI ואלטמן התעלמו מאזהרות בטיחות פנימיות וחיצוניות, סיכנו ילדים ואפשרו למוצר מסוכן להגיע למיליוני תושבי פלורידה", אמר אות'מאייר. הוא הוסיף כי הוא "מבקש להטיל על אלטמן אחריות אישית לנזק שגרם לתושבי פלורידה בהתנהלות הפזיזה והמכוונת שלו כמייסד ומנכ"ל".
כתב התביעה מפרט שורת אירועים קשים שבהם נטען כי ChatGPT שימש ככלי תכנון. בירי המוני באוניברסיטת פלורידה סטייט, הרוצח שאל לפי הטענות את הצ'אטבוט אילו כלי נשק להשתמש בהם וכיצד לפעול כדי לזכות במקסימום חשיפה תקשורתית - והמערכת, כך נטען, סיפקה תשובות. ברצח שני סטודנטים באוניברסיטת דרום פלורידה, מסמכי בית המשפט מצביעים על שיחות בין הרוצח לצ'אטבוט שכללו, לפי הטענות, הוראות מפורטות על איך להחביא גופות. בנוסף, התביעה מתייחסת למסע קטל בבריטיש קולומביה שבו נהרגו שמונה בני אדם, ובו המערכות האוטומטיות של OpenAI זיהו שהחשבון קשור ל"תכנון ואלימות בנשק" ואף חסמו אותו - אך לפי הטענות, החברה לא דיווחה לרשויות, והרוצח פשוט פתח חשבון חדש.
מעבר לאירועי הקצה, התביעה תוקפת את הבסיס האלגוריתמי של הצ'אטבוט. המסמך מאשים את ChatGPT בנטייה מכוונת ושיטתית שמגדיר אותה "חנפנות דיגיטלית": המודל נוטה להסכים עם המשתמש, להחמיא לו ולאשר את מחשבותיו, כולל מחשבות אובדניות או אלימות, במקום לעצור אותו. לפי התביעה, מדובר בטקטיקה מסחרית שנועדה להשאיר משתמשים יותר זמן באפליקציה, לאסוף נתונים ולהעלות את ערך החברה.
התביעה מונה ארבע עילות של פרקטיקות סחר מטעות, שתיים של רשלנות, שתיים של הפרת חוקי אחריות מוצר, עילה של מצג שווא תרמיתי ועילה של גרימת מטרד ציבורי. במרכז הטענות: OpenAI הציגה לציבור כלי אמין ובטוח, בזמן שלפי המדינה הוא עלול לייצר מידע מסוכן, לעודד התנהגויות הרסניות ולייצר תלות אצל קטינים. "עלייתה של OpenAI נובעת מרשת של תרמית וניצול משתמשים, תוך שימוש בנתוניהם ובבטיחותם להקפצת שווי השוק של החברה במחיר בלתי נסבל", נכתב בכתב התביעה.
ההחלטה לתבוע את אלטמן אישית, ולא רק את החברה, מוגדרת על ידי משפטנים כצעד חריג. אלטמן אינו מחזיק במניות OpenAI, אך עצם ניסיון הייחוס של אחריות ישירה למנכ"ל יוצרת רעידת אדמה פוטנציאלית לתעשייה כולה: אם בתי המשפט יאמצו את הגישה, מנהלים בחברות בינה מלאכותית אחרות עלולים לגלות שהם חשופים לתביעות אישיות.
ההתביעה מעלה גם שאלה משפטית מהותית שחברות הטכנולוגיה נמנעו ממנה שנים: האם בינה מלאכותית גנרטיבית היא פלטפורמה - שנהנית מהגנה רחבה לפי הדין האמריקאי - או מוצר שיוצרו נושא באחריות לתוצאותיו. בניגוד לרשתות חברתיות שמארחות תוכן שמשתמשים מפרסמים, ChatGPT מייצר תוכן מאפס, עובדה שהתביעה מציגה כנסיבה מכרעת.
בממד הפוליטי, אות'מאייר הוא רפובליקני שמוביל קו אגרסיבי כלפי תעשיית הבינה המלאכותית, בעוד בוושינגטון הדרג הפדרלי מתנהל בזהירות. בסוף מאי דחה הנשיא טראמפ חתימה על צו שהיה מקים מנגנון בדיקה התנדבותי למודלי בינה מלאכותית לפני שחרורם לשוק, מחשש לפגיעה בתחרותיות האמריקאית מול סין. פלורידה ניסה לנסח תקדים מהמדינות, בזמן שהפדרל עדיין מהסס.
OpenAI הכחישה בעבר אחריות לאירועים שמיוחסים לה. "הירי באוניברסיטת פלורידה סטייט היה טרגדיה, אך ChatGPT אינו אחראי לפשע הנתעב הזה", אמר דובר החברה בתגובה לתביעה האזרחית שהגישה משפחת אחת הקורבנות. החברה הדגישה בעבר כי מדובר בתשובות עובדתיות המבוססות על מידע ציבורי שנגיש לכל אדם, וכי המערכת מפנה משתמשים במצוקה לקבלת תמיכה נפשית. נכון לפרסום, OpenAI לא הגיבה לתביעה הנוכחית.
אות'מאייר מבקש בתביעה קנסות אזרחיים וצו שיפוטי, לא הליך פלילי - אך החקירה הפלילית שנפתחה באפריל ממשיכה במקביל. ההכרעה המשפטית, בין אם תתקבל ובין אם לא, צפויה להוות אבן דרך בשאלה מי אחראי כאשר כלי בינה מלאכותית מספק מידע שמוביל לנזק.
פלורידה הגישה תביעה חסרת תקדים שעשויה לשנות את כללי המשחק לכלל תעשיית הבינה המלאכותית.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה