חברת OpenAI השיקה גרסה חדשה של ChatGPT, המיועדת לבני נוער בגילי 13 עד 17. הגרסה, שנקראת "ChatGPT לבני נוער", כוללת הגנות תוכן מחמירות בהרבה מהגרסה הרגילה.
איך זה עובד בפועל? המערכת מזהה בעצמה כשמדובר במשתמש מתחת לגיל 18, בלי שהוא צריך לעשות כלום. היא בודקת פרטי חשבון, אימות גיל וגם מערכת חיזוי גיל פנימית. גם מי שמצהיר בעצמו שהוא צעיר יקבל אוטומטית את החוויה המוגבלת.
ומה בעצם מוגבל? המערכת תסנן שיחות בנושאים רגישים כמו פגיעה עצמית, אלימות קשה, הפרעות אכילה ותוכן מיני שלא מתאים לגיל. ב-OpenAI מדגישים שהמטרה היא למנוע גם מצב שבו בני נוער מפתחים תלות רגשית בצ'אטבוט. "אנחנו מאמינים שבינה מלאכותית צריכה להרחיב את ההזדמנויות החינוכיות", מסרה החברה בהודעה, "ולכן עיצבנו את ChatGPT לבני נוער כדי לתמוך ברגעים שמחוץ לכיתה, שבהם עזרה לא תמיד זמינה".
מעבר להגבלות, יש גם צד לימודי. הגרסה החדשה כוללת מצב לימוד מיוחד שבו הצ'אטבוט לא נותן תשובה מוכנה, אלא מוביל את התלמיד שלב אחר שלב עם שאלות מכוונות ורמזים. יש גם חידונים, תזכורות לשיעורי בית והמחשות חזותיות במתמטיקה ובמדעים. לפי OpenAI, כבר כ-18 מיליון משתמשים בשבוע משתמשים בכלי הלימוד האינטראקטיביים שלה, שמכסים יותר מ-300 נושאים, מאינטגרלים ועד פוטוסינתזה.
ולהורים? הם מקבלים שליטה שלא הייתה קיימת קודם. אפשר לקשר את החשבון של ההורה לחשבון של בן הנוער, לקבוע "שעות שקטות" שבהן אי אפשר להשתמש בצ'אט בכלל, ולנהל הגדרות כמו שימוש בקול, יצירת תמונות וזיכרון. חשוב לציין: ההורים לא יכולים לקרוא את השיחות בפועל או לעקוב בזמן אמת, רק לקבל התראות במקרים חריגים.
מתי מגיעה התראה כזו? כשבודקים מיוחדים שעברו הכשרה מזהים חשש חמור לפגיעה עצמית, או כשהחשבון מושבת בגלל שיחות שנוגעות לאיומים או אלימות. OpenAI מבהירה שההתראות לא כוללות את תוכן השיחה עצמו, וגם לא באות במקום עזרה מקצועית אמיתית.
ההשקה מתבצעת בהדרגה בעולם, החל מה-18 באוגוסט, גם במסלול החינמי וגם בתשלום. באוסטרליה למשל הזמינות המלאה צפויה רק ב-8 בספטמבר, וחלק מהכלים ישתנו בין מדינה למדינה.
המהלך לא מגיע בחלל ריק. OpenAI מתמודדת עם כמה תביעות שבהן נטען שהצ'אטבוט גרם נזק לילדים, כולל מקרים חמורים שהובילו לחששות ממשיים לבריאות הנפשית של בני נוער. באותו זמן בדיוק, מטא נמצאת במשפט סוער נגד קבוצת פרקליטים ממדינות בארצות הברית, בטענה שהיא עודדה שימוש אובססיבי ברשתות חברתיות בקרב קטינים.
מומחים כבר הזהירו לא מעט פעמים: הסתמכות של בני נוער על בוט לצורך תמיכה נפשית זה עניין מסוכן. משפחות שכולות טענו בעבר שהיעדר הגנות מספיקות תרם למותם של יקיריהם. אם המהלך הזה יספיק כדי לשנות את התמונה, זה עוד ייבחן. בינתיים, מי שרוצה לדבר עם מישהו בזמן משבר, ער"ן זמין ב-1201 בכל עת.
נראה שזו רק ההתחלה. OpenAI כבר הכריזה גם על שיתוף פעולה חינוכי בשם CodeAI, שנועד ללמד בני נוער איך בינה מלאכותית עובדת ואיך להתייחס אליה בעין ביקורתית, לצד המשך פיתוח הגרסה למורים שהחברה מציעה לבתי ספר.
OpenAI משיקה הגנות ובקרות הורים חדשות לבני נוער ב-ChatGPT, על רקע גל תביעות וחששות לבריאות הנפשית של קטינים ברחבי העולם.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה