בעקבות לחצים מפעילי זכויות והורים, OpenAI הכריזה על הקמת צוות חדש שמטרתו לחקור דרכים למנוע שימוש לרעה בכלים המלאכותיים שלה על ידי ילדים. החברה פרסמה מודעת דרושים בדף הקריירה שלה, שבה היא מגלה את קיומו של צוות בטיחות לילדים. לדברי החברה, הצוות עובד יחד עם קבוצות מדיניות פלטפורמה, משפט וחקירות ב-OpenAI כמו גם עם שותפים חיצוניים כדי לנהל "תהליכים, אירועים ובדיקות" הקשורות למשתמשים קטינים.

הצוות מחפש כעת מומחה לאכיפת בטיחות ילדים, שתפקידו ליישם את מדיניות OpenAI בהקשר של תוכן שנוצר על ידי מלאכותיות ולעבוד על תהליכי בדיקה הקשורים לתוכן "רגיש" (כנראה קשור לילדים).

חברות טכנולוגיה מגדל מסוים מקדישות משאבים נכבדים לציות לחוקים כמו כלל הפרטיות המקוון של ילדים בארה"ב, הדורש שליטה על מה שילדים יכולים ולא יכולים לגשת אליו ברשת ואילו סוגי נתונים חברות יכולות לאסוף עליהם. לכן, העובדה ש-OpenAI מגייסת מומחים לבטיחות ילדים אינה מפתיעה במיוחד, במיוחד אם החברה מצפה לבסיס משתמשים קטינים משמעותי בעתיד. (תנאי השימוש הנוכחיים של OpenAI דורשים הסכמת הורים לילדים בגילאי 13 עד 18 ואוסרים שימוש לילדים מתחת לגיל 13.)

אך הקמת הצוות החדש, שהתבצעה כמה שבועות לאחר ש-OpenAI הודיעה על שותפות עם Common Sense Media לשיתוף פעולה על הנחיות ידידותיות לילדים והשגת לקוח ראשון בתחום החינוך, מצביעה גם על זהירות מצד OpenAI לא להפר פוליסות הקשורות לשימוש של קטינים ב-AI – ולתקשורת שלילית אפשרית.

ילדים ונוער הופכים להשתמש יותר ויותר בכלים של AI גנרטיבי לעזרה לא רק בשיעורי הבית אלא גם בבעיות אישיות. לפי סקר של המרכז לדמוקרטיה וטכנולוגיה, 29% מהילדים דיווחו שהשתמשו ב-ChatGPT להתמודדות עם חרדה או בעיות בריאות נפשית, 22% לבעיות עם חברים ו-16% לקונפליקטים משפחתיים.

בקיץ שעבר, בתי ספר ומוסדות אקדמיים מיהרו לחסום את ChatGPT בשל חששות לגניבה ספרותית ומידע מוטעה. מאז, חלקם הפכו את החסימות. אך לא כולם משוכנעים מהפוטנציאל החיובי של AI גנרטיבי, ומצביעים על סקרים כמו זה של מרכז האינטרנט הבטוח בבריטניה, שמצא כי יותר מחצי מהילדים (53%) דיווחו שראו אנשים בגילם משתמשים ב-AI גנרטיבי בדרך שלילית – לדוגמה, יצירת מידע או תמונות שקריות אמינות להצערת מישהו.

בספטמבר, OpenAI פרסמה תיעוד ל-ChatGPT בכיתות עם דוגמאות ושאלות נפוצות כדי להציע הדרכה למורים על שימוש ב-AI גנרטיבי ככלי לימודי. באחד ממאמרי התמיכה, OpenAI הודתה כי הכלים שלה

, במיוחד ChatGPT, "עשויים להפיק תוצאות שאינן מתאימות לכל הקהלים או לכל הגילאים" וייעצו לנקוט "זהירות" בחשיפה של ילדים – אפילו אלה שעומדים בדרישות הגיל.

הקריאות להנחיות בנוגע לשימוש של ילדים ב-AI גנרטיבי גוברות.

ארגון האומות המאוחדות לחינוך, מדע ותרבות (UNESCO) קרא בסוף השנה שעברה לממשלות להסדיר את שימוש ב-AI גנרטיבי בחינוך, כולל הטמעת גבולות גיל למשתמשים ומנגנוני הגנה על הגנת הנתונים ופרטיות המשתמש. "AI גנרטיבי יכול להוות הזדמנות אדירה לפיתוח האנושי, אך גם יכול לגרום לנזק ולדעת קדומה," אמרה אודרי אזולאי, מנכ"לית UNESCO, בהודעה לעיתונות. "לא ניתן לשלב אותו בחינוך ללא מעורבות ציבורית וללא הגנות והסדרים הנדרשים מהממשלות."

OpenAI נוקטת צעדים משמעותיים כדי להבטיח שהכלים המלאכותיים שלה נמצאים בשימוש בטוח ואחראי, במיוחד בידי משתמשים קטינים. ההקמה של צוות בטיחות לילדים מדגישה את המחויבות של החברה להגנה על הדור הצעיר בעידן הדיגיטלי, תוך שמירה על הפוטנציאל לחינוך ולפיתוח עם שימוש חכם ומוסרי בטכנולוגיה.