הצעת חוק חדשה בקליפורניה: הגנה על ילדים מפני צ’טבוטים

על רקע עליית הצ’טבוטים והפיכתם לחלק מרכזי מחיי היומיום,

הגיש סנאטור אלכס פדייה (Alex Padilla) הצעת חוק חדשה בסנאט של מדינת קליפורניה, שנועדה להגן על ילדים מפני פרקטיקות ניצוליות של בינה מלאכותית. הצעת החוק, המכונה SB 287, מבקשת ליישם רגולציה נוקשה יותר על חברות המפעילות צ’טבוטים הפונים לקטינים, במטרה להבטיח את בטיחותם, פרטיותם ורווחתם הנפשית של הילדים ברשת.

הצ’טבוטים – תוכנות מבוססות בינה מלאכותית המאפשרות תקשורת בשפה טבעית עם משתמשים – כובשים בשנים האחרונות את הרשת ומשלבים יכולות הולכות ומשתכללות. ילדים רבים משתמשים בצ’טבוטים למגוון צרכים, החל מלמידה ועזרה בשיעורי בית ועד למשחקים ורשתות חברתיות. בעוד שהטכנולוגיה מציעה פוטנציאל לחינוך ולפיתוח כישורים, היא עלולה גם לשמש ככלי לאיסוף נתונים ולניצול ברמה המסחרית או האישית.

בארה”ב נשמעו אזהרות כי ילדים עלולים להיחשף לפרסומות או תוכן ממוקד, לעיתים תוך שימוש במידע פרטי שעלול לדלוף לגורמים לא רצויים. הצעת החוק החדשה מבקשת להכניס סדר בתחום ולמנוע מצב בו צ’טבוטים משתמשים במניפולציות שיווקיות או בהתנהגויות “טורפניות”– בין אם במודע ובין אם לאו – כלפי קטינים.

לפי הודעה שפורסמה מטעם הסנאטור פדייה, SB 287 מבקשת להציב שורה של הגבלות ודרישות מכל חברה המפעילה צ’טבוטים המיועדים במובהק לילדים:

1. איסור על פרסום ממוקד בקטינים: מניעת שימוש בנתונים אישיים של ילדים לצורך התאמת מודעות או הצגת תוכן ממומן שעלול להשפיע על התנהגותם והחלטותיהם.

2. מנגנוני אימות גיל מתקדמים: הבטחת הטמעת מערכות לזיהוי משתמשים צעירים, באופן שיאפשר למנוע גישה מצ’טבוטים המיועדים למבוגרים או מחברות שלא עומדות בסטנדרטים המחמירים.

3. שקיפות ברורה לצרכנים ולהורים: דרישת הצגת הצהרות פרטיות מובנות בשפה פשוטה, המסבירות מה נאסף, כיצד משתמשים בנתוני הילדים ולמה הם נחוצים.

4. איסור על איסוף ומכירה של מידע: מניעת כל ניסיון לאסוף, למכור או לשתף מידע פרטי של קטין, ללא הסכמה מפורשת מהורה או אפוטרופוס.

5. ענישה משמעותית למפרים: החקיקה מציעה סנקציות כספיות, ואף אפשרות לתביעות משפטיות ביוזמת התובע הכללי, נגד חברות שלא יפעלו בהתאם לכללים.

“לחבק את הטכנולוגיה בלי לסכן את ילדינו”

בסרטון שהופץ לתקשורת, הדגיש הסנאטור פדייה כי החקיקה לא באה לנטרל את החדשנות או להקטין את המוטיבציה לפיתוח: “ילדים היום זוכים לגישה חסרת תקדים לטכנולוגיה, ולא נרצה למנוע מהם ללמוד ולהתפתח. אך אסור לנו לאפשר שהמרחב הדיגיטלי יהפוך לשטח הפקר שבו חברות וגורמים אחרים מנצלים את תמימותם או את חוסר הידע שלהם”.

אנשי חינוך, מומחי בינה מלאכותית ופעילים בתחום הגנת הילד ברשת מביעים תמיכה רחבה ביוזמה, ומדגישים כי השילוב בין בינה מלאכותית לבין כוח כלכלי עשוי לעודד חברות לייצר מניפולציות על משתמשים צעירים. “צ’טבוט עם גישה לנתונים רגישים יכול לנצל אותם למטרות שיווקיות או אפילו לפעולות מזיקות יותר. חקיקה כזו היא צעד משמעותי בדרך לסטנדרט כלל-עולמי בנושא בטיחות קטינים,” אומרת ד”ר מיכל כהן, מומחית לרגולציית מדיה דיגיטלית.

לאן ממשיכים מכאן?

בשלב זה, הצעת החוק נמצאת בשלבי דיון בסנאט המקומי של קליפורניה, וצפויה לעבור בקרוב לדיונים נוספים בוועדות הרלוונטיות. במידה שתאושר, תהיה זו אחת הרגולציות הראשונות בארה”ב המתמקדות ספציפית בצ’טבוטים וילדים. היא עשויה להשפיע גם מחוץ לגבולות קליפורניה, שכן לעיתים קרובות מדינות אחרות בארה”ב ואף מדינות בעולם מאמצות תקנות דומות בהמשך.

הוויכוח המרכזי כיום נסוב סביב מורכבות הטמעת אמצעי אימות גיל מחד, מול הרצון לשמור על אנונימיות וזכויות המשתמשים מאידך. מה שבטוח הוא שהנושא יצטרך לעבור חידוד והתאמות ככל שהטכנולוגיה תתקדם – והמקרה של SB 287 מצביע על מגמה כללית: המחוקקים לא מתכוונים לעמוד מנגד בזמן שהבינה המלאכותית משנה את כללי המשחק ביחסי כוחות בין חברות טכנולוגיה למשתמשים צעירים.

בשורה התחתונה: הצעת החוק של הסנאטור פדייה עשויה להציב רף חדש בכל הנוגע לחקיקה הממוקדת בהגנה על ילדים בעולם הדיגיטלי ובפרט בשימוש בבינה מלאכותית. מדובר במהלך פורץ דרך שיכול להשפיע על עתיד הצ’טבוטים, על אופני הפיתוח וההשקה שלהם, ובעיקר על האופן שבו הרשת הדיגיטלית תפקח על תוכן ושירותים המיועדים לילדים.

נמשיך לעקוב אחר ההתפתחויות בחקיקה זו ובצעדים דומים במדינות נוספות, ולדווח על ההשלכות האפשריות של תקנות חדשות בעולמות הבינה המלאכותית.

מקור : כאן