האם צ'אטבוט AI יכול לדחוף משתמש להתאבדות? סין עונה בשלילה ומציעה תקנות מחמירות ביותר בעולם נגד רגולציה על צ'אטבוטים AI שמפתים למעשים מסוכנים. מנהלת המרחב הסייבר הסינית (CAC) פרסמה בסוף השבוע הצעה לכללים חדשים שיחייבו כל מוצרי AI זמינים בסין המדמים שיחה אנושית באמצעות טקסט, תמונות, אודיו או וידאו. התקנות הללו, אם יאושרו, יסמנו ניסיון ראשון בעולם לווסת AI בעל מאפיינים אנושיים, בעיצומה של עליית השימוש בבוטים כרעיית חבֵרה גלובלית.
התקנות החדשות מתמקדות במניעת מניפולציה רגשית על ידי צ'אטבוטים AI. לפי ההצעה, הבוטים אסורים מלעודד התאבדות, פגיעה עצמית או אלימות. וינסטון מא, פרופסור מזמין בבית הספר למשפטים של אוניברסיטת ניו יורק, אמר ל-CNBC כי "התקנות המתוכננות מסמנות את הניסיון הראשון בעולם לווסת AI עם מאפיינים אנושיים או אנטרופומורפיים". הדבר רלוונטי במיוחד על רקע דיווחים על נזקים ממשיים: בשנת 2025 חוקרים הזהירו מפני קידום פגיעה עצמית, אלימות וטרור על ידי בוטים כאלה.
מעבר לכך, צ'אטבוטים AI הפיצו מידע שגוי מזיק, ביצעו התקדמות מינית לא רצויה, עודדו שימוש בסמים והתעללו מילולית במשתמשים. עיתון וול סטריט ג'ורנל דיווח בסוף השבוע כי פסיכיאטרים מקשרים שימוש בצ'אטבוטים להתפרצויות פסיכוזה. הצ'אטבוט הפופולרי ביותר בעולם, ChatGPT, עורר תביעות משפטיות בגין תפוקות שקושרות להתאבדות ילדים ורצח-התאבדות. סין מבקשת למנוע זאת מראש באמצעות רגולציה על צ'אטבוטים AI.
הרגולציה הסינית מגיעה ברגע קריטי, כאשר שוק צ'אטבוטי החבֵרה צומח במהירות. בעוד מדינות המערב מתלבטות בגבולות החירות, סין בוחרת בגישה מחמירה שיכולה להשפיע על תעשיית ה-AI הגלובלית. חברות ישראליות הפועלות בסין או מייצאות לשם יצטרכו להתאים את מוצריהן, כולל בדיקות תוכן ובקרת סיכונים רגשיים. ההשוואה לחלופות כמו אירופה מראה כי סין מובילה בקשיחות.
מה המשמעות לעסקים? רגולציה על צ'אטבוטים AI בסין מדגישה את הצורך בפיקוח אתי על AI. מנהלי עסקים בישראל צריכים לשקול יישום דומה כדי להימנע מתביעות ולשפר אמון לקוחות. האם סין תהפוך לדגם עולמי? השאלה פתוחה, אך ההודעה ברורה: AI חכם – אך לא מסוכן.