OpenAI מעדכנת כללי בטיחות חדשים לנוער ב-ChatGPT
חדשות

OpenAI מעדכנת כללי בטיחות חדשים לנוער ב-ChatGPT

עם לחץ חקיקתי גובר, OpenAI מחמירה הגנות על משתמשים מתחת לגיל 18 ומפרסמת משאבי ליטריות AI להורים ולמתבגרים

4 דקות קריאה
מבוסס על כתבה שלTechCrunchתרגום, סיכום והקשר עסקי על-ידי המערכתאיך אנחנו עובדים

תקציר מנהלים

נקודות עיקריות

  • OpenAI עדכנה את Model Spec עם הגנות מחמירות יותר לנוער: איסור משחקי תפקידים רומנטיים ואלימים

  • עקרונות מנחים: בטיחות ראשונה, הפניה לתמיכה אמיתית ושקיפות מלאה

  • רקע: מקרי התאבדות, מכתב מ-42 פרקלי מדינה וחוקים כמו SB 243 בקליפורניה

  • משאבי ליטריות חדשים להורים ולמתבגרים לבניית שימוש בטוח ב-AI

OpenAI מעדכנת כללי בטיחות חדשים לנוער ב-ChatGPT

  • OpenAI עדכנה את Model Spec עם הגנות מחמירות יותר לנוער: איסור משחקי תפקידים רומנטיים ואלימים
  • עקרונות מנחים: בטיחות ראשונה, הפניה לתמיכה אמיתית ושקיפות מלאה
  • רקע: מקרי התאבדות, מכתב מ-42 פרקלי מדינה וחוקים כמו SB 243 בקליפורניה
  • משאבי ליטריות חדשים להורים ולמתבגרים לבניית שימוש בטוח ב-AI

בעידן שבו צ'אטבוטים כמו ChatGPT הפכו לחלק בלתי נפרד מחיי הנוער, OpenAI מציגה עדכונים משמעותיים בכללי הבטיחות לכלי הבינה המלאכותית שלה. החברה עדכנה את מסמך Model Spec, המגדיר את התנהגות המודלים שלה מול משתמשים מתחת לגיל 18, ומפרסמת משאבי ליטריות AI חדשים להורים ולמתבגרים. העדכונים מגיעים על רקע דאגות גוברות לגבי השפעת AI על צעירים, כולל מקרי התאבדות שיוחסו לשיחות ממושכות עם צ'אטבוטים.

OpenAI מדווחת כי העדכון כולל הנחיות מחמירות יותר למשתמשים מתבגרים בהשוואה למבוגרים. המודלים אסורים מלעסוק במשחקי תפקידים רומנטיים סוחפים, אינטימיות בגוף ראשון, או משחקי תפקידים מיניים או אלימים, גם אם אינם גרפיים. בנוסף, יש להפעיל זהירות מוגברת בנושאים כמו דימוי גוף והפרעות אכילה, ולתעדף תקשורת על בטיחות על פני אוטונומיה כאשר קיים סיכון. ההנחיות חלות גם על שאילתות המוצגות כ'בדיוניות, היפותטיות, היסטוריות או חינוכיות'.

החברה מציינת ארבעה עקרונות מנחים: העדפת בטיחות הנער על פני חופש אינטלקטואלי, הפניית מתבגרים לתמיכה בעולם האמיתי כמו משפחה ומקצוענים, התייחסות אליהם בכבוד וחום ללא התנשאות, ושקיפות מלאה לגבי יכולות וגבולות האסיסטנט. דוגמאות במסמך מראות כיצד ChatGPT מסרב לבקשות כמו 'שחקי את החברה שלי' או עזרה בשינויי מראה קיצוניים. OpenAI מתכננת מודל זיהוי גיל אוטומטי שיופעל אוטומטית הגנות אלה.

העדכונים מגיעים בתזמון קריטי, כאשר 42 פרקלי מדינה בארה"ב שלחו מכתב לחברות טק גדולות, דורשות הגנות על ילדים. סנאטור ג'וש הולי הציע חוק האוסר לחלוטין על קטינים להשתמש בצ'אטבוטי AI, וממשל טראמפ בוחן תקנים פדרליים. בקליפורניה, חוק SB 243 שנחקק לאחרונה מחייב אזהרות תקופתיות ומגבלות על תוכן מסוכן, דבר שמשקף את שינויי Model Spec.

מומחים מברכים על הצעדים, אך מביעים ספקות. לילי לי, עורכת דין לפרטיות ו-AI, שיבחה את הסירוב לקיים שיחות ממכרות שמובילות להתנהגות בלתי הולמת. רובי טורני מ-Common Sense Media הזהיר מפני סתירות פנימיות במפרט, כמו עידוד שיחות על כל נושא. סטיבן אדלר, חוקר בטיחות לשעבר ב-OpenAI, הדגיש כי דוגמאות אינן מבטיחות התנהגות בפועל, במיוחד לאור בעיות סיקופנטיה ב-GPT-4o.

במקרה טרגי של אדם ריין, נער שהתאבד לאחר שיחות עם ChatGPT, נכשל מערכת המתינות של OpenAI בלמנוע תוכן מסוכן למרות זיהוי אלפי הודעות. כיום, החברה משתמשת במערכות זיהוי בזמן אמת, ובמקרים חמורים – צוות אנושי בודק ומדווח להורים. OpenAI פרסמה גם משאבי ליטריות להורים, כולל נושאי שיחה לבניית חשיבה ביקורתית והגבלות בריאותיות.

למנהלי עסקים ישראלים, העדכון מדגיש את החשיבות של כלי AI בטוחים בסביבת עבודה שבה עובדים צעירים משתמשים בהם. עם עסקאות כמו זו של OpenAI עם דיסני, יותר נוער יגיע לפלטפורמה. חברות ישראליות המפתחות AI חייבות לאמץ גישות דומות כדי להימנע מסיכונים משפטיים ולשמור על אמון.

האם כללי הבטיחות הללו ימנעו אסונות עתידיים? OpenAI מדגישה שמדובר בחלק ממערכת רב-שכבתית, אך רק בדיקת התנהגות בפועל תקבע. הורים ועסקים: בדקו את ההגדרות ודברו עם הילדים על גבולות AI.

שאלות ותשובות

שאלות נפוצות

הכתבה הוכנה על-ידי המערכת בליווי בינה מלאכותית: תרגום, סיכום והוספת הקשר עסקי ישראלי מתוך פרסום מקורי של TechCrunch. קראו על תהליך העריכה שלנו. קישור למקור המקורי.

אהבתם את הכתבה?

הירשמו לניוזלטר שלנו וקבלו עדכונים חמים מעולם ה-AI ישירות למייל

איליה סוצקבר ו-SSI משתפים פעולה עם אנבידיה להרחבת המחקר
חדשות
4 דקות
מ־TechCrunch

איליה סוצקבר ו-SSI משתפים פעולה עם אנבידיה להרחבת המחקר

על פי דיווח ב-TechCrunch, מעבדת הבינה המלאכותית Safe Superintelligence (SSI), שנוסדה על ידי איליה סוצקבר, הכריזה על שותפות ארוכת טווח עם ענקית השבבים אנבידיה (Nvidia) להרחבת משאבי המחשוב שלה. במסגרת השותפות, המעבדה תקבל גישה לפלטפורמת המעבדים הגרפיים Vera Rubin של אנבידיה, שתגדיל את משאבי המחשוב שלה בסדר גודל שלם. העסקה כוללת גם השקעה שסכומה לא פורסם, אך לפי מקורבים מגיעה למיליארדי דולרים. השותפות נועדה להאיץ את שלב הצמיחה הבא של SSI, הפועלת ללא הסחות דעת מסחריות לבניית סופר-אינטליגנציה בטוחה ומיושרת, ומגיעה ברקע חששות בטיחות גוברים בתחום הבינה המלאכותית.

קרא עוד
הסטארט-אפ Enigma מגייס 70 מיליון דולר לשליטה אינטואיטיבית ברובוטים
חדשות
4 דקות
מ־TechCrunch

הסטארט-אפ Enigma מגייס 70 מיליון דולר לשליטה אינטואיטיבית ברובוטים

לפי דיווח ב-TechCrunch, חברת הסטארט-אפ Enigma, מעבדת מחקר בת פחות משנה העוסקת בבינה מלאכותית לרובוטיקה, יוצאת מהצללים ומכריזה על גיוס סבב סיד בגובה 70 מיליון דולר. הסבב הובל על ידי הקרנות Index Ventures ו-Ribbit Capital, בהשתתפות שרה גואו מ-Conviction Partners. החברה, שהוקמה על ידי חברי הילדות ויוצאי יחידה 8200 ג'ונתן יעקבי וגל ניב, מציעה גישה שונה לפיתוח רובוטים המתמקדת בחקר האינטראקציה בין האדם למכונה. כדי לבחון גישה זו, Enigma משיקה ניסוי פומבי רחב היקף המאפשר לכל אדם ברחבי העולם לשלוט באופן מקוון ביותר מ-100 רובוטים השוכנים בהאנגרים בישראל ובקליפורניה. הרובוטים מבצעים משימות מגוונות, כגון ציור, לחימת חרבות וניסויים כימיים פשוטים. החברה שואפת לפתח ממשק פשוט ואינטואיטיבי המדמה את כפתור ווליום הרכב, וכבר משתפת פעולה עם חברות בתחומי הלוגיסטיקה, הבריאות והבידור.

קרא עוד
האם גלי מוח הם המפתח הבא לפיתוח בינה מלאכותית פיזית?
חדשות
5 דקות
מ־TechCrunch

האם גלי מוח הם המפתח הבא לפיתוח בינה מלאכותית פיזית?

לפי דיווח ב-TechCrunch, חברת Encord, המפתחת כלי נתונים לאימון מודלי בינה מלאכותית, משתפת פעולה עם סטארט-אפ מדעי המוח הגרמני Zander Labs כדי לבחון שימוש בחיישני גלי מוח ופעילות חשמלית בשרירים לצורך אימון רובוטים. החברות מנסות לפתור את צוואר הבקבוק המרכזי של הרובוטיקה כיום – המחסור החמור בנתוני אימון פיזיים מהעולם האמיתי. בניגוד למודלי שפה גדולים (LLMs) שנבנו על בסיס טקסט זול וזמין מהאינטרנט, ייצור נתוני מניפולציה פיזיים דורש השקעה כלכלית עצומה וייצור אקטיבי של נתונים, החל מווידאו "אגוצנטרי" ועד להפעלה מרחוק של זרועות רובוטיות. הניסוי הנוכחי בוחן האם תיוג נתונים באמצעות מצבים מנטליים כמו כוונה או הפתעה ישפר את ביצועי הרובוטים.

קרא עוד
הבהלה סביב בינה מלאכותית סינית: פחד או הגנה על אינטרסים?
חדשות
4 דקות
מ־TechCrunch

הבהלה סביב בינה מלאכותית סינית: פחד או הגנה על אינטרסים?

השקת מודל ה-Kimi של חברת Moonshot AI הסינית הציתה מחדש את הדיון בארה"ב סביב כושר התחרות מול סין, הבטיחות הטכנולוגית וההבדלים בין מודלים פתוחים לקנייניים. לפי דיווח ב-TechCrunch, חברות כמו OpenAI ו-Anthropic מפעילות לחץ על רגולטורים בוושינגטון בשל החשש ממודלים סיניים פתוחים. בפודקאסט Equity דנו המנחים בשאלה האם הבהלה מבוססת על סיכוני אבטחה ממשיים והטיות מובנות לטובת סין, או שמדובר בפרוטקציוניזם שנועד להגן על אינטרסים של מעבדות בינה מלאכותית אמריקאיות מובילות על חשבון התחרות החופשית.

קרא עוד

עוד כתבות שיעניינו אותך

לכל הכתבות
הבהלה סביב בינה מלאכותית סינית: פחד או הגנה על אינטרסים?
חדשות
4 דקות
מ־TechCrunch

הבהלה סביב בינה מלאכותית סינית: פחד או הגנה על אינטרסים?

השקת מודל ה-Kimi של חברת Moonshot AI הסינית הציתה מחדש את הדיון בארה"ב סביב כושר התחרות מול סין, הבטיחות הטכנולוגית וההבדלים בין מודלים פתוחים לקנייניים. לפי דיווח ב-TechCrunch, חברות כמו OpenAI ו-Anthropic מפעילות לחץ על רגולטורים בוושינגטון בשל החשש ממודלים סיניים פתוחים. בפודקאסט Equity דנו המנחים בשאלה האם הבהלה מבוססת על סיכוני אבטחה ממשיים והטיות מובנות לטובת סין, או שמדובר בפרוטקציוניזם שנועד להגן על אינטרסים של מעבדות בינה מלאכותית אמריקאיות מובילות על חשבון התחרות החופשית.

קרא עוד
מאנדיי מצטרפת לגל: 20 חברות הייטק שמפטרות עובדים בגלל AI
חדשות
5 דקות
מ־TechCrunch

מאנדיי מצטרפת לגל: 20 חברות הייטק שמפטרות עובדים בגלל AI

חברת Monday.com מתל אביב הכריזה על פיטורי כ-20% מכוח האדם שלה (כ-600 עובדים) כחלק מתוכנית ארגון מחדש והשקעה באסטרטגיית AI. החברה מצטרפת לשורה ארוכה של ענקיות טכנולוגיה, בהן מיקרוסופט, אורקל, מטא וגוגל, אשר קיצצו עשרות אלפי משרות מתחילת השנה תוך הסטת משאבים אדירים לפיתוח תשתיות ופתרונות בינה מלאכותית. ניתוח של ה-Financial Times מגלה כי חברות המקשרות את הפיטורים לבינה מלאכותית הציגו ביצועי חסר בבורסה בהשוואה לנאסדאק, בעוד שתפקידים רבים משתנים או מוחלפים לחלוטין על ידי סוכני AI חכמים.

קרא עוד
מעבדת ה-AI החדשה Prentis במגעים לגיוס של 100 מיליון דולר
חדשות
5 דקות
מ־TechCrunch

מעבדת ה-AI החדשה Prentis במגעים לגיוס של 100 מיליון דולר

על פי דיווח באתר TechCrunch, מעבדת המחקר החדשה לבינה מלאכותית Prentis, שנוסדה על ידי ריטאנקר דאס, ריד הופמן ומארק פינקוס, נמצאת במגעים לגיוס של 100 מיליון דולר לפי שווי של מיליארד דולר. החברה, שהושקה באפריל האחרון, מפתחת סוכני בינה מלאכותית המסוגלים לשלוט במחשבים כדי לאוטם משימות משרדיות שגרתיות. Prentis כבר חתמה על חוזים בשווי של עד 50 מיליון דולר עם מספר לקוחות, ומציגה את מודל Hive-32B שלה, אשר לטענתה עוקף את ביצועי הדגמים של OpenAI ו-Anthropic במבחני ביצוע של שימוש במחשב בעלויות נמוכות פי 10. השוק מתפתח במהירות ומציג תחרות עזה מצד ענקיות בינה מלאכותית נוספות.

קרא עוד
מעבדת ה-AI החדשה Prentis במגעים לגיוס 100 מיליון דולר
חדשות
4 דקות
מ־TechCrunch

מעבדת ה-AI החדשה Prentis במגעים לגיוס 100 מיליון דולר

לפי דיווח ב-TechCrunch, מעבדת מחקר ה-AI החדשה Prentis, שהוקמה על ידי ריטנקר דאס, ריד הופמן ומרק פינקוס, נמצאת במגעים לגיוס של 100 מיליון דולר לפי שווי של מיליארד דולר. החברה מפתחת סוכני בינה מלאכותית לשליטה במחשב ואוטומציה של משימות משרדיות יומיומיות, וכבר חתמה על חוזים בשווי של עד 50 מיליון דולר עם מספר לקוחות. מודל הדגל שלה, Hive-32B, מציג ביצועים העוקפים את GPT-5.4 ו-Claude Opus 4.6 במבחני השוואה ייעודיים, תוך הפחתת עלויות משמעותית.

קרא עוד