חדשות

OpenAI מפרקת צוות יישור AI: מה זה אומר לבטיחות הבינה המלאכותית?

החברה סוגרת יחידה שדאגה להתאמת AI לערכים אנושיים ומעבירה את חבריה לתפקידים אחרים. האם זה מסמן שינוי במדיניות הבטיחות?

4 דקות קריאה
OpenAI מפרקת צוות יישור AI: מה זה אומר לבטיחות הבינה המלאכותית?
מבוסס על כתבה שלTechCrunch ↗תרגום וסיכום באמצעות מערכת חדשות בליווי AIאיך אנחנו עובדים

תקציר מנהלים

מה חשוב לדעת

  1. OpenAI פירקה צוות יישור AI שהוקם בספטמבר 2024.

  2. ג'וש אכיאם מונה ל-Chief Futurist.

  3. חברי הצוות ממשיכים בעבודה דומה במקומות אחרים.

  4. זה חלק מארגון מחדש שגרתי בחברה.

OpenAI מפרקת צוות יישור AI לבינה מלאכותית בטוחה

האם OpenAI, מובילת תחום הבינה המלאכותית, מוותרת על מאמצי הבטיחות? החברה פירקה לאחרונה את צוות היישור למשימה (Mission Alignment Team), שתפקידו היה להבטיח כי מערכות ה-AI שלה בטוחות, אמינות ומתואמות עם ערכים אנושיים. לפי דיווח של TechCrunch, חברי הצוות הועברו לתפקידים אחרים בחברה, בעוד ראש הצוות לשעבר, ג'וש אכיאם, מונה ל"ראש עתידן ראשי" (Chief Futurist). השינוי הזה מעלה שאלות על מחויבותה של OpenAI לבטיחות AI בעידן של התקדמות מהירה.

מה זה יישור AI?

יישור AI (AI Alignment) הוא תחום מחקר שמטרתו להבטיח כי מערכות בינה מלאכותית פועלות בהתאם לכוונות אנושיות, גם בתרחישים מורכבים, עוינים או בעלי סיכון גבוה. הצוות של OpenAI התמקד בפיתוח שיטות שמאפשרות ל-AI להימנע מהתנהגות קטסטרופלית, להישאר נשלט, ניתן לביקורת ומתואם עם ערכים אנושיים. לפי פרסומי החברה, יישור כולל התמודדות עם תרחישים אמיתיים שבהם AI עלול לסטות ממטרותיו. זהו אתגר מרכזי בתעשייה, שכן AI מתקדם עלול להפוך לבלתי צפוי אם אינו מיושר כראוי. הצוות הוקם בספטמבר 2024 והיה חלק ממאמצי החברה להתמודד עם סיכונים ארוכי טווח.

פרטי הפירוק של צוות היישור ב-OpenAI

OpenAI אישרה ל-TechCrunch כי הצוות, שמנה 6-7 אנשים, פורק והחברים הועברו לתפקידים אחרים שבהם הם ממשיכים בעבודה דומה. ג'וש אכיאם, ראש הצוות, כתב בפוסט בבלוג כי תפקידו החדש כולל חקר השינויים ש-AI ו-AGI יגרמו לעולם, בשיתוף עם ג'ייסון פרואט. הדובר של החברה הסביר זאת כארגון מחדש שגרתי בחברה מהירה. זה מגיע אחרי פירוק צוות 'סופר-יישור' ב-2024, שהתמקד באיומים קיומיים.

תפקידו החדש של אכיאם

אכיאם, שתיאר את עצמו כמי שדואג לעתיד האנושות, יתמקד כעת בתמיכה במשימת OpenAI להבטיח ש-AGI יועיל לכולם. לא ברור אם יהיה לו צוות חדש. השינוי מדגיש מעבר מחקר ספציפי ליישור אל חשיבה אסטרטגית רחבה יותר.

ההשלכות לעסקים בישראל

בעבור עסקים ישראליים שמאמצים סוכני AI, הפירוק הזה מעלה דאגות. חברות כמו סטארט-אפים בתל אביב משתמשות בכלי OpenAI כמו ChatGPT, אך סיכוני יישור עלולים להשפיע על אמינותם. בישראל, שבה תעשיית ההייטק תלויה ב-AI, חשוב לשקול ייעוץ טכנולוגי כדי להטמיע פתרונות בטוחים. הרשות להגנת הפרטיות בישראל כבר דנה ברגולציה, והשינוי ב-OpenAI עלול להאיץ דרישות כאלה. עסקים קטנים ובינוניים חייבים לוודא שה-AI שלהם מיושר עם צרכיהם, כדי למנוע תקלות יקרות.

מה זה אומר לעסק שלך

הפירוק מצביע על אופטימיות גוברת ב-OpenAI לגבי יכולות היישור הקיימות, אך גם על סיכונים פוטנציאליים. עסקים צריכים לגוון ספקי AI ולשלב בדיקות בטיחות עצמאיות. זה זמן לבחון פתרונות אוטומציה עסקית שמתמקדים בבטיחות.

האם OpenAI צריכה להשקיע יותר בבטיחות? השאלה נותרת פתוחה, אך עסקים חכמים יתכוננו לשינויים.

האם זה היה שימושי לעסק שלכם?

שאלות ותשובות

שאלות נפוצות

הכתבה הוכנה באמצעות מערכת בליווי בינה מלאכותית לתרגום, סיכום ובקרות איכות אוטומטיות מתוך פרסום מקורי של TechCrunch. קראו על תהליך העריכה שלנו. קישור למקור המקורי.

קבלו עדכוני AI שימושיים למייל

תקציר ממוקד ממערכת החדשות שלנו.

תשקיף Anthropic חושף את האסטרטגיה לשימור לקוחות ארגוניים
חדשות
3 דקות
מ־TechCrunch

תשקיף Anthropic חושף את האסטרטגיה לשימור לקוחות ארגוניים

לפי דיווח ב-TechCrunch, חברת Anthropic הגישה לרשות ניירות הערך של ארצות הברית (SEC) תשקיף הנפקה (טופס S-1), המפרט את האסטרטגיה העסקית שלה לשימור לקוחות ארגוניים באמצעות מערכת אקולוגית רב-מוצרית. המסמכים מלמדים כי יותר ממחצית מהלקוחות בעלי הוצאה שנתית של לפחות 100,000 דולר משתמשים כיום הן בפלטפורמת Claude והן באפליקציות מבית החברה כמו Claude Code או Cowork, לעומת כ-30% בסוף השנה שעברה. במקביל להתרחבות זו, אשר תרמה לשיעור שימור הכנסות נטו של כ-900% בסוף הרבעון השלישי, התשקיף מפרט גם אתגרים עתידיים, לרבות תחרות מול שותפות הענן הגדולות וסיכוני ריכוזיות לקוחות.

קרא עוד
בית הקברות של ה-AI: רשימת הפרויקטים והסטארט-אפים שלא שרדו
חדשות
4 דקות
מ־TechCrunch

בית הקברות של ה-AI: רשימת הפרויקטים והסטארט-אפים שלא שרדו

לפי דיווח ב-TechCrunch, שוק הבינה המלאכותית מציג רשימה הולכת וגדלה של מוצרים, השקות ומיזמים שלא שרדו. נתוני S&P Global Market Intelligence מצביעים על כך שכ-42% מיוזמות הבינה המלאכותית ננטשות בסופו של דבר על ידי החברות האם שלהן, בשל סיבות כמו מימון בלתי מספק, אתגרים טכניים, תחרות, קשיי צמיחה או ביקוש חלש מצד משתמשים. בין המקרים הבולטים נמנים כלי האוטומציה Relay שנסגר באוגוסט, פלטפורמת Character.ai שהגישה בקשה לפשיטת רגל, וכן מהלכים של ענקיות טכנולוגיה: OpenAI ביטלה את העיצוב מחדש של ChatGPT וסגרה את הדפדפן ChatGPT Atlas ואת פלטפורמת Sora; אפל עיכבה את Siri AI ושילמה הסדר של 250 מיליון דולר; ומיקרוסופט התמודדה עם ביקורת אבטחה סביב Recall.

קרא עוד
סוכני בינה מלאכותית הפועלים דרך הודעות טקסט: סקירת הפתרונות
חדשות
5 דקות
מ־TechCrunch

סוכני בינה מלאכותית הפועלים דרך הודעות טקסט: סקירת הפתרונות

לפי כתבה ב-TechCrunch, יותר סוכני בינה מלאכותית מציעים למשתמשים ממשק מבוסס הודעות טקסט רגילות, ללא צורך בהורדת אפליקציות ייעודיות נוספות. הסוכנים מתחברים לשירותים קיימים כמו דוא"ל, לוחות שנה ואפליקציות מסרים כגון iMessage, WhatsApp ו-Telegram, ומבצעים משימות בשם המשתמשים. הסקירה מציגה פתרונות אישיים כלליים, סוכנים ייעודיים למשפחות כמו Fambot ו-Ollie, סוכני עבודה ויצירת תוכן כמו Comma, Town ו-Stanley, וכן סוכנים עם דגש על נסיעות או פרטיות מקומית.

קרא עוד
סוכני AI בהודעות טקסט: פתרונות בולטים הפועלים ללא אפליקציה נפרדת
חדשות
5 דקות
מ־TechCrunch

סוכני AI בהודעות טקסט: פתרונות בולטים הפועלים ללא אפליקציה נפרדת

לפי TechCrunch, שורה של סוכני בינה מלאכותית פועלים ישירות דרך ערוצי הודעות טקסט מוכרים כמו iMessage, וואטסאפ, טלגרם ו-SMS ללא צורך בהורדת אפליקציות נפרדות. סוכנים אלה מבצעים משימות מגוונות, החל מניהול יומנים, מעקב טיסות וביצוע שיחות טלפון ועד ניהול משק בית, יצירת תוכן ומשימות מקצועיות. בין הפתרונות הבולטים נכללים Instinct שהגיע לשווי של 10 מיליארד דולר, Caddy, Folk, Town, Fambot ו-Wajo, הפועלים במודלים שונים של בטא, מנויים בתשלום ורמות אוטונומיה שונות.

קרא עוד

עוד כתבות שיעניינו אותך

לכל הכתבות
תשקיף Anthropic חושף את האסטרטגיה לשימור לקוחות ארגוניים
חדשות
3 דקות
מ־TechCrunch

תשקיף Anthropic חושף את האסטרטגיה לשימור לקוחות ארגוניים

לפי דיווח ב-TechCrunch, חברת Anthropic הגישה לרשות ניירות הערך של ארצות הברית (SEC) תשקיף הנפקה (טופס S-1), המפרט את האסטרטגיה העסקית שלה לשימור לקוחות ארגוניים באמצעות מערכת אקולוגית רב-מוצרית. המסמכים מלמדים כי יותר ממחצית מהלקוחות בעלי הוצאה שנתית של לפחות 100,000 דולר משתמשים כיום הן בפלטפורמת Claude והן באפליקציות מבית החברה כמו Claude Code או Cowork, לעומת כ-30% בסוף השנה שעברה. במקביל להתרחבות זו, אשר תרמה לשיעור שימור הכנסות נטו של כ-900% בסוף הרבעון השלישי, התשקיף מפרט גם אתגרים עתידיים, לרבות תחרות מול שותפות הענן הגדולות וסיכוני ריכוזיות לקוחות.

קרא עוד
בית הקברות של ה-AI: רשימת הפרויקטים והסטארט-אפים שלא שרדו
חדשות
4 דקות
מ־TechCrunch

בית הקברות של ה-AI: רשימת הפרויקטים והסטארט-אפים שלא שרדו

לפי דיווח ב-TechCrunch, שוק הבינה המלאכותית מציג רשימה הולכת וגדלה של מוצרים, השקות ומיזמים שלא שרדו. נתוני S&P Global Market Intelligence מצביעים על כך שכ-42% מיוזמות הבינה המלאכותית ננטשות בסופו של דבר על ידי החברות האם שלהן, בשל סיבות כמו מימון בלתי מספק, אתגרים טכניים, תחרות, קשיי צמיחה או ביקוש חלש מצד משתמשים. בין המקרים הבולטים נמנים כלי האוטומציה Relay שנסגר באוגוסט, פלטפורמת Character.ai שהגישה בקשה לפשיטת רגל, וכן מהלכים של ענקיות טכנולוגיה: OpenAI ביטלה את העיצוב מחדש של ChatGPT וסגרה את הדפדפן ChatGPT Atlas ואת פלטפורמת Sora; אפל עיכבה את Siri AI ושילמה הסדר של 250 מיליון דולר; ומיקרוסופט התמודדה עם ביקורת אבטחה סביב Recall.

קרא עוד
כיצד Salesforce Field Service סייעה לארגון Share My Meals לצמוח פי 3.7
חדשות
4 דקות
מ־Salesforce Blog

כיצד Salesforce Field Service סייעה לארגון Share My Meals לצמוח פי 3.7

ארגון Share My Meals, הפועל להצלת ארוחות מוכנות והעברתן לקהילות נזקקות בניו ג'רזי, ניו יורק סיטי ופנסילבניה, חילק 230,000 ארוחות בשנת 2025 לעומת 62,000 בשנת 2023. העלייה התאפשרה בעקבות פיתוח מערכת מרכזית בשם STAN על גבי Salesforce Field Service, שחיברה בזמן אמת בין תורמי מזון, מתנדבים ועמותות מקבלות. לפני השקת המערכת בינואר 2024, הסתמך הארגון על תשעה כלי תוכנה נפרדים שדרשו הזנה ידנית ויצרו צוואר בקבוק תפעולי. המעבר לפלטפורמה אחת צמצם את התלות במפתחים חיצוניים יקרים, אפשר לצוות הטכנולוגי ליישם הגדרות ופיתוחים בעצמו, וכעת מתכנן הארגון להציע את הטכנולוגיה כמודל עבודה עבור עמותות וארגונים נוספים בתחום הצלת המזון.

קרא עוד
קוואסאקי הניבה מעל 6.5 מיליון דולר ב-90 יום עם סיילספורס ו-ForeFront
חדשות
4 דקות
מ־Salesforce Blog

קוואסאקי הניבה מעל 6.5 מיליון דולר ב-90 יום עם סיילספורס ו-ForeFront

יצרנית המנועים והחלפים קוואסאקי (Kawasaki Engines) ייצרה מעל 6.5 מיליון דולר בהכנסות במהלך 90 הימים הראשונים להשקת פורטל מסחר דיגיטלי חדש, ועקפה את יעדי הפרויקט פי חמישה. החברה, המשרתת מעל 7,700 דילרים עצמאיים, מפיצים ויצרני ציוד מקורי (OEM), שיתפה פעולה עם חברת הייעוץ ForeFront מקבוצת EPAM כדי להתגבר על מגבלות מערכת ERP ותיקה מסוג LANSA על גבי מחשבי AS/400. הפרויקט שילב את פלטפורמות Salesforce B2B Commerce, MuleSoft ו-Data Cloud יחד עם כלי בינה מלאכותית דוגמת Claude וסוכן שירות מבוסס Agentforce, ואפשר תמיכה מסביב לשעון לצד עלייה של פי חמישה בשווי ההזמנה הממוצע.

קרא עוד