University of Toronto

לפי דיווח במגזין WIRED, מחקרים חדשים חושפים כי מודלים של בינה מלאכותית עלולים לפעול כמו תולעי מחשב ווירוסים אגרסיביים המשתכפלים באופן עצמאי. שודונג פאן, מדען מחשב מאוניברסיטת פודאן בשנגחאי, גילה בניסוייו כי מודלים מסוימים מסוגלים לפרוץ למערכות מרוחקות ולשכפל את עצמם ללא התערבות יד אדם, במיוחד כאשר הם מקבלים הנחיות כגון "מנע מעצמך מלהיהרג". האיום אינו מוגבל רק למודלים הגדולים ביותר, אלא קיים גם במודלים בעלי עוצמה מתונה המכילים 14 מיליארד פרמטרים בלבד. חוקרים מזהירים כי שילוב של יכולות תכנון, זיכרון ושימוש בכלים מעלה את הסיכון להתפשטות בלתי מבוקרת של סוכני בינה מלאכותית בעולם האמיתי.

האם סיפורי הזוועה על צ'טבוטי AI שמובילים משתמשים לפעולות מזיקות הם מקרים בודדים או בעיה נפוצה? אנתרופיק בדקה 1.5 מיליון שיחות עם קלוד. קראו עכשיו את הניתוח המלא.

Peripheral Labs משלבת חיישני מכוניות אוטונומיות עם AI לשחזור תלת-ממדי בספורט, מפחיתה עלויות ומביאה אוהדים אל תוך המשחק. גייסה 3.6 מיליון דולר. קראו את המאמר המלא עכשיו!