בעידן שבו בינה מלאכותית מתקדמת בקצב מסחרר ומשפיעה על כל תחומי החיים, הבטחת בטיחותה הופכת לאתגר קריטי לעסקים ולממשלות. גוגל דיפמיינד מכריזה היום על הרחבת שותפותה עם מכון הביטחון לבינה מלאכותית של בריטניה (AISI), באמצעות מזכר הבנות חדש שמתמקד במחקר יסודי לביטחון ובטיחות AI. השותפות הזו, שהחלה בנובמבר 2023, תעבור מבדיקות מודלים למחקר משותף רחב היקף, כדי להבטיח שהטכנולוגיה תשרת את האנושות.
השותפות החלה כשיתוף פעולה ראשוני לבדיקת מודלי AI המתקדמים ביותר של דיפמיינד מול מגוון סיכונים פוטנציאליים. כעת, היא מתרחבת לשיתוף בגישה למודלים פרטיים, נתונים ורעיונות, לצד פרסום דוחות משותפים ומחקר משותף. החברה מדגישה את מחויבותה למטרות ה-AISI, שמטרתו לספק לממשלות, לתעשייה ולחברה הבנה מדעית של סיכונים פוטנציאליים של AI מתקדם, וכן פתרונות והפחתות. כבר שיתפו פעולה על מחקר בנושא 'ניטור שרשרת מחשבה' (Chain of Thought Monitorability), שמציע הזדמנות חדשה לבטיחות AI.
תחומי המחקר המרכזיים כוללים ניטור תהליכי חשיבה של מערכות AI, המכונים שרשרת מחשבה (CoT). הצוותים יפתחו טכניקות להבנת אופן ייצור התשובות של AI, כתוספת למחקרי פרשנות. בנוסף, יחקור השותפות השלכות חברתיות ורגשיות, כולל 'אי התאמה סוציו-רגשית' – מצב שבו AI פועל נכון טכנית אך פוגע ברווחת האדם. מחקר זה בונה על עבודות קודמות של דיפמיינד שהגדירו את התחום הזה.
תחום נוסף חשוב הוא הערכת השפעות כלכליות: סימולציה של משימות עולם אמיתי בסביבות שונות, ציון על ידי מומחים וקטגוריזציה לפי מורכבות והמייצגות, כדי לחזות השפעות על שוק העבודה לטווח ארוך. השותפות משלבת את מומחיות הצוותים הבין-תחומיים של דיפמיינד עם גישת ה-AISI, ומבטיחה התקדמות מהירה יותר. וויליאם אייזק ואוון לארטֶר, מחברי ההודעה, מדגישים את החשיבות של שיתופי פעולה חיצוניים.
בהקשר רחב יותר, השותפות עם AISI היא חלק משיתוף פעולה נרחב יותר של דיפמיינד עם ממשלת בריטניה לקידום AI בטוח ומועיל. החברה משלבת אסטרטגיית בטיחות כוללת: מחקר חיזוי, אימונים מקיפים, בדיקות קפדניות, פיתוח כלים להפחתת סיכונים וממשל פנימי חזק. מועצת האחריות והבטיחות של דיפמיינד מנטרת סיכונים מתעוררים ומבצעת הערכות אתיות.
השותפות כוללת גם שיתופי פעולה עם גורמים חיצוניים נוספים כמו Apollo Research, Vaultis ו-Dreadnode לבדיקת מודלים כגון Gemini 3. דיפמיינד היא חברה מייסדת בפורום מודלי החזית (Frontier Model Forum) ובשותפות AI, שמתמקדות בבטיחות מודלי AI מתקדמים. עבור מנהלי עסקים ישראלים, השותפות מדגישה את הצורך באסטרטגיות בטיחות AI מקומיות, במיוחד עם אימוץ מהיר של טכנולוגיות כמו Gemini.
השלכות עסקיות: עסקים צריכים לשקול כיצד לשלב בדיקות בטיחות בפרויקטי AI, ולעקוב אחר מחקרים כאלה כדי להימנע מסיכונים. השותפות עשויה להוביל לכלים חדשים שישפרו אמון ב-AI, ולהשפיע על תקנות גלובליות.
מה תפקידכם? האם הארגון שלכם מוכן לאתגרי הבטיחות של AI מתקדם? קראו את הפרטים המלאים והתחילו לתכנן.