מנהל CISA העלה מידע סודי ל-ChatGPT בטעות

בעולם שבו כלבים שומרים על התרנגולת, אירוע מביך חשף חולשה קריטית באבטחת מידע ממשלתית. מאדו גוטומוקלה, הממונה הזמני על סוכנות אבטחת הסייבר והתשתיות (CISA), העלה בקיץ שעבר מסמכי חוזים רגישים לגרסה הציבורית של ChatGPT – כך דיווח Politico. האירוע, שקרו זמן קצר לאחר הצטרפותו לסוכנות, הדליק אורות אדומים במערכות האבטחה הפנימיות שנועדו למנוע דליפת חומרים ממשלתיים. לפי ארבעה בכירים במחלקת שמירת המולדת (DHS), ההעלאה של גוטומוקלה הפעילה התרעות סייבר רבות שנועדו לעצור גניבה או חשיפה לא מכוונת של מידע מרשתות פדרליות. גוטומוקלה ביקש אישור מיוחד לשימוש בבוט הפופולרי של OpenAI, בעוד שרוב עובדי DHS חסומים מלהשתמש בו. במקום זאת, הם משתמשים בכלים מאושרים כמו DHSChat, שמוגדרים כך שהשאילתות והמסמכים לא יוצאים מרשתות הממשלה – כך מסר Politico. האירוע מדגיש את הסיכונים בשימוש בכלי AI ציבוריים בארגונים רגישים. CISA, האחראית על הגנת התשתיות הקריטיות בארה"ב, נתקלה כאן בפרדוקס: עובד בכיר ניסה לנצל את היכולות של ChatGPT, אך בסופו של דבר סיכן מידע חסוי. DHS אישרה את הסיפור לאתר Ars, אך לא פירטה על ההשלכות על גוטומוקלה עצמו. בישראל, שבה תעשיית הסייבר מובילה עולמית, אירוע כזה מהווה אזהרה לעסקים וממשלות. חברות כמו צ'ק פוינט ונס מקדמות כלי AI מאובטחים, אך עדיין יש סיכון בהעלאת נתונים למודלים ציבוריים. האירוע מעלה שאלות על מדיניות שימוש ב-AI במגזר הציבורי, במיוחד לאור איומי סייבר גוברים. מה זה אומר למנהלי עסקים ישראלים? חובה לבחון מחדש מדיניות AI בארגונים, להעדיף פתרונות פרטיים ומאובטחים, ולבצע הדרכות. האם ChatGPT יישאר אסור בממשלות? האירוע מלמד ששילוב AI חייב להיות מלווה באבטחה מחמירה.