במדריך מושגים מקיף שפורסם ב-TechCrunch, מציגים כתבי האתר שורה של מונחים מרכזיים בתחום הבינה המלאכותית, במטרה לספק הגדרות בשפה פשוטה עבור מפתחים, משקיעים וקוראים העוקבים אחר התחום. מילון המושגים מתעדכן באופן שוטף במקביל להתפתחות המערכות שהוא מתאר, וכולל מושגי יסוד וטכניקות חישוביות חדשות.
בינה כללית מלאכותית, סוכני AI וסוכני תכנות
המונח בינה כללית מלאכותית (AGI) מוגדר במאמר כמושג מעורפל, אך באופן כללי הוא מתייחס למערכת בינה מלאכותית בעלת יכולות גבוהות יותר מהאדם הממוצע ברבות מהמשימות, אם לא ברובן. מנכ"ל OpenAI, סם אלטמן, תיאר בעבר AGI כמקבילה לעובד חציוני שניתן להעסיק כעמית לעבודה. אמנת OpenAI מגדירה AGI כמערכות אוטונומיות ביותר שמציגות ביצועים טובים יותר מבני אדם בעבודה בעלת הערך הכלכלי הרב ביותר. מנגד, במעבדת Google DeepMind תופסים AGI כמערכת בעלת יכולת השווה לפחות לזו של בני אדם ברוב המשימות הקוגניטיביות. מומחים בחזית מחקר ה-AI מבולבלים אף הם.
סוכן בינה מלאכותית (AI agent) הוא כלי המשתמש בטכנולוגיות AI כדי לבצע סדרת משימות בשם המשתמש — מעבר ליכולות של צ'אטבוט בסיסי — דוגמת הגשת דוחות הוצאות, הזמנת כרטיסים או מקום במסעדה, ואף כתיבה ותחזוקה של קוד תוכנה. ישנם חלקים נעים רבים בתחום מתהווה זה, והתשתיות עדיין נבנות כדי לספק את היכולות הצפויות ממנו. התפיסה הבסיסית מתארת מערכת אוטונומית שעשויה להסתמך על מספר מערכות AI כדי לבצע משימות רב-שלביות.
סוכני תכנות (Coding agents) מהווים גרסה ייעודית של סוכני AI המיושמת לפיתוח תוכנה. במקום להציע קוד לבדיקת אדם והדבקתו, סוכן תכנות מסוגל לכתוב, לבדוק ולתקן באגים בקוד באופן אוטונומי, ובכך לטפל בעבודה ניסויית וחזרתית. סוכנים אלה יכולים לפעול על פני מאגרי קוד שלמים, לאתר תקלות, להריץ בדיקות ולהטמיע תיקונים עם פיקוח אנושי מינימלי, בדומה למתמחה מהיר, אם כי נדרשת עדיין סקירה אנושית של התוצרים.
נקודות קצה של API (API endpoints) מתוארות כממשקים המאפשרים לתוכנות להפעיל פעולות בתוכנות אחרות. מפתחים משתמשים בהן לבניית אינטגרציות, כמו משיכת נתונים או מתן אפשרות לסוכן AI לשלוט בשירותי צד שלישי ללא תפעול ידני. רוב מכשירי הבית החכם והפלטפורמות המחוברות כוללים ממשקים כאלה. ככל שסוכני AI מתפתחים, הם מסוגלים לאתר ולהשתמש בנקודות קצה אלו באופן עצמאי.
שיטות חשיבה, אימון וארכיטקטורות מודלים
שרשרת מחשבה (Chain of thought) בהקשר של מודלי שפה גדולים מתארת פירוק של בעיה לשלבי ביניים קטנים כדי לשפר את איכות התוצאה הסופית. בדרך כלל נדרש זמן רב יותר לקבלת תשובה, אך גדלה הסבירות שהיא תהיה נכונה, בייחוד בהקשרי לוגיקה ותכנות. מודלי הסקה (Reasoning models) פותחו מתוך מודלי שפה מסורתיים ועברו אופטימיזציה לחשיבה בשלבים באמצעות למידת חיזוק.
למידה עמוקה (Deep learning) היא תת-תחום של למידת מכונה שבו אלגוריתמים בנויים במבנה רשת עצבית מלאכותית מרובת שכבות, המאפשר יצירת קשרים מורכבים בהשוואה למודלים לינאריים או עצי החלטה. מודלים אלו מזהים מאפיינים בנתונים בעצמם ולומדים משגיאות, אך דורשים נקודות נתונים רבות (מיליונים ומעלה), אימונם אורך לרוב זמן רב יותר בהשוואה לאלגוריתמים פשוטים יותר של למידת מכונה, ועלויות הפיתוח נוטות להיות גבוהות יותר.
דיפוזיה (Diffusion) היא הטכנולוגיה העומדת בבסיס מודלי יצירת תמונות, מוזיקה וטקסט. המערכות מוסיפות רעש בהדרגה למבנה הנתונים עד שאינו נותר, ולומדות תהליך הפוך שנועד לשחזר את הנתונים המקוריים מתוך הרעש.
זיקוק (Distillation) היא טכניקה להפקת ידע ממודל גדול באמצעות מודל "מורה-תלמיד", שבה פלטי מודל המורה משמשים לאימון מודל התלמיד כדי לחקות את התנהגותו. תהליך זה מאפשר יצירת מודל קטן ויעיל יותר באובדן מזערי, וכך ככל הנראה פיתחה OpenAI את GPT-4 Turbo. זיקוק ממודל של מתחרה מפר בדרך כלל את תנאי השימוש של ממשקי API.
כוונון עדין (Fine-tuning) מתייחס לאימון נוסף של מודל קיים לצורך אופטימיזציה למשימה או לתחום ספציפיים, לרוב באמצעות הזנת נתונים ייעודיים. סטארט-אפים רבים מתבססים על מודלי שפה גדולים ומוסיפים כוונון עדין המבוסס על מומחיות תחומית.
רשתות GAN (רשתות אדברסריות יוצרות) כוללות צמד רשתות עצביות הפועלות זו מול זו: האחת מייצרת פלט והשנייה מעריכה האם הוא אותנטי או סינתטי. תחרות מובנית זו יכולה למטב את פלטי ה-AI כך שיהיו ריאליסטיים יותר ללא צורך בהתערבות אנושית נוספת, ומתאימה ליישומים צרים כמו הפקת תמונות ווידאו ריאליסטיים וכלי דיפ-פייק.
תערובת מומחים (Mixture of Experts - MoE) היא ארכיטקטורה המפצלת את הרשת העצבית לתת-רשתות מתמחות רבות, ומפעילה רק חלק מהן עבור כל משימה נתונה באמצעות נתב מובנה. מודל Mixtral של Mistral AI הוא דוגמה מוכרת לכך, ומודלי GPT החדשים יותר של OpenAI נחשבים במידה רבה כמי שמשתמשים בגרסה כלשהי של גישה זו, אף שהחברה לא אישרה זאת רשמית.
חישוב, זיכרון, פרוטוקולים ומגבלות חומרה
כוח חישוב (Compute) מתייחס לעוצמת העיבוד החיונית לפעולת מודלי AI ולאימונם, ומשמש ככינוי מקוצר לתשתיות חומרה כגון מעבדי GPU, מעבדי CPU ומעבדי TPU.
הסקה (Inference) היא התהליך שבו מודל בינה מלאכותית מופעל בפועל כדי לבצע תחזיות או להסיק מסקנות על בסיס נתונים שנלמדו באימון. הסקה דורשת אימון מקדים ונתמכת במגוון סוגי חומרה, ממעבדי סמארטפון ועד מעבדי GPU מואצים בשרתי ענן.
מטמון זיכרון (Memory cache) ובפרט מטמון KV מסייעים לייעול תהליך ההסקה במודלים מבוססי טרנספורמר, על ידי שמירת חישובים קודמים לשימוש חוזר ובכך צמצום זמני המענה וצריכת החישוב.
פרוטוקול MCP (Model Context Protocol) הוא תקן פתוח המאפשר למודלי AI להתחבר לכלים ולמאגרי נתונים חיצוניים (כמו קבצים, מסדי נתונים, Slack ו-Google Drive) ללא צורך בפיתוח מחבר ייעודי לכל שילוב. התקן הוצג על ידי Anthropic בשנת 2024, הועבר לניהול קרן לינוקס (Linux Foundation), ואומץ בהמשך על ידי OpenAI, Google ו-Microsoft.
מונח חדש נוסף בשוק החומרה הוא RAMageddon, המתאר מחסור הולך וגובר בשבבי זיכרון גישה אקראית (RAM) שנגרם עקב רכישות ענק של מעבדות AI וחברות טכנולוגיה למרכזי נתונים. המחסור מייקר את רכיבי הזיכרון ומשפיע על תעשיות הגיימינג, מוצרי האלקטרוניקה ומחשוב ארגוני.
מונחי בטיחות, הישנות עמומה ומושגי מפתח נוספים
הישנות עמומה (Opaque recurrence) או עומק נשנה (Recurrent depth) מתארת טכניקה שבה מודל AI מעביר שאילתה בלולאות דרך שכבותיו הפנימיות שוב ושוב, במקום להסיק מסקנות בשלבים גלויים בשפה אנושית. גישה זו מייעלת את השימוש במשאבי חישוב אך מותירה פחות עקבות קריאים בהשוואה לשרשרת מחשבה רגילה, דבר המעורר דאגה בקרב חוקרי בטיחות עקב הקושי בפיקוח על התנהגות המודל.
נוירליז (Neuralese) מתאר תרחיש היפותטי שבו מודל חושב כולו בייצוגים מספריים פנימיים ללא שפה אנושית. חוקרי בטיחות ציינו כי השימוש בהישנות עמומה במודל Astra של OpenAI (שהושק בספטמבר 2026) מהווה צעד ראשון בכיוון זה, אם כי OpenAI מסרה כי המודל שומר על שרשרת מחשבה קריאה.
הזיה (Hallucination) מציינת הפקה של מידע שגוי על ידי מודלים, בעיה שנחשבת כנובעת מפערים בנתוני האימון, והיא תורמת למאמץ לפיתוח מודלים מותאמים לתחומים מסוימים או מודלים ורטיקליים.
מושגים נוספים שהוצגו כוללים למידת חיזוק ממשוב אנושי (RLHF), שיפור עצמי רקורסיבי (RSI), טוקנים (Tokens) ותפוקת טוקנים (Token throughput), מקבול (Parallelization), קוד פתוח מול קוד סגור, למידת העברה (Transfer learning), משקולות (Weights) ומדד הפסד ולידציה (Validation loss) המשמש לזיהוי התאמת יתר (overfitting).