מחקר
6 דקות
מ־arXiv cs.AI
Soft labels למידול נושאים: שיפור Neural Topic Modeling עם פיקוח ממודלי שפה
**Soft label distributions למידול נושאים הן תוויות הסתברותיות שמחליפות שחזור Bag‑of‑Words דל-קונטקסט באות פיקוח סמנטי שמגיע ממודל שפה. לפי arXiv:2602.17907v1, החוקרים מייצרים תוויות רכות מהסתברויות הטוקן הבא תחת פרומפט ייעודי ומקרינים אותן על אוצר מילים מוגדר, ואז מאמנים את מודל הנושאים לשחזר אותן—מה ששיפר קוהרנטיות ופיוּריות בשלושה דאטהסטים.** לעסקים בישראל המשמעות היא סיווג טוב יותר של טקסטים קצרים ורועשים (בעיקר WhatsApp), ושדרוג יכולות חיפוש פנימי: מציאת פניות “דומות” גם כשהניסוח משתנה. פיילוט נכון מתחיל בהגדרת אוצר מילים, ניקוי מידע אישי לפי חוק הגנת הפרטיות, וחיבור התוצאות ל‑Zoho CRM דרך N8N כדי למדוד SLA וזמן טיפול.
Improving Neural Topic Modeling with Semantically-Grounded Soft Label DistributionsLanguage ModelsNeural Topic Models
קרא עוד