חיפוש בחדשות

2 תוצאות עבור "עלויות GPU".

חיפוש וידאו אבטחתי עם AI: מה גיוס ה־7 מיליון של Conntour אומר
ניתוח
6 דקות
מ־TechCrunch

חיפוש וידאו אבטחתי עם AI: מה גיוס ה־7 מיליון של Conntour אומר

**חיפוש וידאו אבטחתי עם AI הוא יכולת לאתר אירועים, אנשים וחפצים במאות מצלמות באמצעות שפה טבעית.** לפי הדיווח, Conntour גייסה 7 מיליון דולר כדי לבנות מנוע חיפוש כזה למערכי אבטחה, עם יכולת לנטר עד 50 פידים על GPU יחיד מסוג Nvidia RTX 4090. עבור עסקים בישראל, המשמעות היא פחות חיפוש ידני ויותר חיבור בין וידאו, תפעול וציות: זיהוי אירוע, פתיחת כרטיס, ושליחת התראה ב-WhatsApp. אבל זה גם מחייב בקרה על פרטיות, הרשאות ושמירת נתונים לפי מדיניות ברורה. מי שירוויחו ראשונים הם ארגונים עם עשרות מצלמות שכבר עובדים עם CRM ואוטומציה.

קרא עוד
ScaleBITS לכימות LLM מתחת ל-4 ביט: חיפוש ביטווידת אוטומטי
מחקר
6 דקות
מ־arXiv cs.AI

ScaleBITS לכימות LLM מתחת ל-4 ביט: חיפוש ביטווידת אוטומטי

**ScaleBITS היא מסגרת לכימות משקלים במודלי שפה גדולים שמקצה אוטומטית ביטווידת לכל בלוק תחת תקציב זיכרון, תוך התאמה לחומרה.** לפי המאמר (arXiv:2602.17698v1), השיטה מציגה שיפור עד 36% לעומת כימות אחיד ועד 13% מול שיטות רגישות אחרות במשטר “מתחת ל‑4 ביט בממוצע” — ומדגישה שאין תקורת ריצה נוספת. לעסקים בישראל זה רלוונטי כשמריצים LLM כחלק מתהליך שירות/מכירות: WhatsApp Business API → ניסוח תשובה בעברית → עדכון Zoho CRM → אוטומציה ב‑N8N. כימות יעיל יכול להקטין VRAM ועלויות GPU, לאפשר הרצה על תשתית צנועה יותר, ולשפר שליטה בנתונים כשנמנעים משליחת מידע רגיש לענן.

קרא עוד