ניתוח
6 דקות
מ־TechCrunch
אינפרנס על המכשיר: Mirai מבטיחה להאיץ מודלים ב-Apple Silicon עד 37%
**אינפרנס על המכשיר הוא הרצה של מודל בינה מלאכותית ישירות על הטלפון או המחשב בלי לשלוח כל בקשה לענן. לפי TechCrunch, הסטארט-אפ הלונדוני Mirai (צוות של 14 עובדים) גייס Seed של 10 מיליון דולר ומפתח מנוע אינפרנס ל-Apple Silicon שנכתב ב-Rust ומבטיח עד 37% האצה במהירות generation בלי לשנות משקלי מודל.** לעסקים בישראל זה מתחבר ישירות לשני כאבים: עלויות API בענן וזמני תגובה בשירות ומכירות. המודל ההיברידי שמיראי מתארת—מקומי כשאפשר, ענן כשצריך—יכול להתאים במיוחד לתהליכים שמערבים WhatsApp ו-CRM: תמלול/סיכום מקומי, פתיחת ליד ב-Zoho CRM דרך N8N, והעברת מקרים מורכבים לענן. עכשיו זה הזמן למפות תהליכים, להגדיר KPI כספי, ולרוץ פיילוט קצר על Apple Silicon.
קרא עוד