'The GPU never reads the same text twice': Belgian startup Corbenic wants to turn your server's SSD into AI memory, but its 14x speedup owes more to reading less
19/10/2026-00:30 19/10/2026-00:35 מחשבים וטכנולוגיה TechRadar דיווח
Corbenic AI's Galahad beta saves a model's KV cache to encrypted local NVMe so servers can skip rereading text after GPU memory is cleared or after a restartFounder Sietse Schelpe tells TechRadar Pro no special hardware is needed, but the paper credi
סיכום מאמרהסטארט‑אפ הבלגי Corbenic משיק את גרסת הבטא של Galahad, פתרון שמאחסן את מטמון ה‑KV של מודלי AI על כונן NVMe מקומי מוצפן, ובכך מאפשר לשרתים לדלג על קריאה חוזרת של טקסט לאחר שניקוי זיכרון ה‑GPU או אתחול המערכת. לפי המייסד Sietse Schelpe, הטכניקה לא דורשת חומרה מיוחדת ומביאה לשיפור של עד פי 14 בביצועים, שכן היא מפחיתה את כמות הקריאות החוזרות מהדיסק. השימוש ב‑SSD כזיכרון AI מקומי מצמצם את העומס על ה‑GPU ומפחית את latency בעת יצירת טקסט, מה שיכול להועיל במיוחד למשימות אינפרנס ארוכות טווח ולסביבות ענן שמחפשות דרכים חסכוניות להאצת מודלי שפה גדולים. Corbenic מדגיש כי הפתרון מתתוכן זה נוצר על ידי בינה מלאכותית.
