חברת Composio מדווחת כי תוקף הצליח לחדור לרשת החברה תוך שימוש ב-LLM. מעניין לקרוא את התיאור של המתקפה כפי שהיא מפורסמת

חברת Composio מדווחת כי תוקף הצליח לחדור לרשת החברה תוך שימוש ב-LLM. מעניין לקרוא את התיאור של המתקפה כפי שהיא מפורסמת באתר של החברה: The attacker probed our systems extensively, brute-forcing many combinations of exploits using LLM generated attack patterns until they gained a foothold in an internal agentic tool used to monitor our infrastructure and report connector failures. From that initial foothold, they abused the tool to obtain elevated access to the automated remediation systems that fix errors in our connectors. They then registered malicious tool definitions inside our sandboxed execution environment, chaining each step to escalate privileges further, until they were ultimately able to execute arbitrary code within our tool-execution sandbox. The attacker moved at exceptional speed as we tracked them across our systems, demonstrating deep knowledge of our API surface and internal architecture. Their sophistication is consistent with a highly skilled actor, likely augmented by advanced AI systems. We have thoroughly verified that our supply chain remains safe, including our Python and TypeScript SDKs and our CLI binary. As a precaution, we have paused all new releases until our investigation is complete. אם אתם לקוחות החברה אז שימו לב שייתכן ויש צורך בהחלפת מפתחות והגדרת Whitelist. t.me

סיכום מאמר

חברת Composio חשפה כי תוקף סייבר הצליח לחדור לרשת החברה באמצעות שימוש במודל שפה גדול (LLM). התוקף השתמש ב-LLM שנוצרו על ידו כדי לנסות שילובים שונים של פרצות אבטחה עד שנכנס לרשת באמצעות כלי פנימי לניטור תשתיות החברה. לאחר מכן, התוקף השתמש בכלי זה כדי להשיג גישה מורחבת למערכות התיקון האוטומטיות של החברה, והצליח להריץ קוד שרירותי בסביבת הביצוע המוגנת. החברה מדווחת כי התוקף פעל במהירות ובידע רב על תשתיות החברה. החברה אישרה כי שרשרת האספקה שלה נותרה בטוחה, אך הוציאה הודעת זהירות ללקוחותיה בדבר הצורך בהחלפת מפתחות והגדרת רשימות לבנות. החברה השעתה את כל הגרסאות החדשות עד להשלמת החקירה. מקרה זה מדגיש את הסיכונים הגוברים בשימוש במודלים של שפה גדולה.