X product head admits Grok AI review is ‘broken’ after wave of false sensitive content flags

סיכום מאמר

ראש צוות המוצר של X, ניקיטה ביר, הודה כי מערכת Grok לבדיקת תוכן אוטומטית "לא תקינה" לאחר גל תלונות של משתמשים על פוסטים לא מזיקים שהוסתרו מאחורי מסנני תוכן למבוגרים. ביר, שהגיב לשרשור ביום שני, אמר כי המערכת "לא עובדת כמו שצריך" וכי הצוות עובד על תיקון הבעיה. המערכת משתמשת בבינה מלאכותית כדי לזהות תוכן רגיש ולסנן אותו, אך נראה כי היא סימנה בטעות פוסטים רבים כלא הולמים. המשתמשים דיווחו על פוסטים שהוסתרו או הוגבלו ללא סיבה נראית לעין, מה שהוביל לתסכול רב. ביר הבטיח כי הצוות יעבוד על שיפור המערכת כדי למנוע סימון שגוי של תוכן ולשפר את חוויית המשתמש בפלטפורמה. הבעיה מדגישה את האתגרים שבפיתוח מערכות בינה מלאכותית לזיהוי תוכן רגיש.