Meta contractors posed as teens to test rival AI chatbots on suicide, * and drugs: report
01/07/2026-17:28 01/07/2026-17:30 חדשות New York Post דיווח
The covert effort was managed by Meta contractor Covalen and targeted OpenAI’s ChatGPT, Google’s Gemini and Character.AI, according to Wired.
סיכום מאמרקבלנים של מטא התחזו לבני נוער כדי לבדוק צ'אטבוטים מתחרים בנושאים רגישים כמו התאבדות, סמים ואלימות, כך מדווח וורד. המבצע הסמוי, שנוהל על ידי הקבלן Covalen, כוון לבדיקת צ'אטבוטים של מתחרים כמו OpenAI, Google ו-Character.AI. הבדיקות כללו התחזות לבני נוער כדי לבחון את תגובות הצ'אטבוטים לנושאים רגישים. הדו"ח מדגיש את החששות סביב בטיחות הצ'אטבוטים והשימוש בהם על ידי בני נוער. מטא השתמשה בקבלנים כדי לבצע את הבדיקות הללו, במטרה להבין כיצד מתחרים מתמודדים עם נושאים אלו. הבדיקות כללו שאלות על התאבדות, סמים ואלימות, והתמקדו בתגובות הצ'אטבוטים לנושאים אלו. הדו"ח מעלה שאלות על אתיקה ושקיפות בבדיקות אלו. מטא וקבלניה ניסו לבחון את גבולות הבטיחות של הצ'אטבוטים המתחרים.תוכן זה נוצר על ידי בינה מלאכותית.
