I taught ChatGPT to distrust itself, and suddenly it stopped hallucinating
16/05/2026-01:00 16/05/2026-01:05 מחשבים וטכנולוגיה TechRadar דיווח
Telling ChatGPT to behave like a hostile auditor can make its answers more transparent and stop hallucinations
סיכום מאמרחוקר לימד את ChatGPT לפקפק בעצמו, והצליח להפחית משמעותית את ה"הזיות" - תופעה בה מודל שפה יוצר מידע שגוי או לא קיים. החוקר הורה ל-ChatGPT להתנהג כמו רואה חשבון עוין, המטיל ספק בכל תשובה שהוא נותן. גישה זו גרמה למודל להיות יותר שקוף ומדויק בתשובותיו. נמצא כי כאשר ChatGPT נתבקש להיות חשדן כלפי עצמו, הוא הפחית את מספר ה"הזיות" באופן משמעותי. שיטה זו עשויה לשפר את האמינות של מודלים שפה גדולים. החוקר בדק את השפעת הגישה החדשה על ביצועי המודל, ומצא כי היא אכן תורמת להפחתת השגיאות. התוצאות מראות כי גישה זו יכולה להיות כלי יעיל לשיפור הדיוק של מודלים שפה. שיפור זה עשוי להיות משמעותי עבור יישומים שונים בהם מודלים שפה משמשים לקבלת החלטות.
