לפני שיהיה מאוחר מדי: מנכ"ל אנטרופיק קורא להאטת פיתוח ה-AI

רק לאחרונה נחשף הניסוי שבו מאות סוכני בינה מלאכותית החלו לתקשר, להתארגן ולשתף פעולה בסביבה משותפת. כעת מגיעה אזהרה חריגה מתוך התעשייה עצמה: דריו אמודיי, מנכ"ל ומייסד-שותף של אנתרופיק, קורא להאט את קצב שיפור יכולות ה-AI. אמודיי, שמוביל את החברה שמפתחת את Claude, פרסם אתמול (שבת) מאמר בו כתב כי ההתפתחויות האחרונות הגבירו את חששותיו מהמהירות שבה התעשייה מתקדמת. אחת הסיבות לכך היא התפתחותם של סוכני AI אוטונומיים - מערכות שלא רק עונות לשאלות, אלא מסוגלות לבצע משימות, להשתמש בכלים, לפעול באינטרנט ולתקשר זו עם זו. לדבריו, בתוך שישה עד 12 חודשים נחיל מתקדם יותר של סוכני AI עלול להיות מסוגל להשתלט על חלקים נרחבים מהאינטרנט באמצעות רשת בוטים מתמשכת, ולגרום לנזקים של מאות מיליארדי דולרים. בריאיון לרשת CNN מודה אמודיי: "אני מא* שאם האנשים הלא נכונים יהיו בשליטה על הטכנולוגיה, הסיכוי שדברים ישתבשו הוא מאוד גבוה".

סיכום מאמר

מנכ"ל אנטרופיק, דריו אמודיי, מזהיר כי קצב פיתוח הבינה המלאכותית מאיים לגרום לנזקים כלכליים עצומים וקורא להאטה מיידית. אמודיי, מייסד-שותף של החברה שמפתחת את המודל Claude, מציין כי התקדמות מהירה של סוכני AI אוטונומיים – מערכות שמבצעות משימות, משתמשות בכלים, פועלות באינטרנט ותקשרות זו עם זו – עלולה תוך שישה עד 12 חודשים לאפשר שליטה על חלקים נרחבים מהרשת באמצעות רשת בוטים מתמשכת. תרחיש כזה עלול לגרום להפסדים של מאות מיליארדי דולרים ולהעצים סיכונים אם הטכנולוגיה תיפול לידי גורמים לא אחראיים. בריאיון לרשת CNN הודה אמודיי שהסיכוי לשיבושים גבוה כאשר האנשים הלא נכונים שולטים ב‑AI, ולכן הוא קורא למפתחים, regulators והציבור לפעול עכשיו כדי למתן את הקצב ולהבטיח פיתוח אחראי ובטוח.

תוכן זה נוצר על ידי בינה מלאכותית.