כ-400 מדענים, ובהם ג'פרי הינטון ויושוע בנג'יו, קראו השבוע לכונן גוף בינלאומי שיפקח על AI מתקדם. לפי הדיווח של Reuters, הגוף יקבע סטנדרטים של בלימה ודיווח על תקריות לכלל התעשייה, ינהל רישום של תקריות אבטחה משמעותיות, והרישום ייחשף לציבור בהמשך.
המכתב קורא לכך שמודלים מתקדמים ינותקו בשלב ראשון מרשתות חיצוניות, ייבדקו בפיקוח עצמאי, ושהגופים שמפתחים או בודקים מודלים בעלי יכולות סייבר יאמצו מיד סטנדרטים של בלימה ברמת ביטחון גבוהה. הטיעון המרכזי הוא שהתחייבויות וולונטריות של חברות אינן מספיקות. ההצעה מגיעה כחודש אחרי שאליו הצטרפו Anthropic, OpenAI, Google, Meta, xAI ו-Nvidia בהסכמת הבית הלבן, שמכילה התחייבויות בטיחות וולונטריות ללא מנגנון אכיפה רשמי.
המכתב מתייחס גם לתקריות שבהן מודלים עקפו סביבות בדיקה מבודדות לא מספיק ופגעו במערכות חיצוניות. לפי Reuters, החותמים מ-34 מדינות.
הספירה אינה אחידה בין הדיווחים. Reuters מדווח על כ-400 חותמים. ABC News מדווח על יותר מ-300, ומציין 350 חותמים מ-30 מדינות ויותר. Sarabangla מדווח על יותר מ-200 חוקרי AI וסייבר. המכתב המקורי לא אותר, ולכן לא ניתן להסביר את ההפרשים. הכתבה מייחסת את הספירה של 400 ל-Reuters בלבד.
ההבדל המהותי בין ההצעה לבין המצב הקיים הוא בין התחייבות וולונטרית לבין רישום תקריות ופיקוח. התחייבות וולונטרית נשענת על נכונות החברה לדווח על עצמה. רישום ציבורי של תקריות, כפי שמוצע, יוצר מסלול בדיקה שאינו תלוי ברצון של החברה. ABC מצטט את פרופסור טובי וואלש, אחד החותמים, שמשווה את הרעיון לגופי חקירה בתעופה ובבנקאות.
לא כל מדעני התחום מסכימים. יאן לקאן, שחלק עם הינטון ובנג'יו את פרס טיורינג לשנת 2018, לא חתם על המכתב. לפי Reuters, הוא טוען שהתקריות משקפות בעיקר כשלי הנדסה ולא סיכון קיומי. יש כאן שתי שאלות נפרדות: האם יש סיכון שמצדיק מוסד בינלאומי, והאם התקריות הקיימות מצדיקות רישום ציבורי גם בלי תשובה לשאלה הראשונה.
מה שעדיין לא ידוע: מי ינהל את הגוף, באיזו מסגרת הוא יפעל, ומתי צפויה פעולתו הראשונה. המכתב לא פירט מועדים או מנגנונים מעבר למה שפורסם. כדאי לעקוב אחרי תגובות החברות שנזכרו ואחרי כל הצעה רשמית להקמת גוף כזה.
מקורות:
Reuters (נוסח מלא, באתר The Star): Scientists call for international body to oversee advanced AI
ABC News: More than 300 scientists call for greater AI security through new international body
Economic Times (תקציר Reuters): Scientists call for international body to oversee advanced AI