ברד סמית' מ-Microsoft: על סוכני AI יש פחות כללים מאשר על קרטון חלב
ברד סמית', סגן יו"ר ונשיא Microsoft, דיבר בדבלין בכנס הבינלאומי לבינה מלאכותית. לפי הדיווח של Irish Times הוא אמר: "Right now, there are more safety rules for a carton of milk than for the most powerful AI on the planet."
ברד סמית', סגן יו"ר ונשיא Microsoft, דיבר בדבלין בכנס הבינלאומי לבינה מלאכותית. לפי הדיווח של Irish Times הוא אמר: "Right now, there are more safety rules for a carton of milk than for the most powerful AI on the planet." כלומר, כיום יש יותר כללי בטיחות לקרטון חלב מאשר לבינה המלאכותית החזקה ביותר בעולם. לדבריו, "That doesn't make common sense in my view".
סמית' לא דורש רגולציה כבדה. לדבריו, "That doesn't mean we should want regulation to stifle innovation or become bureaucratically heavy-handed", אבל יש צורך "in a bit more of the rule of law" כדי לשמור על אנשים. הוא גם אמר ש"הכוח והיכולות של AI התקדמו מהר יותר מהבטיחות", וש"צריך שהבטיחות תדביק את הפער".
מה הוא צופה. הצעד שסמית' תיאר בצורה הכי מוחשית נוגע לתקריות. לפי הכתבה, הוא לא יופתע אם הרגולציה תתחיל ב"incident reporting": כלל משפטי שלפיו מי שיוצר סוכן AI שחודר לרשת של מישהו אחר, חייב ליידע את הנפגע במה שקרה. זו תחזית שלו ולא הצעת חוק מוגדרת. הוא הוסיף שאוסטרליה עשויה להיות מהמובילות, כיוון שהייתה אחת הנפגעות מתקיפות האקרים.
ניתוח (לא טענה של סמית'). ההשוואה לקרטון חלב מדגישה את הפער בין פיקוח על מוצרי צריכה יומיומיים לבין מערכות שמתקדמות מהר ופועלות לעיתים באופן עצמאי. סוכן שיכול לפעול ברשתות של אחרים בלי כלל ברור לגבי אחריות ודיווח, מעלה שאלות שכבר אינן תיאורטיות.
מה עדיין לא ידוע. הכתבה לא מציינת נוסח חוק, לוח זמנים או גוף אכיפה. היא גם לא תמיד מפרידה בין מה שנאמר בנאום לבין מה שנאמר בראיון לפודקאסט Inside Business של Irish Times. לא מצאנו תמלול מלא או הקלטה מאומתת של הנאום, לכן הציטוטים מובאים כפי שפורסמו בכתבה ולא כנוסח רשמי.
מקורות: Irish Times (המקור המרכזי, דיווח מהכנס ומראיון לפודקאסט).