תגית: סם אלטמן

ג'נסן הואנג, מנכ"ל Nvidia, אומר שחברות ה-AI צריכות לשאוף לאפס תקריות סייבר מסוכני AI, ושאין מקום לקבל כשל אבטחה כנורמה. בראיון ל-Fortune בלונדון הוא אמר: "I'm willing to accept no incidents of cybersecurity. We should not accept any of them" — כלומר, הוא מוכן לקבל אפס תקריות אבטחת סייבר.

העמדה הזו מנוגדת למה שאמר סם אלטמן, מנכ"ל OpenAI. לפי Fortune, אלטמן אמר בראיון ל-Vanity Fair שהעולם עשוי להיאלץ לקבל "some bad things happening" בתמורה לתועלות ה-AI, כולל פריצות גדולות, שימוש לרעה והונאות. זה תיאור בעברית של הדברים ולא ציטוט מילולי מהכתבה. ההבדל בין השניים הוא לא רק בטון: הואנג מציב רף של אפס, ואלטמן מקבל מראש שתקלות יקרו.

הסיכון הקיומי: "צריכים להפסיק לעבוד על זה"

הואנג לא הסתפק בדחיית הסיכון לתקריות. לפי הכתבה, הוא זלזל גם באזהרות מפני סיכון קיומי שבאו מתוך חברות ה-AI המובילות, כולל מנכ"ל Anthropic, דריו אמודיי. לדבריו, מי שמאמין שה-AI יביא לסופה של הציוויליזציה האנושית "really ought to stop working on it" — כלומר, צריך להפסיק לעבוד על הטכנולוגיה. זו טענה חריפה, והיא נאמרה בראיון ולא כהצהרה רשמית של Nvidia.

הבידוד כהצעה הנדסית

במקום להתווכח על תרחישי קצה, הואנג מציע להתמקד במה שאפשר לבנות היום. לדבריו, את האירועים שהיו עד כה אפשר היה למנוע באמצעות בקרה וניטור חזקים יותר של סוכני AI. הוא השווה את המצב לאינטרנט המוקדם, כשביקור באתר יכול היה להדביק מחשב בווירוס, והפתרון היה שדפדפנים מריצים אתרים בבידוד כך שלא יוכלו לגעת בשאר המחשב. לדבריו, סוכני AI צריכים להיות כלואים בקונטיינר מאובטח, שבו הנזק מוגבל למה שמותר להם.

זו ניתוח שלנו, לא קביעה של הכתבה: בידוד סוכנים הוא ארכיטקטורה שמגבילה למה סוכן יכול לגשת ולבצע. אם סוכן נכשל, או מנוצל על ידי תוקף דרך תוכן זדוני, הבידוד אמור למנוע ממנו לגעת בנתונים ובמערכות מעבר להרשאות שניתנו לו. מי שמפתח מוצרי AI בישראל, בתחומי הסייבר, הפינטק או התעשייה, יכול לראות בזה רשימת בדיקה מעשית: אילו הרשאות יש לסוכן, לאילו מערכות הוא מחובר, ומה קורה כשהוא טועה.

מה עוד לא ברור

הכתבה לא מפרטת כיצד הבידוד הזה ייושם בפועל במוצרי Nvidia, ואין בה הבחנה ברורה בין מוצרים קיימים לרעיונות. גם הטענה שהואנג דוחה את הסיכון הקיומי מבוססת על הראיון בלבד. אלה דברים שנאמרו ל-Fortune, ואין כאן הצהרה רשמית של החברה.