קטגוריה: בטיחות

מנכ"ל אנבידיה, ג'נסן הואנג, אמר שהחברה עשויה לחדול מאספקת שבבים ללקוחות שבונים בינה מלאכותית לא בטוחה. את הדברים מסר בראיון ל-Bloomberg, שנערך בלונדון עם אמילי צ'אנג ופורסם ב-14 באוקטובר 2026. לדבריו, הדאגה הנוכחית מהטכנולוגיה אינה מוצדקת בעיניו.

כשנשאל אם יעשה זאת, ענה הואנג: "It's a hypothetical, but yes" – כלומר, זו השערה, אבל כן. לפי הכתבה, לפני ניתוק כזה היה מתקיים שיח עם הלקוח. הציטוט המלא בכתבה: "But before you do so, you would have a conversation. We don't run other people's companies..." – הכתבה מביאה את הדברים עד לנקודה זו, ולכן לא ברור מה בדיוק המשיך הואנג לומר. הוא הוסיף גם כי הטכנולוגיה שלהם היא כללית (general-purpose), והחברה מפעילה מידה מוגבלת של שיקול דעת על השימוש שחברות אחרות עושות בה.

מה שנאמר עד כה הוא עמדה של ספק כלפי הלקוחות שלו. הוא לא מתאר מנגנון רשמי, אין בו קריטריון מוגדר ל"בלתי בטוח", ואין בו מי יחליט על כך. גם לא ברור אם מדובר במדיניות של אנבידיה או בתגובה לשאלה היפותטית. לכן קריאה נכונה של הציטוט היא כהצהרה של המנכ"ל, לא כהתחייבות חברתית או כהסדר רגולטורי.

החשיבות של הדברים נובעת מכך ששבבי אנבידיה הם תשתית מרכזית לפיתוח מודלים. אם הספק עצמו מציב תנאי בטיחות לגישה לחומרה, הדיון על בטיחות AI מתחבר ישירות לשוק השבבים. עם זאת, הציטוט לא מפרט אילו התנהגויות ייחשבו מסוכנות, ואין בו סימן לכך שיש כבר מנגנון שמבצע זאת.

המקור היחיד לפרטים אלה הוא הכתבה של Bloomberg, שנבדקה לצורך העריכה הזו. פרסומים אחרים שעסקו בנושא לא נבדקו.

מקור: Bloomberg, "Nvidia CEO Says He Would Cut Off Customers Who Build Unsafe AI", 14 באוקטובר 2026.

ג'נסן הואנג, מנכ"ל Nvidia, השיב לביקורת שהשמיע האפיפיור ליאו ה-14 על בטיחות AI. לפי הדיווח של Fortune, האפיפיור אמר בסוף ספטמבר, במסיבת עיתונאים, שהחששות מכך ש-AI עלול להרוס את העולם אינם "חדשות כוזבות" וצריך לקחת אותם ברצינות. הוא גם הטיל ספק בהכרזה של Nvidia על "מעקות בטיחות" ל-AI, משום שהואנג טוען שאין מקום להגבלות ולפיקוח ממשלתי.

מה ענה הואנג

הואנג אמר לכתב Fortune בראיון, כשנשאל על דברי האפיפיור: "הוא שואל את השאלות הנכונות, והוא חושב על הנושאים הנכונים". כשנשאל מה הכוונה בדיוק, אמר שהוא "לא בטוח" מה התכוון האפיפיור, והוסיף שמעטים עושים כמו Nvidia כדי לקדם בטיחות AI בדרך שמועילה לתעשייה כולה.

הואנג הזכיר את טכנולוגיית הבטיחות הפתוחה של החברה, את העבודה על מסגרת לשיפור איכות החברות, ואת המאמצים בתחומי ביקורת, ממשל וקביעת סטנדרטים. לדבריו, הכלים שהחברה מפתחת היו עוזרים גם באירועים שכבר קרו, ורק אחר כך אפשר לדון בתרחישים היפותטיים. הוא גם אמר: "כולנו דואגים לאותו דבר: עתיד אופטימי שבו לטכנולוגיה יש השפעה חיובית גדולה על החברה, תוך אחריות, בטיחות ודין וחשבון."

בהקשר רחב יותר, הכתבה מזכירה שהואנג אמר בתחילת החודש ל-CBS News שהוא מסכים עם הנשיא טראמפ שהחשש מסיכוני AI מוגזם. Nvidia גם השיקה לאחרונה פלטפורמת תוכנה שנועדה למנוע מסוכני AI לחרוג מהגבולות שהוגדרו להם.

מה נשאר פתוח

שתי נקודות כדאי לשים לב אליהן. הראשונה: לפי הדיווח, האפיפיור לא הציג הצעה רגולטורית ספציפית, אלא הטיל ספק בכוונות ובהגדרה של החברה. השנייה: תגובתו של הואנג מתמקדת בהבטחה לעבודה משותפת עם התעשייה, ולא מתייחסת ישירות לשאלה על גבולות מוסריים. הוויכוח עדיין לא מגיע לנקודה שבה אפשר לומר מי צודק.

הדיון חשוב גם משום שהוא מראה ששאלת האחריות על בטיחות AI יוצאת מחדרי ההנדסה ומגיעה לשיח הציבורי והדתי. כשמנכ"ל של חברה מובילה מגיב לאפיפיור, זו עדות לכך שהשיח על בטיחות AI כבר לא נשאר בידי המומחים בלבד.

מקור: Fortune, ראיון עם ג'נסן הואנג, 14 באוקטובר 2026: https://fortune.com/2026/10/14/nvidias-jensen-huang-responds-to-pope-leos-ai-safety-criticism-we-all-care-about-the-same-thing/

מועצת העיר ניו יורק הודיעה ב-13 באוקטובר 2026 כי SpaceXAI, חברת ה-AI שמנוהלת בידי אילון מאסק, הסכימה להעיד בפני הוועדה לטכנולוגיה של המועצה בנושא בטיחות בינה מלאכותית. ההעדה נקבעה ליום שישי, 16 באוקטובר, בשעה 10:00. ההודעה הרשמית של המועצה מופיעה בקישור שבסוף הכתבה, לצד דיווחי CNBC ו-amNewYork.

לפי הודעת המועצה, המועצה הוציאה לחברה צו הזמנה (subpoena) ב-28 בספטמבר, וכשהחברה לא הופיעה בדיון של 5 באוקטובר, המועצה הודיעה שתבקש מבית המשפט העליון של מדינת ניו יורק לאכוף את הזימון. לפי amNewYork, SpaceXAI ביקשה פגישה עם נציגי המועצה ב-7 באוקטובר ולאחר מכן הסכימה להעיד. המועצה טרם פרסמה מי ייצג את החברה.

הפוסט של יו"ר המועצה ג'וליה מנין ברשת X מפרסם את ההסכמה, ותוכנו תואם להודעת המועצה. מדובר בפרסום של המועצה עצמה, ולא בהצהרה של SpaceXAI.

מה לא ידוע עדיין

נכון לפרסום הכתבה לא אותרה תגובה פומבית של SpaceXAI. amNewYork פנה לחברה לאישור ההשתתפות ולשם המשתתף וטרם קיבל מענה. לכן, מה שנכתב כאן על עמדת החברה מבוסס על מה שדיווחה המועצה, ולא על הצהרה של החברה עצמה על תוכן ההעדה.

למה זה חשוב מעבר לניו יורק

הסיפור מעלה שאלה שרלוונטית גם מחוץ לניו יורק: מה קורה כשחברת AI אינה משתפת פעולה מרצון עם דיוני בטיחות? לפי הדיווחים, OpenAI, Anthropic, Google ו-Meta הסכימו להעיד ללא צו, ורק SpaceXAI סירבה. המועצה נאלצה להשתמש בצו הזמנה ובאיום משפטי. השאלה שנשארת פתוחה היא אם כלי כזה יהפוך לכלי אכיפה קבוע של רשויות מקומיות, או שמדובר במקרה חריג.

הרקע: דיון 5 באוקטובר

הסרטון הקצר שלהלן מתעד את דיון המועצה בנושא AI מ-5 באוקטובר, שבו נכחו נציגי חברות וחשופי מידע. SpaceXAI לא הופיעה בו. הסרטון נכלל כהקשר לדיון הנוכחי.

מקורות

הודעת המועצה: council.nyc.gov
CNBC: cnbc.com
amNewYork: amny.com

Anthropic ו-OpenAI ביקשו שליטה משמעותית על מה שמעריכים חיצוניים יכולים לפרסם על המודלים שלהן. כך דיווח Reuters ב-13 באוקטובר 2026, על בסיס שני אנשים המעורים בדיון. החברות טוענות שהבקשה נועדה להגן על סודות מסחריים. המחלוקת נוגעת לשאלה פשוטה: מי מחליט מה יוצא החוצה אחרי שמעריך בדק מודל.

מה דיווח Reuters

לפי הדיווח, שנשען על מקורות אנונימיים, החברות ביקשו שליטה כזו מתוך חשש שממצאים עלולים לחשוף סודות מסחריים. הבקשה הופיעה בזמן שהחברות שואפות לשווי של טריליוני דולרים ועשויות לצאת להנפקות גדולות. הדיווח מוסיף שעד 5 באוקטובר ביקשו החברות שליטה עריכתית מחמירה, ושעד 8 באוקטובר השיחות עם חלק מהמעריכים השתנו.

לפי הדיווח, Faculty, החטיבה לבינה מלאכותית של Accenture, היא המעריכה המוטמעת הראשונה של Anthropic. Anthropic אמרה בעבר שפרטים על הגישה של המעריכים ואופן דיווחם עדיין נקבעים.

מה אמרו הצדדים

דריו אמודיי, מנכ"ל Anthropic, כתב לפני כחודש שמעריכים חיצוניים צריכים להיות מסוגלים לפרסם ממצאים מרכזיים "ללא שליטה עריכתית". הוא הוסיף שהחברה מתחייבת לספק למעריכים גישה קבועה ברמת עובד לכלי המערכת, כדי שיוכלו לאמת עמידה באמצעי הבטיחות, לדווח על תקריות ולבדוק את היישור של המודלים במהלך האימון. הפוסט שלו והפוסט של Anthropic על אותו נושא מוטמעים כאן.

לפי הצהרה של Anthropic שצוטטה בדיווח, התיאור של "שליטה משמעותית" אינו מדויק. החברה טוענת שלמעריכים שכבר פועלים מולה נשמרים השיטות, הקריטריונים, המסקנות והזכות לפרסם, ושהחברה שומרת לעצמה זכות הערה ואישור על הדוחות. הפרטים האלה מובאים כטענת החברה, ואינם מאומתים מול הנוסח המלא של ההסכמים.

OpenAI טוענת, לפי הדיווח, שאין לה זכות אישור על הטקסט המלא של דוח מעריך. לדבריה, נהוג אצלה להשחיר מידע חסוי, ומעריכים יכולים לציין בדוח אם בוצעו השחרות מהותיות. השאלה הנוספת היא כמה השחרות מהותיות, והדיווח לא מפרט זאת.

מה נשאר פתוח

המחלוקת לא נוגעת לשאלה אם מעריכים צריכים לבדוק מודלים. היא נוגעת למי שולט בפרסום. יש שתי נקודות מתח עיקריות:

• האם "מידע חסוי" מוגדר בצורה צרה, או שההסכמים מאפשרים לחברה לאסור פרסום של ממצאים לא נוחים.
• האם החברה יכולה לדרוש שינוי מסקנות, או רק להסיר פרטים מסוימים.

יש גם רובד של הנפקה. חברה שמתכננת הנפקה מתמודדת עם לחץ לשמור על מידע לא מוצג. במקביל, מעריכים חיצוניים הם אחד המנגנונים הבודדים שמאפשרים לציבור לבדוק טענות על בטיחות ויכולות. הדיווח לא קובע איך שני הדברים ייפגשו בפועל.

מה שלא אומת: הנוסח המלא של ההסכמים, המסמכים שנשלחו למעריכים, ומה בדיוק השתנה אחרי 8 באוקטובר. הכתבה מתארת את הדיווח, לא מסמכים שנבדקו ישירות.

מקורות

הדיווח: Reuters, כפי שפורסם ב-Investing.com, ו-גרסת WHTC. הכתבה נקראה דרך שכפול, ולא דרך אתר Reuters.

לכתבות קשורות באתר: כתבה קודמת שלנו ו-כתבה על ניסויי שכפול עצמי של Anthropic.

בניסוי שפרסמה Anthropic, מודל פתוח בגודל 26 מיליארד פרמטרים (Gemma4-26B-A4B) הופעל בבת אחת על 15 תיבות Android TV זולות, שכל אחת מהן עולה כ-55 דולר. המהירות הייתה איטית מאוד, כ-0.39 טוקנים לשנייה, אבל ההדגמה מראה שחומרה צרכנית בבית יכולה להריץ מודל אמיתי, לא רק ענן של חברה גדולה.

הממצא החשוב יותר נוגע להערכת שכפול עצמי. לפי הפוסט של Anthropic, מודלים של 30 מיליארד פרמטרים ומטה כבר מבצעים רבים מהשלבים הנדרשים לשכפול, אך נתקלים בטעויות כשמחברים אותם לתהליך מלא. בהערכות מפושטות של החברה, GLM-5.2 ומודלים חזקים ממנו הצליחו לשכפל את עצמם מקצה לקצה. מדובר בתרחישים מצומצמים שהחברה בנתה בעצמה, ולא בסביבה פתוחה ולא בבדיקה של גורם עצמאי. לכן הנתון מלמד על יכולת שנמדדה, לא על התנהגות שנצפתה בעולם האמיתי.

Anthropic טוענת גם שאם מודלים קטנים ימשיכו להשתפר בקצב ההיסטורי שלהם, הם יגיעו לרמה הזו עד סוף 2026, וששכפול מבוסס משקלים עשוי להיות אפשרי זמן קצר לאחר מכן. לפי הפוסט, לתהליך כזה אין נקודה מרכזית שאפשר לכבות, וזמן ההכפלה שלו נמדד בימים ולא בשעות. אלו הערכות של החברה על בסיס המדידות שלה, ולא נתונים שנבדקו מחוץ לה.

למה זה חשוב לקורא הישראלי והעולמי: מודלים פתוחים וקטנים הופכים הרצה מקומית לזולה, וקשה יותר לפקח על מה שרץ היכן. אם מודל יכול להתפשט בין מכשירים זולים וכמעט לא מנוטרים, שאלות הבטיחות של AI מקומי עוברות מהמעבדה אל הבית, אל הרשת הביתית ואל מכשירי IoT. בדיון על אבטחה ופיקוח, זה השינוי המעניין: לא רק מרכזי נתונים גדולים, אלא גם מכשירים שאף אחד לא מתחזק.

חשוב להבחין בין מה שנבדק למה שלא נבדק. ההרצה על 15 התיבות והבדיקות של השכפול בוצעו בסביבה מבודדת או מדומה, שתוכננה על ידי Anthropic. לא פורסם כאן שכפול עצמאי, ולא נבחנה בפומבי הפצה בפועל בין מכשירים אמיתיים ברשת פתוחה. לכן הקביעה ש"זה כבר קורה" מוקדמת מדי; הקביעה ש"היכולת נמדדה והחברה מדווחת עליה" מדויקת.

הפוסט מעורר תגובה ברשת, כפי שמוצג בהטמעות למטה.

מקור ראשי: Anthropic, self-replicating-ai.