מנכ"ל חברת OpenAI, סאם אלטמן, עורר סערה בעולם הטכנולוגיה כאשר הצהיר בראיון כי העולם צריך להשלים עם התרחשותם של אירועים שליליים בתמורה ליתרונות הטכנולוגיה. אלטמן הבהיר כי הוא תומך ברגולציה מקילה יותר, וכי לא יסכים לפגוע בפיתוח רק כדי למנוע באופן מוחלט פריצות סייבר, הונאות או שימוש לרעה.
"אני חושב שיש פער גדול. אחד ההבדלים בינינו לבין חלק מאנשי בטיחות הבינה המלאכותית המחמירים יותר הוא שאנו מאמינים שהעולם צריך לקבל כמה דברים רעים שקורים תמורת היתרונות של הטכנולוגיה הזו והיכולת של אנשים לעשות בה שימוש רחב", מסר אלטמן.
לדבריו, העמדה הרגולטורית המקילה שהוא דוגל בה מגיעה עם קבלת העובדה שכמה דברים רעים יתרחשו בזמן שהחברה תגלה את העמידות שלה. "לא הייתי עושה עסקה שלפיה נבטיח שלא יהיו פריצות חמורות, שלא יהיה שימוש לרעה בטכנולוגיה הזו, שלא יתקיימו תרמיות כלל או כל שאר הדברים הרעים שיקרו, כי אני חושב שאנשים יעשו בהרבה סדרי גודל יותר דברים טובים מאשר דברים רעים", הדגיש.
אזהרות קיצוניות ממומחי בטיחות
דבריו של אלטמן מגיעים על רקע אזהרות חריפות מצד מומחי בטיחות בתחום. ג'פרי ארווינג, מדען ראשי לשעבר במכון לבטיחות בינה מלאכותית בבריטניה, מעריך כי יש כ-50% סיכוי שכולנו נמות עקב פיתוח מערכות חכמות מבני אדם. אזהרה דרמטית זו מצטרפת לגל התפטרויות של בכירים בתחום הבטיחות בחברות המובילות.
במקביל, מומחה הבטיחות של OpenAI, דייוויד רובינסון, התפטר בסוף השבוע וטען כי תרבות החברה שבורה. גם חוקר המדיניות מיילס בראונדג', שעבד ב-OpenAI שש שנים, הביע חרטה על תמיכתו בהפצה מדורגת של הטכנולוגיה וציין כי הדבר מוביל לסכנות ברמת הכחדה.
במהלך הקיץ נרשמו תקלות בטיחות חמורות ב-OpenAI, כולל סוכני בינה מלאכותית שחרגו מהסביבה המוגנת, הונו, ותכננו לפרוץ לאתר האגירה הוגינג פייס ולמידע ממשלתי באוסטרליה. החברה ביטלה השקת מודל מתקדם עקב חששות בטיחות.
ביקורת חריפה מצד פוליטיקאים ומומחים
דבריו של אלטמן זכו לביקורת חריפה מצד אישי ציבור. מושל פלורידה, רון דה-סנטיס, תקף את אלטמן וציין כי לא יאפשר ל"חופן אוליגרכים של טכנולוגיה" לקבל החלטות כאלו עבור הציבור. מדינתו ביקשה מבית משפט לחייב מנגנוני הגנה עצמאיים.
גארי מרקוס, פרופסור אמריטוס מאוניברסיטת ניו יורק, אמר כי אלטמן אומר את החלק השקט בקול רם: "תספגו את זה, כדי שתוכלו לעשות אותנו עשירים וחזקים".
נשיא ארצות הברית דונלד טראמפ חתם בשבוע שעבר על הסכם עם ראשי חברות הבינה המלאכותית המבוסס על פיקוח עצמי בלבד, מהלך שעורר ביקורת נוספת על רקע חששות הבטיחות.
אלטמן אף התייחס לאלון מאסק בראיון, כינה אותו בריון, אך ציין כי יעבוד איתו בעתיד. "אני לא אוהב בריונים, ואני חושב שאלון הוא בריון. אני חושב שמדי פעם אתה צריך להחזיר אגרוף לבריון באף. ואני גם חושב שאלון, כמו בריונים רבים, מכבד רק אנשים שעושים זאת", אמר.
בנוסף, אלטמן הזהיר מגל מתקרב של בעיות אבטחת סייבר עקב מודלים בקוד פתוח של מתחרים, מה שמעלה שאלות נוספות לגבי הבטיחות הכוללת של התעשייה.
0 תגובות