ג'ייקוב קוקסון, חוקר בתחום הבינה המלאכותית בן 27 שעבד בשנים האחרונות בשתיים מהחברות המובילות בעולם בתחום, הודיע על פרישתו מחברת אנתרופיק ועל עזיבת התעשייה כולה. הסיבה, לדבריו: חשש עמוק שהמרוץ לפיתוח מערכות חכמות יותר ויותר מתקדם במהירות גבוהה מהיכולת של בני האדם לשלוט עליהן ולהבין את השלכותיהן.
קוקסון, שעבד בעבר בחברת OpenAI ולאחר מכן עבר לאנתרופיק, עסק במשך כשלוש שנים במחקר אימון של מודלי בינה מלאכותית. בהודעה שפרסם טען כי שתי החברות אינן פועלות באחריות מספקת, וכי התעשייה כולה "דוהרת ישירות לעבר בינה מלאכותית על-אנושית שמשפרת את עצמה". מדובר, לדבריו, ב"הימור עם החיים שלנו".
החשש המרכזי שלו אינו מצ'אטבוט חכם יותר או ממערכת שמסוגלת לענות על שאלות טוב יותר. הוא מפחד מהשלב שבו מערכות בינה מלאכותית יוכלו לפתח בעצמן את הדור הבא של מערכות בינה מלאכותית. תרחיש כזה עלול ליצור מעגל האצה שבו המכונות משתפרות במהירות הולכת וגוברת, בעוד שבני האדם מתקשים להבין כיצד הן פועלות ומה ההשלכות של יכולותיהן.
קוקסון אף טען כי חלק מהאנשים שעובדים בתוך התעשייה מאמינים ברצינות שבינה מלאכותית עלולה להפוך למסוכנת ביותר עד סוף העשור. הוא הזהיר כי מערכות עתידיות עשויות להגיע ליכולות בתחומים כמו פריצה למערכות מחשב, מחקר מדעי ופיתוח טכנולוגי, ולצבור כוח ומשאבים בקצב שקשה יהיה לבני האדם לעצור.
הפרישה של קוקסון בולטת במיוחד משום שהוא אינו מבקר חיצוני שלא היה מעורב בתחום. הוא הגיע מתוך התעשייה עצמה, לאחר שעבד הן ב-OpenAI והן באנתרופיק – חברה שמזוהה במיוחד עם הדגש שלה על בטיחות ופיתוח אחראי של בינה מלאכותית.
לדבריו, דווקא המעבר לאנתרופיק גרם לו להבין שגם חברה שמודעת היטב לסיכונים מתקשה לעצור כאשר היא נמצאת במרוץ מול מתחרותיה.
לדבריו, הבעיה אינה רק חברה אחת. כל עוד חברות אמריקניות מתחרות זו בזו, ובמקביל מתנהל מרוץ עולמי מול חברות מסין, לכל חברה יש תמריץ להמשיך ולפתח מערכות חזקות יותר כדי שלא תישאר מאחור. לכן קוקסון קורא לתיאום רחב יותר בין החברות והממשלות, ואף העלה אפשרות לעצירה זמנית של שיפור היכולות של המודלים המתקדמים.
הטענות כבר עוררו תגובות חריפות בעולם הבינה המלאכותית. חוקר מאנתרופיק, אוון הובינגר, כתב בתגובה כי אנשי החברה אכן מתייחסים ברצינות לאפשרות שבינה מלאכותית מתקדמת עלולה להביא לתוצאה קטסטרופלית, ואף העריך כי הסיכון לכך בעשור הקרוב אינו זניח. במקביל, גורמים בכירים בתעשייה קוראים להגברת הפיקוח והתיאום סביב פיתוח מערכות עוצמתיות יותר.
0 תגובות