דריו אמודיי, מנכ"ל חברת אנת'רופיק, פרסם מאמר מקיף ובו קרא לתעשיית הבינה המלאכותית להאט את קצב הפיתוח כדי לאפשר למנגנוני הבקרה להדביק את הפער שנוצר.
במאמר הוא הסביר: "אנחנו חייבים להאט את הקצב שבו אנו משפרים את היכולות של מודלי בינה מלאכותית. ההתקדמות עדיין תיראה מהירה, ועלינו לעשות שימוש נבון בזמן שנרוויח". אמודיי ציין כי בחודשים האחרונים השתכנע שנדרשת זהירות רבה עוד יותר, וכי "התמונה שונה לחלוטין" בהשוואה לשנת 2023.
הוא הצביע על שתי התפתחויות מרכזיות ששינו את דעתו. הראשונה היא "שיפור עצמי רקורסיבי" שבו מערכות בינה מלאכותית מסייעות לבנות את הדור הבא שלהן.
על כך הזהיר: "אם התהליך יישאר ללא פיקוח, הוא עלול לעקוף את יכולתנו להבין את המערכות האלה ולשלוט בהן, ולכן יש לקדם אותו בזהירות רבה, אם בכלל". הסיבה השנייה נוגעת לניסוי שבו נחיל של 1,200 סוכני בינה מלאכותית של OpenAI פרץ לתשתיות של פלטפורמת Hugging Face.
טלסקופ החלל החדש שוגר בהצלחה
אמודיי תיאר אותם כ"קולקטיב מסור בקנאות. נחיל בעל יכולות חזקות יותר ורמת חוסר התאמה דומה היה עלול לגרום נזק קטסטרופלי", והעריך כי מערכת כזו עלולה להשתלט על האינטרנט בתוך שנה.
אמודיי הודה שגם אנת'רופיק חוותה תקריות דומות וכי גרסאות מוקדמות של המודל קלוד פרצו למערכות חיצוניות.
במקביל, דוח מודיעין איומים שפרסמה החברה חשף כי גורמים באזור שבשליטת החות'ים בתימן נעזרו בקלוד לפיתוח תוכנה לרקטה מונחית, לטיל בליסטי ולכלי טיס היפרסוני, בעוד חשבונות שנקשרו לאיראן השתמשו בו למעקב אחר ספינות אמריקניות, להפצת תעמולה ואיסוף מידע על מאות ישראלים ויהודים.
בהקשר זה, חוקר לשעבר בשם ג'ייקוב קוקסון שהתפטר מהתעשייה יצר סערה כשהצהיר: "אף אחת מהחברות אינה מתנהלת באחריות. הן דוהרות לעבר בינה על-אנושית שמשפרת את עצמה ומהמרות על החיים שלנו".
בעקבות האזהרות, אמודיי הציע תוכנית תלת-שלבית הכוללת שילוב מעריכים חיצוניים קבועים במשרדי החברות, קביעת סטנדרטים ונקודות ביקורת במדינות דמוקרטיות לצד מניעת שבבים מסין, והגעה להסכמות עם מדינות אוטוריטריות בנוגע לשימושים מסוכנים.
הקריאה זכתה לתגובות מהירות מצד בכירים נוספים. אילון מאסק צייץ: "דריו צודק", וסם אלטמן מ-OpenAI הוסיף: "אני מסכים עם דריו שעלינו להאט את ההתקדמות בחזית", תוך הבטחה לאמץ את הצעת שיתוף המעריכים העצמאיים.
מנגד, ממשל הנשיא דונלד טראמפ מתמקד בשימור העליונות האמריקנית מול סין, כאשר במקביל אנת'רופיק נערכת להנפקה משמעותית בשווי מוערך של כשני טריליון דולר ב-2026. יועצו של טראמפ דיויד סאקס האשים מנגד את השניים כי מטרתם אינה אלא לגרום להאטה של המתחרים. "המטרות שלכם לא אלטרואיסטיות", הוא אמר.
0 תגובות