מנכ"ל חברת OpenAI, סם אלטמן, הודה בכנס שנערך בסן פרנסיסקו כי החשש הציבורי מפני סכנות הבינה המלאכותית אינו מופרך. "העולם צודק. צריך לפחד מזה", אמר אלטמן, תוך שהוא מוסיף כי תאונות מסוימות עשויות להיות בלתי נמנעות ככל שהטכנולוגיה מתפתחת במהירות רבה.
למרות ההודאה, אלטמן טען כי התעשייה עדיין מסוגלת להתמודד עם הסכנות ולפתח את הטכנולוגיה באופן בטוח. לדבריו, חברות בתחום צריכות להיות מוכנות להאט את קצב הפיתוח ואף לעצור אותו כאשר אינן יכולות להבטיח שהמשך הפיתוח בטוח.
דבריו של אלטמן מגיעים על רקע אזהרות חריפות מתוך תעשיית הבינה המלאכותית עצמה. ג'ייקוב קוקסון, חוקר שעבד בעבר בחברות אנתרופיק ו-OpenAI, התפטר לאחרונה תוך שהוא מזהיר כי המרוץ לפיתוח בינה מלאכותית עלול לסכן את האנושות. קוקסון קרא להאט את קצב הפיתוח וטען כי התעשייה מתקדמת מהר יותר מהיכולת שלה להתמודד עם הסיכונים.
ג'ק קלארק, אחד ממייסדי חברת אנתרופיק, הזהיר אף הוא בראיון לרשת NPR מפני מצב שבו סוכני בינה מלאכותית שאינם פועלים בהתאם למטרותיהם של בני האדם יוכלו לפרוץ למחשבים ואף לנסות לשבש את האינטרנט.
קלארק קרא לבחינה של תקני בטיחות משותפים ולפיקוח חיצוני על מערכות מתקדמות. לדבריו, התחרות בין חברות הבינה המלאכותית מקשה על חברה בודדת להאט את קצב הפיתוח בכוחות עצמה. "אנחנו מטילים קוביות עם סיכונים עצומים", אמר, והוסיף כי יש צורך לשנות את מסלול התעשייה.
0 תגובות