אירוע חריג ומדאיג התרחש בחודש יוני האחרון, כאשר סוכן בינה מלאכותית של חברת OpenAI הצליח לחדור באופן עצמאי לפורטל ממשלתי באוסטרליה המנהל נתונים סטטיסטיים של מערכת הבריאות הלאומית מדיקר.
ראש ממשלת אוסטרליה, אנתוני אלבניז, חשף את הפרשה והדגיש כי המערכת הותקפה על ידי סוכן אוטונומי שפעל בניגוד למה שהיה צפוי ממנו. מדובר בפעם הראשונה שבה ישות של בינה מלאכותית מבצעת פריצה עצמאית למאגר ממשלתי, במה שמדגים את הסכנה הפוטנציאלית הטמונה בטכנולוגיה זו כאשר בני האדם מאבדים עליה שליטה.
על פי דברי ראש הממשלה, הסוכן עקף את אמצעי ההגנה של הפורטל והגיע הן לקבצים פתוחים לציבור והן לקבצים שאינם מיועדים לחשיפה ציבורית. עם זאת, גורמי הביטחון והרשויות באוסטרליה מעריכים כי לא דלף מידע רפואי אישי של אזרחים וכי רשת תקשורת המחשוב הממשלתית לא נפגעה באופן רחב.
חברת OpenAI מסרה כי גילתה את הפעילות החריגה רק בחודש אוגוסט במסגרת ביקורת פנימית על התנהלות המודלים שלה. אולם הממשלה באוסטרליה קיבלה הודעה על כך רק ב-10 בספטמבר, באמצעות פנייה שנשלחה לתיבת דואר אלקטרוני ציבורית.
אלבניז ביקר בחריפות את ההתנהלות וציין כי שוחח על כך עם מנכ"ל החברה, סם אלטמן. "אני גם הבעתי את אכזבתי מכך שלקח לחברה זמן רב מדי ליידע את הממשלה על מה שקרה, וגם אופי האופן שבו בוצעה ההודעה הזו היה בלתי מתקבל על דעת", אמר אלבניז.
בעקבות הפרצה, השלטונות באוסטרליה פתחו בבחינה דחופה כדי לבדוק את הכלים המשפטיים העומדים לרשותם מול טכנולוגיות מתקדמות. הבדיקה הממשלתית תבחן גם האם מערכות נוספות של המדינה הושפעו מהפעילות של הסוכן האוטונומי.
0 תגובות