נציב תלונות הציבור על מייצגי המדינה בערכאות, השופט בדימוס מנחם פינקלשטיין, חשף היום (חמישי) מקרה חמור של שימוש שגוי בבינה מלאכותית על ידי חוקרות משטרה במסגרת הליך פלילי.
במסגרת תגובה שהוגשה לבית המשפט בקשר לבקשת נאשם להשבת מכשיר הטלפון הנייד שנלקח ממנו, הסתמכה נציגת המדינה על ממצאים בדויים שנוצרו על ידי בינה מלאכותית מבלי לבדוק את אמיתותם.
בפסק הדין קבע הנציב כי החוק שעל פיו התבססה המשטרה - "חוק סדר הדין הפלילי סמכויות אכיפה חיפוש ותפיסה במחשב" - אינו קיים בפועל ומדובר בפרי המצאתה של הבינה המלאכותית. לדבריו מדובר בהתנהלות תמוהה וחמורה של יחידת החקירות שהסתמכה באופן עיוור על ממצאי הבינה המלאכותית. הנציב ציין כי נציגת המדינה שתפקידה לסייע לבית המשפט להשיג צדק פעלה למעשה בניגוד לכך.
לפי ממצאי הבירור שנערך בנציבות תלונות הציבור, החוקרות לא ביצעו כל בדיקה עצמאית או ביקורת מקצועית על המידע שהתקבל. התגובה לבית המשפט נבנתה על בסיס פלט שגוי ומטעה של מערכת בינה מלאכותית, ששימש לטענת המשטרה כבסיס להתנגדות להשבת הטלפון הנייד של הנאשם. הנציב הבהיר כי מדובר בטעות חמורה בעלת השלכות רוחביות שעלולה לפגוע בזכויות אדם ולהטעות את מערכת המשפט.
משטרת ישראל הודיעה בתגובה כי חטיבת החקירות גיבשה הנחיות לשימוש מבוקר בכלי בינה מלאכותית שהופצו לכלל מערך החקירות. בשל חומרת המקרה וחשש להרחבת התופעה העביר הנציב את החלטתו ליועצת המשפטית לממשלה ולפרקליט המדינה כדי לקדם הנחיות מחייבות לשימוש בבינה מלאכותית במערכת המשפט והחקירות.
השופט פינקלשטיין הדגיש כי השימוש בבינה מלאכותית חייב להיעשות באחריות מקצועית ובפיקוח קפדני כדי למנוע טעויות והטעיות העלולות לפגוע בזכויות יסוד.
0 תגובות