מי אחראי כשאף אחד לא אחראי? [עושים טכנולוגיה]

שאלת האחריות בעידן המכונות החושבות הוצגה לראשונה לפי עשרים שנה ובספרות המקצועית מכנים אותה בשם "פער האחריות". במשך שנים רבות היא נחשבה לתרגיל כמעט תיאורטי, אבל מה שהיה תיאורטי כבר מזמן לא כזה והאתגרים והבעיות האתיות שקשורות במתן דין וחשבון, בסוגיות של אחריות ואשמה נמצאות כבר איתנו.

הנה דוגמה: מערכת בינה מלאכותית שמוטמעת בתוך כלי טיס ללא טייס מחליטה באופן אוטונומי לירות טיל ובטעות הורגת עשרה חיילים (שלא נדע). מי אחראי? הממשלה? הצבא? המפקד שהחליט לשלוח את הכטב"ם? מפעילי הכטב"ם? מה בנוגע למי שפיתח את הכטב"ם? אולי מי שפיתח את האלגוריתם שמוטמע בכטב"ם, אולי הוא זה שאחראי? אולי האחראים הם אלו שבחרו באיזו דאטה להשתמש כדי לאמן את האלגוריתם שהוטמע בכטב"ם שהופעל על ידי המפעילים שנשלחו על ידי המפקד שמונה על ידי הצבא שמקבל הוראות מהממשלה?

מי אחראי כאשר אף אחד לא אחראי ואם אף אחד לא אחראי אז... אז מי אחראי?


קישורים:
הארץ: "האלגוריתם קבע שהיא לא בסכנה"
https://www.haaretz.co.il/magazine/2024-07-31/ty-article-magazine/.highlight/00000191-07e0-df85-a399-eff6db0e0000

פער האחריות: מחקרו של אנדראס מת'יאס
https://link.springer.com/article/10.1007/s10676-004-3422-1

מחקר: ארבעה פערי אחריות
https://link.springer.com/article/10.1007/s13347-021-00450-x