שימוש בלתי מבוקר בבינה מלאכותית ביחסי האזרח והרשות המינהלית
- אחד מן הרציונלים המרכזיים הניצבים בבסיס חובת ההגינות המוגברת המוטלת על רשויות המינהל, הוא פערי הכוח הדרמטיים המתקיימים בין הרשות לבין האזרח:
"היחיד והשלטון אין הם שווי זכויות, אין הם שווי כוחות ואין הם שווי מעמד. [...] השלטון מחזיק בידו רוב כוח, רוב עוצמה ורוב עושר, עד שהיחיד - יהיו כוחו, עוצמתו ועושרו רבים ככל שיהיו - לא ישווה לו ולא ידמה לו. [...] חובת ההגינות שהשלטון חב בה כלפי יחידי החברה נגזרת מהכוח היתר שהשלטון מחזיק בו, מעוצמתו של השלטון כי רבה. חובת ההגינות נועדה לשמש -בצידם של אמצעים אחרים - בלם לכוח ורסן לעוצמה" (בג"ץ 164/97 קונטרם בע"מ נ' משרד האוצר, אגף המכס והמע"מ, פ"ד נב(1) 289, 368-367 (1998); ראו גם שם, עמודים 318-317; כן ראו: יצחק זמיר הסמכות המינהלית כרך ג 1634 (2014); דפנה ברק-ארז משפט מינהלי כרך א 276 (2010)).
- רציונל זה משמיע, כי עשיית שימוש בלתי מבוקר בבינה מלאכותית, כבעניין דנן, היא בעלת משנה חומרה, כאשר היא מתקיימת ביחסים הישירים שבין הרשות לאזרח. כך, כאשר שימוש כאמור מתבצע במסגרת הליך משפטי, קיימים שני גורמים המגשרים, למצער במידה מסוימת, על פערי הכוח בין הצדדים - עורך הדין של האזרח, ובית המשפט. בהקשר דנן, משמעות הדברים היא שגם אם שימוש כגון דא בבינה מלאכותית, עולה כדי הפרה חמורה של חובה דיונית המוטלת על הצדדים, כמפורט לעיל, הרי שההסתברות שתהיה לכך השפעה בפועל על תוצאת ההליך - אינה גבוהה באופן יחסי. זאת, שכן ניתן להניח, בשלב ראשון, כי עורך הדין ישים לב לדבר ההטעיה - קרי, לאותן אסמכתאות וטענות שמקורן אינו בדין, אלא ב'הזיות' הבינה המלאכותית - ויביא את הדברים לידיעת בית המשפט; ובהחלט סביר כי בשלב שני, גם אם עורך הדין 'יפספס' אותם כשלים, בית המשפט ישית לבו אליהם, ויפסוק בהתאם לדין, מבלי שאותה הטעיה תשפיע על הכרעתו.
- לעומת זאת, ביחסים הישירים שבין הרשות לאזרח, הנחות אלו, בדבר המחסומים העשויים להגביל את השפעתו המעשית של שימוש בלתי מבוקר בבינה מלאכותית - אינן מתקיימות. כאשר האזרח מקבל מרשות מינהלית החלטה הנראית לכאורה מנומקת ומבוססת על טעמים ואסמכתאות משפטיות, במרבית המקרים, אין ביכולתו להרהר אחריה, ודאי שלא לגלות בכוחות עצמו כי אותם נימוקים, אינם אלא פרי דמיונה של מערכת בינה מלאכותית. מכאן, שלהבדיל ממקרה של שימוש בלתי מבוקר בבינה מלאכותית בגדרי הליך משפטי, באינטראקציה הישירה בין הרשות לאזרח, לשימוש כאמור עשויה בהחלט להיות השפעה של ממש על מצבו של האזרח. למעשה, נוכח האמור, סביר להניח כי במרבית המקרים, החלטת הרשות תישאר לעמוד על מכונה, והאזרח ישלים עמה, אף מבלי לדעת שנעשה לו עוול. זאת, כאשר ההסתברות לכך עולה ביחס הפוך למידת המוּדעוּת, היכולת והמשאבים של האזרח לתקוף את החלטת הרשות, כך שדווקא האזרחים בעלי המוּדעוּת והמשאבים הנמוכים ביותר - הם אלא שצפויים להיפגע יותר מכל.
- משמעות הדברים היא, ששימוש בלתי מבוקר שעושה הרשות בבינה מלאכותית ביחסיה הישירים מול האזרח, הוא בעל דרגה יתרה ומיוחדת של חומרה. זאת, לבד מן העובדה שהתנהלות כגון דא כרוכה מיניה וביה גם בהפרה של חובות נוספות המוטלות על רשויות המינהל. כך למשל, החלטה המבוססת ברובה על 'הזיות' בינה מלאכותית, היא החלטה שקשה עד מאוד לראותה כהחלטה הממלאת אחר חובת ההנמקה (על הקושי הכללי במישור ההסבר וההנמקה, בכל הנוגע להחלטות שהן תוצר של מערכת בינה מלאכותית, ראו למשל: חופית וסרמן-רוזן "אליה וקוץ בה: הזכות להסברתיות של מערכות בינה מלאכותית" משפט חברה ותרבות ח, 215 (2025)).
- כמו כן, ובהמשך לאמור, יש רגליים לסברה, כי החלטה כזו לוקה, ככלל, בשרירות. כפי שהיטיב לנסח השופט שמגר, שרירות היא "מעשה שנעשה על-ידי רשות, מבלי לתת את הדעת לנתונים ולנימוקים שלפניה, תוך הסתמכות על כוחה השלטוני ותו לא. לא המירמה שולטת בכיפה במעשה השרירות אלא העדר התחשבות וחוסר תשומת הלב" (בג"ץ 376/81 לוגסי נ' שר התקשורת, פ"ד לו(2) 449, 460 (1981); ראו גם: עע"מ 1930/22 הבית הפתוח בירושלים לגאווה ולסובלנות נ' עיריית ירושלים, פסקה 39 לפסק הדין של חברי, השופט ע' גרוסקופף [נבו] (11.10.2023); להגדרה דומה לשרירות, המכוונת להתנהלות רשויות האכיפה בתחום המשפט הפלילי, ראו: רע"פ 1611/16 מדינת ישראל נ' ורדי, פסקה 71 והאסמכתאות שם [נבו] (31.10.2018)). מובן, כי בעת הנוכחית החלטה המסתמכת 'באופן עיוור' על מערכת בינה מלאכותית, באה בגדרי קבוצת ההחלטות הניתנות ללא תשומת לב או התחשבות בשיקולים והנתונים הרלבנטיים, ולמעשה, היא החלטה שניתן אף לומר כי מבחינה מהותית, לא הופעל לגביה שיקול דעת כלל; לפיכך, היא באה בנקל תחת כנפיה של עילת השרירות. הדברים אף מקבלים משנה תוקף, נוכח הקשר ההדוק שבין שרירות לבין העדר הנמקה (על כך ראו, למשל: בג"ץ 6728/06 עמותת "אומץ" (אזרחים למען מינהל תקין וצדק חברתי) נ' ראש ממשלת ישראל, פסקאות 18-14 לחוות הדעת של השופטת נאור [נבו] (30.11.2006); בג"ץ 143/56 אחג'יג' נ' המפקח על התעבורה, פ"ד יא 370, 372 (1957)).
סבורני, כי ניתן לגזור מן האמור מסקנות מעשיות בשני מישורים.
- ראשית, ההיבט של החובות הפוזיטיביות החלות על רשויות המינהל, בכל הנוגע לשימוש בבינה מלאכותית. מובן, כי אין זה המקום לדיון ממצה - או אפילו קרוב לכך - בסוגיה זו; בל נשכח, כי עסקינן בערעור שעניינו הוצאות משפט. עם זאת, דומני כי ניתן לחלץ מן המקרה דנן כמה תובנות ראשוניות לגבי עניין זה, במבט צופה פני עתיד.
- תובנה אחת היא, שכל עוד רמת האמינות של מערכות הבינה המלאכותית מוטלת בספק, באשר הן עודן 'הוזות' מעת לעת, לא ניתן להסכין עם מצב שבו רשות מינהלית מתפרקת משיקול דעתה, ומבססת את החלטתה באופן בלעדי, או כמעט בלעדי, וללא כל בקרה, על פלט של מערכות כאמור (הדרישה למעורבות אנושית בתהליכי קבלת החלטות מסוימים, בדגש על החלטות של רשויות מינהליות, מכונה לרוב בספרות כדרישה ל-human in the loop - דרישה שיכולה לחול הן בשלב קבלת ההחלטה, הן בשלבים מוקדמים יותר של עיצוב האלגוריתם ואימון המערכת; בהקשר האחרון, ראו: ניבה אלקין-קורן ומעיין פרל "בינה מלאכותית: טכנולוגיה משבשת במשפט הישראלי" משפט, חברה ותרבות ח 11, 22 (2025)). זאת בפרט, מקום שבו מדובר בהחלטה מהותית, שלה השפעה ממשית על האזרח (לניתוח היבטים שונים של סוגיה זו, על המורכבויות הרבות ושלל האתגרים שהיא מעוררת, ראו למשל: Rebecca Crootof, Margot E. Kaminski & W. Nicholson Price II, Humans in the Loop, 76 L. Rev. 429 (2023); Ryan Calo & Danielle Keats Citron, The Automated Administrative State: A Crisis of Legitimacy, 70 Emory L. J. 797 (2021); Amit Haim, The Administrative State and Artificial Intelligence: Toward an Internal Law of Administrative Algorithms, 14 UC Irvine L. Rev. 103 (2024); משרד החדשנות, המדע והטכנולוגיה ומשרד המשפטים עקרונות מדיניות, רגולציה ואתיקה בתחום הבינה המלאכותית 59-53 (2023) (להלן: מסמך מדיניות ורגולציה בתחום הבינה המלאכותית)).
- כך, גם אם במסגרת גיבוש ההחלטה וניסוחהּ נעזרים גורמי המינהל במערכת בינה מלאכותית - וכאמור, בדבר זה, כשלעצמו, אין כל פסול - שומה עליהם לקיים בקרה, לבחון ולוודא. הדברים יפים הן באשר להפעלת שיקול הדעת לגופו, הן לגבי ההנמקה שבבסיס ההחלטה (אדגיש כי אין באמור משום הבעת עמדה בנוגע לשאלה אם גם בהקשרים בהם רמת האמינות של מערכות הבינה המלאכותית תהיה גבוהה מאד, ואף תעלה על זו של בעלי מקצוע אנושיים, תוכלנה רשויות המינהל לקבל החלטות ללא מעורבות אנושית כלל, בפרט בעניינים בעלי השפעה משמעותית על חיי האזרח; עוד חזון למועד).
- היבט נוסף שניתן לזקק מן הדיון האמור ומנסיבות העניין, נוגע לדרישת הגילוי בדבר השימוש בבינה מלאכותית. דרישה כאמור טרם נחרתה בשיטת משפטנו, אולם דומה כי בהחלט עשוי להיות היגיון בקביעת חובה כזו, למצער בהקשרים מסוימים, שבהם ההשפעה על האזרח עשויה להיות גדולה. טעם מרכזי לכך, הוא שעשוי להיות בגילוי כאמור כדי לסייע מעט בצמצום פערי הכוחות שעליהם עמדתי לעיל, כך שהאזרח שניתנה בעניינו החלטה תוך שימוש בבינה מלאכותית, יוכל לפחות להיות מודע לכך, מה שישפר קמעא את יכולתו לכלכל צעדיו בהתאם, לבחון את תקינות ההחלטה, ואולי אף להשיג עליה במסלולים המתאימים (ראו והשוו: מסמך מדיניות ורגולציה בתחום הבינה המלאכותית, עמודים 66-63, 86-85; לניתוח מקיף של סוגיית הגילוי והשקיפות, בהקשר של שימוש שעושות רשויות בבינה מלאכותית, ראו: דלית קן-דרור פלדמן, אור סדן, רחלי אדרי-חולתא ואורי סולד "שקיפות בעידן הבינה המלאכותית: המשפט הישראלי" משפט חברה ותרבות ח 253 (2025)). על כל פנים, מובן כי איני קובע מסמרות, והדברים נאמרים בבחינת הערות למחשבה, במבט צופה פני עתיד.
- המישור השני שלגביו ניתן לגזור מסקנות מעשיות מן הדיון לעיל, נוגע להיקף הביקורת השיפוטית ולסוגיית הסעד. כידוע, היקף הביקורת השיפוטית על פעולתה של רשות מינהלית, כמו גם הסעד שנפסק בגין פגם שנפל בה, קשורים בקשר הדוק לאופיו וטיבו של הפגם. סבורני, כי שימוש בלתי מבוקר שעושה הרשות בבינה מלאכותית במסגרת יחסיה הישירים עם האזרח, פותח פתח לביקורת שיפוטית מחמירה והדוקה יותר, ועשוי להצדיק, ככלל, סעד משמעותי. טעם ראשון לדבר, נעוץ בחומרתה היתרה של התנהלות זו, כמפורט לעיל. טעם שני, טמון בכך שכפי שהוסבר, שימוש לא מבוקר בבינה מלאכותית מגביר את החשד לכך שנפלו פגמים בהליך קבלת ההחלטה, וכי היא לוקה בהעדר הנמקה, שרירות ועוד מרעין בישין. טעם שלישי, הנגזר ישירות מניתוח פערי הכוחות בין הצדדים, מצוי בשיקולי הכוונת התנהגות. כפי שהבהרתי, הדעת נותנת, כי במרבית המקרים, אדם מן היישוב כלל לא יהיה מוּדע לכך שהתקבלה בעניינו החלטה המבוססת על מערכת בינה מלאכותית, וכוללת הטעיות ו'הזיות' שונות; ממילא, במקרים כגון דא, ההחלטה לא תעבור תחת שבט הביקורת השיפוטית, ותיוותר על כנה. משמעות הדבר היא שקיים חשש כי הרשות לא תקפיד די הצורך על הימנעות מהתנהלות כזו, נוכח ההסתברות הנמוכה לכך שההחלטה תהא כפופה למנגנון בקרה חיצוני (ניתן לחשוב על מצב זה כמעין מקרה של 'הרתעת חסר'). מכאן, שעל מנת להבטיח שרשויות מינהליות יסגלו לעצמן דרכי התנהלות ראויות בהקשר זה, ולמנוע מלכתחילה שימוש בלתי מבוקר בבינה מלאכותית ביחסיהן עם האזרח, עליהן לדעת כי החלטותיהן תעמודנה לביקורת שיפוטית דקדקנית ומחמירה, שעלולה לבוא בצדה גם עם סעדים משמעותיים.
- מן הכלל אל הפרט: העירייה עשתה שימוש בלתי מבוקר - שלא לומר מופקר - בבינה מלאכותית, הן ביחסיה הישירים עם אביו של המערער, במענה לבקשתו, הן במסגרת הליכי המשפט. זאת, בהיקף נרחב, ללא כל בקרה אפקטיבית, ובסוגיה מהותית ביותר עבור המערער ואביו - זכאות להסעת הקטין, תלמיד בחינוך מיוחד, לבית הספר. כתוצאה מכך נפלו פגמים רבים ומהותיים במסמכים מטעמה - הן בתשובותיה לאזרח, הן בכתבי בי-דין שהגישה לבית המשפט. בנסיבות אלו, ובהתחשב בכלל השיקולים החלים בכגון דא, כמפורט לעיל, סבורני כי עלינו להעביר מסר חד ובהיר, ולהשית על העירייה הוצאות על הצד הגבוה.
הערות אחרונות
- טרם סיום, 3 הערות. ראשית, לצד חומרת התנהלותה של העירייה, והחששות המתעוררים נוכח שימוש בלתי מבוקר בבינה מלאכותית על-ידי רשויות המינהל, עלינו להישמר ולא 'לשפוך את התינוק עם המים' (ראו והשוו: עניין פלונית, פסקה 26; "לתקוני שדרתיך ולא לעוותי" (בבלי, בבא בתרא קס"ט, ב) - לתיקון (לשיפור) שלחתיך, ולא לעיוות (לקלקול)). שימוש בבינה מלאכותית על-ידי רשויות מינהליות, עשוי להביא לעולמנו תועלות מרובות, ולתרום בשלל דרכים לטיוב וייעול פעולתן של אותן רשויות, תוך שיפור השירות הניתן, בסופו של דבר, לאזרח. המסר איננו, אם כן, כי על הרשות להימנע משימוש במערכות בינה מלאכותית; ההפך הוא הנכון. כל שבכוונתי לומר, הוא שעל שימוש זה להיעשות בּשׂוֹם שכל ובשיקול דעת, מתוך מודעות למגבלות העדכניות של הטכנולוגיה, ותוך שמירה על המצפן, שלפיו אותו שימוש מתבצע לטובת האזרח, ותוך שמירה על זכויותיו.
- שנית, במקרים רבים אנו נוכחים לדעת, כך אמרתי בעבר, כי "המשפט מדדה בעצלתיים אחר חידושי העולם, וכי החקיקה אינה מדביקה את קצב התקדמות המדע וישׂוּמיו" (עע"מ 3782/12 מפקד מחוז תל אביב-יפו במשטרת ישראל נ' איגוד האינטרנט הישראלי, פסקה 23 [נבו] (24.3.2013)). הדברים רלבנטיים במיוחד, בכל הנוגע לבינה מלאכותית - טכנולוגיה שמתפתחת בקצב שיא, משפיעה על עולמנו באופן ניכר, ועשויה להביא לתמורות מרחיקות לכת. טכנולוגיה זו, נוכח עוצמתה ורוחב היריעה של השפעותיה, מעוררת כבר היום אתגרים ניכרים במישור המשפטי, וצפויה להמשיך ולהציב בפנינו אתגרים חדשים, מורכבים יותר ויותר. טוב יעשו אפוא הגורמים הרלבנטיים - הן ברשות המחוקקת, הן ברשות המבצעת - אם יִדרשו בהקדם לאתגרים אלה, בפרט לאלה הדחופים יותר (כמו סוגיית החובות החלות על רשויות המינהל, בעודן עושות שימוש בבינה מלאכותית), ויעצבו, מתוך מבט רחב, את הכלים המתאימים להתמודדות עם אותם אתגרים.
- שלישית, בכתב התשובה שהוגש על-ידה, טענה ב"כ העירייה כי "גם אם נפלה טעות קולמוס מצערת בציטוט כזה או אחר בכתבי הטענות", הרי שהדבר קרה "נוכח הסתייעות [...] במתמחים" (בבחינת 'תלמיד טועה'; על כך ראו, למשל: הרב מנשה קליין שו"ת משנה הלכות יב, סימן ריד). טענה זו - מוטב כי לא היתה נטענת כלל. אף אם הדברים נכונים ברמה העובדתית - ולמען הסר ספק, איני קובע או רומז כי אכן אלה הם פני הדברים - אין בכך כדי להעלות או להוריד. ברי, כי האחריות על שנכתב במסמך המוגש לבית המשפט, מוטלת על עורך הדין החתום עליו.
ובלשון כללית יותר: הניסיון להטיל את האחריות לטעויות בכתבי בי-דין שמגיש עורך דין על גורמים אחרים - בין אם הם מתמחים הכפופים לעורך הדין המאמן, ובין אם הן מערכות טכנולוגיות של בינה מלאכותית - הוא ניסיון נואל, שיש לדחות מכל וכל. כבעל מקצוע אחראי עורך הדין באופן אישי לאיכות התוצר אשר יוצא תחת ידו, ואין הוא יוצא ידי חובתו בהסתמכו על אחר - בן אנוש או בינת מכונה.
- סיכומם של דברים: אציע אפוא לחברַי כי נקבל את הערעור, ונחייב את העירייה בתשלום הוצאות על סך של 30,000 ₪ - המתייחסות הן להליך שלפנינו ולהליך שהתנהל בבית המשפט המחוזי, הן ובעיקר להליך המינהלי.
התלבטתי, עד אשר החלטתי להימנע, זו הפעם, מהטלת הוצאות אישיות על ב"כ העירייה, מכוח סעיף 151(ג) לתקנות; למצער, אזכיר את עצם קיומה של אפשרות זו.