בית המשפט משרטט את גבולות השימוש ב-AI: "טקסט רהוט אינו בהכרח טיעון משפטי"

הבינה המלאכותית משנה במהירות את הדרך שבה אנשים עובדים, לומדים ומקבלים החלטות, אך האם היא מסוגלת גם להחליף שיקול דעת משפטי? החלטה חדשה של בית המשפט המחוזי בתל אביב מספקת תשובה ברורה לשאלה שהופכת רלוונטית יותר ויותר בעידן ה-AI: הטכנולוגיה יכולה לסייע בניסוח מסמכים ובניתוח מידע, אך אינה פוטרת את המשתמש מאחריות לתוצאות.

עודד מאור / צילום: דוברות בתי המשפט

בהחלטה שניתנה היום (שלישי), הקדיש השופט עודד מאור דיון נרחב לתופעת השימוש בכלי בינה מלאכותית לצורך ניהול הליכים משפטיים. אף שההכרעה עסקה בעניינה של מבקשת מקלט מדיני, חלק משמעותי ממנה הוקדש לשאלות עקרוניות הנוגעות לאמינות המידע שמייצרות מערכות AI, לאחריות המשתמשים ולגבולות השימוש בטכנולוגיה במערכת המשפט.

כשהבינה המלאכותית הופכת ליועץ המשפטי

הסוגיה התעוררה במסגרת בקשת רשות ערעור שהגישה קריסטינה בריל, אזרחית רוסיה שביקשה למנוע את הרחקתה מישראל לאחר שבקשתה למקלט מדיני נדחתה.

בריל, שאינה דוברת עברית, הגישה לבית המשפט מסמכים משפטיים שנוסחו ותורגמו באמצעות ChatGPT. לצד המסמכים ציינה כי נעזרה במערכת הבינה המלאכותית וביקשה שלא לזקוף לחובתה טעויות אפשריות בניסוח או בתרגום.

אלא שהשופט מאור ראה בבקשה ביטוי לתופעה רחבה יותר, שבה מתדיינים מסתמכים על מערכות AI לצורך הכנת מסמכים משפטיים, ובמקביל מבקשים להסיר מעצמם את האחריות לטעויות שעלולות להופיע בהם.

"לאחרונה אני נתקל בתופעה שהולכת ומתרחבת", כתב השופט, בהתייחסו לבעלי דין שאינם מיוצגים ונעזרים בבינה מלאכותית לניסוח כתבי טענותיהם, בשל זמינותה ועלותה הנמוכה.

לדבריו, בחלק מהמקרים מצורפת למסמכים מעין הערת אזהרה שלפיה המידע עשוי להיות חסר או בלתי מדויק, מתוך ציפייה שבית המשפט יתחשב בכך.

הסכנה שמאחורי התשובות המשכנעות

אחת האזהרות המשמעותיות בהחלטה נוגעת דווקא ליתרון הבולט של מערכות הבינה המלאכותית: יכולתן להציג מידע בצורה רהוטה, מסודרת ומשכנעת.

השופט מאור הדגיש כי איכות הניסוח אינה מעידה בהכרח על נכונות התוכן. מערכות AI עשויות להפיק טיעונים משפטיים שנראים מקצועיים, אף שהם נשענים על מידע שגוי, מקורות שאינם קיימים או פרשנות בלתי מבוססת.

"הבינה המלאכותית מיטיבה לייצר טקסט שנשמע משפטי, בטוח ורהוט", ציין, והזהיר מפני תופעת ה"הזיות" של מערכות בינה מלאכותית, שבמסגרתה הן עלולות להציג מידע פיקטיבי כאילו היה עובדה מבוססת.

לדבריו, הקושי מתעצם כאשר המשתמש אינו בעל ידע מקצועי בתחום שבו הוא נעזר במערכת. אדם שאינו משפטן עלול להתקשות לזהות טעויות בתוצר שנראה על פניו כמו מסמך משפטי מקצועי.

בכך מצביע בית המשפט על אחד האתגרים המרכזיים של עידן הבינה המלאכותית: הפער שבין יכולתה של הטכנולוגיה לייצר תשובות משכנעות לבין יכולתו של המשתמש להעריך את אמינותן.

לא עצם השימוש ב-AI הוא הבעיה, אלא היעדר הבקרה

למרות האזהרות, השופט מאור אינו מבקש להרחיק את הבינה המלאכותית ממערכת המשפט. להפך, בהחלטתו הוא מכיר בפוטנציאל של הכלים הטכנולוגיים להרחיב את הנגישות למידע משפטי, במיוחד עבור מי שאינם יכולים לממן ייצוג מקצועי.

בהקשר זה הפנה לפסיקת בית המשפט העליון, שלפיה אין פסול בעצם השימוש בבינה מלאכותית, אלא בשימוש בתוצריה ללא בקרה אנושית מתאימה.

בית המשפט מבחין בין הסתייעות במערכת לצורך איתור מידע, תרגום וניסוח, לבין מצב שבו המשתמש מעביר אליה למעשה את שיקול הדעת המקצועי.

ההבחנה הזו עומדת בלב ההחלטה: טכנולוגיה יכולה לשפר את העבודה המשפטית ולהקל על ביצוע פעולות מורכבות, אך אינה הופכת לגורם האחראי לתוכן המסמך או להחלטות המתקבלות על בסיסו.

מי אחראי כשה-AI טועה?

השאלה המרכזית שעולה מההחלטה היא שאלת האחריות.

כאשר עורך דין מגיש מסמך לבית המשפט, הוא נדרש לעמוד מאחורי העובדות, הטענות והאסמכתאות המופיעות בו. השופט מאור קובע כי עיקרון זה חל גם על בעל דין המשתמש בבינה מלאכותית לצורך הכנת המסמך.

"מי שבוחר להיעזר בבינה מלאכותית נושא באחריות לתוצריה, גם כאשר היא טועה", הבהיר.

לדבריו, לא ניתן להטיל על בית המשפט או על הצד שכנגד את האחריות לבדוק אם הטענות שהופקו באמצעות המערכת נכונות, ואם פסקי הדין המוזכרים בה אכן קיימים.

בית המשפט אף הבהיר כי כאשר אדם מגיש מסמך שנוצר באמצעות AI מבלי שהוא מסוגל לבדוק את תוכנו, אין די בהצהרה שלפיה ייתכן שנפלו בו טעויות.

בין המהפכה הטכנולוגית לאחריות האנושית

לקראת סיום החלטתו התייחס השופט מאור גם לפיתוי שבהסתמכות על מערכות בינה מלאכותית. לדבריו, עבור אדם שאינו דובר את השפה או מתקשה לממן ייצוג משפטי, מדובר בפתרון נגיש וזול, המאפשר לכאורה להתמודד עם הליכים מורכבים.

ואולם, דווקא הנגישות הזו עלולה ליצור סיכון. משתמש שמסתמך על מידע שגוי, מבלי להיות מודע לכך, עלול לפגוע בזכויותיו במקום להגן עליהן.

השופט השווה את השימוש בבינה מלאכותית בניהול הליך משפטי לחיפוש תסמינים רפואיים באינטרנט: המידע יכול לסייע בהבנת הבעיה ובהכוונה ראשונית, אך אינו מחליף בדיקה מקצועית כאשר על הפרק עומדות זכויות משמעותיות.

בהחלטתו הדגיש כי ייצוג משפטי הוא מקצוע הכרוך באחריות, בעוד שמערכות הבינה המלאכותית אינן נושאות באחריות מקצועית לתוצריהן.

בסופו של ההליך דחה השופט מאור את בקשת רשות הערעור, ללא צו להוצאות. עם זאת, הבהיר כי הערר העיקרי ממשיך להתברר בבית הדין לעררים.

מעבר להכרעה במקרה הפרטני, ההחלטה מסמנת את אחד מקווי הגבול החשובים בעידן הבינה המלאכותית: ככל שהטכנולוגיה הופכת למתקדמת, נגישה ומשכנעת יותר, כך גוברת חשיבותה של הבקרה האנושית. בית המשפט אינו מבקש לעצור את השימוש ב-AI, אלא להבהיר כי גם בעולם שבו מכונה מסוגלת לנסח טיעון משפטי בתוך שניות, האחריות לנכונותו נותרת בידי האדם שמגיש אותו.

לקריאת הפסק דין: