מדריך

איפה צריך אישור אנושי בתהליך AI ברשות מקומית

בשירות של רשות מקומית השאלה אינה אם אנשים נשארים מעורבים, אלא איפה נדרשת תשומת הלב שלהם. העקרונות כאן לקוחים מהעבודה של ליבה עם רשויות ותאגידי מים.

להפריד בין קריאה, כללים והחלטה

בתכנון טוב לכל רכיב יש תפקיד אחד. ה־AI קורא מסמכים ומחלץ שדות. הכללים שהרשות אישרה קובעים מה משמעות הבדיקות. העובד מאשר. כשהשלושה מתערבבים, קשה להסביר למה תיק הוכרע כפי שהוכרע.

נקודות אישור שכדאי לשמור

• כל אישור וכל דחייה בשלבים הראשונים. המערכת ממליצה והעובד מאשר. ביצוע אוטומטי של אישורים שגרתיים, אם בכלל, מגיע רק אחרי בחינת התוצאות של מצב הצל.
• כל חריג או סתירה. כשמסמכים סותרים זה את זה, או כשתיק אינו מתאים לתוצאה מוגדרת, הוא עובר לעובד יחד עם הראיות.
• כל תוצאה שאינה ברירת המחדל. למשל תוקף שונה מהתוקף הרגיל במסלול, עם תיעוד הסיבה.
• דחיות. דחייה מפנה לכלל המאושר שעליו היא נשענת, ועובד בודק אותה לפני שהיא נשלחת.
• שינויים בכללים ובספים. שינוי סף הוא פעולה מאושרת ומתועדת, עם תאריך שממנו היא חלה. זה לא שינוי קוד שקט.

מה יכול לרוץ בלי אדם

• בקשה מהתושב להשלים מסמך מסוים, בנוסח מאושר.
• צירוף מסמך שהוגש לבקשה המקורית והרצה חוזרת של הבדיקות.
• סגירת תיקים שיש להם הסבר מתועד ושנמצאים בתוך הכללים המאושרים, בתהליכים שבהם הרשות הסכימה לכך.
• ריכוז המידע התומך בתצוגת תיק אחת, כדי שהעובד לא יצטרך לחפש בכמה מערכות.

להבחין בין פעולה של אדם לפעולה של המערכת

האוטומציה צריכה לרוץ תחת משתמש ייעודי משלה ולא תחת החשבון של עובד, כדי שהתיעוד יראה אילו פעולות עשה אדם ואילו עשתה המערכת. התיעוד צריך להיות כזה שאי אפשר למחוק או לערוך בדיעבד, כולל הוכחה לכך שהתושב קיבל הודעה.

כשל מעביר לאדם

אם שלב אוטומטי נכשל או לא מגיב בזמן, התיק צריך לעבור לעובד ולא להיתקע או לנסות שוב בשקט. תהליך שנעצר בלי שאיש יודע גרוע מתהליך שמחזיר את התיק לטיפול.

לבדוק לפני שסומכים

מתחילים במצב צל: המערכת מציעה החלטות בלי לשנות את מערכת המקור, וכל הצעה מושווית למה שעובד החליט בפועל. מסכמים מראש איזו תוצאה מאפשרת לעבור לשלב הבא, למשל אפס אישורים שגויים במדגם הבדיקה.

מגבלות

חובות רגולטוריות, מועדי הודעה וכללי שמירת מידע משתנים משירות לשירות. התהליך יכול לעזור לוודא שהם מתקיימים בזמן; הוא אינו מקצר אותם. כל רשות קובעת את נקודות האישור שלה, וייעוץ משפטי הוא חלק מההחלטה.