איך מתכננים אישור אנושי בתהליכי AI
סיכום החלטה: קשרו אישור AI לתוצאה מוגדרת: כרטיס בדיקה, גרסאות, שליחה לא ודאית, בדיקות פיילוט והעברה ברורה של האחריות בין אנשים.
הגדירו איזו פעולה דורשת אישור
עוזר להצעות מחיר יכול לסווג פנייה, להכין טיוטה ולהציג אותה לאחראי. כתיבה ושליחה ללקוח הן פעולות נפרדות. בדוגמה זו השליחה דורשת אישור להצעה המסוימת. כתיבה טובה אינה מקנה סמכות לקבל תנאים מסחריים.
שייכו לכל פעולה אחראי, השפעה ודרך התאוששות. אל תאחדו שליחה, מחיקה ותשלום תחת החלטת ״המשך״ עמומה. זו דוגמת תכנון, ולא תוצאת לקוח שנמדדה.
הכינו כרטיס שמאפשר החלטה
הציגו נמען, טקסט מלא, שמות וגרסאות של קבצים מצורפים, מחירים או תאריכים חשובים ותוצאת הביצוע. אפשרו אישור, דחייה ובקשת תיקון. השלימו מידע חסר לפני ההחלטה.
קשרו את האישור לגרסה המוצגת. שינוי בנמען, בתוכן או בקובץ דורש אישור חדש. הודעת דואר ״אני המנהל״ אינה אימות זהות: הסמכות נקבעת לפי משתמש מאומת והרשאות היישום.
אל תשלחו שוב בעיוורון לאחר פסק זמן
תנו מזהה אחד לכל כוונת שליחה והפרידו בין מוכן, מאושר, נשלח ותוצאה לא ידועה. אם החיבור נופל לפני תשובת הספק, בדקו תחילה את רישום השליחה או האישור שלו. אל הכניסו תוצאה לא ידועה אוטומטית לשליחה חוזרת.
השתמשו במפתח אידמפוטנטיות לאותה פעולה כאשר הוא נתמך, ובדקו מגבלות שמירה. היומן המקומי לבדו אינו מוכיח עיבוד יחיד בצד המקבל. נשלח, נמסר ונקרא הם ראיות שונות.
בדקו גם מצבים חריגים
הכינו חמישה מקרים: אישור תקין, דחייה, שינוי נמען לאחר אישור, אישור שפג ותקלת חיבור בזמן שליחה. רשמו פעולה צפויה ובודק. חמש הצלחות הן התחלה, לא הוכחת בטיחות בכל מצב.
השוו לתהליך הידני משימות שהושלמו נכון, תיקונים, פעולות כפולות והמתנה אנושית. כללו בדיקה והתאוששות בזמן הכולל. מהירות טיוטה לבדה אינה מוכיחה שיפור בפריון.
הציגו בבירור העברה ועצירה
לכל תור דרושים אחראי ומחליף זמין. קבעו תפוגת אישור לפי הסיכון. מי שמקבל את העבודה צריך לראות מצב, גרסה מאושרת ואי־ודאות שנותרה. השהיה צריכה לעצור פעולות חיצוניות חדשות.
OWASP עוסק בסמכויות פעולה עודפות. NIST AI RMF כולל תפקידי פיקוח אנושי. התהליך לעיל הוא הצעת היישום שלנו. התחילו מתהליך אמיתי, מכרטיס האישור ומנוהל הכשל שלו.
מתודולוגיה
טענות נבדקות לפי היתכנות, עלות, סיכון ומדידה. חישובי דוגמה הם הנחות; החלטות משפטיות ואבטחה דורשות מקורות ראשוניים.
הערת מקורות
קישורים ומסמכים מוזכרים הם נקודות התחלה. תוצאות לקוח לא מאומתות אינן מתפרסמות.
יומן שינויים
— סקירת עורך ילידי ממתינה בשער הפרסום v3.0.
שאלות נפוצות
האם כל פלט AI מחייב אישור?
החליטו לפי השפעת הפעולה. הפרידו טיוטות פנימיות משליחה חיצונית והגדירו במפורש גבולות לפעולות אוטומטיות.
מה אם הטקסט משתנה לאחר האישור?
האישור הישן אינו חל על טקסט חדש. הציגו את הגרסה המתוקנת לאדם מוסמך להחלטה חדשה.
האם לנסות שוב כשהשליחה לא ודאית?
בדקו תחילה את רישום הספק. ניסיון אוטומטי נוסף עלול לבצע את הפעולה פעמיים.