מדריך · הרשאות ובקרה
לפני שסוכן פועל, מגדירים את הגבולות.
סוכן שמחזיר תשובה וסוכן שמשנה רשומה פועלים ברמות אחריות שונות. כדי לעבור ממידע לפעולה, צריך להגדיר במפורש מי רשאי לבצע מה, באילו תנאים ואיך בודקים את התוצאה.
מפרידים בין שלוש רמות
קריאה מאפשרת לקבל מידע ממקור מורשה. הצעה מנסחת פעולה אפשרית להחלטת אדם. ביצוע משנה מצב במערכת. כדאי לבחור לכל תהליך את הרמה הדרושה לו, ולא להניח שכל שימוש ב־AI מחייב אוטונומיה מלאה. אפשר להתחיל במידע ובהצעות ולהרחיב רק לאחר בדיקה.
מזהים את הגורם הפועל
מגדירים באיזו זהות הפעולה מתבצעת, אילו הרשאות ניתנות לה ומי אחראי לשינוי שלהן. הבנת ההקשר אינה מעניקה הרשאה. יש לבדוק את הגישה גם במערכת המקור ולוודא שהיקף המידע והפעולה מתאים לתפקיד ולמשימה, כולל מקרים שבהם המשתמש מחליף תפקיד.
קובעים מתי נדרש אישור
נקודת אישור צריכה להיות חלק מהתהליך עצמו. מגדירים מי מאשר, איזה מידע מוצג לו ומה קורה אם אין תגובה או אם המידע אינו מספיק. בתרחיש לדוגמה, סוכן מכין בקשת שינוי, אך בעל התהליך בוחן את ההשפעה לפני שהעדכון מועבר לביצוע.
בודקים מה קרה בפועל
שליחת בקשה למערכת אינה הוכחה שהפעולה הושלמה. התכנון צריך לכלול בדיקה של התוצאה וטיפול במצב שבו רק חלק מהעדכון הצליח. מגדירים כיצד נמנעים מפעולה כפולה, מי מטפל בסתירה בין מערכות ואיזה מידע נדרש כדי להבין את רצף האירועים.
מתכננים עצירה והתאוששות
לא לכל פעולה קיימת אפשרות ביטול. לכן בודקים מראש אם ניתן לעצור, לתקן או לבצע פעולה מפצה, ומי מוסמך לעשות זאת. במקרים שבהם אין דרך בטוחה לחזור אחורה, אפשר להשאיר את הביצוע אצל אדם ולהשתמש בסוכן רק להכנת המידע וההמלצה.
מתרגמים עקרונות להיקף מוצר
הרשימה הזאת היא מסגרת לתכנון, לא הצהרה שכל בקרה זמינה בכל מוצר. בשיחת ההתאמה בודקים אילו מנגנונים מספק המוצר, מה נאכף במערכת המקור ומה דורש תהליך ארגוני. מסכמים את הפערים ואת בעלי האחריות לפני שמאפשרים פעולות בסביבת העבודה.
הצעד הבא
איזו פעולה תרצו לבחון?
נגדיר יחד מקור מידע, זהות פועלת, אישור ובדיקה לפני חיבור לתהליך.