הרשאות סוכן (Agent permissions)
הרשאות סוכן הן רשימת הפעולות שסוכן AI יכול לבצע בפועל במערכות שהוא מחובר אליהן: מה מותר לו לקרוא, מה לשנות ומה לשלוח. הן נקבעות בחיבור עצמו, לא בהוראה שכותבים בצ'אט.
במילים פשוטות
אם לסוכן יש גישה לשליחת מיילים, הוא יכול לשלוח, גם אם ביקשתם ממנו לא לעשות את זה. OWASP מונה שלושה שורשים לבעיה שהיא מכנה Excessive Agency: יותר מדי יכולות, יותר מדי הרשאות ויותר מדי עצמאות. [2] מסמך ההמלצות ב-gov.il מנסח את הכלל כך: «מומלץ לתת לסוכן רק את ההרשאות ההכרחיות לצורך ביצוע המשימה, כגון הרשאות צפיה או קריאה בלבד». [1]
דוגמה
סוכן שמסכם מיילים צריך הרשאת קריאה. הוא לא צריך הרשאה לשלוח או למחוק. אם הוא גם מנסח תשובות, הוא שומר אותן כטיוטה ואתם שולחים.
אילו הרשאות לתת לסוכן AI?
רק את מה שהמשימה דורשת. ההמלצה שלנו: לעבור לפני החיבור על שלוש שאלות, מה הוא יכול לקרוא, מה הוא יכול לשנות ומה הוא יכול לשלוח החוצה, ולהוריד כל «כן» שלא צריך. לפעולות בעלות השפעה גדולה, כמו שליחת מייל, gov.il ו-OWASP ממליצים על אישור של אדם לפני הביצוע. [1] [2]
איך מונעים מסוכן AI לגשת לנתונים שאינם בהרשאת המשתמש?
מריצים אותו בהקשר של המשתמש. OWASP ממליצה שפעולות שסוכן מבצע בשם משתמש ירוצו עם ההרשאות של אותו משתמש ובמינימום הנדרש, ושההחלטה אם פעולה מותרת תתקבל במערכת עצמה, לא על ידי המודל. [2]
מה זה ניהול זהויות לסוכני AI?
ניהול זהויות לסוכני AI הוא האופן שבו מערכת מזהה סוכן, קובעת מה מותר לו ומתעדת מה עשה. Microsoft, למשל, מתארת את Microsoft Entra Agent ID כמסגרת שנותנת לסוכני AI זהויות משלהם, כדי לאמת אותם, לקבוע את ההרשאות שלהם ולנהל אותם, ומתעדת את ההתחברויות והפעילות שלהם לצורכי ביקורת. [3] OWASP מזהירה מסוכן שניגש למערכות בזהות כללית עם הרשאות רחבות. [2] ההמלצה שלנו: כשהמערכת מאפשרת, לתת לסוכן חשבון או מפתח משלו עם הרשאות מצומצמות, במקום החשבון האישי שלכם, כדי שאפשר יהיה להגביל אותו בנפרד ולראות מה עשה.
איך זה נוגע לבדיקה · הגישה שלנו
לפני שמחברים, כותבים במשפט אחד מה הסוכן אמור לעשות, ומשווים להרשאות שהחיבור מבקש. כל הרשאה שלא מופיעה במשפט היא שאלה. מסמך ה-gov.il ממליץ גם לגבות את המידע לפני שנותנים הרשאות שינוי, כדי שאפשר יהיה לשחזר. [1]
להעמיק
- סוכן AI עם גישה למייל ולקבצים: מה להגביל
- הקורס «האצלת ביצוע לסוכני AI»
- סוכן AI
- שיעור הטעימה «אתגר ראשון: סוכן בלי גבולות»
מקורות
- gov.il, «המלצות להתנהלות הציבור בשימוש אישי בסוכני בינה מלאכותית», יולי 2026 (PDF). נפתח ב-2.11.2026
- OWASP Gen AI Security Project, «LLM06:2025 Excessive Agency». נפתח ב-2.11.2026
- Microsoft Learn, «What is Microsoft Entra Agent ID?». נפתח ב-2.11.2026
מונחים קשורים