סוכן AI (AI agent)
סוכן AI הוא מערכת שמקבלת משימה ומבצעת פעולות כדי להשלים אותה, כמו קריאת קבצים, עריכתם או שליחת הודעות, ולא רק עונה בטקסט. צ'אט עונה לכם. סוכן עושה דברים בשמכם.
במילים פשוטות
מסמך ההמלצות לציבור על סוכני בינה מלאכותית שפורסם ב-gov.il ביולי 2026 מביא הגדרה של ה-OECD: סוכנים הם «מערכות התופסות את סביבתן ופועלות בה במידה מסוימת של אוטונומיה, תוך שימוש בכלים לפי הצורך להשגת מטרות ספציפיות והתאמה לנתוני קלט והקשרים משתנים». [1] Anthropic מתארת את אותו רעיון מהצד המעשי: הסוכן מתחיל מבקשה של אדם, ואחרי שהמשימה ברורה הוא מתכנן ופועל לבד, וחוזר לאדם כשהוא צריך מידע או החלטה. [2]
דוגמה
סוכן שמחובר למייל יכול להציע תשובה, או לשלוח אותה. אלה שתי הרשאות שונות, ורק השנייה דורשת שתסמכו עליו בלי לראות קודם.
איך לבנות סוכן AI?
ההמלצה שלנו: לפני שבוחרים כלי, כותבים שלושה דברים. מה הסוכן אמור להשיג, לאילו מערכות הוא צריך גישה, ואילו פעולות הוא לא מבצע בלי אישור שלכם. אחר כך בוחרים כלי שמאפשר להגביל בדיוק את מה שכתבתם. זה הנושא של הקורס האצלת ביצוע לסוכני AI.
סוכן AI לעסק: מה להגדיר לפני שמחברים?
שלוש שאלות: מה הוא יכול לקרוא, מה הוא יכול לשנות, ומה הוא יכול לשלוח החוצה. מסמך ההמלצות ב-gov.il ממליץ לתת לסוכן רק את ההרשאות ההכרחיות למשימה, ולגבות את המידע לפני שנותנים לו הרשאות שינוי. [1] המסמך נכתב לשימוש אישי ואינו עוסק בשימוש עסקי או ארגוני. [1] בעינינו אותן שאלות נכונות גם לעסק, ועסק כפוף בנוסף לחובות לפי חוק הגנת הפרטיות. [1] ההסבר המלא בערך הרשאות סוכן.
איך מונעים מסוכן AI לגשת לנתונים שהוא לא צריך?
מגבילים את החיבור, לא את הבקשה. OWASP ממליצה לאכוף הרשאות במערכות שהסוכן ניגש אליהן, ולא לסמוך על המודל שיחליט מה מותר. [3] הוראה בצ'אט כמו «אל תיכנס לתיקיית הכספים» היא בקשה, לא גבול טכני.
איך זה נוגע לבדיקה · הגישה שלנו
כשסוכן מדווח שסיים, בודקים שני דברים: שהמשימה נעשתה, ושלא נעשה שום דבר מעבר לה. את השני קשה יותר לראות, ולכן כדאי שהסוכן ישמור תיעוד של מה עשה, מתי ולמה, כפי שממליץ גם מסמך ה-gov.il. [1]
להעמיק
מקורות
- gov.il, «המלצות להתנהלות הציבור בשימוש אישי בסוכני בינה מלאכותית», יולי 2026 (PDF). נפתח ב-2.11.2026
- Anthropic, «Building effective agents», 19.12.2024. נפתח ב-2.11.2026
- OWASP Gen AI Security Project, «LLM06:2025 Excessive Agency». נפתח ב-2.11.2026
מונחים קשורים