LearnAI

אוטומציה עם AI

אוטומציה עם AI היא תהליך עבודה שרץ לבד לפי שלבים שהוגדרו מראש, ובשלב אחד או יותר מודל AI מבצע משימה כמו סיווג, סיכום או ניסוח. Anthropic קוראת למבנה כזה תהליך עבודה (workflow), להבדיל מסוכן. [1]

במילים פשוטות

Anthropic מבחינה בין שני סוגים של מערכות. בתהליך עבודה, המודלים והכלים פועלים לפי מסלול שנקבע מראש בקוד. בסוכן, המודל עצמו מחליט על הצעדים ועל הכלים שבהם ישתמש. [1] אחת הדוגמאות שלה לתהליך כזה היא ניתוב: המודל מסווג את הקלט ומעביר אותו למשימת המשך מתאימה. [1] IBM מתארת אוטומציה מסורתית, כמו RPA, ככזו שפועלת לפי כללים ודפוסים קבועים, ותהליכי עבודה סוכניים (agentic workflows) כתהליכים שבהם סוכני AI מקבלים החלטות, מבצעים פעולות ומתאמים משימות עם מעט מעורבות של אדם. [2]

דוגמה

בכל פעם שמגיע מייל לתיבת הפניות, תהליך אוטומטי מעביר אותו למודל AI שמסווג אותו לאחת משלוש קטגוריות ומנסח טיוטת תשובה. הטיוטה נשמרת לבדיקה, ואדם שולח אותה. השלבים קבועים, ורק הסיווג והניסוח נעשים ב-AI.

אוטומציות AI לעסקים: מאיפה מתחילים?

ההמלצה שלנו: מתחילים ממשימה שחוזרת על עצמה, שיש לה קלט ברור ותוצאה שאפשר לבדוק, למשל מיון פניות או סיכום טפסים. Anthropic ממליצה למצוא את הפתרון הפשוט ביותר ולהוסיף מורכבות רק כשצריך, ולפעמים זה אומר לא לבנות מערכת סוכנית בכלל. [1] לכן בעינינו תהליך קבוע עם שלב AI אחד עדיף בהתחלה על סוכן שמחליט לבד. איך הופכים משימה כזו לתהליך כתוב עם שלב בדיקה מלמדים בקורס הנדסת תהליכי עבודה חוזרים.

מה ההבדל בין אוטומציה עם AI לסוכן AI?

באוטומציה הצעדים נקבעים מראש, והמודל מבצע משימה בתוך אחד מהם. בסוכן, המודל מחליט בעצמו אילו צעדים לעשות ובאילו כלים להשתמש. [1] IBM מכנה תהליכים כאלה, שבהם סוכני AI מקבלים החלטות ומבצעים פעולות עם מעט מעורבות של אדם, «תהליכי עבודה סוכניים» (agentic workflows). [2] לפי Anthropic, לסוכנים יש עלות גבוהה יותר וסיכון לטעויות שמצטברות, ולכן היא ממליצה לבדוק אותם הרבה בסביבות מבודדות, עם מגבלות מתאימות. [1] ההסבר על סוכנים בערך סוכן AI.

איך זה נוגע לבדיקה · הגישה שלנו

בעינינו, לבדוק אוטומציה זה לבדוק את הריצות שלה ולא רק את ההגדרה. מריצים אותה על כמה דוגמאות אמיתיות, ובודקים את התוצאה של כל שלב AI בנפרד. בשלבים שהתוצאה שלהם יוצאת החוצה או קשה לבטל אותה, כמו שליחת מייל ללקוח או מחיקה, מוסיפים אישור של אדם. OWASP ממליצה לדרוש אישור של אדם לפני פעולות בעלות השפעה גדולה. [3] IBM מציינת שמנגנון של אדם בתוך התהליך (human-in-the-loop) יכול לעזור לכוון את ההחלטות ואת התוצרים של סוכן. [2]

להעמיק

מקורות

  1. Anthropic, «Building effective agents», 19.12.2024. נפתח ב-3.11.2026
  2. IBM, «What are agentic workflows?». נפתח ב-3.11.2026
  3. OWASP Gen AI Security Project, «LLM06:2025 Excessive Agency». נפתח ב-3.11.2026

מונחים קשורים

לפני שממשיכים