LearnAI

בינה מלאכותית יוצרת (Generative AI)

בינה מלאכותית יוצרת (Generative AI, או AI גנרטיבי) היא בינה מלאכותית שיוצרת תוכן חדש, כמו טקסט, תמונות, וידאו, אודיו או קוד, בתגובה לבקשה של המשתמש. IBM מכנה אותה גם gen AI. [1]

במילים פשוטות

MIT מסבירה את ההבדל מול מודלים אחרים של למידת מכונה: במקום לחזות משהו על נתונים קיימים, מודל יוצר מאומן לייצר נתונים חדשים, שנראים כמו הנתונים שעליהם אומן. [2] לפי IBM, הכול מתחיל ממודל בסיס (foundation model), מודל של למידה עמוקה שמשמש בסיס לסוגים רבים של אפליקציות. [1] מודלי הבסיס הנפוצים ביותר היום הם מודלי שפה גדולים ליצירת טקסט, אבל יש גם מודלי בסיס ליצירת תמונות, וידאו, צלילים ומוזיקה, ומודלים מולטימודליים שתומכים בכמה סוגי תוכן. [1] כדי שמודל כזה יתאים למשימה מסוימת מכווננים אותו, ואפשר גם לחבר אותו למקורות מידע חיצוניים בשיטת RAG. [1]

דוגמה

מבקשים מכלי AI תמונה של «חנות פרחים קטנה בתל אביב בבוקר גשום». הכלי מייצר תמונה חדשה שדומה לתמונות שעליהן אומן. [2] בעינינו זה אומר שהיא לא צילום של מקום אמיתי, גם כשהיא נראית ככזו, וזה ההבדל שחשוב לזכור כשמשתמשים בה.

בינה מלאכותית יוצרת תמונות: איך זה עובד?

לפי IBM, יש מודלי בסיס שנבנו במיוחד ליצירת תמונות, לצד מודלים ליצירת טקסט, וידאו ומוזיקה. [1] MIT מתארת את העיקרון המשותף: המערכת לומדת לייצר עוד דוגמאות שנראות כמו הנתונים שעליהם אומנה. [2] ההמלצה שלנו: תמונה שנוצרה ב-AI משמשת להמחשה, ולא כראיה שמשהו קרה או נראה כך.

מה הקשר בין בינה מלאכותית יוצרת לדיפ פייק?

דיפ פייק (deepfake) הוא תמונה, וידאו או אודיו שנוצרו או עובדו ב-AI כדי לשכנע שמישהו עשה או אמר משהו שלא עשה ולא אמר. [1] IBM מציינת שזו אחת הדוגמאות המטרידות ביותר לשימוש זדוני ביכולות של בינה מלאכותית יוצרת, ושעבריינים משתמשים בו גם בהונאות, למשל בקולות מזויפים בשיחות פישינג. [1] לפי IBM, עד שכלי הזיהוי ישתפרו, הדרכה של משתמשים ונוהלים טובים, כמו לא לשתף תוכן שלא נבדק, יכולים לצמצם את הנזק. [1]

למה תוכן שנוצר ב-AI נראה אמין גם כשהוא שגוי?

כי המודל לומד לייצר תוכן שנראה כמו הנתונים שעליהם אומן. [2] בעינינו זה לא אותו דבר כמו לבדוק שהתוכן נכון. IBM מגדירה הזיה של AI כפלט של בינה מלאכותית יוצרת שהוא חסר היגיון או שגוי לגמרי, אבל נראה סביר. הדוגמה שהיא מביאה: עורך דין שהשתמש בכלי כזה למחקר, והכלי ייצר תקדימים עם ציטוטים וייחוסים שלא היו קיימים. [1] לפי IBM, מגבלות (guardrails) שמצמצמות את המודל למקורות רלוונטיים ואמינים, לצד הערכה וכוונון מתמשכים, יכולות להפחית את הבעיה. [1] איך מזהים הזיות מוסבר בערך הזיות AI.

איך זה נוגע לבדיקה · הגישה שלנו

ההמלצה שלנו: בודקים תוכן שנוצר ב-AI לפי מה שהוא טוען, ולא לפי איך שהוא נראה. טקסט שמצטט מקור, בודקים שהמקור קיים ואומר את זה. תמונה, וידאו או הקלטה שמציגים אדם אמיתי, לא משתפים לפני שבודקים מאיפה הם הגיעו. IBM מונה בין הנוהלים הטובים גם הימנעות משיתוף תוכן שלא נבדק. [1]

להעמיק

מקורות

  1. IBM, «What is generative AI?». נפתח ב-3.11.2026
  2. MIT News, «Explained: Generative AI», 9.11.2023. נפתח ב-3.11.2026

מונחים קשורים

לפני שממשיכים