LearnAI

הזיות AI (Hallucinations)

הזיות AI הן תשובות של מודל AI שנשמעות נכונות אבל כוללות מידע שלא קיים או לא נכון, כמו מקור, ציטוט או מספר שהומצאו. הזיה לא נראית אחרת מתשובה נכונה.

במילים פשוטות

מודל שפה מייצר טקסט שנשמע סביר. לפעמים מה שנשמע סביר פשוט לא קרה: חוזר שלא פורסם, מאמר שאף אחד לא כתב, סעיף שלא קיים. התשובה לא מסמנת איזה חלק הומצא. מאמר מחקר מ-2025, «Why Language Models Hallucinate», טוען שמודלים מנחשים כשהם לא בטוחים, כי שיטות האימון וההערכה מתגמלות ניחוש יותר מהודאה בחוסר ודאות. [1]

דוגמה

ביקשתם שלושה מקורות לטענה. קיבלתם שלושה שמות של מאמרים עם שנה ושם כתב עת. שניים קיימים, אחד לא. שלושתם נראים אותו דבר, ורק חיפוש של השם במאגר של כתב העת מגלה מי מהם הומצא.

איך מזהים הזיות של AI?

לא לפי הניסוח, כי הזיה כתובה באותו ביטחון כמו תשובה נכונה. ההמלצה שלנו: פותחים את המקור שצוטט ומחפשים בו את המשפט עצמו. אם אין מקור, או שהמשפט לא נמצא בו, הטענה עדיין לא בדוקה.

האם ChatGPT אמין?

לפעמים כן ולפעמים לא, ואי אפשר לדעת את זה מהתשובה עצמה. בעינינו השאלה הנכונה היא כמה עולה טעות בטענה הספציפית: טעות בניסוח מייל היא עניין קטן, טעות במספר בדוח או בסעיף בחוזה לא.

איך בודקים אם תשובה של ChatGPT נכונה?

מתחילים מהטענה שהכי יקר לטעות בה, ובודקים אותה מול מקור שפתחתם בעצמכם. השיטה המלאה, עם מקרים אמיתיים, נמצאת במאמר איך בודקים אם תשובה של ChatGPT נכונה.

איך זה נוגע לבדיקה · הגישה שלנו

לא בודקים הכול באותה רמה. מסמנים את הטענות שהתשובה נשענת עליהן, ובודקים קודם את אלה שטעות בהן תעלה הכי הרבה. אם התשובה מתבססת על קובץ שצירפתם, מבקשים ציטוט מדויק מהקובץ לכל טענה מרכזית, ובודקים שהציטוט באמת נמצא שם.

להעמיק

מקורות

  1. Kalai, Nachum, Vempala, Zhang, «Why Language Models Hallucinate», arXiv:2509.04664, 4.9.2025. נפתח ב-2.11.2026

מונחים קשורים

לפני שממשיכים