LearnAI

חלון הקשר (Context window)

חלון הקשר (Context window) הוא כל הטקסט שמודל שפה יכול להתייחס אליו כשהוא מנסח תשובה: השיחה, הקבצים, ההוראות וגם התשובה עצמה. זה זיכרון העבודה של המודל, לא כל מה שלמד באימון. [1]

במילים פשוטות

כל מה שנשלח בבקשה נכנס לחלון: הוראות המערכת, כל ההודעות בשיחה, מסמכים ותמונות שצירפתם, וגם מה שהמודל כותב בתשובה. הגודל שלו נמדד בטוקנים. [1] חלון גדול יותר לא אומר אוטומטית תשובה טובה יותר. לפי Anthropic, ככל שמספר הטוקנים גדל, הדיוק והיכולת לשלוף פרטים יורדים, תופעה שנקראת context rot. [1] מחקר מ-2023 מצא שמודלים מצליחים לעתים קרובות יותר כשהמידע הרלוונטי נמצא בתחילת הטקסט או בסופו, ונכשלים יותר כשהוא באמצע. [2]

דוגמה

בתחילת שיחה ארוכה ביקשתם לכתוב תמיד בלשון רבים. אחרי עשרות הודעות התשובות חוזרות ללשון יחיד. ההוראה אולי עדיין בחלון, אבל היא קבורה מתחת להמון טקסט אחר.

מה קורה כשחלון ההקשר מתמלא?

זה תלוי בכלי. לפי Anthropic, ממשקי צ'אט יכולים לנהל את החלון בשיטת «נכנס ראשון, יוצא ראשון», כלומר ההודעות הישנות יוצאות קודם. [1] ההמלצה שלנו: הוראה שצריכה לחול לאורך כל העבודה לא משאירים רק בהודעה הראשונה. שומרים אותה בקובץ שהכלי קורא בכל פעם, או פותחים שיחה חדשה עם סיכום קצר של מה שהוחלט.

חלון הקשר בקלוד קוד: למה זה חשוב?

לפי התיעוד של קלוד קוד, השיחה נדחסת אוטומטית לפני שהחלון מתמלא, ולכן היום נדיר שנגמר המקום. עדיין כדאי לנקות את ההקשר בין משימות, כי הקשר ממוקד נותן תשובות טובות יותר ועולה פחות. [3] בעינינו זה הכלל גם בצ'אט רגיל: משימה חדשה, שיחה חדשה.

מה ההבדל בין חלון הקשר לטוקנים?

טוקן הוא יחידת המידה: מילה, חלק ממילה או תו. [4] חלון ההקשר הוא כמה טוקנים המודל יכול להחזיק בבת אחת, כולל התשובה שהוא כותב. [1] ההסבר המלא בערך טוקן.

איך זה נוגע לבדיקה · הגישה שלנו

אם התשובה התעלמה מחלק מהחומר, לפני שמנסחים את הבקשה מחדש בודקים מה בכלל נכנס לחלון. שואלים שאלה שהתשובה עליה נמצאת רק באמצע המסמך, ושאלה שהתשובה עליה נמצאת רק בסופו. אם הכלי לא מוצא, הבעיה בחומר שנכנס, לא בניסוח.

להעמיק

מקורות

  1. Anthropic, Claude Docs, «Context windows». נפתח ב-3.11.2026
  2. Liu et al., «Lost in the Middle: How Language Models Use Long Contexts», arXiv:2307.03172, 2023. נפתח ב-3.11.2026
  3. Anthropic, Claude Code Docs, «Best practices for Claude Code». נפתח ב-3.11.2026
  4. Anthropic, Claude Docs, «Glossary». נפתח ב-3.11.2026

מונחים קשורים

לפני שממשיכים