למה Inference הוא מערכת עם זיכרון קצר
למה Inference הוא מערכת עם זיכרון קצר
יש רעיון שמרגיש מאוד הגיוני במערכות מחשב: אם נלמד מהעבר - נשתפר.
אם משהו היה איטי קודם, נתאים את עצמנו. אם עומס עלה, נשנה התנהגות. אם ראינו דפוס - ננצל אותו.
אבל ב-Inference, הרעיון הזה עובד נגדנו.
Inference יציב הוא מערכת עם זיכרון קצר.
קודם כול: מה הכוונה “זיכרון” כאן
לא מדובר בזיכרון מחשב, אלא בזיכרון התנהגותי.
כלומר:
- החלטות שמבוססות על מה שקרה קודם
- התאמות שמנסות “ללמוד” את המערכת תוך כדי ריצה
- שינויי התנהגות לפי היסטוריה קרובה
לכאורה - חכם. בפועל - מסוכן.
התאמות מבוססות היסטוריה: פיתוי נפוץ
הרבה מנגנונים עובדים כך:
- אם היה עומס - נוריד קצב
- אם היה שקט - נעלה קצב
- אם בקשות לקחו הרבה זמן - נשנה פרמטרים
הבעיה היא שהמערכת מניחה דבר אחד שגוי: שהעבר הקרוב מייצג את ההווה.
וב-Inference - זה כמעט אף פעם לא נכון.
למה “מה שקרה קודם” מטעה
Inference פועל בעולם משתנה:
- סוגי בקשות משתנים
- עומסים מגיעים בגלים
- תנאים משתנים מהר מאוד
מה שהיה נכון לפני שנייה:
- יכול להיות לא רלוונטי עכשיו
- או אפילו מזיק
התאמה שמתבססת על העבר:
- מגיבה מאוחר מדי
- לתנאים שכבר השתנו
- ויוצרת תנודות מיותרות
במקום יציבות - מקבלים נדנדה.
המשל
דמיינו נהיגה לפי המראה האחורית בלבד.
אם לפני רגע היה פקק - מאטים. אם לפני רגע היה כביש פתוח - מאיצים.
אבל הדרך קדימה משתנה כל הזמן.
נהג טוב:
- מסתכל קדימה
- מגיב למה שיש עכשיו
- ולא מנסה “לתקן” את מה שכבר עבר
Inference צריך להתנהג כך בדיוק.
למה Inference צריך להגיב להווה בלבד
Inference קורה בזמן אמת. הוא צריך:
- להגיב לבקשה הנוכחית
- לעומס הנוכחי
- ולמצב הנוכחי של המערכת
לא לנסות להיות חכם מדי. לא לנסות לנחש מגמות. לא “לזכור” יותר מדי.
זיכרון ארוך:
- מוסיף מורכבות
- יוצר חוסר צפיות
- ומקשה להבין למה המערכת מתנהגת כך או אחרת
זיכרון קצר כבסיס ליציבות
מערכת עם זיכרון קצר:
- מתנהגת בצורה עקבית
- מגיבה מיד למה שקורה
- ולא סוחבת החלטות ישנות קדימה
זה אולי נשמע פחות מתוחכם - אבל זה הרבה יותר יציב.
סיכום
Inference לא נועד ללמוד מהעבר. הוא נועד להגיב להווה.
ככל שהמערכת “זוכרת” יותר: היא נוטה להיות פחות צפויה.
וככל שהיא מתמקדת במה שקורה עכשיו - כך היא פשוטה יותר, רגועה יותר, ויציבה יותר.
ב-Inference, זיכרון קצר הוא לא חולשה - הוא יתרון.