נהוג לקרוא לזיכרון המטמון את הזיכרון המובנה במעבד, המאופיין במהירות גבוהה ומשמש לאחסון זמני של הנתונים הנפוצים ביותר.
הצורך בשימוש בזיכרון המטמון מוסבר על ידי ההבדל במהירות חילופי המידע בין המעבד ובין חלקים שונים בזיכרון המחשב. עבודתו של כל יישום מתחילה בהעברת הנתונים הדרושים מדיסק קשיח איטי יחסית ל- RAM (זיכרון גישה אקראית למחשב) למקטע גישה אקראית דינמית. משם ניתן להעבירם למטמון L2 (זיכרון L2) הנמצא בשבב המעבד או על שבב SRAM נפרד במהירות גבוהה המיועד לצד המעבד. לבסוף ניתן להעביר את המידע הנפוץ ביותר למטמון L1 (זיכרון ברמה ראשונה), שהוא חלק ייעודי במעבד. גודל המטמון ברמה הראשונה הוא כ 128 KB בלבד, הרמה השנייה היא כבר 512 KB. לשם השוואה, גודל ה- RAM יכול להיות 1 ג'יגה-בייט. ביצוע כל פקודה מתרחש על פי תוכנית מסויימת: - ניתוח רישומי מידע של מידע; - סריקת הנתונים של מטמון הרמה הראשונה; - בדיקת המידע של המטמון של הרמה השנייה; - ניתוח הנתונים של הזיכרון הראשי; - גישה לזיכרון הדיסק הקשיח. הזמן שבילה המעבד להשגת הנתונים הדרושים הוא ביחס ישיר למקום בו נשמר המידע. לפיכך, הגישה למטמון הרמה הראשונה אורכת בין 1 ל -3 מחזורים, הרמה השנייה - בין שישה לשנים-עשר מחזורים, ולזיכרון הראשי - עשרות ובמקרים מסוימים - מאות מחזורים. זיכרון המטמון ממלא תפקיד מיוחד בתהליך הפעלת השרת, משום ש תעבורת מעבד לזיכרון יכולה להיות משמעותית במקרים אלה. מבנה המטמון משרת גם את המטרה לצמצם את הפער בין מהירויות המעבד, שגדלות ב -50 אחוז מדי שנה, לבין קצב נתוני ה- RAM, שגדל ב -5 אחוזים בלבד. נראה כי ההתפתחות המתמשכת של הרמות השלישית והרביעית של זיכרון המטמון היא צעדים הגיוניים בכיוון זה. כיוון אפשרי נוסף להתפתחות עשוי להיות המעבר לניהול פרוגרמטי של זיכרון המטמון.
