Nakaugalian na tawagan ang memorya ng cache ang memorya na nakapaloob sa processor, na kung saan ay nailalarawan sa pamamagitan ng mataas na bilis at ginagamit upang pansamantalang maiimbak ang pinaka-madalas na ginagamit na data.
Ang pangangailangan na gumamit ng memorya ng cache ay ipinaliwanag ng pagkakaiba sa bilis ng pagpapalitan ng impormasyon sa pagitan ng processor at iba't ibang seksyon ng memorya ng computer. Ang gawain ng anumang aplikasyon ay nagsisimula sa pamamagitan ng paglilipat ng kinakailangang data mula sa isang medyo mabagal na hard disk sa RAM (computer random access memory) sa isang seksyon ng pabagu-bagong pag-access. Mula doon, maililipat sila sa cache ng L2 (memorya ng L2) na matatagpuan sa processor chip o sa isang nakalaang high-speed na hiwalay na SRAM chip na matatagpuan sa tabi ng processor. Sa wakas, ang pinaka ginagamit na impormasyon ay maaaring mailipat sa L1 cache (unang antas memorya), na kung saan ay isang nakatuon na seksyon ng processor. Ang laki ng unang antas ng cache ay tungkol lamang sa 128 KB, ang pangalawang antas ay nasa 512 KB na. Para sa paghahambing, ang laki ng RAM ay maaaring 1 GB. Ang pagpapatupad ng anumang utos ay nangyayari ayon sa isang tiyak na pamamaraan: - pagtatasa ng mga rehistro ng data ng impormasyon; - pag-scan ng data ng unang antas ng cache; - pagsuri sa impormasyon ng cache ng ikalawang antas; - pinag-aaralan ang data ng pangunahing memorya; - pag-access sa memorya ng hard disk. Ang oras na ginugol ng processor upang makuha ang kinakailangang data ay direktang proporsyon sa lugar kung saan nakaimbak ang impormasyon. Samakatuwid, ang pag-access sa unang antas ng cache ay tumatagal ng 1 hanggang 3 na cycle, ang pangalawang antas - mula anim hanggang labindalawang cycle, at sa pangunahing memorya - sampu, at sa ilang mga kaso - daan-daang mga cycle. Ang memorya ng cache ay gumaganap ng isang espesyal na papel sa proseso ng pagpapatakbo ng server, sapagkat ang traffic-to-memory traffic ay maaaring maging makabuluhan sa mga kasong ito. Naghahatid din ang istraktura ng cache ng layunin ng pagpapaliit ng agwat sa pagitan ng mga bilis ng processor, na tumataas ng 50 porsyento taun-taon, at mga rate ng data ng RAM, na lumalaki ng 5 porsyento lamang. Ang patuloy na pag-unlad ng pangatlo at ikaapat na antas ng memorya ng cache ay tila lohikal na mga hakbang sa direksyon na ito. Ang isa pang posibleng direksyon ng pag-unlad ay maaaring ang paglipat sa programmatic na pamamahala ng memorya ng cache.
