Quando o processador envia a informação para a memória RAM, e também quando a memória RAM manda esta informação novamente para o processador, há uma demora, devida a velocidade limitada da memória RAM.
A memória cache entra ai. Esta memória, embora seja bem menor em capacidade de armazenamento, é super rápida.
Ela guarda alguns dados mais importantes, e usados mais frequentemente, ou por determinados programas, quando são executados. Sem esta memória, o desempenho dos computadores atuais cairia em mais de 95%, devido a limitação de velocidade da memória RAM. Estes dados importantes, e se fosse necessária a memória RAM para passar estes dados repetidas vezes, o processador iria ficar muito tempo esperando os dados chegarem, e não usaria sua capacidade total.
Existem 3 tipos de Cache, conhecidos como L1 (primário) e L2 (secundário) e o L3, que atua como secundária também. Os três são embutidos no processador (antigamente somente o L1 era), já que a distancia física poderia interferir na transferência de dados. A cada novo processador, é desenvolvido um novo tipo de memória Cache para acompanhar a velocidade do processador.
Atualmente é inviável, mas futuramente a memória cache pode se transformar na memória principal do PC, isto ajudaria muito no desempenho das máquinas. Pouco tempo atrás, a memória Cache do processador era em média 256k, atualmente está em 12 MB, e logo teremos memórias cache maiores ainda, e o preço dos processadores vai subindo cada vez mais. O preço inicial do Core2Duo (8 MB de Cache), foi em media R$ 1000,00; já o Core i7, com 12 MB de Cache custou aproximadamente R$ 3000,00 no lançamento.
Fonte: http://www.infoescola.com/informatica/memoria-cache/