A memória cache é um elemento de memória de baixa capacidade do tipo volátil (ao contrário das memórias NAND) habitualmente associada a unidades de processamento de alto desempenho, como o processador de um computador ou uma GPU. Esta memória, à semelhança da RAM, tem como principal função armazenar os dados mais utilizados pelo sistema, como programas ou jogos. O facto de estar integrada na própria unidade de processamento, torna o seu acesso muito mais rápido que a habitual memória RAM. Assim, é fácil concluir: CPU ou GPU com uma elevada capacidade de memória cache serão mais rápidos que outros modelos equivalentes.
Processadores
Habitualmente, a memória cache faz parte integrante de um processador, seja ele de um computador ou de um dispositivo móvel. No caso dos processadores, a memória cache costuma ter uma estrutura de múltiplos níveis, com a cache mais rápida (a L1), associada directamente a cada um dos núcleos dentro do próprio processador. A cache intermédia (L2), partilhada por dois ou mais núcleos, tende a ser ligeiramente mais lenta; porém, o facto de estar fora da estrutura interna dos núcleos permite-lhe ter uma capacidade muito maior. Já a cache L3, partilhada por todos os núcleos, é a que dispõe de maior capacidade e maiores latências, o que a torna a memória cache mais lenta de um processador.
No caso do novo AMD Ryzen 7 5800X3D, temos uma estrutura de oito núcleos com um total de 512 KB de cache L1 (64 KB por núcleo), 4 MB de cache L2 e um total de 96 MB de cache L3, sendo esta composta por 32 MB integrados nos próprio processador. Existe ainda uma camada adicional de 64 MB de SRAM, que por estar a comunicar de forma bidirecional com a restante cache L3, e por trabalhar à mesma frequência que o processador, permite que toda a sua capacidade seja reconhecida como uma única cache L3 e não uma adicional camada L4.
Controladoras gráficas
Tal como nos processadores, também as controladoras gráficas mais recentes recorrem a memória SRAM integrada na próprio GPU, o que permite aceder a dados mais recorrentes, de forma mais rápida. Com a evolução das GPU para unidades de processamento mais complexas, a cache foi ganhando maior relevo e importância. A AMD é um dos fabricantes que mais tem apostado nesta solução, para as suas placas gráficas da actual série Radeon RX 6000, com a Infinity Cache: graças à sua elevada capacidade, pode chegar aos 128 MB nos modelos Radeon RX 6800, 6800 XT e 6900 XT.
Para a AMD, o principal objectivo desta cache é o de permitir utilizar um barramento de comunicação mais contido com as memórias (de 256-bit), mas garantir uma largura de banda superior à de um barramento de comunicação de maior dimensão (como 384-bit ou 512-bit). Esta solução permite que sejam utilizadas memórias VRAM GDDR6, em vez das mais dispendiosas GDDR6x, com a agravante de terem um consumo energético significativamente superior, tal como o seu circuito de alimentação.
Existem outras aplicações para as memórias cache, como sistemas de armazenamento, discos rígidos e módulos SSD. Aqui, a cache permite armazenar os dados mais utilizados, o que faz com o sistema evite ter de estar constantemente à procura desses dados no sistema de armazenamento principal.