4.1 Funzioni della cache

La memoria cache è una memoria nascosta che svolge la funzione di conservare quei dati che, molto probabilmente, saranno a breve utilizzati dalla CPU. Tale memoria si considera nascosta perché non è gestita da chi realizza i programmi, ma direttamente dal microprocessore tramite un dispositivo integrato chiamato cache controller.

Questa memoria è molto più veloce, più costosa e meno capiente rispetto alla memoria centrale (RAM) presente sulla scheda madre del computer. In pratica è una memoria intermedia che immagazzina i dati in modo tale da renderli immediatamente disponibili al processore appena quest'ultimo li richiede. In questo modo la CPU non deve aspettare l'invio dei dati dalla RAM e il processo elaborativo diventa più rapido.

Inizialmente, la memoria cache era esterna al processore, a causa delle difficoltà di integrazione all'interno del silicio. Con il miglioramento della tecnologia di produzione è stato possibile integrarla all'interno della CPU (figura 10).

Attualmente la memoria cache è suddivisa in tre livelli: L1, L2 e L3, tutti integrati all'interno del microprocessore. Nelle moderne CPU multi‑core (cioè dotate di più processori), ogni core ha a disposizione L1 e L2 private, mentre L3 è condivisa e unica per tutti i core. Passando dal livello 1 al livello 3 aumenta la capacità della memoria, ma diminuisce la velocità.

• L1 è la più veloce, ma anche la più piccola e contiene sia dati sia istruzioni. Viene solitamente suddivisa in due sezioni: la cache delle istruzioni e la cache dei dati. La cache delle istruzioni tratta le informazioni sull'operazione che la CPU deve eseguire, mentre la cache dei dati contiene i dati su cui deve essere eseguita l'operazione.
• L2 è un po' più lenta, ma più grande e contiene solo dati.
• L3 è molto grande ma più lenta e contiene solo dati.

La tabella 1 riporta le caratteristiche delle memorie cache che si possono avere sui moderni processori.

4.2 Gestione della cache

I dati prelevati dalla RAM vengono inseriti nella cache, dove sono organizzati in modo diverso rispetto a come si trovano nella memoria centrale. Insieme ai dati, infatti, viene registrata anche la loro posizione nella RAM, in modo da creare una corrispondenza diretta tra le due memorie.

Quando il microprocessore deve prelevare un dato dalla memoria ne conosce l'indirizzo, ma prima di richiederlo alla RAM, il cache controller effettua la ricerca nella cache: se lo trova (cache hit) il trasferimento è velocissimo, poiché non deve accedere alla RAM, altrimenti (cache miss) si avvia il caricamento dei dati dalla memoria centrale.

Il rapporto tra cache hit e accessi totali alla memoria, detto hit rate (rapporto di successo), misura l'efficacia della cache. A causa della capacità limitata della cache, quando questa è piena, sarà necessario liberare spazio per inserire nuovi dati. Il criterio prevalentemente usato è quello di eliminare dalla cache i dati che non sono utilizzati da più tempo (LRU, Least Recently Used).

È comunque necessario mantenere la memoria centrale aggiornata rispetto ai cambiamenti effettuati nella cache. Se un dato presente nella cache viene cancellato o modificato, questa variazione va riportata anche nel corrispondente dato nella memoria centrale. Se, ad esempio, il contenuto di una variabile viene incrementato nella cache, anche la corrispettiva variabile in memoria centrale andrà incrementata. A questo scopo sono possibili due strategie:

• write‑through: ogni modifica nella cache è riportata immediatamente nella memoria principale;
• write‑back: l'aggiornamento è fatto solo al momento in cui il dato viene tolto dalla cache con il criterio dell'LRU (Least Recently Used).

Il problema inverso: i protocolli di coerenza

Il problema inverso si presenta nei sistemi multiprocessore con i bus separati (vedi precedente Lezione sui bus). In questo caso la memoria centrale può contenere dati più aggiornati rispetto alla memoria cache, in quanto un altro processore potrebbe aver modificato i dati autonomamente utilizzando la propria cache. La gestione di queste problematiche ha portato allo sviluppo di “protocolli di coerenza”, che si occupano di garantire che i dati presenti nelle cache e nella memoria centrale siano sempre aggiornati tra loro.

Posizionamento dei dati: libero o vincolato

Il posizionamento dei dati nella memoria cache (figura 11) può essere libero (sono inseriti dove c'è un numero di celle vicine sufficientemente grande) oppure vincolato (alle varie parti della memoria centrale è assegnata una corrispondente area nella cache). Il secondo metodo consente un trasferimento più veloce, ma aumenta il rischio di dover spesso liberare spazio nella cache se quell'area è molto utilizzata.

5.1 Caratteristiche della memoria centrale

La memoria centrale (RAM, Random Access Memory) è uno degli elementi fondamentali della struttura di un elaboratore (figura 12).

È la parte del calcolatore in cui viene temporaneamente conservato il programma durante la sua esecuzione con tutte le informazioni necessarie. Oltre alle istruzioni del programma, sono memorizzati i dati ricevuti in input, i risultati parziali, quelli finali prima di essere mandati in output e tutte le informazioni che servono alla CPU. Le sue caratteristiche, che influenzano le prestazioni complessive dell'elaboratore, sono le seguenti:

• è costituita da miliardi di celle, ciascuna contenente lo stato di un bit; la gestione avviene a gruppi di almeno 8 bit (un byte), organizzati in righe e colonne come una gigantesca tabella; normalmente non viene gestito il singolo byte, ma gruppi di 2 o 4 byte chiamati Word o Parola di memoria;
• è ad accesso diretto (random); si può accedere a ogni byte semplicemente generando l'indirizzo fisico che contiene le coordinate della cella e il suo tempo di accesso non dipende dalla posizione;
• i dati possono essere letti e scritti e sono mantenuti solo per il tempo in cui la memoria è alimentata; lo spegnimento dell'elaboratore comporta la perdita dei dati presenti nella memoria.

5.2 Organizzazione della memoria centrale

Ogni singola cella di memoria ha un determinato indirizzo, che indica la posizione che la cella occupa all'interno della memoria stessa e la identifica univocamente. Poiché la memoria è vista come una matrice, l'indirizzo di una cella è dato dalla colonna e dalla riga in corrispondenza della quale essa si trova. Gli indirizzi sono generalmente espressi in esadecimale, così da permettere un maggior numero di indirizzamenti. Nell'esempio di figura 13 si ipotizza di avere indirizzi formati da 6 bit e, quindi, in grado di indirizzare 64 celle. La prima parte dell'indirizzo (100) indica la colonna 4, mentre la seconda parte (101) indica la riga 5. Tramite queste coordinate il sistema è in grado di individuare quella particolare cella che si trova all'incrocio della colonna 4 e della riga 5.

Le prestazioni di una memoria si misurano con due parametri:

• latenza: tempo richiesto per trasferire un dato da/verso la memoria;
• velocità di trasferimento (bandwidth): numero di byte trasferiti in un secondo.

Altro parametro importante della memoria è la sua capacità, data dal numero massimo di byte che possono essere immagazzinati in essa. Nei moderni calcolatori la memoria ha una capacità dell'ordine di miliardi di byte, per cui risulta inadeguato esprimere tale capacità in byte. Si usano pertanto i multipli binari del byte: il kibibyte (kiB = 2¹⁰ B), il mebibyte (MiB = 2²⁰ B) e il gibibyte (GiB = 2³⁰ B). Se leggiamo tra le caratteristiche di un computer che ha 4 GiB di RAM, vuol dire che la sua memoria centrale è formata da circa 4 miliardi di byte, esattamente 4.294.967.296 (= 4 · 1.024 · 1.024 · 1.024).

5.3 Operazioni della memoria centrale

I dati in memoria possono solo essere letti o scritti. Per farlo vengono seguite le seguenti fasi.

» Controllo degli errori

A causa dell'importanza che riveste la memoria centrale, oltre alla gestione di lettura e scrittura, occorre garantire continuamente che non avvengano errori o malfunzionamenti.

In genere, oltre ai bit di dati, sono presenti internamente alcuni bit aggiuntivi (error bit) che, con opportuni metodi di controllo, consentono di verificare costantemente lo stato della memoria. Un errore nella RAM viene considerato dai sistemi operativi così grave da bloccare l'esecuzione di un programma o dell'intero sistema operativo stesso.

Se l'errore è rilevato in fase di avvio dell'elaboratore, l'operazione si blocca determinando un Memory Parity Error, dove “parity” indica il metodo utilizzato per il controllo degli errori (controllo di parità). Questa segnalazione spesso indica che il modulo di memoria è danneggiato e occorre sostituirlo.

5.4 Tipologie di memorie

Ora che abbiamo introdotto la memoria centrale e, nella precedente Lezione 4, la memoria cache, vediamo un altro modo per classificare le memorie.

» Le memorie volatili

Si dicono memorie volatili quelle che permettono la memorizzazione delle informazioni solo fino a quando sono alimentate dalla corrente. La memoria RAM è una memoria volatile e può funzionare con le due tecnologie seguenti.

• DRAM (Dynamic RAM). Ciascuna cella è costituita da un piccolo condensatore, che mantiene la carica elettrica per un tempo limitato. Nella memoria è presente un circuito (memory refresh) che provvede periodicamente a ricaricare le varie celle prima che esse perdano completamente la carica. Tale tecnica ha consentito di realizzare memorie con capacità maggiore senza aumentare le dimensioni delle schede, in quanto ogni cella è molto piccola. La gestione però è complessa a causa della necessità di ricaricare continuamente le celle senza interferire con le operazioni di lettura e scrittura della memoria. Nel corso degli anni, le DRAM hanno subito una notevole evoluzione con numerosi cambiamenti di standard e conseguenti problemi di compatibilità. Un notevole miglioramento nella velocità si è avuto con l'introduzione della tecnologia DDR (Double Data Rate, doppio flusso di dati): i dati sono trasferiti sia durante il fronte di salita dell'impulso di clock, sia durante il fronte di discesa. Le memorie DRAM sono utilizzate per realizzare le memorie centrali.
• SRAM (Static RAM). Per mantenere l'informazione memorizzata, ogni cella è costantemente alimentata. Questo comporta consumi elettrici superiori, ma presenta il vantaggio che i tempi di risposta (latency time) al microprocessore sono piuttosto brevi. Per realizzare ciascuna cella sono necessari più componenti rispetto alla DRAM. Per queste sue caratteristiche, le memorie SRAM sono particolarmente adatte per realizzare le memorie cache.

» Le memorie permanenti

Esistono anche delle memorie che vengono dette permanenti. Si differenziano da quelle volatili in quanto, anche in assenza di corrente, mantengono memorizzate le informazioni per lungo tempo.

Appartengono a questa categoria le ROM (Read Only Memory), memorie non volatili che però, una volta programmate, possono essere solo lette. La ROM costa meno della RAM, ma ha ovviamente un campo di applicazione più limitato; in genere, sono programmate in fase di fabbricazione e contengono i programmi che permettono l'avvio del sistema (programmi di bootstrap). Esistono anche le PROM (Programmable Read Only Memory), che possono essere programmate direttamente dall'utente con uno speciale dispositivo e le EPROM (Erasable Programmable Read Only Memory) che possono essere anche cancellate un certo numero di volte (molto limitato) e riprogrammate.