Qué es la caché 3D, cómo funciona y qué ventajas y desventajas ofrece

La memoria caché 3D ha sido la última gran evolución que ha experimentado este tipo de memoria que, como sabrán muchos de nuestros lectores, juega un papel muy importante tanto en procesadores como en tarjetas gráficas, puesto que de ella depende en gran medida el pico de rendimiento máximo que son capaces de conseguir ambos componentes.

Actualmente la memoria caché se divide en tres grandes niveles, la memoria caché L1, la caché L2 y la caché L3. En este artículo ya os explicamos en su momento qué son y qué diferencias tienen esos tres tipos de memoria caché, así que os invito a repasarlo si no tuvísteis la oportunidad de leerlo en su momento, ya que os dará una base muy importante para poder entender mejor cómo funciona y por qué es tan importante la memoria caché 3D.

Por el momento, la única empresa que se ha atrevido a utilizar la memoria caché 3D ha sido AMD, y su implementación ha tenido lugar tanto en procesadores de consumo general como en modelos para el sector profesional. Esto es importante, porque el hecho de que los de Sunnyvale hayan lanzado CPUs EPYC con caché apilada en 3D significa que esta tecnología es muy importante para ellos, y que realmente quien seguir aprovechándola y mejorándola.

¿Qué es la caché 3D y cómo se implementa?

Estamos ante un tipo específico de memoria caché que trabaja de la misma manera que lo haría la caché L3, lo que significa que estamos ante un bloque de memoria de tercer nivel. Esto quiere decir que tanto por cercanía a la CPU como por velocidad es inferior a la caché L2, pero tiene la ventaja de ser mucho más grande, lo que significa que ofrece una mayor capacidad de almacenamiento.

La memoria caché tradicional se distribuye en el plano horizontal, es decir, tiene una presencia 2D. Con la caché 3D esto cambia por completo, ya que pasa a apilarse en vertical sobre otro chip y posteriormente se produce el encapsulado de ambos. En el caso de AMD, que como dije es la primera que ha utilizado caché 3D en sus procesadores, dicho tipo de memoria se apila en la zona central del chiplet CPU, que es donde está presente la memoria caché L3 integrada en el procesador.

El proceso de apilado requiere del uso de un sistema de interconexión TSV (a través del silicio) que permite que la caché superior se comunique con la caché inferior. Al apilar esta caché se genera una descompensación entre esta parte y las secciones donde van los núcleos de la CPU, ya que la primera pasa a tener una mayor altura.

No se puede llevar a cabo el proceso de empaquetado de forma directa debido a esa desigualdad. Es necesario que todos los elementos del chiplet queden a la misma altura, y para ello AMD ha recurrido a dos capas de silicio estructural que son las que permiten un encapsulado homogéneo, como podemos ver en la imagen (son los dos bloques transparentes). A simple vista puede parecer que es un proceso sencillo, pero en realidad es algo bastante complejo que, de hecho, sigue planteando desafíos importantes que veremos más adelante.

¿Cómo funciona la memoria caché apilada en 3D?

Ya hemos visto cómo se implementa este tipo de memoria caché, así que ahora vamos a profundizar en su funcionamiento. Estamos ante un tipo de caché L3 o de tercer nivel, lo que significa que en este caso se prioriza la capacidad sobre la velocidad y la latencia, es decir, es un tipo de memoria más grande pero más lenta y con mayores tiempos de acceso.

No obstante, debemos contextualizar esta información adecuadamente, y es que aunque se considera más lenta que las cachés L1 y L2 sigue siendo mucho más rápida que la memoria RAM, y por ello tiene precisamente un impacto considerable en el rendimiento de la CPU al trabajar con determinadas tareas, porque dicho componente siempre intentará recurrir a ella antes de mirar en la RAM, y si encuentra lo que busca completará sus ciclos de trabajo más rápido.

La caché L3 es también un tipo de memoria compartida que, a partir de la arquitectura Zen 3, es accesible por todos los núcleos del chiplet. Esto quiere decir que en un procesador como el Ryzen 7 7800X3D, que tiene 32 MB de caché L3 en 2D y 64 MB de caché L3 en 3D, sus ocho núcleos pueden acceder a un total de 96 MB de L3 compartida, ya que esta está integrada en un único chiplet.

Es importante dejar claro que el concepto de caché L3 compartida tiene una importante limitación, y es que se aplica por chiplet. Así, en un procesador como el Ryzen 9 7950X3D solo el primer chiplet de 8 núcleos tiene acceso a los 32 MB de L3 en 2D y a los 64 MB de L3 apilada en 3D. El segundo chiplet de 8 núcleos solo tiene acceso a sus 32 MB de L3 compartida.

La memoria caché L3 tiene una tarea tan sencilla como importante, almacenar datos, instrucciones y operaciones ya resueltas a los que la CPU puede acceder cuando lo necesite. Cada vez que el procesador realiza un acceso a la caché L3 este puede resolverse con un fallo o un acierto. Si acierta, que es lo ideal, significa que ha encontrado en esa caché lo que necesita. En caso de que falle tendrá que buscar en la RAM, y si tampoco lo encuentra ahí tendrá que volver a realizar determinadas operaciones.

Una mayor cantidad de L3 permite almacenar más datos e instrucciones, y esto quiere decir que aumentan las probabilidades de que el procesador consigua aciertos cuando busque lo que necesita en dicha caché. Como se comunica mucho más rápido con esta que con la memoria RAM la mejora de rendimiento que podemos conseguir en ciertas tareas es considerable.

Dicho de otra forma más sencilla, esa caché L3 es como si tuvieras una chuleta con un listado de preguntas y respuestas específico y perfectamente detallado, mientras que la RAM sería como una enciclopedia donde tendrías que invertir más tiempo en buscar. Una caché L3 de mayor capacidad equivaldría a una lista de preguntas y respuestas más grande, lo que te permitiría reducir la dependencia de esa enciclopedia.

Es importante tener en cuenta que no todas las aplicaciones se benefician de la misma manera de tener una mayor cantidad de caché L3 porque, en resumen, no trabajan de la misma forma. Actualmente los juegos son los que más partido sacan a este tipo de caché porque tienen una alta dependencia de la CPU, y esta puede mejorar su rendimiento gracias a ese aumento de la tasa de aciertos al recurrir a la caché L3, que está más cerca de sus núcleos y se comunica con estos a mayor velocidad que la RAM.

¿Qué ventajas y desventajas ofrece este tipo de caché?

La caché L3 apilada en 3D presenta ventajas muy importantes que van más allá de la simple mejora del rendimiento en determinadas aplicaciones, aunque esta es sin duda una de las más importantes. Para que tengáis una visión más clara y visualmente explícita voy a compartir con vosotros un listado explicando cada una de sus ventajas, y también hablaré de sus desventajas.

Intentaré ser lo más claro posible, pero si tenéis cualquier tipo de duda podéis dejarla en los comentarios y os ayudaré a resolverla.

Rendimiento medio comparativo. Vemos la diferencia que marca la caché L3 apilada en 3D.

Ventajas de aumentar la caché L3 con apilado en 3D

• Permite aumentar la cantidad total de L3: esto tiene un impacto positivo porque, como ya hemos visto, permite a la CPU contar con una mayor capacidad de almacenamiento para datos, instrucciones y operaciones a las que podrá acceder más rápido y reduce su dependencia de la RAM.
• Supera las limitaciones a nivel de espacio en silicio: la caché L3 puede ocupar una enorme cantidad de espacio en el chip, de hecho los 32 MB de caché L3 que montan los Ryzen 5000 y Ryzen 7000 ya ocupan más espacio que los núcleos CPU y sus cachés L1 y L2. Aumentar la caché L3 en horizontal tendría como consecuencia la creación de un chip enorme que, además, sería  más complejo y ocuparía más espacio en la oblea.
• Reduce costes de producción y mantiene la escalabilidad: esto es una consecuencia directa de lo anterior, ya que permite mantener la modularidad y la escalabilidad del chiplet al contemplar esa caché L3 apilada en 3D como un extra que se puede montar sobre la caché L3 convencional.
• Mejora el rendimiento: y esta mejora puede ser muy grande en determinados escenarios. Dentro del mercado de consumo general, las aplicaciones que más se benefician de ella son los juegos, hasta tal punto que un procesador como el Ryzen 7 5800X3D puede llegar a rendir casi como un Ryzen 7 7700X a pesar de tener un menor IPC, de utilizar DDR4 y de funcionar a frecuencias inferiores.
• Buena eficiencia y temperaturas: los procesadores con mayor cantidad de caché L3 apilada rinden mejor, pero al mismo tiempo registran unos valores de temperatura y de consumo muy buenos teniendo en cuenta el pico de rendimiento que pueden alcanzar.

Desventajas de aumentar la caché L3 con apilado en 3D

• Encarecimiento del producto: y la verdad es que la diferencia de precio puede llegar a ser importante. Por ejemplo, un Ryzen 7 7700X tiene un precio aproximado de 350 euros, mientras que el Ryzen 7 7800X3D cuesta ahora mismo 470 euros. A cambio ofrece un rendimiento muy superior en juegos, y bastante grande, ya que el segundo supera al primero en un 25,6% bajo resolución 720p, en un 25,3% bajo resolución 1080p y en un 19,6% bajo resolución 1440p.
• Obliga a reducir frecuencias y a eliminar el overclock: esta es una de las contrapartidas más importantes que conlleva la integración de un bloque de caché L3 adicional apilada en 3D, ya que esta no puede soportar voltajes elevados. Obviamente esto hace que el rendimiento del procesador acabe siendo más bajo en aquellas aplicaciones que no son capaces de aprovechar ese extra de caché. Siguiendo con el ejemplo anterior, el Ryzen 7 7800X3D tiene un modo turbo más limitado que el Ryzen 7 7700X, y por eso rinde un poco menos en ciertas aplicaciones, como Cinebench R23, por ejemplo.

Notas finales: caché y especialización

En líneas generales, añadir una mayor cantidad de caché al procesador mediante apilado en 3D es una manera de especializarlo y de enfocarlo hacia un escenario muy concreto. Dentro del mercado de consumo general esa especialización se centran en los juegos, como hemos visto a lo largo de este artículo, y es muy probable que en las próximas generaciones AMD siga manteniendo este enfoque para ofrecer nuevas CPUs especializadas en gaming gracias al papel que juega la caché L3.

Es interesante también ver que la caché ha ido ganando importante en el sector de las tarjetas gráficas tanto de NVIDIA como de AMD, y esto me lleva a pensar que puede que dentro de unos años se acabe implementando también caché apilada en 3D en la propia GPU. No sería descabellado, de hecho AMD ya ha recurrido a los chiplets externos con caché L3 interconectada a la GPU, pero sí que resultaría bastante completo, sobre todo por una cuestión de homogeneidad a nivel de silicio, y de superficie de contacto del encapsulado.

AMD resuelve este problema en los Ryzen con ese silicio estructural al que hemos hecho referencia, pero esta técnica hace que el proceso de transferencia de calor y de disipación sea menos eficiente, lo que en ciertos casos podría llegar a plantear problemas de refrigeración. Veremos qué nos depara el futuro, pero estoy bastante convencido de que al final el chiplet y el apilado 3D se acabarán convirtiendo en los grandes motores de la innovación no solo en el sector CPU, donde ya están marcando la diferencia, sino también en el sector GPU.