Qué es una NPU y por qué es importante

La NPU no es algo nuevo, de hecho este componente se empezó a utilizar hace años en el sector móvil. Apple fue la primera compañía que popularizó este elemento bajo el nombre de Neural Engine, que se traduce literalmente como motor neural. Su debut se produjo en 2017 y se integró en el SoC Apple A11, un chip que dio vida a los iPhone 8, iPhone 8 Plus y iPhone X.

Si hacemos cuentas veremos que han pasado más de seis años desde que se empezó a popularizar este componente, aunque su llegada al sector PC es algo relativamente nuevo. La primera en mover ficha en este sentido fue AMD con las APUs Ryzen 7040 que, como sabrán muchos de nuestros lectores, cuentan con una NPU de primera generación.

Recientemente se confirmó una renovación de dicha generación con las APUs Ryzen 8000, que utilizan la misma arquitectura CPU y se diferencian principalmente por contar con una NPU mucho más potente, aunque la verdadera evolución en este sentido llegará con una solución de próxima generación conocida como XDNA 2, cuyo lanzamiento está previsto para 2024.

Intel supo ver el potencial de la NPU y el empuje de la IA, y por eso también decidió apostar por el uso de ese hardware especializado con los nuevos procesadores Intel Core Ultra, que se encuadran dentro de la generación Intel Meteor Lake y que ya han empezado a llegar a diferentes portátiles de consumo general con distintos tamaños, incluyendo desde ultra ligeros como el ASUS Zenbook OLED 14 hasta modelos de 16 pulgadas como la serie MSI Prestige.

Qué es la NPU y qué hace

No hay duda de que la NPU se está popularizando en el sector PC, y que esta es la respuesta de los grandes al auge de la IA, ¿pero qué es exactamente? Son las siglas, en inglés, de unidad de procesamiento neural, y como su propio nombre indica es un chip o procesador especializado en operaciones propias de redes neuronales, como la inferencia, el aprendizaje profundo y la inteligencia artificial.

Esta unidad puede trabajar con diferentes algoritmos y ofrece una versatilidad enorme en todo lo relacionado con cargas de trabajo propias de la inteligencia artificial, pero no puede ser utilizado para tareas generales de computación, lo que significa que debe ir acompañado de una CPU en aquellos equipos que estén destinados al mercado de consumo general. Esto explica por qué tanto Intel como AMD, y también Apple, Samsung y todos los grandes del sector han implementado la NPU junto a una CPU y una GPU.

La NPU trabaja con operaciones propias de la inteligencia artificial, está optimizada para ofrecer un excelente nivel de rendimiento en ese nivel manteniendo, además, un bajo consumo energético. En términos de rendimiento una NPU integrada en un procesador Intel Core Ultra o en una APU Ryzen 8000 no va a ofrecer más rendimiento que una GPU especializada, pero su relación rendimiento-consumo va a ser tan buena que será ahí precisamente donde residirá su principal valor.

Este procesador especializado en IA utiliza una arquitectura de computación paralela que se basa en datos, lo que la convierte en una excelente opción para el procesamiento masivo de datos diversos, incluyendo contenidos multimedia como vídeos o imágenes. Puede trabajar con múltiples hilos en paralelo, utiliza un sistema de almacenamiento en caché de fácil acceso y sus núcleos de procesamiento tienen un diseño simplificado porque, como he dicho anteriormente, no están diseñados para computación general.

Ahí es precisamente donde está una de las claves más importantes de su buena relación entre rendimiento y consumo. Como sus núcleos están especializados y optimizados para IA ofrecen un excelente rendimiento y tienen un diseño más sencillo que necesita menos energía para funcionar correctamente. Están optimizadas para trabajar con algoritmos de baja precisión (INT8 e INT4), y su nivel de rendimiento se mide normalmente en TOPs, siglas de trillones (anglosajones) de operaciones por segundo.

Una NPU incluye bloques de multiplicación y suma, funciones de activación, y puede realizar operaciones de datos 2D y de descompresión, entre otras cosas. Esto le permite realizar operaciones de sumar y restar, y de multiplicación, aplicadas a matrices, y también puede trabajar con redes convolucionales y operaciones escalares.

Por qué es importante la NPU

Como os he explicado anteriormente, la NPU puede trabajar con algoritmos de aprendizaje profundo y redes neurales, y estas a su vez pueden ser entrenadas para ofrecer diferentes tipos de soluciones propias de la inteligencia artificial, cuya complejidad y amplitud puede variar en función del grado de entrenamiento que hayan recibido.

Puedo poneros muchos ejemplos, pensad en la red neural que se utiliza para elegir los mejores fotogramas en la tecnología de reescalado y reconstrucción DLSS de NVIDIA, o en aquella que utiliza el piloto automático de Tesla para identificar en tiempo real los diferentes elementos de una calle, incluyendo desde peatones y coches hasta señales de tráfico, ubicación y distancia.

Lo que hace la NPU es, por tanto, utilizar modelos de redes neurales ya entrenados para aprovecharlos mediante un proceso de inferencia. La aceleración que brinda gracias a su hardware especializado le permite ofrecer un rendimiento óptimo, aunque su mayor virtud no está en la potencia bruta, sino como dije en el valor que ofrece en relación consumo-rendimiento, ya que en este sentido supera tanto a una CPU como a una GPU y tiene, además, un coste mucho más bajo.

Con la llegada de las NPU al mundo del PC se democratiza el acceso a la IA, ya que gracias a este componente será posible disfrutar de funciones avanzadas de inteligencia artificial que realmente aportan un valor importante sin hacer grandes sacrificios ni a nivel de coste ni de eficiencia. Su evolución será una constante en los próximos años, y podemos esperar una importante evolución en términos de potencia.

Imagen de portada: Freepik.