Prenons par example la dernière micro - architecture NVIDIA Ampe, la partie informatique de la micro - architecture GPU étant composée d'un processeur de flux (SP),
Les unités de cartographie de texture (tmu), Tensor Core (Tensor Core), RT Core (Ray Tracing Unit) et rops (rasterized Processing Unit).
L'API (Application Programming Interface) du GPU sert de pont entre les applications et les pilotes de carte vidéo.
Une mémoire vidéo GPU pour stocker les données de rendu déjà traitées ou à extraire par la puce de la carte vidéo,
C'est l'une des pièces essentielles indispensables au bon fonctionnement du GPU. La mémoire vidéo GPU peut être divisée en mémoire vidéo indépendante et mémoire vidéo intégrée.
Actuellement, gddr3, gddr5, gddr5x et gddr6 sont principalement utilisés pour le stockage vidéo autonome, tandis que DDR3 et ddr4 sont principalement utilisés pour le stockage vidéo intégré.
Les GPU serveur préfèrent utiliser la mémoire vidéo hbM sous forme de petites puces pour maximiser le débit. La mémoire vidéo intégrée est limitée par un système d'exploitation 64 bits.
Même si elle est composée de deux voire quatre canaux, il existe encore un écart considérable entre la bande passante de la mémoire vidéo intégrée et la bande passante de la mémoire vidéo indépendante.
Cela conduit souvent à des performances supérieures pour les GPU autonomes par rapport aux GPU intégrés.