Am Beispiel der neuesten Nvidia Ampe Mikroarchitektur besteht der Rechenteil der GPU Mikroarchitektur aus einem Stream Processor (SP),
Eine Texture Mapping Unit (TMU), ein Tensor Core, eine Ray Tracing Unit (RT Core) und eine Rasterization Processing Unit (ROPs).
GPUs API (Application Programming Interface) spielt eine Rolle als Brücke zwischen Anwendungen und Grafikkartentreibern.
GPU-Videospeicher wird verwendet, um die Rendering-Daten zu speichern, die vom Grafikkartenchip verarbeitet wurden oder extrahiert werden,
Und es ist eine der unverzichtbaren Kernkomponenten für den normalen Betrieb der GPU. GPU-Videospeicher kann in unabhängigen Videospeicher und integrierten Videospeicher unterteilt werden.
Derzeit werden GDDR3, GDDR5, GDDR5X und GDDR6 hauptsächlich für unabhängige Videospeicherung verwendet, während DDR3 und DDR4 hauptsächlich für integrierte Videospeicherung verwendet werden.
Die Server-GPU bevorzugt HBM-Videospeicher in Form von Chips, um den Durchsatz zu maximieren. Der integrierte Videospeicher wird durch das 64-Bit-Betriebssystem eingeschränkt.
Selbst wenn er aus zwei oder sogar vier Kanälen besteht, besteht immer noch eine erhebliche Lücke zwischen der Bandbreite des integrierten Videospeichers und der des unabhängigen Videospeichers.
Dies führt in der Regel dazu, dass die Leistung unabhängiger GPUs besser ist als die von integrierten GPUs.