Например, новейшая микроархитектура Nvidia Ampe, вычислительная часть микроархитектуры GPU состоит из потокового процессора (SP),
Элемент текстурного отображения (TMU), тензорное ядро (Tensor Core), блок трассировки лучей (RT Core) и блок обработки растра (ROPs).
API GPU (интерфейс прикладного программирования) служит мостом между приложениями и драйверами видеокарт.
видеопамять GPU для хранения данных рендеринга, которые были обработаны или будут извлечены чипом видеокарты,
Это один из основных компонентов, необходимых для нормальной работы GPU. Память GPU Video можно разделить на независимую и интегрированную видеопамять.
В настоящее время GDDR3, GDDR5, GDDR5X и GDDR6 в основном используются для автономного хранения видео, в то время как DDR3 и DDR4 в основном используются для интегрированного хранения видео.
Сервер GPU предпочитает использовать видеопамять HBM в виде микрочипа, чтобы максимизировать пропускную способность. Интегрированная видеопамять ограничена 64 - разрядной операционной системой.
Даже если он состоит из двух или даже четырех каналов, существует значительный разрыв между пропускной способностью интегрированной видеопамяти и широкополосной связью автономной видеопамяти.
Это часто приводит к тому, что независимые GPU работают лучше, чем интегрированные GPU.