A GPU é o acrónimo de Graphics Processing Unit, ou unidade de processamento de gráficos. Esse componente desempenha um papel central no Machine Learning, ou aprendizado de máquina. As CPUs simplesmente não funcionam para essas tarefas. Hubert Yoshida, da Hitachi, explicou que as CPUs são projetadas para uma única finalidade, como processamento de transações. Enquanto as GPUs são projetadas para múltiplos propósitos, sendo capazes de processar tarefas e funções em paralelo.
Dentro do mercado das placas gráficas GPU, o Google desenvolveu seu próprio produto chamado Cloud TPU, enquanto a Microsoft Azure criou instâncias NV4 alimentadas por AMD para particionamento de GPU. No entanto, o gigante da indústria é a Nvidia.
Alugar GPUs de provedores de nuvem é uma proposta cara para muitas organizações. A boa notícia é que há muitas opções de GPU disponíveis para construir sua própria estação de trabalho de Inteligência Artificial (IA) para fazer treinamento, teste e execução de modelos de ML.
Se o aprendizado profundo estiver envolvido, uma placa gráfica GPU mais pesada será necessária porque esse é um modelo intensivo em computação. Alguns modelos de aprendizado profundo exigem milhões de cálculos e atualizações de parâmetros em tempo de execução. Por USD 2.500, um engenheiro pode adquirir uma GPU com 4.680 núcleos e 576 núcleos tensoriais. Nesse sentido, os núcleos tensoriais são capazes de melhorar operações de uma matriz enorme e fazer que uma “matriz de precisão mista multiplique e acumule cálculos em uma única operação”.
A Nvidia chamou de Turing sua mais recente arquitetura de GPU, o que seria o “maior salto desde a invenção da CUDA GPU” em 2006. Pelo menos é o que dizem. Um recurso interessante é o rastreamento em tempo real que é capaz de projetar ambientes 3D. A Nvidia Titan RTX vem com 42 GB de memória GDDR6, 576 núcleos tensoriais e suporta 672 GB/s de largura de banda de memória. Além disso, os recursos do NVLink permitem que as placas sejam encadeadas em série. Abaixo está uma lista de Quadro das placas gráficas GPU da Nvidia, GeForce
Nvidia | Titan RTX | GeForce | GeForce | Quadro | Quadro | Quadro | Quadro |
Especificações | Titan RTX | RTX 2080 Ti | RTX 2080 Super | RTX 8000 | RTX 6000 | RTX 5000 | GV100 |
GPU | TU102 | TU102 | TU104 | TU102 | TU102 | TU102 | Volta |
Núcleos CUDA | 4608 | 4352 | 3072 | 4608 | 4608 | 3072 | 5120 |
Núcleos tensoriais | 576 | 544 | 384 | 576 | 576 | 384 | 640 |
Memória | 24GB | 11GB | 8GB | 48GB | 24GB | 16GB | 32 GB+ |
NVLink | Sim | Sim | Sim | Sim | Sim | Sim | Sim |
TFLOPS Precisão Única | 16.3 | 13,4 | 11.15 | 16.3 | 16.3 | 11.2 | 14.8 |
Base Clock (Relógio Base) | 1350Mhz | 1350Mhz | 1650Mhz | 1395Mhz | 1440Mhz | 1620Mhz | 1132Mhz |
Boost Clock(Relógio de impulsionamento) | 1770Mhz | 1545Mhz | 1815Mhz | 1770Mhz | 1770Mhz | 1815Mhz | 1627Mhz |
Largura de banda da memória | 672GB/s | 616GB/s | 496GB/s | 672GB/s | 672GB/s | 448GB/s | 868GB/s |
Potência | 280W | 260W | 250W | 295W | 295W | 265W | 250W |
Preço | US $ 2.595 | $ 1.199 | US $699 | US $ 5.500 | US$ 4.000 | US$ 2.400 | US $ 11.083 |