Uitleg
TPU's (Tensor Processing Units) zijn custom chips ontworpen door Google voor tensor (matrix) operaties in machine learning. Ze zijn meer efficiënt dan GPU's voor bepaalde workloads, vooral voor inference. TPU's zijn beschikbaar via Google Cloud.
TPU's hebben lagere latentie en hogere throughput voor grote batch processing.
⚡ Voorbeelden
- •Google's TPUv4 chips die honderduizenden verzoeken per seconde verwerken
- •TPU Pods met tientallen TPU's voor massive parallel training
- •Cloud TPU via Google Cloud voor machine learning projecten
Trefwoorden
hardwaretensorefficiëntieGoogleinference