TPU

Una TPU (Tensor Processing Unit, unidad de procesamiento tensorial) es un chip que Google diseñó para un único trabajo: la aritmética de las redes neuronales. Entrenar y usar un modelo de IA se reduce a multiplicar tablas enormes de números, llamadas tensores o matrices, una y otra vez. Un CPU puede hacerlo, despacio; una GPU lo hace bien porque tiene miles de núcleos chicos; una TPU va un paso más allá y está construida casi entera alrededor de esa única operación.

Su corazón es una unidad de matrices: una grilla de multiplicadores donde los números pasan de celda en celda, y cada una multiplica, suma y le pasa el resultado a la vecina, así los datos se reutilizan en lugar de ir a buscarlos a la memoria una y otra vez. Las TPU también trabajan con números de menor precisión, que alcanzan para las redes neuronales y son mucho más baratos de calcular. Google las usa en sus centros de datos desde 2015 para el buscador, el traductor y sus modelos Gemini, y se las alquila a otras empresas a través de Google Cloud.

No podés comprar una TPU para tu PC. Vienen en grupos grandes llamados pods, unidos por conexiones muy rápidas, y solo están disponibles como servicio en la nube. Son un ejemplo claro de una tendencia más amplia: las grandes empresas tecnológicas diseñan sus propios chips de IA en lugar de depender solo de las GPU de NVIDIA, para bajar costos y controlar su abastecimiento. Cada generación es más rápida, pero la idea central es la misma.