Graphcore es una empresa británica especializada en el desarrollo de soluciones para IA. Ahora, ha presentado la segunda generación de su Intelligence Processing Unit (IPU) enfocadas a compañías que necesiten procesar cargas de trabajo de IA a gran escala. En cada máquina 1U blade IPU-Machine M2000 hay cuatro procesadores Colossus MK2 GC200 (las IPUs propiamente dichas) fabricadas por TSMC en el nodo de 7 nm con 1.472 cores y un PetaFlop de potencia de computación para IA.
En total, usando la máxima capacidad posible de procesamiento con 64.000 IPUs, podríamos tener 16 ExaFlops de potencia de cálculo.
El Graphcore Colossus MK2 GC200 tiene 59.400 millones de transistores por IPU, con un tamaño de 823 mm2 y 1.472 cores IPU que pueden procesar 8.832 hilos en paralelo, lo cual indica que tenemos hasta 6 hilos por cada core físico. Cada IPU tiene 900 MB de SRAM con un ancho de banda de 47,5 TB/s para la memoria por cada IPU.
Cada equipo blade cuesta algo más de 32.000 dólares, aunque resulta barato si se compara con las configuraciones actuales. Por ejemplo, un sistema para entrenar una red neuronal de reconocimiento de imágenes basada en el algoritmo EfficientNet B4 con 8 máquinas IPU-M2000 cuesta 259.600 dólares, y es equivalente en rendimiento a un sistema NVIDIA con 16 sistemas DGX A100, que cuesta más de 3 millones de dólares.
La IA que usamos en nuestros móviles, depende de que haya sistemas que entrenen a las redes neuronales que se encargan de encontrar inferencias capaces de modelar los parámetros que luego se cargarán en nuestras apps de IA para reconocer caras, escenas, plantas o la voz de un modo rápido y fiable.
