Ya sabemos que Cerebras CS-2 es el procesador más grande y potente del planeta en IA. Ahora sabemos que puede funcionar como una red para crear una red de “neuronas” más grande que el cerebro humano. Cerebras System, la compañía que dio a luz a este titán: 46,225 mm², 2,600 mil millones de transistores que comprenden 850,000 núcleos AI y 40 GB de memoria incorporada. – acaba de anunciar que su bebé ahora puede jugar juntos.
Las instituciones y empresas objetivo pueden, si pueden, crear una supercomputadora 192 Cerebras CS-2 trabajando en conjunto. Las cifras resultantes son casi absurdas, ya que estamos hablando aquí de una red de 162 millones de núcleos informáticos de IA, que ofrecen una complejidad de 120 mil millones de conexiones potenciales, frente a “solo” 100.000 mil millones de conexiones sinápticas en nuestro sistema.
Nuestro cerebro todavía tiene una gran ventaja en términos de consumo de energía: a 15 kWatts para cada una de las máquinas (sin mencionar los nodos de interconexión), estamos hablando aquí de 2,88 megavatios, mientras que incluso el cerebro de Einstein estaba satisfecho con tres comidas pequeñas al día. (¿más un refrigerio, posiblemente?).
Aún en el engaño de los números, estos famosos nodos de interconexión llamados MemoryX que cada uno maneja hasta 32 Cerebras CS-2, integran un cóctel de RAM y memoria Flash para mantener los modelos y parámetros fuera de los procesadores, lo que libera memoria interna para cada uno. uno. chip para realizar los cálculos. ¿Y cuánta memoria podemos poner en estos MemoryX? Ah, tres veces nada: entre 4 TB y 2,4 PB (petabytes). Sí, un poco más que tu portátil con Windows 10 …
Lo importante en el enfoque de Cerebras es la densidad de los corazones y la corta distancia entre todos esos corazones y los diferentes recuerdos. La latencia es un gran problema para las supercomputadoras, que ciertamente acumulan millones de núcleos, pero se extienden a través de miles de máquinas, con acceso complicado a la memoria. Con solo 192 unidades centrales Cerebras CS-2 (muy grandes), esta supercomputadora ofrece una densidad de potencia / memoria sin precedentes.
Lea también: Aquí está IBM Telum, el procesador que detectará el fraude bancario en tiempo real
Si bien, por ahora, el entrenamiento de IA con GPT-3 puede llevar semanas o incluso meses con miles de millones de parámetros, Cerebras CS-2 mejoraría esta precisión aumentando a miles de millones (millones de miles de millones) de parámetros. Todo en un tiempo record.
También para descubrir en video:
También para descubrir en video:
No hay necesidad de romper el banco, sin embargo, al especializarse en la práctica y la inferencia, este procesador ni siquiera puede ejecutar Doom. Y los clientes, que deberían ser apodados por las autoridades estadounidenses, son los gigantes de la web, la farmacia, gobiernos amigos, científicos, empresas vinculadas a la energía o incluso a las finanzas.
Ahora queda esperar la implementación real de dicho sistema. Y vea si el rendimiento cumple con las expectativas.
Fuentes : cerebro, a través de la Tom’s Hardware (EE. UU.)
“Escritora típica. Practicante de comida malvada. Genio zombi. Introvertido. Lector. Erudito de Internet. Entusiasta del café incondicional”.
