Intel anuncia Gaudi 3, un chip de IA hasta un 50% más rápido que el modelo de NVIDIA

A Intel reveló, este martes (9), el Intel Gaudí 3, tu hijo menor acelerador de IA dirigido a la informática de IA a gran escala. Fabricado mediante un proceso de 5 nanómetros, el lanzamiento ofrece una mejor eficiencia energética y más potencia de procesamiento, en comparación con la generación anterior (Gaudi 2).

Intel Gaudí 3

De acuerdo con empresa, que presentó la Intel Gaudí 3 durante el evento Intel Visión 2024, la nueva línea ofrece un rendimiento de IA computacional hasta 4 veces mejor que la generación anterior, además de un aumento de 1,5 veces en el ancho de banda de la memoria y un aumento del doble en el ancho de banda de la red. Con el aumento, la solución de la empresa emerge como una de las pocas alternativas en el mercado para la infraestructura de IA generativa a gran escala.

Intel Gaudi 3 se destaca como la alternativa GenAI que presenta una combinación convincente de precio, rendimiento, escalabilidad del sistema y ventaja en tiempo de obtención de valor.

Justin Hotard, vicepresidente ejecutivo de Intel y director general de centro de datos y grupo de IA

las fichas Gaudí 3 tienen 64 núcleos de procesamiento tensorial (TPC) personalizados para IA y son totalmente programables, con 8 motores de multiplicación de matrices (MME), lo que resulta en un excelente rendimiento en el procesamiento computacional heterogéneo. Cada coprocesador MME está capaz de ejecutar 64 mil operaciones paralelas, lo que garantiza la capacidad de lidiar con operaciones matriciales complejas, algo esencial para los algoritmos de Deep Learning.

Intel también destaca que el acelerador Intel Gaudí 3 promete servir a empresas de las áreas más diversas, como finanzas, manufactura y atención médica, que buscan expandir rápidamente la accesibilidad a la IA y la transición de proyectos de IA generativa, desde las fases experimentales hasta la implementación a gran escala.

La compañía garantiza que la solución cumplirá con estos requisitos y también ofrecerá versatilidad a través de software abierto basado en la comunidad y Ethernet abierto estándar de la industria, lo que ayudará a las empresas a escalar de manera flexible sus sistemas y aplicaciones de IA.

Entre los principales aspectos destacados del Intel Gaudí 3 todavía son:

• Motor informático dedicado a la IA: La solución permite un alto grado de eficiencia computacional, lo que los hace expertos en el manejo de operaciones matriciales complejas, un tipo de cálculo que es fundamental para los algoritmos de aprendizaje profundo. Este diseño único acelera la velocidad y la eficiencia de las operaciones paralelas de IA y admite múltiples tipos de datos, incluidos FP8 y BF16;
• Aumento de memoria para requisitos de capacidad de LLM: 128 gigabytes (GB) de capacidad de memoria HBMe2, 3,7 terabytes (TB) de ancho de banda de memoria y 96 megabytes (MB) de memoria estática de acceso aleatorio (SRAM) integrada proporcionan amplia memoria para procesar grandes conjuntos de datos GenAI en menos Intel Gaudi 3, lo que es particularmente útil. para servir modelos multimodales y de lenguaje grande, lo que resulta en un mayor rendimiento de la carga de trabajo y rentabilidad del centro de datos;
• Escalado eficiente del sistema para Enterprise GenAI: Veinticuatro puertos Ethernet de 200 gigabit (Gb) están integrados en cada acelerador Intel Gaudi 3, lo que proporciona una red flexible y de estándar abierto;
• Software de industria abierta para la productividad de los desarrolladores: El software Intel Gaudi integra el marco PyTorch y ofrece modelos optimizados basados ​​en la comunidad de caras abrazadas, el marco de IA más común para los desarrolladores de GenAI en la actualidad. Esto permite a los desarrolladores de GenAI operar con un alto nivel de abstracción para facilitar el uso, la productividad y la facilidad de portabilidad de los modelos en diferentes tipos de hardware.

Lucha con AMD y NVIDIA por el mercado de la IA

El lanzamiento de Intel intensifica la disputa con otros fabricantes, como AMD e NVIDIA, este último que incluso recientemente anunció la H200, GPU dirigida al segmento HPC e Inteligencia Artificial. En AMD, a su vez, también anunció recientemente la CPU Ryzen Embedded 8000 para sistemas integrados para aplicaciones industriales. 

Actualmente, muchas herramientas de IA ya se utilizan en la industria, principalmente en el campo de la visión por computadora y el procesamiento de Big Data. Juntos, los fabricantes ya se están preparando para una nueva generación informática, donde la IA promete dominar aún más espacios en las más diversas áreas.

Disponibilidad

el acelerador Intel Gaudí 3 Estará disponible para los fabricantes de equipos originales (OEM) en el segundo trimestre de 2024 en configuraciones estándar. Entre las asociaciones destacadas se encuentran Tecnologías Dell, HPE, Lenovo y Supermicro, y las soluciones que utilizan los nuevos aceleradores llegarán al mercado en el tercer trimestre.

Vea también:

Se lanza Qualcomm RB3 Gen 2 con 10 veces más rendimiento de IA. Consulta todos los detalles del lanzamiento.

Fontes: Intel [ 1 ] [ 2 ].

Revisado por Glaucón Vital en 9 / 4 / 24.