Habana Labs de Intel lanza procesadores de IA de segunda generación para entrenamiento e inferencia

Habana Labs de Intel lanza procesadores de IA de segunda generación para entrenamiento e inferencia

  • Big Data
  • mayo 10, 2022
  • No Comment
  • 72
  • 10 minutes read


El procesador Habana Gaudi2 muestra el doble de rendimiento en comparación con la GPU A100 de Nvidia

Intel anunció que Habana Labs, su equipo de centro de datos enfocado en tecnologías de procesadores de aprendizaje profundo de IA, ha lanzado sus procesadores de aprendizaje profundo de segunda generación para entrenamiento e inferencia: Habana® Gaudi®2 y Habana® Greco™. Estos nuevos procesadores llenan un vacío en la industria al proporcionar a los clientes opciones de cómputo de aprendizaje profundo potentes y altamente eficientes para entrenar cargas de trabajo e implementaciones de inferencia en el centro de datos, al tiempo que reducen la barrera de entrada de IA para organizaciones de todos los tamaños.

«El lanzamiento de los nuevos procesadores de aprendizaje profundo de Habana es un excelente ejemplo de cómo Intel ejecuta su estrategia de IA para brindar a los clientes una amplia gama de opciones de solución, desde la nube hasta el perímetro, para abordar el número creciente y la complejidad de manejar la IA. cargas de trabajo”, dijo Sandra Rivera, vicepresidenta ejecutiva y gerente general de Intel Datacenter and AI Group. «Gaudi2 puede ayudar a los clientes de Intel a entrenar cargas de trabajo de aprendizaje profundo cada vez más grandes y más complejas de manera rápida y eficiente, y esperamos las eficiencias de inferencia que traerá Greco».







Los nuevos procesadores Gaudi2 y Greco están especialmente diseñados para aplicaciones de aprendizaje profundo de IA, implementados en tecnología de 7 nanómetros y fabricados en la arquitectura de alta eficiencia de Habana. Habana Labs reveló el rendimiento de rendimiento de entrenamiento de Gaudi2 para el modelo de visión artificial ResNet-50, y el modelo de procesamiento de lenguaje natural BERT ofrece el doble de rendimiento de entrenamiento que la GPU NVIDIA A100 de 80 GB.

«En comparación con la GPU A100 implementada en el mismo nodo de proceso y con aproximadamente el mismo tamaño de chip, Gaudi2 ofrece un claro rendimiento de capacitación ejecutiva, como lo demuestra la comparación de cargas de trabajo clave de manzanas con manzanas», dijo Eitan Medina, director de operaciones de Habana. laboratorios «Esta arquitectura de aceleración de aprendizaje profundo es fundamentalmente más eficiente y está respaldada por una hoja de ruta sólida».

Lo que Gaudí2 ofrece

  • Eficiencia del entrenamiento de aprendizaje profundo: El procesador Habana Gaudi2 aumenta drásticamente el rendimiento de la capacitación, basándose en la misma arquitectura Gaudi de primera generación altamente eficiente que es hasta un 40 % mejor en la nube de AWS con instancias DL1 de Amazon EC2 y en las instalaciones con el servidor de capacitación Supermicro X12 Gaudi que ofrece una buena relación calidad-precio . Con un salto de proceso de 16 nm Gaudi a 7 nm, Gaudi2 ofrece un aumento significativo en sus capacidades informáticas, de almacenamiento y de red. Gaudi2 también presenta un motor de procesamiento de medios integrado para medios comprimidos y descarga el subsistema host. Gaudi2 triplica la capacidad de almacenamiento integrada de HBM2E de 32 GB a 96 GB con un ancho de banda de 2,45 TB/s e integra 24 NIC RoCE RDMA de 100 GbE en el chip para escalar hacia arriba y hacia abajo con Ethernet estándar.
  • Beneficios del cliente: Gaudi2 ofrece a los clientes una alternativa de capacitación de aprendizaje profundo más poderosa a la aceleración basada en GPU existente, lo que significa que pueden capacitarse más y gastar menos, lo que ayuda a reducir el costo total de propiedad en la nube y el centro de datos. Diseñado para muchos tipos de modelos y aplicaciones de mercado final, los clientes pueden beneficiarse del tiempo de capacitación más rápido de Gaudi2, lo que puede resultar en un tiempo de comercialización más rápido. Gaudi2 fue diseñado para mejorar significativamente las aplicaciones de modelado visual en vehículos autónomos, imágenes médicas y detección de defectos de fabricación, y aplicaciones de procesamiento de lenguaje natural.
  • Capacidad de red, flexibilidad y eficiencia: Habana ha hecho que sea rentable y fácil para los clientes ampliar la capacidad de formación ampliando la gama de formación a Gaudí de segunda generación. Con la integración del RoCE on Chip estándar de la industria, los clientes pueden escalar y configurar fácilmente los sistemas Gaudi2 para adaptarse a sus necesidades de clúster de aprendizaje profundo. Con la implementación del sistema en la conectividad Ethernet estándar de la industria ampliamente implementada, Gaudi2 permite a los clientes elegir entre una amplia gama de conmutadores Ethernet y dispositivos de red asociados, lo que permite ahorrar costos. Evitar las tecnologías de conectividad patentadas en el centro de datos (como las que ofrecen los competidores) es importante para los responsables de la toma de decisiones de TI que desean evitar la dependencia de un proveedor. La integración en el chip de los puertos del controlador de interfaz de red (NIC) también reduce los costos de los componentes.
  • Creación y migración de modelos simplificados: El paquete de software Habana® SynapseAI® está optimizado para el desarrollo de modelos de aprendizaje profundo y facilita la migración de modelos existentes basados ​​en GPU al hardware de la plataforma Gaudí. El software SynapseAI admite modelos de entrenamiento en Gaudi 2 y los infiere en cualquier objetivo, incluidos los procesadores Intel® Xeon®, Habana Greco o el mismo Gaudi 2. Los desarrolladores reciben documentación y herramientas, guías prácticas y un foro de soporte comunitario en el sitio Habana Developer. compatible con modelos de referencia y una hoja de ruta del modelo en Habana GitHub. Comenzar con la migración de modelos es tan fácil como agregar dos líneas de código; Para usuarios experimentados que quieran programar sus propios núcleos, Habana ofrece el conjunto completo de herramientas.

“Felicitaciones a Habana por el lanzamiento de su nuevo acelerador Gaudi2 de 7nm de alto rendimiento. Esperamos colaborar en la solución de inteligencia artificial llave en mano que consiste en nuestro dispositivo de almacenamiento DDN AI400X2 combinado con servidores de capacitación Supermicro X12 Gaudi®2 para ayudar a las organizaciones con cargas de trabajo de aprendizaje profundo grandes y complejas, con almacenamiento simple pero de alto rendimiento para desbloquear un valor comercial significativo. ”, dijo Paul Bloch, presidente y cofundador de DataDirect Networks.

Información sobre la disponibilidad de las soluciones formativas Gaudi2

Los procesadores Gaudi2 ya están disponibles para los clientes de Habana. Habana se ha asociado con Supermicro para lanzar este año el servidor de entrenamiento Supermicro X12 Gaudi2. Habana también se asoció con DDN® para ofrecer soluciones llave en mano a nivel de rack que incluyen el servidor Supermicro X12 con capacidad de almacenamiento de IA avanzada combinada con la solución de almacenamiento DDN AI400X2.

“Estamos entusiasmados de lanzar nuestro servidor de aprendizaje profundo de inteligencia artificial de próxima generación con el potente procesador Gaudi2 de 7 nm, lo que permite a nuestros clientes lograr beneficios de capacitación más rápidos y, al mismo tiempo, mantener la eficiencia y expandir la escalabilidad de la primera generación. Gaudí”, dijo Charles Liang, CEO de Supermicro.

Regístrese para recibir el boletín gratuito insideBIGDATA.

Únase a nosotros en Twitter: @InsideBigData1 – https://twitter.com/InsideBigData1



Related post

El equipo Autopilot de Tesla y Cybertruck visitan Nueva Orleans para CVPR

El equipo Autopilot de Tesla y Cybertruck visitan Nueva…

El equipo de piloto automático de Tesla visitó recientemente Nueva Orleans para la Conferencia sobre visión artificial y reconocimiento de patrones…
El programa interactivo de los científicos informáticos ayuda a planificar el movimiento para entornos con obstáculos – ScienceDaily

El programa interactivo de los científicos informáticos ayuda a…

Al igual que nosotros, los robots no pueden ver a través de las paredes. A veces necesitan un poco de ayuda…
Toma lecciones en realidad virtual con Immerse, una aplicación de voz para Quest 2

Toma lecciones en realidad virtual con Immerse, una aplicación…

En el metaverso, imagínese llegando tarde a la escuela. Bucear es una plataforma educativa de metaverso desarrollada en colaboración con los…

Leave a Reply

Tu dirección de correo electrónico no será publicada.