NVIDIA GTC 2020: Conoce la nueva arquitectura Ampere e innovaciones en Inteligencia Artificial

"Antes de comenzar, quería disculparme por mi horrible cocina". Así es como el fundador y CEO de NVIDIA Jensen Huang comenzó su presentación para el Conferencia de tecnología GPU (GTC) 2020, en el que anunció la nueva arquitectura Amperio da GPU A100 y noticias relacionadas con plataformas de Inteligencia Artificial (IA), Deep Learning, vehículos autónomos, robótica y gráficos profesionales (no para juegos).

El discurso del ejecutivo fue grabado en su casa, en California (EEUU), y dividido en nueve partes, todas disponibles en canal oficial de YouTube de NVIDIA🇧🇷 En un principio, la presentación del ejecutivo estaba prevista para finales de marzo, integrando los atractivos de la NVIDIA GTC 2020, pero tuvo que posponerse por las medidas de seguridad del COVID-19.

El anuncio de la nueva arquitectura y los nuevos productos y sistemas marca el cambio de visión de la compañía para la próxima generación de computación. Como señaló el propio ejecutivo en su presentación, para el NVIDIA el futuro está en una nueva clase poderosa y flexible de centros de datos. También anunció la compra de la empresa. Mellanox, líder mundial en redes de alto rendimiento.

En su presentación, Huang destacó las innovaciones de NVIDIA en computación de alto rendimiento, ciencia de datos, máquinas autónomas y atención médica. Todo ello, en un principio, se utilizará para el desarrollo científico.

NVIDIA GTC 2020: Lucha contra el COVID-19

El primer punto que exploró Huang en su presentación fue cómo las tecnologías (principalmente inteligencia artificial) de NVIDIA ha ayudado en la lucha contra la pandemia nuevo coronavirus.

El ejecutivo explicó que los investigadores y científicos están utilizando GPU e IA para tratar, mitigar, contener y monitorear la pandemia. Citó los siguientes ejemplos:

• Oxford Nanopore Technologies secuenció el nuevo genoma del coronavirus en solo siete horas;
• Plotly está monitoreando la tasa de infección en tiempo real;
• El Laboratorio Nacional de Oak Ridge y el Instituto de Investigación Scripps examinaron mil millones de posibles combinaciones de fármacos en un día;
• Structura Biotechnology, la Universidad de Texas en Austin y los Institutos Nacionales de Salud reconstruyeron la estructura 3D de la nueva proteína del coronavirus;
• El Laboratorio Nacional Argonne del Departamento de Energía de EE. UU. está utilizando el sistema DGX A100 para estudiar la COVID-19 de una manera más profunda y detallada.

“Investigadores y científicos que aplican tecnologías de NVIDIA la informática de alto rendimiento para salvar vidas es un ejemplo perfecto del propósito de nuestra empresa. Desarrollamos computadoras para resolver problemas que las computadoras normales no pueden”.

Jensen Huang, fundador y director ejecutivo de NVIDIA

El desarrollo científico en Brasil también puede aprovechar las nuevas tecnologías de NVIDIA🇧🇷 “La investigación brasileña podría beneficiarse mucho de este sistema para optimizar el tiempo de los científicos e investigadores en la búsqueda de una vacuna para COVID-19 o incluso otras enfermedades, como el Dengue y el Zika", explicó Mario Aguiar, gerente senior de NVIDIA Empresa a América Latina.

Huang mostró un video, producido por la empresa, que ilustra varios ejemplos de cómo la IA está mejorando nuestra calidad de vida y ayudando al progreso de la ciencia. 

Quien narró el video fue el Aiva, una inteligencia artificial desarrollada por NVIDIA🇧🇷 Esa IA también compuso la banda sonora del clip, que fue reproducido por la Orquesta Sinfónica de Londres. Compruébalo a continuación:

Ahora profundicemos en las nuevas tecnologías anunciadas por el CEO en NVIDIA GTC 2020.

Arquitectura de amperios: GPU A100

A Nvidia A100 es la primera GPU basada en la arquitectura Amperio🇧🇷 Esta nueva arquitectura está optimizada para la próxima generación de computación, uniendo capacitación, inferencia y análisis de datos en una plataforma de IA.

Según el director general, el desempeño de GPU A100 es hasta 20 veces mejor en comparación con las otras ocho generaciones de GPU de la compañía. También admite análisis de datos, computación científica y gráficos en la nube. El ejecutivo señaló cinco características principales de la nueva GPU:

• Más de 54 mil millones de transistores (la mayor capacidad de un procesador de siete nanómetros en el mundo);
• 3.ª generación de Tensor Cores (procesadores dedicados a la IA) con TF32, más flexible y fácil de usar, que acelera la precisión de la IA;
• Aceleración estructural, a través de una nueva técnica que aumenta el rendimiento de la IA;
• GPU Multi-Instance (MIG), que permite una A100 dividirse en hasta siete GPU independientes, cada una con sus propias capacidades;
• Tecnología NVLink de tercera generación, que duplica la conectividad de alta velocidad entre las GPU (esto permite que los servidores A3 funcionen como una GPU gigante).

El rendimiento de la nueva arquitectura Ampere es seis veces mejor que la arquitectura Volta para entrenamiento de IA y siete veces mejor por inferencia. Aún según Huang, 18 empresas están incorporando la nueva GPU. Estos incluyen Alibaba Cloud, Amazon Web Services, Baidu Cloud, Cisco, Dell Technologies, Google Cloud, Hewlett Packard Enterprise (HP), Microsoft Azure y Oracle.

Para el ejecutivo, la nueva GPU de NVIDIA permitirá mejorar tres puntos que actualmente considera críticos: la gestión de big data, la creación de sistemas de recomendación y el desarrollo de IA que hablen e interactúen en tiempo real.

NVIDIA DGX A100: el sistema de IA más avanzado del mundo

O DGX A100 es la tercera generación de sistema dgx, inteligencia artificial, NVIDIA🇧🇷 Como su nombre ya indica, el sistema se basa en GPU A100🇧🇷 Este es el primer servidor del mundo con cinco petaflops de rendimiento de IA. Y cada DGX A100 se puede configurar de uno a 56 GPU independientes para ofrecer una infraestructura de centro de datos flexible y definida por software.

Este nuevo sistema consolida el poder y los recursos de un centro de datos completo en una sola plataforma por primera vez. La ventaja, según explicó el ejecutivo, es la siguiente: un centro de datos operando con un rack de cinco sistemas DGX A100, que consume 28 kilovatios de energía y cuesta $ 1 millón, tiene la misma capacidad que un centro de datos con 50 sistemas DGX-1 e CPUs 600, consumiendo 630 kilovatios y costando más de $11 millones. En otras palabras, el rendimiento maximizado permite a las empresas obtener un retorno más rápido de sus inversiones en infraestructura de IA.

Otra característica del sistema DGX A100 es integrar ocho de los nuevos GPU Tensor Core A100, que proporciona 320 GB de memoria para entrenar conjuntos más grandes de datos de IA e interconexiones NVIDIA Mellanox HDR 200Gbps alta velocidad.

"Un NVIDIA DGX-A100 es el primer sistema de IA creado para el flujo de trabajo de aprendizaje automático de extremo a extremo, desde el análisis de datos hasta el entrenamiento y la inferencia. Y con el gran salto en el rendimiento del nuevo DGX, los ingenieros de aprendizaje automático pueden adelantarse al tamaño exponencialmente creciente de los modelos y datos de IA”.

Jensen Huang, fundador y director ejecutivo de NVIDIA

Además, muchas cargas de trabajo se pueden acelerar dividiendo el DGX A100 usando el recurso GPU de múltiples instancias🇧🇷 Esto permite a las empresas aprovechar la potencia informática y los recursos para acelerar las cargas de trabajo, incluido el análisis de datos, la formación y la inferencia. Todo esto en una sola plataforma.

El CEO también anunció la próxima generación de SuperPOD DGX, con números aún más impresionantes. El clúster trabaja con 140 sistemas DGX A100 e interconexiones desde Mellanox, alcanzando 700 petaflops de la potencia informática de la IA.

Utilizando esta tecnología, el NVIDIA desarrolló su propia supercomputadora de última generación para la investigación interna en áreas como la IA conversacional, la genómica y la conducción autónoma. con capacidad para 4,6 exaflops de rendimiento, la supercomputadora de IA de NVIDIA es uno de los más rápidos del mundo.

El nivel de rendimiento alcanzado por la supercomputadora, hasta entonces, requería miles de servidores y meses (o incluso años) de planificación y adquisición de componentes especializados. La arquitectura Amperio y rendimiento del sistema DGX A100 permitió el NVIDIA construir la supercomputadora en solo un mes.

Para ayudar a los clientes a construir sus propios centros de datos con tecnología A100 NVIDIA ha lanzado una Arquitectura de referencia SuperPOD DGX🇧🇷 Esta arquitectura proporciona a los clientes un esquema que sigue los mismos principios de diseño y mejores prácticas que el NVIDIA utilizado para construir su clúster de supercomputación de IA basado en DGX A100.

Los sistemas NVIDIA DGX-A100 están disponibles para ordenar en ecosistema de revendedores NVIDIA (precio en demanda). Los proveedores de tecnología DDN Storage, Dell Technologies, IBM, NetApp, Pure Storage y Vast planean integrar DGX A100 a su oferta basada en las arquitecturas de referencia de POD DGX e SuperPOD DGX da NVIDIA.

Merlin: la nueva aplicación de NVIDIA para sistemas de recomendación

Al igual que el universo, Internet está en constante expansión. La experiencia de usuario en él es cada vez más personalizada, gracias a la sistemas de recomendación que funcionan a través de IA y aprendizaje automático🇧🇷 Y las GPU de NVIDIA tienen una larga historia de uso para mejorar la capacidad de aprendizaje de las redes neuronales de IA. 

Después de evaluar este contexto y esta demanda, el NVIDIA lanzó el Esmerejón, una aplicación de GPU que promete explorar la nueva generación de sistemas de recomendación. O Esmerejón también pretende hacer más accesible para las empresas el desarrollo de sistemas de recomendación. 

La plataforma aprovecha las capacidades de la arquitectura. Amperio da GPU A100, que permite a las empresas desarrollar sus sistemas de recomendación de forma más rápida y rentable.

pero que son sistemas de recomendación, ¿en el final? 

No hace mucho tiempo, necesitabas querer comprar o suscribirte a algo y luego encontrar anuncios y ofertas en Internet. Hoy en día, estos anuncios saltan frente a usted mientras navega por sitios web y aplicaciones, ya sea en su teléfono inteligente o computadora. 

Estos anuncios le llegan a través del sistemas de recomendación, cuya IA evalúa su historial de búsqueda y navegación para reenviar ofertas personalizadas a lo que (tal vez) desee. Esas sugerencias de qué ver o escuchar a continuación en las plataformas de transmisión también funcionan en función de los sistemas de recomendación.

Estos sistemas están en auge debido a la explosión de opciones de todo tipo de productos y servicios que existen en internet. Es humanamente imposible explorar todas las opciones, por lo que los sistemas de recomendación intentan ayudarte a filtrar este universo de opciones posibles.

La carrera que se está dando en este momento es desarrollar sistemas de recomendación cada vez más precisos, que den sugerencias más personalizadas y coherentes que sean capaces de satisfacer (o despertar) los deseos del usuario.

Jarvis: una plataforma para crear IA conversacionales

A descarga de la oficina en casa, la telemedicina y el aprendizaje remoto también han aumentado la demanda de servicios de IA aún más personalizados a nivel conversacional. Estos servicios van desde la atención al cliente en tiempo real hasta la transcripción y resumen de reuniones y videollamadas para garantizar que las personas se mantengan productivas y conectadas.

O Jarvis es una aplicación de GPU que permite a las empresas utilizar datos de video y voz para desarrollar servicios de IA conversacionales personalizados. Esto asegura un servicio aún más personalizado para los clientes.

Entre las empresas que ya están utilizando la plataforma se encuentran: 

• Voca, con una IA que da soporte a los clientes en un call center;
• Kensho, con una IA que transcribe automáticamente el habla para finanzas y negocios;
• Square, con una IA que funciona como asistente virtual para que los clientes reserven citas.

"El nvidia jarvis puede ayudar en el cuidado de la salud, los servicios financieros, la educación y la industria al automatizar el sistema de atención de manera rápida y precisa”.

Jensen Huang, fundador y director ejecutivo de NVIDIA

Aplicaciones desarrolladas en la plataforma Jarvis aprovechará las innovaciones del nuevo Núcleo tensor GPU A100 para computación de IA y las últimas optimizaciones de IA TensorRT de NVIDIA por inferencia. Además, la plataforma ofrece recursos para que los desarrolladores creen aplicaciones de IA capaces de comprender terminologías únicas y específicas de la empresa.

Para desarrollar una aplicación de IA que ofrezca interacción a nivel conversacional, la empresa necesita “entrenarla” para que comprenda términos y datos relacionados con los productos que ofrece y las necesidades de sus clientes. Pero eso requiere una gran experiencia en inteligencia artificial, grandes cantidades de datos y recursos computacionales, y al menos una pieza de software para actualizar las bases de datos.

La ventaja de Jarvis es que la plataforma ofrece recursos para atender estas demandas, con modelos actualizados de deep learning para comprender el lenguaje coloquial (como NVIDIA Megatrón BERT).

A NVIDIA puso a disposición un programa de acceso a la plataforma para un número limitado de usuarios. Los desarrolladores interesados ​​en evaluar la plataforma pueden registrarse en sitio web NVIDIA.

Plataforma de accionamiento en la nueva arquitectura Ampere

Uno de los mayores desafíos de la informática actual, según Huang, son los automóviles autónomos. Y el NVIDIA seguir mejorando el De cadena, una línea de sistemas específicos para este nicho.

Ahora con la nueva arquitectura Amperio da GPU A100 NVIDIA podría ampliar las capacidades de conducción de la plataforma Conducir AGX, que ofrece un sistema ADAS 5 vatios de potencia al parabrisas, un sistema L2 + Piloto automático de 45 vatios y un sistema L5 Taxi robotizado de 800 vatios. Todo compatible con la arquitectura. Amperio y funcionamiento desde el mismo software.

La plataforma utilizará el nuevo sistema en procesador (SoC) Orin, que, incorporados a la nueva arquitectura, mejorarán la eficiencia energética. En el caso de la plataforma Conducir AGX Pegasus robotaxi, el dispositivo puede procesar hasta dos mil TOPS (billones de operaciones por segundo). Eso es seis veces más que la plataforma anterior puede procesar.

Gracias a esta expansión en la nueva arquitectura Amperio NVIDIA ahora ofrece a los fabricantes una plataforma y un software únicos que juntos hacen posible que se desarrolle e implemente una IA en cualquier vehículo.

el ecosistema Unidad NVIDIA ahora abarca automóviles, camiones, proveedores automotrices de primer nivel, servicios de movilidad de próxima generación, nuevas empresas, servicios de mapeo y simulación. Y el CEO también anunció que la plataforma agregará al “paquete” el Nvidia Drive RC, capaz de gestionar flotas enteras de vehículos autónomos.

La predicción es que los sistemas Orin SoC estarán disponibles para los fabricantes en el finales de 2022🇧🇷 La compañía cree que esto allana el camino para la próxima generación de líneas programables y definidas por software. Unidad NVIDIA AGX.

fuente: NVIDIA