Para los científicos de datos, los investigadores y los desarrolladores que necesiten acelerar las aplicaciones de aprendizaje automático, las instancias P3 de Amazon EC2 son las más rápidas en la nube para el entrenamiento de aprendizaje automático. Las instancias P3 de Amazon EC2 incluyen ocho GPU NVIDIA V100 Tensor Core de última generación y ofrecen hasta un petaflop de rendimiento de precisión combinada para agilizar significativamente las cargas de trabajo de aprendizaje automático. El modelo de capacitación más rápida puede permitir que los científicos de datos y los ingenieros de aprendizaje automático iteren más rápido, capaciten más modelos e incrementen la precisión.

Una de las instancias de GPU más potentes en la nube, combinada con planes de precios flexibles, da como resultado una solución excepcionalmente rentable para el entrenamiento de aprendizaje automático. Al igual que sucede con las instancias Amazon EC2 en general, las instancias P3 están disponibles como instancias bajo demanda, reservadas o spot. Las instancias de spot aprovechan la capacidad no utilizada de instancias EC2 y pueden reducir significativamente los costos de Amazon EC2 con un descuento de hasta el 70 % sobre los precios bajo demanda.

A diferencia de los sistemas en las instalaciones, ejecutar tareas de informática de alto rendimiento en las instancias P3 de Amazon EC2 ofrece una capacidad prácticamente ilimitada para la escalabilidad horizontal de su infraestructura y la flexibilidad para cambiar los recursos con facilidad tan a menudo como lo requiera su carga de trabajo. Puede configurar sus recursos para cumplir con las demandas de su aplicación, lanzar un clúster de informática de alto rendimiento en cuestión de minutos y pagar solo por lo que usa.

Utilice imágenes de Docker preempaquetadas para implementar entornos de aprendizaje profundo en cuestión de minutos. Las imágenes contienen las herramientas y las bibliotecas de marcos de aprendizaje profundo (actualmente, TensorFlow y Apache MXNet) necesarias. Además, se sometieron a pruebas integrales. Puede añadir fácilmente bibliotecas y herramientas propias por encima de dichas imágenes para lograr un mayor nivel de control en las tareas de monitorización, conformidad y procesamiento de datos. Además, las instancias P3 de Amazon EC2 trabajan conjunta y continuamente con Amazon SageMaker para ofrecerle una plataforma de aprendizaje automático completa, eficiente e intuitiva. Amazon SageMaker es una plataforma de aprendizaje automático completamente administrada que le permite crear, entrenar e implementar modelos de aprendizaje automático rápida y fácilmente. Además, las instancias P3 de Amazon EC2 pueden integrarse con las imágenes de máquina de Amazon (AMI) de AWS Deep Learning que están preinstaladas con marcos de aprendizaje profundo populares. De este modo, resulta más rápido y fácil comenzar con el entrenamiento y la inferencia del aprendizaje automático.

Amazon SageMaker facilita la creación, el entrenamiento y la implementación de modelos de aprendizaje automático y su preparación para el entrenamiento. Proporciona todo lo necesario para conectarse rápidamente a los datos de entrenamiento y para seleccionar y optimizar el mejor algoritmo y marco de trabajo para la aplicación. Amazon SageMaker incluye blocs de notas de Jupyter hospedados que facilitan el análisis y la visualización de los datos de entrenamiento almacenados en Amazon S3.  También puede usar una instancia de bloc de notas para escribir el código a los fines de crear trabajos de entrenamiento de modelos, implementar modelos para el alojamiento de Amazon SageMaker y evaluar o validar sus modelos.

Puede comenzar a entrenar su modelo con un solo clic en la consola o con una llamada a la API. Amazon SageMaker viene preconfigurado con las versiones más recientes de TensorFlow y Apache MXNet, y con compatibilidad para bibliotecas CUDA9 a los fines de lograr un nivel de rendimiento óptimo con las GPU NVIDIA. Además, la optimización de los hiperparámetros se puede adaptar automáticamente a su modelo al ajustar de manera inteligente diferentes combinaciones de parámetros de modelo para alcanzar rápidamente las predicciones más precisas. Para necesidades de mayor escala, puede escalar dieces de instancias para apoyar la creación de un modelo más rápido.

Después del entrenamiento, puede usar un solo clic para implementar su modelo en las instancias Amazon EC2 de escalado automático en varias zonas de disponibilidad. En producción, Amazon SageMaker administra la infraestructura informática por usted para realizar comprobaciones de estado, implementar parches de seguridad y realizar otras tareas de mantenimientos de rutina, todo con registro y monitoreo de Amazon CloudWatch integrados.

Las instancias P3dn.24xlarge de Amazon EC2 son el tamaño de instancia P3 más rápido, potente y grande disponible. Cuentan con una capacidad de rendimiento de redes de hasta 100 Gbps, 8 GPU NVIDIA® V100 Tensor Core con 32 GiB de memoria cada una, 96 CPU virtuales escalables Intel® Xeon® Scalable (Skylake) y 1,8 TB de almacenamiento SSD local basado en NVMe. La mayor agilidad de redes, los procesadores nuevos, la duplicación de la memoria para GPU y las vCPU adicionales permiten a los desarrolladores disminuir el tiempo necesario para entrenar sus modelos de ML o ejecutar más simulaciones de informática de alto rendimiento mediante el escalado horizontal de sus trabajos en varias instancias (p. ej., 16, 32 o 64 instancias). Los modelos de aprendizaje automático requieren una gran cantidad de datos para el entrenamiento y, además de aumentar el rendimiento de la transmisión de datos entre instancias, el rendimiento de red adicional de las instancias P3dn.24xlarge también se puede utilizar para acelerar el acceso a grandes cantidades de datos de entrenamiento mediante la conexión a Simple Storage Service (Amazon S3) o a soluciones de sistemas de archivos compartidos, como Amazon EFS.

Con un rendimiento de redes de 100 Gbps, los desarrolladores pueden utilizar eficientemente un gran número de instancias P3dn.24xlarge para el entrenamiento distribuido y reducir de manera significativa el tiempo de entrenamiento de sus modelos. Las 96 vCPU de los procesadores Intel Skylake personalizados para AWS con instrucciones AVX-512 que funcionan a 2,5 GHz ayudan a optimizar el preprocesamiento de datos. Además, las instancias P3dn.24xlarge usan el AWS Nitro System, una combinación de hardware dedicado e hipervisor ligero que proporciona prácticamente todos los recursos de computación y de memoria del hardware del host a sus instancias. Las instancias P3dn.24xlarge también admiten Elastic Fabric Adapter que permite que las aplicaciones de ML que usan NVIDIA Collective Communications Library (NCCL) escalen a miles de GPU.

La red mejorada con la última versión de Elastic Network Adapter con hasta 100 Gbps de ancho de banda de red agregado se puede utilizar no solo para compartir datos en varias instancias P3dn.24xlarge, sino también para el acceso a datos de alto rendimiento a través de Amazon S3 o una solución de sistemas de archivos compartidos como Amazon EFS. El acceso a datos de alto rendimiento es esencial para optimizar la utilización de las GPU y obtener el máximo rendimiento de las instancias de computación.

Las instancias P3dn.24xlarge ofrecen las GPU NVIDIA V100 Tensor Core con 32 GiB de memoria que proporcionan la flexibilidad necesaria para entrenar modelos de machine learning más avanzados y grandes, así como para procesar lotes de datos más grandes, como imágenes 4K para sistemas de clasificación de imágenes y detección de objetos.