La mission d’Anthropic est de développer une intelligence artificielle sûre et performante. Une partie essentielle de ce processus consiste à préparer les énormes jeux de données nécessaires à l’entraînement de nos modèles de langage dernier cri, une tâche qui nécessite des capacités de stockage et de calcul hautes performances. Nous avons découvert que les instances Amazon EC2 I4i, grâce à leur combinaison de stockage NVMe local (jusqu’à 30 To de Nitro SSD) et de puissance de calcul, sont parfaitement adaptées à la gestion de nos charges de travail de préparation des données et d’expérimentation. Les performances d’E/S élevées, la sécurité et la capacité de mise à l’échelle d’I4i nous ont permis d’itérer plus rapidement et plus efficacement, accélérant ainsi nos progrès de recherche et développement en matière d’IA.

Indeed intègre en permanence de nombreuses innovations et solutions les plus récentes d'AWS. Indeed utilise fréquemment des bases de données distribuées, et les temps de numérisation de ces bases de données sont extrêmement importants. Indeed a migré des instances Amazon EC2 r6i.4xlarge vers des instances Amazon EC2 i4i.32xlarge. En migrant ses instances, Indeed a enregistré un gain de performance de 97 %, le temps d'analyse passant d'un maximum de 24,25 secondes à 0,65 seconde. Indeed attend avec impatience les futures innovations d'AWS, grâce à un partenariat continu et à une confiance dans les services d'AWS pour les opérations d'Indeed.

Nous sommes ravis des performances des instances Amazon EC2 I4i qui utilisent les nouveaux AWS Nitro SSD à faible latence. Nos tests montrent que les instances I4i fournissent un débit de requêtes étonnant 2,9 fois supérieur à celui des instances I3 de la génération précédente. Nous avons également effectué des tests avec différents mélanges de lecture et d'écriture et avons observé des performances de mise à l'échelle constantes et linéaires.

Lorsque nous avons testé les instances I4i, nous avons observé une augmentation du débit par vCPU jusqu'à 2,7 fois supérieure à celle des instances I3 pour les lectures. Avec un mélange homogène de lectures et d'écritures, nous avons observé un débit 2,2 fois plus élevé par vCPU, avec une réduction de 40 % de la latence moyenne par rapport aux instances I3. Nous sommes ravis des performances et de la valeur incroyables que ces nouvelles instances apporteront à nos clients à l'avenir.

Les instances I4i ont démontré des performances supérieures à celles des instances I3 de la génération précédente, avec une amélioration de 30 % sur l'ensemble des opérations. Nous sommes impatients d'utiliser I4i pour améliorer encore les performances de nos clients.

Aerospike, qui s’exécute sur des instances EC2 I3en, fournit déjà des performances en temps réel de pointe pour les charges de travail de lecture/écriture. Avec les instances EC2 I4i, nous avons observé une augmentation de 70 % des performances rien que pour les charges de travail de lecture. Ceci, combiné à la capacité éprouvée d'Aerospike à fournir un haut débit d'écritures, signifie qu'Aerospike s'exécutant sur des instances I4i offrira le meilleur rapport prix/performances du secteur pour un accès en temps réel à des pétaoctets de données exécutées sur EC2.