Les avantages de SageMaker Edge
Fonctionnalités d’Amazon SageMaker Edge
Les fonctionnalités de périphérie d’Amazon SageMaker vous permettent d’optimiser, de sécuriser, de surveiller et de gérer les modèles de machine learning sur des flottes d’appareils de périphérie.
Création de modèles
Création et affinage de modèles
L'agent SageMaker Edge vous permet de collecter des données et des métadonnées en fonction de déclencheurs que vous définissez, afin de pouvoir reformer vos modèles en utilisant des données du monde réel ou d'en créer. Par ailleurs, ces données peuvent être utilisées pour mener votre propre analyse, par exemple l'analyse de la dérive de modèles.
Choix de méthodes de déploiement
Nous offrons trois options de déploiement. GGv2 (~ taille 100 Mo) est un mécanisme de déploiement AWS IoT entièrement intégré. Nous proposons aux clients disposant d’un appareil à capacité limitée un mécanisme de déploiement intégré plus petit dans les capacités SageMaker Edge. Quant à ceux qui ont un mécanisme de déploiement préféré, nous proposons des mécanismes tiers qui peuvent être intégrés à notre flux d'utilisateurs.
Optimiser des modèles de ML
Le compilateur Amazon SageMaker Edge optimise automatiquement les modèles de ML en vue de leur déploiement sur de nombreux appareils périphériques. SageMaker Edge Compiler compile votre modèle entraîné en un format exécutable qui applique des optimisations de performances spécifiques susceptibles de multiplier par 25 la vitesse d'exécution de votre modèle sur le matériel cible.
Mise à l’échelle de modèles
Tableau de bord de surveillance des appareils
Amazon SageMaker Edge Manager fournit un tableau de bord qui vous permet de comprendre les performances des modèles exécutés sur chaque appareil de votre flotte. Le tableau de bord vous aide à comprendre visuellement l'état général de la flotte et à identifier les modèles problématiques via un tableau de bord dans la console. Lorsqu'un problème est identifié, vous pouvez collecter des données de modèle, réétiqueter les données, réentraîner et redéployer le modèle.
Prise en charge de la sécurité et de la conformité
Amazon SageMaker Edge intègre le modèle de ML en le signant avec des clés fournies par le client ou des clés AWS. L'agent Edge authentifie la signature et vérifie également que le modèle n'a pas été altéré avant de le charger dans l'exécution.
Clients
Lenovo™, le premier fabricant mondial de PC, a récemment intégré Amazon SageMaker à sa dernière offre de maintenance prédictive.
« Le nouveau SageMaker Edge Manager aidera à éliminer l'effort manuel nécessaire pour optimiser, surveiller et améliorer continuellement les modèles après le déploiement. Avec lui, nous prévoyons que nos modèles s'exécuteront plus rapidement et consommeront moins de mémoire qu'avec d'autres plateformes comparables de machine learning. SageMaker Edge Manager nous permet d'échantillonner automatiquement les données à la périphérie, de les envoyer en toute sécurité vers le cloud et de surveiller en permanence la qualité de chaque modèle sur chaque appareil après le déploiement. Cela nous permet de surveiller, d'améliorer et de mettre à jour à distance les modèles de nos appareils de périphérie dans le monde entier, tout en faisant gagner du temps et en réduisant les coûts pour nous et nos clients. »
Igor Bergman, vice-président de Lenovo, Cloud et logiciels des PC et des appareils intelligents.
Basler AG est l'un des principaux fabricants d'appareils photo numériques et d'accessoires de haute qualité pour l'industrie, la médecine, les transports et divers autres marchés.
Basler AG fournit des solutions d'aide visuelle par ordinateur dans divers industries, y compris des applications de fabrication, médicales et de vente au détail. Nous sommes heureux d'élargir notre offre logicielle grâce aux nouvelles fonctionnalités rendues possibles par Amazon SageMaker Edge Manager. Pour que nos solutions de machine learning soient performantes et fiables, nous avons besoin d'un outil MLOps évolutif de la périphérie au cloud qui nous permet de surveiller, de maintenir et d'améliorer en permanence les modèles de machine learning sur les appareils de périphérie. SageMaker Edge Manager nous permet d'échantillonner automatiquement les données à la périphérie, de les envoyer en toute sécurité vers le cloud et de surveiller en permanence la qualité de chaque modèle sur chaque appareil après le déploiement. Cela nous permet de surveiller, d'améliorer et de mettre à jour à distance les modèles de nos appareils de périphérie dans le monde entier, tout en faisant gagner du temps et en réduisant les coûts pour nous et nos clients. »
Mark Hebbel, responsable des solutions logicielles chez Basler.