L’IA générative fait son entrée sur AWS grâce à la collaboration NVIDIA
L’IA générative a le vent en poupe, entraînant une demande croissante de solutions d’inférence sécurisées et performantes pour mettre à l’échelle des modèles complexes de manière efficace et rentable.
Microservices NVIDIA NIM sur AWS
Lors de sa conférence annuelle AWS re:Invent, Amazon Web Services (AWS) a annoncé une extension de sa collaboration avec NVIDIA. Les microservices NVIDIA NIM sont désormais disponibles sur les principaux services d’IA AWS, offrant une inférence plus rapide et une latence réduite pour les applications d’IA générative.
NVIDIA NIM pour les développeurs
Les microservices NVIDIA NIM sont désormais disponibles directement sur AWS Marketplace, Amazon Bedrock Marketplace et Amazon SageMaker JumpStart. Cela facilite le déploiement d’inférence optimisée par NVIDIA pour des modèles couramment utilisés.
Modèles d’IA générative sur NIM
NIM prend en charge un large éventail de modèles d’IA, notamment les modèles open source, les modèles NVIDIA AI Foundation et les modèles personnalisés. Plus de 100 microservices NIM sont disponibles sur le catalogue API de NVIDIA, y compris des modèles de pointe comme NVIDIA Nemotron-4, Llama 3.1 et Mixtral 8x7B.
SoftServe exploite NIM sur AWS
SoftServe, un prestataire de services informatiques et numériques, a développé six solutions d’IA générative entièrement déployées sur AWS et accélérées par NVIDIA NIM et les services AWS. Ces solutions couvrent divers secteurs, de la découverte de médicaments à l’assistance industrielle.
Démarrer avec NIM sur AWS
Les développeurs peuvent déployer des microservices NVIDIA NIM sur AWS en fonction de leurs besoins spécifiques. En combinant les microservices NIM avec les services AWS, les entreprises peuvent atteindre des performances d’IA élevées et bénéficier de conteneurs d’inférence optimisés par NVIDIA.
