Wir stellen vor: Amazon SageMaker Serverless Inference (Vorversion)

Amazon SageMaker Serverless Inference ist eine neue Inferenzoption, mit der Sie Machine-Learning-Modelle für Inferenz bereitstellen können, ohne die zugrunde liegende Infrastruktur konfigurieren oder verwalten zu müssen. Wählen Sie bei der Bereitstellung Ihres Machine-Learning-Modells einfach die Serverless-Option aus, und Amazon SageMaker stellt automatisch Rechenkapazität bereit, skaliert sie und schaltet sie ab, je nach Umfang der Inferenzanforderungen. Mit SageMaker Serverless Inference zahlen Sie nur für die Dauer der Ausführung des Inferenzcodes und die Menge der verarbeiteten Daten, nicht für Leerlaufzeiten.
Quelle: aws.amazon.com