Heute kündigt AWS die allgemeine Verfügbarkeit von Trn1n-Instances in Amazon Elastic Compute Cloud (Amazon EC2) an, die von AWS-Trainium-Beschleunigern betrieben werden. Auf der Grundlage der Funktionen von Trn1-Instances, die von Trainium betrieben werden, verdoppeln Trn1n-Instances die Netzwerkbandbreite auf 1.600 Gbit/s des Elastic Fabric Adapters der zweiten Generation (eFav2). Mit dieser erhöhten Bandbreite ermöglichen Trn1n-Instances eine bis zu 20 % schnellere Trainingszeit für das Training netzwerkintensiver generativer KI-Modelle wie großer Sprachmodelle (LLMs) und Mixture of Experts (MoE). Ähnlich wie Trn1-Instances ermöglichen Trn1n-Instances bei den Trainingskosten im Vergleich zu vergleichbaren Amazon-EC2-Instances Einsparungen von bis zu 50 %.
Quelle: aws.amazon.com
Für netzwerkintensive generative KI-Modelle optimierte Amazon-EC2-Trn1n-Instances sind jetzt allgemein verfügbar
Published by