Amazon Web Services erweitert die Funktionalität für Machine-Learning-Endpunkte. Wie das Unternehmen mitteilt, unterstützt die Plattform nun eine gezielte Aufteilung von Beschleunigerkarten. Durch diese Neuerung wird ein einzelner Grafikprozessor in hardwareisolierte Segmente gegliedert, wodurch Sie entweder verschiedene Modelle parallel oder jeweils passende Teilbereiche modernerer Chipsätze ansprechen können.
Die technische Umsetzung und Platzierung erfolgt über zwei optionale Schnittstellen-Felder, die eine Zuordnung von genau einem Modell je Partition ermöglichen. Zudem verweist der Anbieter auf interne Leistungsmessungen, bei denen die partitionierten Einheiten mit einer vollständigen älteren GPU verglichen wurden. Damit zielt das Verfahren darauf ab, die Auslastung der Hardware-Ressourcen bei der Bereitstellung von Modellen zu optimieren.