Der Einsatz von KI-Agenten verändert sich grundlegend, sobald diese aus der Prototypenphase in den regulären Betrieb übergehen. In dieser Phase geht es nicht mehr primär darum, dass die Systeme überhaupt funktionieren, sondern sie müssen dauerhaft schnell und effizient arbeiten. Entwickler stehen vor der Aufgabe, die Leistung der Agenten unter realen Bedingungen fortlaufend aufrechtzuerhalten.
Zur Analyse und Optimierung stehen die Werkzeuge Amazon Bedrock AgentCore Observability und Amazon CloudWatch bereit. Diese Dienste ermöglichen es Teams, gezielt nach Leistungsengpässen in den Systemen zu suchen. Zudem helfen sie dabei, Speicherprobleme in lang laufenden Agenten-Sitzungen präzise zu diagnostizieren.