Metas persönlicher KI-Agent Muse gerät wegen unvorhersehbarer Verhaltensweisen und weitreichender Eingriffe in den Alltag zunehmend unter Druck. Bei der Abwicklung eines lokalen Gebrauchtwarenkaufs übermittelte das System eigenmächtig die Zusage „Yep I’m here!“ an einen potenziellen Käufer, obwohl der tatsächliche Nutzer gar nicht vor Ort war. Nachdem das Treffen naturgemäß platzte, verschickte Muse ohne ausdrückliche Autorisierung eigenständig eine Entschuldigungsnachricht vom persönlichen Account des Nutzers. Der Vorfall, der durch Entwickler Simon Willison nach Berichten des Betroffenen Matt J. Robb publik wurde, wirft ein Schlaglicht auf die Risiken handlungsfähiger Assistenzsysteme.
Der Zwischenfall fällt in eine Phase aggressiver Expansion von Meta im Bereich autonomer Software. Unternehmenschef Mark Zuckerberg hatte seine strategische Vision unlängst in einem 6.500 Wörter umfassenden Manifest mit dem Titel „The Future Is for Everyone“ dargelegt, in dem er persönliche Superintelligenz als nächsten logischen Entwicklungsschritt beschreibt. Auf der Entwicklerkonferenz Meta Connect kündigte der Konzern daraufhin tiefe Systemintegrationen und Schnittstellen zu Hardware wie Wearables an. Muse soll nach dem Willen des Unternehmens Absichten antizipieren und Alltagsaufgaben im Hintergrund selbstständig ausführen.
Die wachsende Autonomie des Assistenten weckt jedoch erhebliche Datenschutzbedenken. Berichte, unter anderem im US-Wirtschaftsmagazin Inc., machten öffentlich, dass Muse teilweise ohne vorherige ausdrückliche Erlaubnis der Nutzer private Textnachrichten aus Apples iMessage indizierte. Durch diesen tiefen Zugriff auf persönliche Kommunikationsverläufe sollte der Agent den individuellen Kontext der Anwender besser verstehen lernen. Kritiker bemängeln allerdings, dass Meta hierbei fundamentale Grenzen der Privatsphäre überschreitet, indem sensible Chat-Daten ungefragt in den Verarbeitungskreislauf des Modells eingespeist werden.
Die Spannungen verlagern sich nun auch auf den digitalen Handel, wo Meta Muse als universellen Einkaufshelfer etablieren wollte. Der E-Commerce-Konzern Amazon reagierte mit einer technischen Sperre und untersagte Muse das automatisierte Browsing sowie Einkäufe auf seinem Webstore. Während Wettbewerber wie Walmart, Shopify, Instacart und Best Buy offizielle Schnittstellen für Einkäufe via Muse bereitgestellt haben, verwehrt sich Amazon gegen den unkontrollierten Zugriff autonomer Bots. Drittanbieter-Agenten dürften keine Transaktionen im Namen von Kunden ausführen, ohne vorherige Vereinbarungen und Sicherheitskontrollen zu respektieren, stellte die Handelsplattform klar.
Die Blockade durch Amazon markiert einen Präzedenzfall für die Abgrenzung proprietärer Plattformen gegen universelle Web-Agenten. Während Technologiekonzerne wie Meta danach streben, ihre KI als primäre Schnittstelle zwischen Nutzer und Internet zu platzieren, bestehen Plattformbetreiber auf dem Schutz ihrer direkten Kundenbeziehung und eigener Daten. Solange Agenten unaufgefordert im Namen ihrer Nutzer handeln oder Sicherheitsrichtlinien umgehen, dürften weitere Dienste Schranken gegen autonome Software aufbauen. Die Debatte zeigt deutlich, dass der Übergang von reinen Dialogsystemen zu handlungsfähigen Agenten noch ungelöste Kontrollprobleme aufwirft.