Der Mitgründer des Hardware-Unternehmens Oxide Computer, Bryan Cantrill, hat sich mit einem ausführlichen Essay mit dem Titel "The contagion of fear" in die Debatte um existenzielle KI-Risiken eingeschaltet. Seine Veröffentlichung vom 13. September 2026 richtet sich explizit gegen den wachsenden Pessimismus in führenden KI-Laboren, insbesondere im Umfeld von Anthropic. Auslöser für Cantrills Replik war der öffentliche Rücktritt des Anthropic-Forschers Jacob Coxon am 8. September 2026, der vor einer akuten existentiellen Bedrohung durch künstliche Intelligenz gewarnt hatte. Coxon und Evan Hubinger, der leitende Forscher für Alignment-Wissenschaft bei Anthropic, bezifferten die Wahrscheinlichkeit einer Auslöschung der menschlichen Zivilisation, in der Fachwelt als p(doom) bekannt, auf über 10 Prozent noch vor dem Ende dieses Jahrzehnts.
Cantrill wirft den Wortführern der KI-Sicherheitsforschung vor, eine unbegründete und psychologisch schädliche Panik zu schüren, die den Blick auf praktische Realitäten verstelle. Anstatt rationale, ingenieurwissenschaftliche Vorsichtsmaßnahmen zu debattieren, verfalle ein einflussreicher Teil der Frontier-Labore in alarmistische Endzeitszenarien. Derartige Schätzungen über ein bevorstehendes Ende der Menschheit durch Software basierten laut Cantrill auf einer gravierenden Fehleinschätzung darüber, wie komplexe Systeme in der physischen Realität funktionieren. Die theoretische Rechenleistung von Modellen werde in den Diskursen fälschlicherweise mit einer unmittelbaren Kontrollübernahme über materielle Abläufe gleichgesetzt.
Der Kern von Cantrills Argumentation beruht auf seiner langjährigen Erfahrung in der physischen Systemtechnik, Betriebssystementwicklung und Server-Architektur. Während Algorithmen in rein digitalen Testumgebungen und standardisierten Benchmarks rasant an Fähigkeiten gewinnen, unterliegen Maschinen in der materiellen Welt völlig anderen Gesetzmäßigkeiten. Cantrill fasst diese Hürde mit der prägnanten Feststellung zusammen, dass physische Systeme und Robotik extrem träge und fehlerträchtig seien ("robots are hard"). Mechanische Komponenten unterliegen Verschleiß, reale Fertigungs- und Lieferketten sind schwerfällig, und industrielle Schnittstellen weisen eine historisch gewachsene Inkompatibilität auf.
Das populäre Bedrohungsszenario, eine überlegene Software-Intelligenz könne sich über Schnittstellen schlagartig physische Infrastrukturen aneignen, geht laut Cantrill daher an den realen Gegebenheiten völlig vorbei. Zwischen rein logischen Denkschritten eines Modells und der tatsächlichen Manipulation von Stromnetzen, Produktionsanlagen, Raffinerien oder Transportnetzen existiert eine fundamentale Barriere aus physischer Reibung. Wer behaupte, KI-Modelle könnten die Menschheit binnen weniger Jahre über bestehende Netzwerke physisch überwältigen, ignoriere die materiellen Widerstände des Maschinenbaus und die Notwendigkeit von manueller Hardware-Wartung vor Ort.
Die Auseinandersetzung markiert eine tiefe ideologische Kluft zwischen theoretischen Alignment-Forschern und praktischen Systemingenieuren im Technologiesektor. Während Labore wie Anthropic vor Gefahren durch autonome Modellentscheidungen warnen, mahnen Hardware-Entwickler eine Rückkehr zu empirischen Fakten an. Cantrill kritisiert, dass die Verbreitung von Angstneurosen nicht nur die wissenschaftliche Urteilsfähigkeit trübe, sondern auch zu falschen regulatorischen Prioritäten führe. Wer existenzielle Katastrophen heraufbeschwöre, lenke die Aufmerksamkeit von greifbaren Problemen wie Softwarequalität, Ausfallsicherheit und solider Schnittstellenarchitektur ab.
Letztlich fordert Cantrill eine Entzauberung der Debatte und ein Abrücken von spekulativer Eschatologie. Statt KI als quasi-übernatürliche Entität darzustellen, die physikalische Gesetze aushebeln könne, müsse man moderne Modelle als komplexe, aber zutiefst fehleranfällige Softwarewerkzeuge begreifen. Für die zukünftige Entwicklung brauche es weniger Endzeitrhetorik und mehr solide Ingenieursdisziplin, die sich den zähen Herausforderungen der realen Welt stellt.