„Der Kollege ist bestochen worden“
Gestern ging es um einen Agenten, der sich allein durch fremde Infrastruktur arbeitete. Heute um den nächsten Schritt: einen Agenten, der einen anderen Agenten für sich arbeiten lässt. Dan Lisichkin von Pillar Security hat gezeigt, wie das in Googles Agent Development Kit für Python funktioniert — einem quelloffenen Baukasten für KI-Agenten mit über 90 Millionen Downloads. Das Register hat für den Vorgang den Ausdruck „agent-on-agent violence“ geprägt, was albern klingt und den Sachverhalt trotzdem präzise trifft.
Der Aufbau ist der, den viele Projekte gerade einrichten. Ein öffentlich ansprechbarer Bot sichtet eingehende Pull Requests, sortiert vor, vergibt Etiketten. Daneben arbeitet ein zweiter, deutlich mächtigerer Agent, der tatsächlich in Repositories eingreifen darf. Beide sind vernünftig konfiguriert, jeder für sich. Der Fehler entsteht dort, wo sie miteinander sprechen: Sie teilen sich unbemerkt eine Vertrauensgrenze. Was der kleine Bot dem großen weiterreicht, gilt beim großen als Anweisung des Hauses.
Der Angriff nutzt das in vier Zügen. Zuerst öffnet der Angreifer einen Pull Request mit sinnvollen Änderungen und einer versteckten Schadfunktion. Der öffentliche Bot tut, wofür er da ist, und markiert den Vorgang zur Prüfung. Dann öffnet der Angreifer einen zweiten Pull Request, der keinen Code enthält, sondern Text — eine Anweisung, formuliert für den Bot, der sie lesen wird. Der Sichtungs-Bot verarbeitet diesen Text als das, was er zu sein scheint, und reicht ihn an den privilegierten Agenten weiter. Der führt aus. Lisichkins Bemerkung dazu, dass für diesen Angriff nur Englischkenntnisse nötig seien — oder ein KI-Agent, den man den Text schreiben lässt —, ist der Satz, an dem man hängenbleibt. Es gibt keinen Exploit-Code. Es gibt keine Speicherverletzung. Es gibt einen höflich formulierten Absatz.
Googles Antwort ist das eigentlich Interessante an der Geschichte. Der Konzern hat den Befund als nicht prämienwürdig eingestuft, weil er Social Engineering erfordere: Pull Requests würden nach der Bot-Prüfung nicht automatisch zusammengeführt, es brauche noch die Handlung eines Betreuers. Das Repository wurde gehärtet, Lisichkin bekam eine Erwähnung, kein Geld.
Man muss diese Begründung zweimal lesen, um ihre Bedeutung zu erfassen. Die Verteidigungslinie lautet: Am Ende klickt ein Mensch. Es ist dieselbe Linie, mit der die gesamte Branche gerade wirbt, sie abzuschaffen. Der Sinn eines Agenten-Baukastens besteht darin, dass Vorgänge ohne menschliche Zwischenschritte durchlaufen; jede Produktankündigung dieses Jahres verspricht mehr Autonomie, weniger Bestätigungsklicks, schnellere Durchsätze. Wer beides gleichzeitig behauptet — dass Agenten Arbeit ohne Menschen erledigen und dass am kritischen Punkt schon ein Mensch aufpassen wird —, hat sich für eine bequeme Version der Wirklichkeit entschieden. In der Praxis sitzt dieser Mensch vor einem Vorgang, den zwei Bots bereits als unbedenklich vorsortiert haben, und klickt.
Lisichkins eigener Vorschlag ist unaufgeregt und richtig: Agenten brauchen eine eigene Identität. Nicht ein geteiltes Zugriffsrecht für „die Automatisierung“, sondern je Bot ein eigenes Konto mit klar umrissenen Rechten und der Möglichkeit, seine Handlungen im Nachhinein auseinanderzuhalten. Nach seiner Einschätzung wäre der größte Teil des Angriffs damit ins Leere gelaufen. Das ist keine KI-Erkenntnis, das ist Rechteverwaltung, wie man sie seit Jahrzehnten kennt — nur wird sie derzeit übersprungen, weil der Bot ja bloß ein Skript sei. Ein Skript, das englische Sätze für Befehle hält, ist aber kein Skript. Es ist ein Mitarbeiter ohne Misstrauen.
Zur Einordnung gehört, dass dieser Fall bislang eine Demonstration ist und kein bekannt gewordener Schadensfall — anders als der Ausbruch aus Teil 1, der real stattgefunden hat. Wer Beweise für laufende Angriffe dieser Art sucht, findet sie derzeit nicht, und diesen Unterschied sollte man nicht verwischen. Was sich aber nicht wegdiskutieren lässt: Der Weg ist beschrieben, der Baukasten ist neunzigmillionenfach heruntergeladen, und die Eintrittskarte kostet einen Absatz Fließtext. Wer wartet, bis der erste dokumentierte Vorfall vorliegt, verlässt sich darauf, dass niemand liest.
Die Verbindung zu gestern liegt in der Rechnung, nicht in der Technik. Dort hat der Angegriffene die Forensik bezahlt, hier zahlt der Finder mit seiner Zeit. Beide Male bleibt der, dessen Werkzeug das Problem verursacht, ohne Kosten — im ersten Fall eine Entschuldigung, im zweiten eine Erwähnung im Danke-Abschnitt. Das ist kein Zufall und keine Bosheit. Es ist die Voreinstellung, solange niemand eine Rechnung stellt.
Morgen zum Abschluss der Reihe die Gegenrichtung: Was passiert, wenn Agenten nicht angreifen, sondern die Meldewege verstopfen — mit Schwachstellen, die es gar nicht gibt.
Quelle: Pillar Security (Dan Lisichkin) via The Register, 3. August 2026
▸ KI & Macht · ▸ Security