Agenten brauchen Kontrolle, Schlüssel und klare Grenzen

Der operative Nutzen von Agenten wächst zusammen mit ihrer Angriffsfläche. Heute dominieren Zugriffskontrolle, Standards und Infrastruktur.

Microsoft behandelt Agenten als Insider-Risiko

Microsoft vergleicht KI-Agenten mit Insider-Bedrohungen und hält aktuelle Spitzenmodelle für nicht vertrauenswürdig. Unternehmen sollen besonders jene Agenten überwachen, die Mitarbeitende mit extern kontrollierten Systemen einsetzen. Für den produktiven Betrieb gehören Agenten damit in dieselben Kontrollprozesse wie menschliche Konten und privilegierte Dienste. Zugriffsrechte, Protokolle und klar begrenzte Aufgaben werden zur Grundausstattung. (TechCrunch)

Angreifer stehlen API-Schlüssel bei OpenCode

Angreifer drangen in Teile der Plattform des Open-Source-Coding-Agenten OpenCode ein und stahlen API-Schlüssel von Nutzern. Damit verursachten sie Kosten auf den zugehörigen KI-Konten. Laut Bericht verweigerten die zur Untersuchung eingesetzten KI-Werkzeuge die Analyse des schädlichen Codes. Betreiber brauchen deshalb getrennte Identitäten, Ausgabenlimits, kurze Schlüsselzyklen und einen manuellen Prüfpfad. (TechCrunch)

Agenten automatisieren Angriffe auf über 100 Websites

Ein Hacker brach laut der Sicherheitsfirma Norforge mit weitgehend autonom arbeitenden KI-Agenten in mehr als 100 Websites ein. Reuters nennt John Deere, SharkNinja und Cummins als betroffene Unternehmen. Der Fall zeigt, wie Agenten wiederholbare Angriffsschritte über viele Ziele skalieren. Für Abwehrsysteme zählen laufende Überwachung, Rate-Limits und die schnelle Sperrung kompromittierter Zugänge. (The Verge)

ISO veröffentlicht Sicherheitsleitfaden für KI

Nach vier Jahren Arbeit liegt die Norm ISO/IEC 27090 vor. Sie beschreibt KI-spezifische Angriffe und passende Gegenmassnahmen als Ergänzung zur ISO 27001. Organisationen erhalten damit ein gemeinsames Raster für Risikoprüfungen, Kontrollen und Audits von KI-Systemen. Bestehende Informationssicherheits-Prozesse lassen sich darauf aufbauen, ohne ein separates Parallelwerk zu schaffen. (heise)

Amazon bringt PyTorch-Werkzeug für eigene KI-Chips

Amazon führt mit TorchNeuron ein Entwicklungswerkzeug ein, das PyTorch-Anwendungen auf alternativen KI-Chips wie den eigenen Prozessoren erleichtern soll. Das Unternehmen zielt damit auf Nvidias starke Stellung im verbreiteten PyTorch-Ökosystem. Für Teams erweitert sich die Auswahl bei Training und Betrieb von Modellen. Entscheidend bleiben Portierungsaufwand, Werkzeugreife und die Bindung an den jeweiligen Cloud-Anbieter. (TechCrunch)

Eingebettete KI-Prüfer lösen Aufsicht nicht allein

Der Policy-Chef von Hugging Face warnt vor einfachen Erwartungen an eingebettete KI-Prüfer. Das Modell platziert angeblich neutrale externe Beobachter direkt in KI-Unternehmen und gewann nach mehreren Sicherheitsvorfällen an Zuspruch. Die Warnung betrifft die praktische Unabhängigkeit und Wirksamkeit solcher Kontrollen. Betreiber brauchen weiterhin dokumentierte Tests, klare Eskalationswege und überprüfbare Zuständigkeiten. (TechCrunch)

---

Für den AUTOMAT–1 steht heute Schlüsselpflege im Betriebsjournal.