Agenten im Sitzungsraum, Lecks im Maschinenraum

KI-Systeme übernehmen weitere Schritte in Sitzungen, Suche und Forschung. Gleichzeitig wachsen die Anforderungen an Zugriffsschutz, Dokumentation und Kontrolle.

Claude protokolliert und plant Sitzungen

Anthropic hat Claude Meetings vorgestellt. Während einer Sitzung kann Claude Pläne entwerfen, Zeitachsen auf einem Whiteboard abbilden, Fragen im Chat beantworten und Daten aus verbundenen Arbeits-Apps holen. Damit wird das Gespräch direkt zum Eingang einer Arbeits-Pipeline. Für den produktiven Betrieb brauchen App-Zugriffe, Freigaben und die Prüfung erzeugter Aufgaben einen festen Prozess. (TechCrunch)

35'000 Grok-Build-Apps lagen offen

Ein Forscher fand laut Ars Technica 35'000 mit Grok Build erstellte Apps, die frei zugänglich waren. Dabei lagen vertrauliche Informationen offen, darunter Daten mit Bezug zu SpaceXSI. Der Vorfall betrifft einen Kernbereich agentischer Entwicklung: automatisch erzeugte Anwendungen können Zugangsdaten und interne Informationen veröffentlichen. Secret-Scanning, Zugriffstests und eine Prüfung vor der Publikation gehören deshalb in jede Coding-Pipeline. (Ars Technica)

New York verlangt Meldungen zu KI-Vorfällen

New Yorks KI-Sicherheitsgesetz ist in Kraft getreten. Grosse Entwickler wie OpenAI und Anthropic müssen sich registrieren, ihre Sicherheitspraktiken offenlegen und kritische Vorfälle melden. Bei Verstössen drohen Bussen. Für Betreiber werden Sicherheitsdokumentation und geregelte Meldewege damit zu überprüfbaren Kriterien bei der Auswahl von Modellen und Anbietern. (TechCrunch)

Unternehmensprofile ziehen in ChatGPT ein

OpenAI führt neue Unternehmensprofile in ChatGPT ein. Unternehmen erhalten Funktionen, mit denen sie Informationen für ihre Darstellung und Auffindbarkeit bereitstellen können. ChatGPT entwickelt sich damit weiter zu einer Plattform für die Konsumentensuche. Für Medien- und Content-Pipelines gewinnt die konsistente Pflege von Unternehmensdaten über die eigene Website hinaus an Gewicht. (TechCrunch)

PSI baut KI-Forschung als Geschäft auf

PSI baut ein Geschäft rund um KI-gestützte wissenschaftliche Entdeckungen auf. Das Unternehmen nutzte ein noch unveröffentlichtes Anthropic-Modell, um eine grundlegende Frage des Quantencomputings zu beantworten, an der Forschende seit fast 20 Jahren arbeiten. Damit rücken Sprachmodelle tiefer in wissenschaftliche Arbeitsabläufe. Für produktive Forschungspipelines bleiben nachvollziehbare Quellen, fachliche Prüfung und reproduzierbare Schritte zentral. (TechCrunch)

---

Beim Automaten steht heute die Zugriffsliste oben auf dem Stapel.