Jede dritte Firma muss KI-Bockmist ausbügeln

„Wenn Agenten ohne angemessene Sicherheitsvorkehrungen handeln können, steigt Risiko rapide an“

Jedes dritte Unternehmen hat bereits Erfahrungen mit einer fehlerhaften Entscheidung oder Ausgabe eines KI-Agenten gemacht und entsprechende Gegenmaßnahmen ergriffen. Zu dem Ergebnis kommt ein neuer Bericht der KI-gestützten GRC-Intelligence-Plattform Optro. Die organisatorische Aufsicht und Steuerung halten mit dem riskanten Einsatz also nicht Schritt.

Problem blindes Vertrauen

„KI-Agenten in Unternehmen sind mittlerweile direkt in Arbeitsabläufe eingebettet, was konkrete geschäftliche, Compliance- und regulatorische Konsequenzen nach sich zieht“, sagt Guru Sethupathy, General Manager für KI-Governance bei Optro. Der Experte plädiert vor diesem Hintergrund für ein diszipliniertes Betriebsmodell, bei dem die Befugnisse der KI-Agenten mit der Fähigkeit des Unternehmens, diese zu steuern, im Einklang stehen.

Der Einsatz von KI-Agenten ist in vielen Unternehmen Alltag. Der Erhebung nach ermächtigen bereits 38 Prozent die KI dazu, Transaktionen zu genehmigen oder abzulehnen. 34 Prozent gestatten ihnen, Kontrollen oder Richtlinien zu ändern, und 27 Prozent erlauben Änderungen an Benutzerberechtigungen oder Zugriffsrechten. Sethupathy: „Wenn Agenten ohne angemessene Sicherheitsvorkehrungen handeln können, steigt das Risiko rapide an.“

Unbeabsichtige Zwischenfälle

Unbeabsichtige Zwischenfälle wiegen schwer. Bei 30 Prozent der Organisationen hat ein KI-Agent eine solche Aktion ausgeführt. In jedem vierten kam es zu einem Kontrollversagen im Zusammenhang mit einem Beauftragten. Und 46 Prozent der 417 Befragten aus Unternehmen mit 250 oder mehr Mitarbeitern geben an, dass Mitarbeiter tatsächlich mehr Zeit damit verbringen, KI-Ergebnisse zu überprüfen, zu validieren oder zu korrigieren.

Populäre KI-Anwendungen wie ChatGPT oder Microsoft 365 Copilot sind zwar im Büroalltag angekommen, doch ihr Potenzial bleibt in der Praxis häufig ungenutzt – womöglich auch angesichts erforderlicher Nachbesserungen durch die Mitarbeiter.

Zu dem Ergebnis kommen Forscher der Universität Paderborn. Die Experten um Simon Thanh-Nam Trang haben in elf Sparkassen die Implementierung von Arbeitsplatz-KI beleuchtet, wie pressetext berichtete

Quelle

Der Bericht wurde von der Redaktion „pressetext.com“ (Florian Fügemann) 2026 verfasst – der Artikel darf nicht ohne Genehmigung weiterverbreitet werden!