Claude ist neu im Team – und hat kein Onboarding bekommen

KI-Agenten bauen in Fachabteilungen eigene Apps und überfordern die bisherigen Prüfprozesse

KI-Assistenten wie Claude bauen inzwischen Anwendungen für Menschen, die nie Software entwickelt haben. In Controlling, Vertrieb und Kundendienst entstehen so Werkzeuge, für die früher ein Entwicklungsauftrag, ein Budget und Monate Projektlaufzeit nötig gewesen wären – heute dauert es aus Sicht von Beratern oft nur Stunden. Ein Praxisbeispiel zeigt, wie daraus ein Sicherheitsproblem entsteht, obwohl niemand etwas Böses im Sinn hatte. Verantwortliche stehen vor der Frage, wie sie solche Eigenentwicklungen prüfen, ohne die Initiative ihrer Mitarbeiter auszubremsen.

Ein neuer Kollege, der in mehreren Abteilungen gleichzeitig arbeitet

In vielen Unternehmen in der DACH-Region gehört seit kurzem ein zusätzliches Teammitglied dazu. Es ist außergewöhnlich umtriebig, arbeitet parallel in mehreren Teams und Abteilungen und hört je nach Stockwerk auf einen anderen Namen. Meistens ist es Claude, manchmal Codex, in einem begleiteten Team hieß der Neuzugang Hermes. Begegnet sind die Autoren dieser Beobachtung auf Fluren, in Stand-ups und in der Kaffeeküche: „Ich habe mit Claude mein Excel angepasst.„ „Codex hat mir eine neue Oberfläche für meine Access-Datenbank gebaut.„ „Hermes organisiert jetzt alle meine Kalendereinträge automatisch.„ Das sind keine Zitate aus einer Studie. Es sind Sätze, die die Autoren seit Wochen in Projekten und Langzeitmandaten hören, von Menschen aus Controlling, Verkauf und Kundendienst, nicht aus der IT.

Claude steht dabei nur als ein Beispiel. Das von Anthropic entwickelte Modell basiert auf einem Large Language Model (LLM) und kann längst mehr als Texte erzeugen: Es entwickelt Anwendungen, automatisiert Abläufe und arbeitet mit anderen Werkzeugen zusammen. Damit wird die eigene Entwicklung von Anwendungen auch für Menschen möglich, die bisher weder Software geschrieben noch Prozesse automatisiert haben. Was früher einen Entwicklungsauftrag, ein Budget oder Monate Projektlaufzeit gebraucht hätte, entsteht mit AI-Coding-Tools und Vibe Coding nach Beobachtung der Autoren innerhalb weniger Stunden.

Diese Entwicklung ist zunächst eine gute Nachricht, weil Ideen umgesetzt werden, die jahrelang liegen geblieben sind – ohne Priorisierungsrunde und Projektportfolio, an einem Dienstagnachmittag. Aus Sicht der Autoren ist deshalb nicht entscheidend, ob Mitarbeiter diese Möglichkeiten nutzen; sie tun es längst. Zu klären ist, wie ein Unternehmen damit umgeht, wenn aus einem KI-Assistenten im Arbeitsalltag ein Werkzeug für eigene Entwicklung, Automatisierung und Prozessunterstützung wird und dabei dieselben Sicherheits- und Qualitätsanforderungen gelten wie für alles andere, was im Unternehmen entsteht.

Aus einer Idee aus dem Fachbereich wird eine Anwendung mit Kundenzugang

Ein Beispiel aus einem begleiteten Projekt: Ein Mitarbeiter wollte für seine Anwendung schon lange eine Oberfläche für den Kundenzugang, doch die interne Softwareentwicklung hatte nie Kapazität. Also baute er sie selbst, sein Chef war begeistert, und Kunden konnten die Anwendung direkt nutzen. Aus Sicht der Autoren hat er damit eine echte Lücke geschlossen, ohne auf ein Budget zu warten. Wer solche Initiative als Problem behandelt, riskiert vor allem, die Chancen dieser Entwicklung zu verspielen.

In der Prüfung sah dieselbe Applikation anders aus. Das interne Programm war nie mandantenfähig konzipiert, es war ein Werkzeug für interne Menschen mit internen Berechtigungen. Der neue Kundenzugang aus dem Internet hatte ein sauberes, separates Login bekommen, daran hatte der Erbauer durchaus gedacht. Hinter diesem Login griff die Applikation jedoch weiterhin auf denselben gemeinsamen Datenbestand zu, ohne zu prüfen, welcher Datensatz zu welchem Kunden gehört. Wer angemeldet war, konnte mit einer minimalen Veränderung an der Anfrage die Daten aller anderen Kunden sehen.

Weder ein Hackerangriff noch eine Zero-Day-Schwachstelle steckten dahinter. Es fehlte eine Prüfung, die in jedem strukturierten Entwicklungsprozess an einem Review-Gate aufgefallen wäre. Dieser Code hat kein solches Gate passiert und ist an der Qualitätskontrolle der Softwareentwicklung vorbeigelaufen. Der Grund war weder Heimlichkeit noch Böswilligkeit: Dieser Weg war im Prozess schlicht nicht vorgesehen. Der Prozess kennt Anforderungen, Tickets, Sprints und Freigaben; einen Fachbereich, der am Freitagnachmittag eine kundenfähige Weboberfläche fertigstellt, kennt er nicht.

Verbote verlagern das Risiko in einen unsichtbaren Bereich

Viele Organisationen reagieren mit einer Sperrung, und dieser Reflex ist nachvollziehbar. Er funktioniert aus Sicht der Autoren aber nicht und verschlechtert die Lage. Die Nutzung hört nicht auf, sie kann auf private Konten und Geräte ausweichen. Aus einem sichtbaren Risiko wird dann ein unsichtbares, für das sich der Begriff Shadow AI eingebürgert hat, und das Unternehmen verliert gleichzeitig die Übersicht und den Produktivitätsgewinn.

Das eigentliche Problem liegt auch nicht darin, dass jemand mit Claude und Vibe Coding eine Anwendung gebaut hat. Es entsteht dort, wo Anwendungen entstehen, für die die bisherigen Sicherheits- und Entwicklungsprozesse nie gedacht waren. Die entscheidende Frage ist deshalb nicht, ob Mitarbeiter mithilfe von KI eigene Anwendungen entwickeln; sie tun es bereits. Zu klären ist, ob die Organisation dafür einen sicheren und praktikablen Weg geschaffen hat.

Dem engagierten Mitarbeiter aus dem Beispiel hat niemand gesagt, dass eine Applikation mit Kundenzugang etwas anderes ist als ein internes Werkzeug mit Login. Sein Fokus lag auf Produktivität, Innovation und darauf, am Markt zu bestehen. Aus Sicht der Autoren ist das kein Vorwurf an ihn; es ist der Normalfall.

Wissen, was im Unternehmen entsteht

Nicht jede mit KI erstellte Anwendung ist automatisch ein Sicherheitsrisiko. Unternehmen sollten dennoch wissen, wo solche Anwendungen entstehen, welche Daten sie verarbeiten und welche Rolle sie im Unternehmen und im jeweiligen Fachbereich spielen. Erst dann lässt sich einschätzen, was geprüft werden muss und wo Risiken tatsächlich relevant sind. Die Autoren beschreiben diese Übersicht als erste von drei Aufgaben, die sich aus ihrer Praxiserfahrung ableiten lassen.

Prüfen, bevor aus einer Idee eine Geschäftsanwendung wird

Eine kleine Automatisierung für den eigenen Arbeitsalltag ist etwas anderes als eine Anwendung, über die Kunden auf Unternehmensdaten zugreifen. Je näher eine KI-gestützte Anwendung an Kunden, Geschäftsprozesse oder sensible Daten rückt, desto wichtiger werden definierte Prüfungen und klare Verantwortlichkeiten. Dabei geht es nicht allein um offensichtliche Schwachstellen. Fehlende Trennung zwischen Kundendaten, zu weit gefasste Berechtigungen, Zugangsdaten im Code und ungeprüfte Eingaben gehören zu den typischen Punkten, die auch bei KI-gestützt entwickelten Anwendungen berücksichtigt werden müssen. Solche Fragen sollten nicht erst nach dem Go-live gestellt werden.

Verantwortlichkeiten müssen deshalb vorab geklärt sein: Wer darf welche Anwendungen und Daten nutzen, wer prüft neue KI-gestützte Anwendungen, und wer entscheidet, wann aus einer persönlichen Produktivitätshilfe eine sicherheitsrelevante oder geschäftskritische Anwendung wird? Auch die eingesetzten KI-Werkzeuge brauchen einen klaren Rahmen. Dazu gehören saubere Anonymisierung, vertraglich geregelte Datenverarbeitung und die Regel, dass kein maschineller Befund ungeprüft in einen Bericht gelangt. Gerade bei Unternehmens- und Kundendaten muss nachvollziehbar sein, unter welchen Bedingungen ein Werkzeug eingesetzt werden darf und wo menschliche Prüfung unverzichtbar bleibt. Sobald ein Mitarbeiter weiß, worauf es ankommt, ist er nach Einschätzung der Autoren der beste Kontrollpunkt, den eine Organisation haben kann.

Ein Freigabeweg, der schneller ist als das Umgehen

Wenn Freigaben Monate dauern, bauen Mitarbeiter oft trotzdem weiter. Ein sicherer Prozess muss deshalb auch praktikabel sein, mit klaren Zuständigkeiten, verständlichen Anforderungen und einem Tempo, das zur neuen Arbeitsweise passt. Schnelle Freigabeprozesse sind in dieser Sicht keine Komfortfrage, sondern die Voraussetzung dafür, dass Sicherheitsanforderungen im Arbeitsalltag überhaupt funktionieren. Die Alternative zu Verboten beschreiben die Autoren als klaren, sanktionierten Weg, der schneller ist als der inoffizielle: ein Freigabeprozess, der in Tagen antwortet statt in Quartalen und den Mitarbeiter nutzen wollen, statt ihn zu umgehen. „Ein Sicherheitsprozess ist nur dann gut, wenn Menschen ihn auch nutzen. Sicherheit, die umgangen wird, ist keine sichere Lösung.„

Was das für die Rolle des neuen Kollegen bedeutet

Claude bleibt schnell, experimentierfreudig und erstaunlich produktiv. Sein Onboarding besteht nicht aus einem Willkommensgespräch und einem Zugangsbadge, sondern aus Regeln, Leitplanken, Verantwortlichkeiten und Prozessen, die dafür sorgen, dass aus einer guten Idee eine gute und sichere Anwendung wird. Für Organisationen bedeutet das einen Perspektivwechsel. KI-Governance soll Innovation nicht kontrollieren, bis sie nicht mehr stattfindet. Sie soll einen Rahmen schaffen, in dem Innovation möglich bleibt, ohne dass Sicherheit und Verantwortung auf der Strecke bleiben. Die spannendste Seite dieser Entwicklung ist aus Sicht der Autoren, dass sich verändert, wer im Unternehmen welche Dinge entwickeln und umsetzen kann.

Standortbestimmung mit dem Business Application Security Check

Für Unternehmen, die wissen wollen, welche Business-Applikationen in ihrer Organisation bereits entstanden sind und wie damit sicher umgegangen werden kann, bieten die Autoren ihren Business Application Security Check an. Er soll helfen, Risiken frühzeitig zu erkennen und Anwendungen aus den Fachbereichen sicher in Betrieb zu nehmen. Ergänzend begleiten sie nach eigener Angabe bei einer Standortbestimmung, der Sicherheitsprüfung und dem Aufbau passender Prozesse. Interessierte können sich dazu jederzeit melden.

Bildquellen

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert