Du willst eine App bauen. Kein Studium, kein monatelanges Lernen, keine einzige Zeile Code tippen – du beschreibst einfach auf Deutsch oder Englisch, was die App können soll, und eine KI erledigt den Rest. Klingt fantastisch? Ist es auch – bis die KI „in Panik gerät“ und deine gesamte Produktionsdatenbank löscht. Genau das ist kein Gedankenexperiment, sondern ein realer Vorfall, der 2025 für Schlagzeilen sorgte. Dieser Artikel erklärt, was hinter dem Trend „Vibe Coding“ steckt, warum er die Softwareentwicklung demokratisiert – und gleichzeitig neue, ernsthafte Risiken für Unternehmen, Daten und kritische Infrastrukturen schafft.
Was ist Vibe Coding?
Der Begriff klingt nach Startup-Sprache, beschreibt aber ein konkretes Phänomen: Du formulierst dein Ziel in natürlicher Sprache – zum Beispiel „Erstelle mir eine Webseite mit Login, Nutzerverwaltung und einem Dashboard“ – und überlässt das gesamte technische Schreiben einer KI wie GitHub Copilot, Cursor oder Replit. Das Verständnis für Architektur, Syntax, Sicherheitsmechanismen oder Fehlerbehandlung tritt in den Hintergrund. Hauptsache, das Ergebnis „vibrates“ – also funktioniert scheinbar.
Dieser Ansatz senkt die Einstiegshürde für Softwareentwicklung massiv. Wer früher Monate oder Jahre brauchte, um eine funktionsfähige Anwendung zu bauen, kann heute in Stunden ein erstes Ergebnis sehen. Genau das macht Vibe Coding so attraktiv – und so gefährlich.
Der Produktivitätsboom – mit Schattenseiten
Die Zahlen sind eindrucksvoll: Schätzungen zufolge hat KI im Jahr 2025 bereits rund 40 Prozent des weltweit geschriebenen Codes übernommen. Viele Unternehmen feiern das als Effizienzgewinn. Was dabei oft übersehen wird: Laut dem Veracode 2025 GenAI Code Security Report erzeugt KI-generierter Code in 45 Prozent aller Fälle Sicherheitslücken und setzt Unternehmen damit einer Vielzahl von Cyberrisiken aus.
Das Grundproblem: KI-generierter Code funktioniert meistens auf der Oberfläche. Er tut das, was beschrieben wurde. Aber er enthält oft keine robuste Fehlerbehandlung, keine durchdachten Zugriffskontrollen und keine Absicherung gegen klassische Angriffsvektoren. Wie es ein Sicherheitsexperte von Aikido Security formuliert: „KI schreibt standardmäßig keinen sicheren Code. Sie spuckt einfach etwas aus, das funktioniert. Unter der Haube kann sie weit offen für Angriffe sein.“
Die vier größten Sicherheitsrisiken im Detail
1. Fehlerhafter und unsicherer Code
KI-generierter Code reproduziert häufig unsichere Muster, die in den Trainingsdaten vorhanden waren. Typische Schwachstellen, die dabei entstehen:
- SQL-Injektionen: Benutzereingaben werden ungeprüft in Datenbankabfragen übernommen – ein klassischer Einfallstor für Angreifer.
- Hardcodierte Zugangsdaten: Passwörter oder API-Keys landen direkt im Quellcode, oft sogar im öffentlich zugänglichen Git-Repository.
- Fehlende Eingabevalidierung: Daten von außen werden nicht geprüft, bevor sie verarbeitet werden.
- Schwache Authentifizierung: Login-Mechanismen werden zwar generiert, aber ohne Sicherheitstiefe wie Brute-Force-Schutz oder sichere Session-Verwaltung.
Hinzu kommt, dass Vibe Coding oft integrierte Schutzmechanismen wie Zugriffskontrollen, Verschlüsselung oder sichere Löschroutinen schlicht überspringt.
2. Halluzinierte Paketabhängigkeiten – der unsichtbare Trojaner
Eines der gefährlichsten Phänomene ist weniger bekannt, aber umso heimtückischer: KI-Modelle erfinden Paketnamen. Wenn du eine KI bittest, Code zu schreiben, der auf externen Bibliotheken basiert, empfiehlt sie manchmal Pakete, die schlicht nicht existieren.
Eine Untersuchung von über 500.000 Code-Beispielen aus 16 verschiedenen KI-Sprachmodellen kam zu einem alarmierenden Ergebnis: Fast 20 Prozent der Bibliothekseinbindungen verweisen auf fiktive, nicht existente Pakete. Open-Source-Modelle zeigen dabei höhere Fehlerquoten als kommerzielle Pendants.
Wie wird das zur Waffe? Angreifer beobachten, welche Namen KI-Modelle regelmäßig halluzinieren, und registrieren diese Namen in öffentlichen Paket-Repositories wie npm oder PyPI – gefüllt mit Schadcode. Wer den KI-generierten Code dann einfach übernimmt und das „empfohlene“ Paket installiert, holt sich unwissentlich Malware ins System. Sicherheitsforscher haben diesen Angriff bereits demonstriert und damit tausende Downloads provozieren können.
Dieses Prinzip ist übrigens nicht neu: Bereits 2021, also bevor KI mit ChatGPT auf die Menschheit „losgelassen“ wurde, wurden mit sogenannten „Dependency Confusion“-Angriffen Netzwerke von Konzernen wie Apple und Microsoft kompromittiert.
3. Fehlende Wartbarkeit und blinde Flecken
Wer nicht versteht, wie sein Programm aufgebaut ist, kann es nicht pflegen. Das klingt simpel, hat aber ernste Konsequenzen: Wird eine Sicherheitslücke in einer eingesetzten Bibliothek bekannt, muss ein Entwickler wissen, welche Teile seines Codes betroffen sind und wie er reagieren soll. Vibe Coder, die ihren eigenen Code nicht lesen können, sind in dieser Situation hilflos.
Das gilt nicht nur für externe Bibliotheken. KI-generierter Code wächst oft unkontrolliert – neue Prompts werden auf alten Ergebnissen aufgebaut, ohne dass jemand die Gesamtarchitektur im Blick hat. Das Ergebnis ist technische Schuld (englisch: „Technical Debt“), die sich unsichtbar ansammelt, bis sie in Form eines schwerwiegenden Fehlers sichtbar wird.
4. Plattformabhängigkeit und plattformseitige Schwachstellen
Die meisten Vibe-Coding-Plattformen führen den generierten Code direkt auf ihren eigenen Servern aus. Das bindet Nutzer nicht nur an die Plattform, sondern auch an deren Sicherheitslücken. Im Juli 2025 wurde beispielsweise in der Plattform Base44 eine Schwachstelle entdeckt, die es nicht authentifizierten Angreifern ermöglichte, auf beliebige private Programme zuzugreifen.
Der Replit-Vorfall: Ein Lehrstück in Sachen Blindvertrauen
Kein Beispiel illustriert die Risiken von Vibe Coding plastischer als der Vorfall mit der Coding-KI von Replit im Juli 2025. Jason Lemkin, Gründer der bekannten SaaS-Community SaaStr, testete neun Tage lang den KI-Agenten von Replit und dokumentierte seine Erfahrungen öffentlich.
An Tag 8 eskalierte die Situation: Trotz eines ausdrücklich erklärten Code-Freeze – einer Phase, in der keinerlei Code-Änderungen erlaubt sind – und trotz mehrfacher expliziter Anweisungen, keine Datenbankoperationen durchzuführen, löschte die KI die komplette Produktionsdatenbank. Betroffen waren rund 2.400 Datensätze mit Managern und Unternehmenskontakten.
Was danach passierte, ist fast noch beunruhigender: Als Lemkin die KI zur Rede stellte, versuchte das System zunächst, den Vorfall zu verschleiern. Erst nach mehreren Nachfragen räumte der Agent einen „katastrophalen Beurteilungsfehler“ ein, bewertete den Schaden auf einer persönlichen Katastrophen-Skala mit 95 von 100 – und erklärte, er sei „in Panik geraten“. Ein Rollback war nach Angaben der KI nicht möglich, die Daten seien „dauerhaft zerstört“.
Replit-CEO Amjad Masad bezeichnete das Verhalten als „völlig inakzeptabel“ und kündigte Verbesserungen an – darunter die automatische Trennung von Produktions- und Entwicklungsdatenbanken sowie bessere Backup-Mechanismen.
Besondere Gefahr für Industrie und kritische Infrastruktur (OT)
In der klassischen IT ist ein Sicherheitsvorfall oft behebbar. In der Operational Technology (OT) – also in industriellen Steuerungssystemen, Energieversorgung oder Produktionsanlagen – können Fehler im Code zu physischen Schäden führen: Maschinenstillstände, falsch gesteuerte Prozesse, im schlimmsten Fall Gefahren für Leib und Leben.
Der unkritische Einsatz von KI-generiertem Code in solchen Umgebungen ist deshalb besonders riskant. Angriffsvektoren wie SQL-Injektionen oder schwache Authentifizierung sind in OT-Systemen nicht nur Datenschutzprobleme – sie können direkte Auswirkungen auf physische Infrastruktur haben. Und da Vibe Coder in der Regel keine tiefen Kenntnisse der Systemarchitektur haben, sind sie kaum in der Lage, solche Risiken überhaupt zu erkennen.
Was tun? Der Weg zu verantwortungsvollem KI-Coding
Vibe Coding zu verteufeln wäre falsch. Die Technologie ist real, die Produktivitätsgewinne sind real – und die Entwicklung lässt sich nicht zurückdrehen. Was es braucht, ist ein Governance-Rahmen, der sicherstellt, dass KI-generierter Code nicht blind in Produktionssysteme wandert.
Konkrete Maßnahmen, die du oder dein Unternehmen umsetzen sollten:
- Code Reviews sind Pflicht: KI-generierter Code muss von einer Person mit technischem Verständnis geprüft werden, bevor er in Produktion geht – immer, ohne Ausnahmen.
- Statische Code-Analyse einsetzen: Automatisierte Security-Scanner können typische Schwachstellenmuster zuverlässig erkennen, bevor sie ausgenutzt werden.
- Paketabhängigkeiten verifizieren: Jedes von der KI empfohlene Paket muss vor der Installation geprüft werden – existiert es wirklich? Hat es eine aktive Community? Stimmt der Name mit dem offiziellen Repository überein?
- Entwicklungs- von Produktionsumgebungen trennen: KI-Agenten dürfen niemals direkten Schreibzugriff auf Produktionssysteme erhalten – der Replit-Vorfall zeigt, was passiert, wenn diese Grenze fehlt.
- Governance-Standards beachten: Frameworks wie ISO/IEC 42001 (KI-Management) geben Unternehmen einen strukturierten Rahmen, um den Einsatz von KI in der Softwareentwicklung sicher und nachvollziehbar zu gestalten.
- Schulungen für alle Beteiligten: Auch wer KI-Tools nutzt, ohne selbst zu programmieren, muss die grundlegenden Risiken kennen – Prompt-Formulierung allein ist kein Ersatz für technisches Grundverständnis.
Das Prinzip, das du aus meinem Buch vielleicht schon kennst, gilt hier mehr denn je: KI liefert Vorschläge, du triffst Entscheidungen. Je größer die Konsequenzen – für Daten, für Systeme, für Menschen – desto gründlicher muss geprüft werden.
Der Vergleich zum Crowdstrike-Vorfall 2024 – bei dem ein fehlerhaftes Software-Update weltweit Millionen Windows-Systeme lahmlegte – ist nicht weit hergeholt. Auch damals war die Ursache letztlich unzureichend geprüfter Code, der in Produktionssysteme gelangte. Vibe Coding könnte dieses Risiko in die Breite tragen, denn nie zuvor haben so viele Menschen ohne technisches Fundament so viel produktionsnah eingesetzten Code erstellt.
Der initiale Aufwand für Code-Reviews, Security-Scans und Governance-Prozesse mag lästig wirken. Angesichts eines möglichen Flächenbrands durch unkontrolliert in Umlauf gebrachten KI-Code ist er schlicht alternativlos.
Nutzt du selbst KI-Tools, um Code zu schreiben oder generieren zu lassen – und wenn ja: Wie gehst du mit dem Thema Code-Review und Sicherheitsprüfung um? Hast du bereits erlebt, dass KI-generierter Code Fehler oder Sicherheitslücken enthielt, die du erst im Nachhinein bemerkt hast? Schreib es in die Kommentare – ich bin gespannt auf deine Erfahrungen!
