Werbehinweis: Mit * oder „Werbelink“ gekennzeichnete Links sind Affiliate-Links (Werbung). Wenn du darüber etwas kaufst, erhalte ich eine Provision, für dich ändert sich der Preis nicht. Empfehlungen ohne Provision sind ebenfalls gekennzeichnet. Mehr dazu in der Datenschutzerklärung
Kurz gesagt
Nicht von selbst. KI-Werkzeuge schreiben Code, der läuft. Sicherheit denken sie nur mit, wenn jemand danach fragt. In Tests von Veracode enthielten 2025 45 % der KI-generierten Code-Beispiele eine Sicherheitslücke; im Oktober 2026 bestanden die getesteten Modelle im Schnitt 62 % der Tests. Bei Lovable waren 2025 bei 170 Apps Teile der Datenbank ohne Login abrufbar. Bevor dein Prototyp echte Kundendaten oder Zahlungen verarbeitet, prüfe mindestens Schlüssel im Frontend, Datenbankrechte, Login-Prüfungen auf dem Server und die Git-Historie.
Wie oft das bei echten Apps schiefgeht, zeigen zwei Untersuchungen öffentlich erreichbarer Projekte. Escape scannte über 5.600 Apps, die meisten mit Lovable gebaut, und fand mehr als 2.000 Schwachstellen, über 400 offen liegende Geheimnisse wie API-Schlüssel und 175 Fälle mit personenbezogenen Daten, darunter Krankenakten und IBANs (Escape, Oktober 2025). Weil nur passiv gescannt wurde, nennt Escape das selbst eine Untergrenze. Ein Preprint auf arXiv untersuchte 200 veröffentlichte Apps, die mit Claude Code oder Lovable gebaut wurden: 91 % hatten mindestens eine Schwachstelle, rund zwei Drittel der 1.186 Funde waren kritisch oder hoch (Deng u. a., 2026).
Dieser Artikel richtet sich an Gründerinnen und Gründer, die mit Lovable, Cursor oder Bolt einen Prototyp gebaut haben und wissen wollen, ob sie ihn echten Nutzern geben können. Welches KI-Werkzeug wofür taugt, steht im Vergleich der KI-Coding-Tools. Hier geht es darum, was danach kommt.
Was die Forschung zur Sicherheit von KI-Code sagt
Mehrere Untersuchungen kommen zum selben Ergebnis: KI-Modelle schreiben funktionierenden Code, wählen aber oft den unsicheren Weg, und Menschen prüfen ihn seltener, als sie sollten.
| Untersuchung | Was gemessen wurde | Ergebnis | Grenze der Aussage |
|---|---|---|---|
| Veracode, GenAI Code Security Report (2025) und Update Herbst 2026 (Oktober 2026) | Code von über 100 Sprachmodellen in Java, JavaScript, Python und C#, im Update von 18 aktuellen Modellen | 2025 enthielten 45 % der Code-Beispiele eine riskante Sicherheitslücke, größere und neuere Modelle schnitten nicht besser ab. Im Oktober 2026 bestanden die Modelle im Schnitt 62 % der Tests, die besten 73 %. | Einzelne Code-Aufgaben, keine ganzen Apps. Veracode verkauft Sicherheitstests. |
| Perry u. a., Stanford, ACM CCS 2023 | 47 Personen lösen Sicherheitsaufgaben, 33 davon mit KI-Assistent | Die Gruppe mit KI schrieb deutlich unsichereren Code und hielt ihn häufiger für sicher. Beim Signieren von Nachrichten waren 3 % der Lösungen mit KI sicher, ohne KI 21 %. | Kleine Stichprobe, älteres Modell (Codex von 2022). |
| Spracklen u. a., USENIX Security 2025 | 576.000 Code-Beispiele von 16 Modellen in Python und JavaScript | Kommerzielle Modelle erfanden im Schnitt mindestens 5,2 % der empfohlenen Pakete, Open-Source-Modelle mindestens 21,7 %. Insgesamt 205.474 verschiedene erfundene Paketnamen. | Misst Empfehlungen, nicht installierte Pakete. |
| GitGuardian, State of Secrets Sprawl 2026 | Öffentliche GitHub-Commits 2025 (28,6 Millionen neue Geheimnisse gefunden) | Commits mit Claude Code als Co-Autor enthielten etwa doppelt so oft ein Geheimnis wie der Durchschnitt aller öffentlichen Commits. | Zeigt einen Zusammenhang, keinen Beweis, dass die KI den Schlüssel geschrieben hat. Die genaue Quote nennt die Übersichtsseite nicht. |
Der wichtigste Befund steht in der Stanford-Studie: Wer mit KI arbeitet, fühlt sich sicherer, obwohl der Code unsicherer ist. Genau diese Lücke zwischen Gefühl und Zustand findet ein Audit.
Der Fall Lovable: CVE-2025-48757
Lovable-Apps hatten 2025 in der Regel eine Supabase-Datenbank dahinter, und der Browser sprach sie mit einem öffentlichen Schlüssel im Frontend direkt an. Das ist bei Supabase so gewollt und nur dann sicher, wenn jede Tabelle Row Level Security (RLS) hat: Regeln in der Datenbank, die festlegen, welche Zeilen ein Nutzer lesen oder ändern darf.
Seit dem 13. Mai 2026 baut Lovable neue Apps mit TanStack Start. Diese Apps können Code auf dem Server ausführen, etwa Server-Funktionen, die mit dem Secret-Key auf die Datenbank zugreifen. Datenbank und Login laufen weiter über Supabase. Wo der Browser die Datenbank weiterhin direkt abfragt, schützt also nur RLS die Daten.
Der Sicherheitsforscher Matt Palmer prüfte im März 2025 die Startseiten von 1.645 Lovable-Projekten. Bei 170 davon, etwa 10 %, fand er 303 Schnittstellen mit zu schwacher RLS. Darüber waren nach seinem Bericht Namen, Telefonnummern, API-Schlüssel, Zahlungsdaten und andere persönliche Daten ohne Login abrufbar. Bei einer App ließ sich ein Datensatz mit "payment_status": "paid" einfügen, also eine Zahlung vortäuschen.
Lovable führte im April 2025 einen „Security Scan“ ein. Palmer kritisiert, dass dieser nur prüft, ob es überhaupt eine RLS-Regel gibt, nicht ob sie richtig ist. Die Lücke ist als CVE-2025-48757 veröffentlicht. Lovable bestreitet laut diesem Eintrag, dass es sich um eine Lücke der Plattform handelt: Jeder Kunde sei selbst für die Sicherheit seiner App verantwortlich. Das Muster betrifft nicht nur Lovable: Jede App, deren Frontend direkt mit Supabase oder Firebase spricht, hängt an korrekten Datenbankregeln, egal welches Werkzeug sie gebaut hat.
Was ein Audit bei KI-gebauten Apps typischerweise findet
Die folgenden sieben Punkte sind die Lücken, nach denen ein Audit einer Lovable-, Cursor- oder Bolt-App zuerst sucht. Sie decken sich mit den häufigsten Risiken der OWASP API Security Top 10.
In den öffentlichen Scans tauchen vor allem die Punkte 1 und 2 auf. Symbiotic Security prüfte 1.072 Apps mit Supabase-Backend und fand bei 173 davon (16 %) eine kritische Lücke. Fast alle betrafen Tabellen, die ohne Login lesbar, änderbar oder löschbar waren; bei 172 Apps konnte jeder Datensätze löschen (Symbiotic Security, Juni 2026). Auch Symbiotic verkauft Sicherheitstests.
Was das konkret bedeutet, zeigt der Fall Moltbook, ein soziales Netzwerk für KI-Agenten. Wiz fand im Januar 2026 beim bloßen Ansehen der Seite einen Supabase-Schlüssel im JavaScript. Weil RLS fehlte, hatte damit jeder Lese- und Schreibzugriff auf die ganze Datenbank, darunter 1,5 Millionen API-Tokens und 35.000 E-Mail-Adressen. Jedes Konto ließ sich mit einem einzigen API-Aufruf übernehmen (Wiz).
1. Geheime Schlüssel im Frontend
Alles, was im Browser ankommt, kann jeder lesen. Bei Vite, auf dem Lovable-Projekte aufbauen, landet jede Variable mit dem Präfix VITE_ im ausgelieferten Code, und die Vite-Dokumentation warnt ausdrücklich davor, dort API-Schlüssel abzulegen. Gefährlich sind vor allem der service_role- oder Secret-Key von Supabase, der laut Supabase-Dokumentation alle Datenbankregeln umgeht, sowie Schlüssel für Stripe oder OpenAI. Der öffentliche Anon- oder Publishable-Key von Supabase darf im Frontend stehen, aber nur mit RLS. Die alten Schlüssel anon und service_role lässt Supabase laut Dokumentation bis Ende 2026 auslaufen (Stand: November 2026); ihre Nachfolger beginnen mit sb_publishable_ und sb_secret_.
2. Fehlende oder zu offene Row Level Security
Eine Tabelle ohne RLS ist für jeden lesbar und beschreibbar, der den öffentlichen Schlüssel hat. Häufig gibt es zwar eine Regel fürs Lesen, aber keine fürs Einfügen, Ändern oder Löschen, oder eine Regel wie using (true), die alles erlaubt. Supabase schreibt dazu: RLS für jede Tabelle in einem öffentlich erreichbaren Schema einschalten.
3. API-Routen ohne Login-Prüfung
Die Oberfläche blendet den Admin-Bereich aus, aber die Schnittstelle dahinter prüft nicht, wer fragt. Ein zweites Muster: Die Route prüft zwar den Login, aber nicht, ob der Datensatz diesem Nutzer gehört. Wer in /api/rechnungen/123 die Zahl ändert, sieht fremde Rechnungen. OWASP führt das als Broken Object Level Authorization auf Platz 1.
4. Keine Prüfung der Eingaben
Formulardaten gehen ungeprüft in die Datenbank oder werden ungefiltert wieder angezeigt. Das ermöglicht Cross-Site-Scripting: Ein Angreifer speichert Skriptcode, der im Browser anderer Nutzer läuft. Im Veracode-Test 2025 schützten die Modelle in 86 % der Fälle nicht gegen Cross-Site-Scripting, im Update vom Oktober 2026 bestanden sie im Schnitt nur 18 % dieser Tests. Prüfe jede Eingabe auf dem Server mit einem Schema, etwa mit Zod, und nicht nur im Formular. Gegen Cross-Site-Scripting hilft außerdem, Nutzereingaben nur maskiert auszugeben: React macht das von selbst, außer bei dangerouslySetInnerHTML.
5. Veraltete oder erfundene Pakete
KI-Modelle schlagen Pakete in Versionen vor, die bekannte Lücken haben, oder Pakete, die es gar nicht gibt. Angreifer registrieren solche erfundenen Namen und legen Schadcode hinein. Das nennt man Slopsquatting. Die USENIX-Studie oben zeigt, warum das funktioniert: Stellten die Forscher dieselbe Frage zehnmal, tauchten 43 % der erfundenen Pakete in allen zehn Antworten wieder auf. Ein Angreifer kann also vorhersagen, welche Namen sich lohnen.
6. Kein Rate Limiting
Login, Passwort-Reset, Kontaktformular und Endpunkte, die eine KI-API aufrufen, nehmen beliebig viele Anfragen an. Das erlaubt Passwort-Raten und kann bei KI-Funktionen eine hohe Rechnung beim Anbieter erzeugen. OWASP nennt das Unrestricted Resource Consumption.
7. Geheimnisse in der Git-Historie
Ein Schlüssel, der einmal committet wurde, bleibt in der Historie, auch wenn er in der aktuellen Datei gelöscht ist. Laut dem GitGuardian-Bericht 2026 waren von den gültigen Geheimnissen, die 2022 öffentlich geleakt wurden, vier Jahre später noch 64 % nutzbar. Ein gelöschter Schlüssel ist also nicht erledigt: Er muss beim Anbieter widerrufen und neu erzeugt werden.
Selbstcheck: So prüfst du deinen Prototyp selbst
Diese Schritte ersetzen kein Audit, decken aber die gröbsten Lücken auf. Für einige brauchst du ein Terminal und Zugriff auf das Supabase-Dashboard.
Nur die eigene App prüfen
Führe jeden Schritt nur an deiner eigenen App und deiner eigenen Datenbank aus, oder mit schriftlicher Erlaubnis des Betreibers. Fremde Systeme abzufragen ist auch mit öffentlichem Schlüssel nicht erlaubt und kann strafbar sein (§§ 202a ff. StGB). Keine Rechtsberatung.
Frontend nach Schlüsseln durchsuchen
Öffne deine App im Browser, dann die Entwicklertools, Reiter „Quellen“ oder „Netzwerk“. Suche nach
sb_secret_,sk_live_undsk-. Ältere Supabase-Schlüssel beginnen miteyJ: Ob einer davon derservice_role-Schlüssel ist, zeigt erst der dekodierte Inhalt. Am einfachsten baust du lokal und durchsuchst den Build-Ordner (Befehle unten).RLS für jede Tabelle prüfen
Im Supabase-Dashboard unter „Table Editor“ zeigt jede Tabelle, ob RLS aktiv ist. Oder führe im SQL-Editor die Abfrage unten aus: Jede Zeile mit
falseist offen.Die eigene Datenbank ohne Login abfragen
Rufe eine Tabelle deiner eigenen App mit deren öffentlichem Schlüssel ab, ohne eingeloggt zu sein. Kommen Daten zurück, die nicht öffentlich sein sollen, ist die RLS-Regel zu offen.
Datensätze eines anderen Testkontos aufrufen
Lege in deiner eigenen App zwei Testkonten an. Öffne mit Konto A einen Datensatz, kopiere die URL oder die ID aus dem Reiter „Netzwerk“ und rufe sie mit Konto B auf. Siehst du die Daten, fehlt die Prüfung auf dem Server.
Pakete prüfen
Führe
npm auditaus. Schlage jedes Paket in derpackage.json, das du nicht kennst, auf npmjs.com nach: Wie alt ist es, wer pflegt es, gibt es ein Repository?Git-Historie scannen
Lass Gitleaks (Open Source, keine Provision) über die ganze Historie laufen. Widerrufe jeden gefundenen Schlüssel beim Anbieter und erzeuge ihn neu.
Wiederholte Login-Versuche testen
Gib in deiner eigenen App mit einem Testkonto zehnmal hintereinander ein falsches Passwort ein. Wirst du nie gebremst, fehlt ein Limit. Prüfe das auch für Endpunkte, die eine KI-API aufrufen.
# 1. Build nach geheimen Schlüsseln durchsuchen (Ordner je nach Projekt: dist, build, .next/static)
npm run build
grep -rhoE "sb_secret_[A-Za-z0-9_-]+|sk_live_[A-Za-z0-9]+|sk-[A-Za-z0-9_-]{20,}" dist/
# 1b. Rolle jedes Supabase-JWT im Build anzeigen: "service_role" darf nicht auftauchen
grep -rhoE "eyJ[A-Za-z0-9_-]+\.eyJ[A-Za-z0-9_-]+" dist/ | cut -d. -f2 | tr '_-' '/+' \
| while read -r p; do echo "$p==" | base64 -d 2>/dev/null; echo; done | grep -o '"role":"[a-z_]*"'
# 3. Eigene Tabelle ohne Login abfragen (URL, Tabelle und öffentlichen Schlüssel deines eigenen Projekts einsetzen)
curl "https://DEIN-PROJEKT.supabase.co/rest/v1/TABELLE?select=*" \
-H "apikey: DEIN_OEFFENTLICHER_SCHLUESSEL"
# 5. Bekannte Lücken in Abhängigkeiten
npm audit
# 6. Ganze Git-Historie nach Geheimnissen durchsuchen
gitleaks git -v .select tablename, rowsecurity
from pg_tables
where schemaname = 'public';Findest du bei einem dieser Schritte etwas, behebe es, bevor du weitere Funktionen baust. Und prüfe nur deine eigene App, wie im Hinweis oben.
Wann sich ein Audit lohnt
Der Selbstcheck findet offene Türen. Ein Audit prüft außerdem, ob die Regeln zur Logik der App passen, und genau das kann kein automatischer Scan: Ob ein Teammitglied die Rechnungen des ganzen Teams sehen darf, entscheidet dein Geschäftsmodell.
Ein Audit lohnt sich vor allem:
- bevor echte Kundendaten hineinkommen, besonders Gesundheits-, Finanz- oder Kinderdaten;
- bevor die App Zahlungen abwickelt oder Zugänge freischaltet, die Geld kosten;
- vor einem Launch, einer Finanzierungsrunde oder einem Unternehmenskunden, der nach Sicherheit fragt;
- wenn niemand im Team den Code lesen kann, den die KI geschrieben hat.
Für eine KI-gebaute App mache ich das als Vibe-Code-Audit: ein schriftlicher Bericht zu Sicherheit, Codequalität und Performance, mit einer priorisierten Liste, was zuerst behoben werden sollte. Ist die Codebasis größer oder von einer Agentur gebaut, passt eher ein technisches Audit.
Danach entscheidest du, wer die Punkte behebt: du selbst, dein Team oder ich. Programmierst du nicht selbst, gehe ich die Liste Schritt für Schritt mit dir durch, bis du die App veröffentlichen kannst. Design und Funktionen ändere ich dabei nur nach Absprache.
Was zwischen zwei Audits hilft
Ein Audit ist eine Momentaufnahme. Jede neue Anweisung an die KI kann eine Lücke wieder öffnen. Zwei Dinge helfen dauerhaft: Gitleaks als Pre-Commit-Hook, damit kein Schlüssel mehr ins Repository kommt, und ein Review jedes Pull Requests, bevor er live geht.
Das Review wird leichter, wenn der Diff aufgeräumt ist. Dafür habe ich den Skill deslop geschrieben: Er entfernt aus den Änderungen eines Branches, was KI-Agenten typischerweise hinterlassen, etwa erzählende Kommentare, unnötigen Abwehrcode und Typ-Casts, die Fehlermeldungen verstecken. Das Verhalten des Codes bleibt gleich. Er ist Open Source unter MIT-Lizenz und läuft in Claude Code, Codex, Cursor und anderen Agenten. Eine Sicherheitsprüfung ersetzt er nicht.
Für eine gründlichere Prüfung des Codes pflege ich deepsec (Open Source unter Apache-2.0-Lizenz, keine Provision), eine Weiterentwicklung des gleichnamigen Werkzeugs von Vercel Labs. Es sucht zuerst mit festen Mustern nach verdächtigen Stellen, etwa Routen-Handlern, dangerouslySetInnerHTML oder Umgebungsvariablen mit Geheimnissen, und lässt dann einen KI-Agenten jede Fundstelle lesen und bewerten. Mit deepsec process --diff origin/main prüft es nur die Dateien, die ein Pull Request ändert. Für die KI-Prüfung brauchst du Zugang zu einem Sprachmodell, etwa einen eigenen API-Schlüssel oder ein Claude- oder Codex-Abo, und sie kostet je nach Größe der Codebasis Geld. Mit --max-cost-usd setzt du eine Obergrenze. Weil deepsec nur das Repository liest, sieht es die Regeln im Supabase-Dashboard nicht, und ein Audit ersetzt es auch nicht.
[ Anolilab — Blog ]
Mehr Praxis zu KI, Webentwicklung und Infrastruktur.
