Die Begeisterung für KI hat ein noch nie dagewesenes Ausmaß erreicht. Wenn Sie im Technologiebereich tätig sind, haben Sie wahrscheinlich bereits mit KI-Tools in Ihrem täglichen Arbeitsablauf experimentiert. Mit zunehmender Verbreitung steigen jedoch auch die Risiken. Sobald Sie Daten in ein KI-System eingeben, besteht die Möglichkeit, dass diese Daten offengelegt werden.
In diesem Artikel werde ich mich mit praktischen Aspekten der KI-Sicherheit für Entwickler befassen: Welche Datentypen sind besonders sensibel, wie lassen sie sich schützen und welche Sicherheitsvorkehrungen sollten Sie als Softwareentwickler bei der Arbeit mit KI-Tools treffen?
Lassen Sie uns gleich loslegen. Hier sind einige der wichtigsten Sicherheitsaspekte, die ich bei der Verwendung von KI-Tools bei der Arbeit beachte. Ich hoffe, Sie finden sie nützlich:
🛑 Es gibt bestimmte Daten, die Sie niemals in öffentliche KI-Tools einfügen sollten, wie beispielsweise proprietären Code oder Anmeldedaten.
Grund: Mit öffentlichen LLMs (wie ChatGPT, Copilot usw.) geteilter Code kann gespeichert oder für zukünftige Schulungen verwendet werden, sofern keine Datenschutzbestimmungen gelten.
Was zu tun ist:
- Redigieren Sie sensible Logik vor dem Einfügen.
- Verwenden Sie KI-Codierungstools, die Datenschutzoptionen für Unternehmen bieten.
- Geben Sie niemals Folgendes weiter:
- API-Schlüssel
- Datenbank-Strings
- Umgebungskonfigurationen
- Interne Endpunkte
🧠 Wenn Sie KI-generierten Code verwenden möchten, überprüfen Sie ihn gründlich.
Warum: KI-Code-Vorschläge sehen vielleicht gut aus, können aber Folgendes enthalten:
- Versteckte Fehler
- Sicherheitslücken
- Veraltete Methoden
- Ineffizienzen
Was zu tun ist:
- Behandeln Sie KI-generierten Code als Rohentwurf, nicht als produktionsreif.
- Führen Sie statische Analysen und Sicherheitsscans durch.
- Umgehen Sie Code-Reviews nicht, weil „die KI dies vorgeschlagen hat“.
Wie kann man KI-generierten Code validieren?
- Testen Sie, ob es funktioniert.
- Sehen Sie sich an, welche Code-Sequenzen hinzugefügt wurden, welche Bibliotheken usw.
- Verstehen Sie, warum und wie der hinzugefügte Code funktioniert (stellen Sie ihn Schritt für Schritt nach, verwenden Sie Google oder sogar ein LLM, um die Quellen des Codes zu verfolgen, und verschaffen Sie sich Zugang zu einigen Dokumentationen).
Faustregel: Kopieren Sie niemals etwas in Ihren Code, das Sie nicht vollständig verstehen.
🔐 Seien Sie sich der Prompt-Injection und der Ausnutzung von Modellen bewusst
Warum: KI-gesteuerte Anwendungen sind anfällig für neue Arten von Angriffen wie Prompt-Injection, Datenlecks oder Manipulation der Ausgabe. Ich empfehle immer, E-Mail-Scraping-Tools oder jede Software zu vermeiden, die ohne klare Grenzen auf sensible Informationen auf Ihrem Computer zugreifen kann. Es ist auch wichtig, die vollständige Kontrolle über Ihr System nicht an ein KI-Modell abzugeben. Sie sollten jederzeit die Kontrolle behalten.
Was zu tun ist:
- Desinfizieren und validieren Sie Benutzereingaben, die an ein LLM gelangen.
- Begrenzen Sie Modellanweisungen, die dynamisch geändert werden können.
- Untersuchen und mindern Sie Prompt-Injection-Szenarien in Apps.
🧰 Verwenden Sie lokale oder selbst gehostete Modelle, wenn dies angemessen ist.
Grund: Bei sensiblen Codes, Dokumentationen oder Infrastrukturen erfüllen cloudbasierte KI-Tools möglicherweise nicht die erforderlichen Compliance-Standards. Beispielsweise können strenge regulatorische Anforderungen in einigen meiner aktuellen Projekte im medizinischen Bereich die Verwendung cloudbasierter KI-Lösungen verbieten.
Was zu tun ist:
- Verwenden Sie für regulierte oder IP-sensible Projekte:
- Open-Source-LLMs (wie Mistral, LlaMA, Code Llama, GPT OSS)
- Lokale KI-Tools mit sicherer Speicherung
- Bewahren Sie Modelle hinter einem VPN oder einer internen Firewall auf.
📋 Dokumentieren Sie den Einsatz von KI in Entwicklungsprozessen
Warum: Transparenz ist wichtig, insbesondere in Teams und regulierten Branchen. Außerdem wäre sie im Falle von Urheberrechtsstreitigkeiten nützlich (siehe nächster Tipp).
Was zu tun ist:
- Notieren Sie, wann und wie KI beim Schreiben oder Überprüfen von Code verwendet wurde.
- Geben Sie an, ob KI-gestützte Inhalte (z. B. Dokumentation, Commits) von Menschen erstellt oder bearbeitet wurden.
🛡️ Bleiben Sie über Lizenzierung und Wiederverwendung von Code auf dem Laufenden
Warum: KI-generierter Code kann unbeabsichtigt Ausschnitte aus urheberrechtlich geschützten oder GPL-lizenzierten Codebasen reproduzieren.
Was zu tun ist:
- Überprüfen Sie die Lizenzierung aller wiederverwendeten Muster.
- Kopieren Sie keine AI-Ausgaben in Projekte, ohne zuvor die Kompatibilität mit der Lizenz Ihres Projekts (z. B. MIT, Apache) zu überprüfen.
🧪 Testdaten vor der Verwendung in KI-Kontexten bereinigen
Grund: In einem Testszenario müssen Sie möglicherweise Protokolle, Fehlermeldungen oder Testdaten einfügen, die echte Benutzer- oder Kundeninformationen enthalten.
Was zu tun ist:
- Entfernen Sie alle personenbezogenen Daten.
- Vermeiden Sie es, Protokolle aus Produktionsumgebungen weiterzugeben.
- Verwenden Sie anonymisierte Testdaten, wenn Sie Probleme mit KI-Tools besprechen.
⚖️ Abwägen der Vor- und Nachteile des Einsatzes von KI-Tools in bestimmten Kontexten
So sehr ich auch darauf brenne, jedes verfügbare KI-Tool auszuprobieren, bin ich doch auch der Meinung, dass man sie mit der sprichwörtlichen Vorsicht genießen sollte. Manchmal kann es eine große Lücke zwischen der wahrgenommenen Produktivitätssteigerung durch KI und der tatsächlichen geben. Einige Studien zeigen sogar einen Produktivitätsrückgang bei der Verwendung von KI-Tools für die Programmierung in bestimmten Umgebungen, beispielsweise bei der Arbeit mit großen, ausgereiften Open-Source-Codebasen.
Schließlich handelt es sich hierbei nur um einige grundlegende Regeln. Je nach der von Ihnen verwendeten Plattform und der Art Ihrer Arbeit gibt es sicherlich noch viele weitere Nuancen zu berücksichtigen.
IT-Fachleute sollten auch in Betracht ziehen, ihre Teammitglieder (insbesondere junge Entwickler) über die Risiken einer übermäßigen Abhängigkeit von KI aufzuklären, ohne die Sicherheitsauswirkungen zu verstehen.
Angesichts der rasanten Entwicklung dieser Systeme ist es unerlässlich, sich ständig auf dem Laufenden zu halten. Ich für meinen Teil werde diese Liste sicherlich in wenigen Monaten überarbeiten und aktualisieren müssen. Bis dahin: Bleiben Sie sicher im Internet – und seien Sie vorsichtig.