// Sichere Entwicklung
Sicherheit von KI-Anwendungen in Java
Risiken von Anwendungen mit Sprachmodellen erkennen und Gegenmaßnahmen umsetzen.
- Inhouse-Schulung
- 1 Tag
- Experten & Architektur
- Remote oder vor Ort
- KI-Anwendung
Was Sie mitnehmen
- Sie kennen die Risiken nach OWASP Top 10 for LLM Applications.
- Sie erkennen direkte und indirekte Prompt Injection über Dokumente und Tool-Ergebnisse.
- Sie begrenzen Tool-Aufrufe in LangChain4j auf das Nötige und prüfen ihre Parameter.
- Sie verhindern Datenabfluss mit Guardrails und lokalen Modellen über Ollama.
Agenda
Die Agenda ist die Grundlage. Schwerpunkte und Beispiele stimmen wir vorab auf Ihr Team ab.
Vormittag
- OWASP Top 10 for LLM Applications im Überblick
- Direkte und indirekte Prompt Injection, Jailbreaks
- Datenabfluss über Prompts, RAG-Inhalte und Modellausgaben
- Übung: Prompt Injection gegen eine LangChain4j-Anwendung mit Ollama
Nachmittag
- Unsichere Tool-Aufrufe: Rechte begrenzen, Parameter validieren, Bestätigung einholen
- Input- und Output-Guardrails in LangChain4j
- Modellausgaben als nicht vertrauenswürdig behandeln, Protokollierung
- Übung: Gegenmaßnahmen umsetzen und Angriffe erneut testen
KI in dieser Schulung
// KI als Bestandteil der Anwendung
Prompt Injection, Datenabfluss und unsichere Tool-Aufrufe nach OWASP Top 10 for LLM Applications.
Voraussetzungen und Rahmen
- Vorwissen
- Erfahrung mit Java und mit LLM-Anwendungen, idealerweise mit LangChain4j. Die Hardware für lokale Sprachmodelle stimmen wir vorab ab.
- Werkzeuge
- LangChain4j, Ollama (Open Source, Apache 2.0 / MIT)
- Niveau
- Experten & Architektur
- Teilnehmende
- bis 10 Personen, größere Gruppen auf Anfrage
- Durchführung
- Remote per Videokonferenz oder bei Ihnen vor Ort
- Enthalten
- Abstimmung vorab, Unterlagen, Übungsprojekte, Teilnahmebescheinigungen
// Trainer mit langjähriger Softwareentwicklungserfahrung, akademische Ausbildung in Informatik und KI.
Weitere Angebote: Sichere Entwicklung
Alle 5 Angebote
Inhouse-Schulung
Keycloak für Java-Teams: Single Sign-on und Rollen
Single Sign-on, OpenID Connect und Rollenmodelle für Java-Anwendungen.
1 Tag · Fortgeschritten1.890 €
Inhouse-Schulung · KI-Werkzeug
Abhängigkeiten absichern: SBOM und Schwachstellenscans
Software-Stücklisten erzeugen und bekannte Schwachstellen automatisiert finden, mit Blick auf den Cyber Resilience Act.
1 Tag · Fortgeschritten1.890 €
Inhouse-Schulung · KI-Werkzeug
Sichere Java-Entwicklung nach OWASP Top 10
Typische Schwachstellen verstehen, finden und im Code vermeiden.
2 Tage · Fortgeschritten3.780 €