Spring AI in der Praxis: RAG, MCP und LLM-Evaluation

Viele Demos zeigen, wie schnell ein LLM mit Spring AI eingebunden ist. Für eine echte Anwendung reicht das jedoch nicht aus. Ein einzelner Prompt löst kein reales Geschäftsproblem, denn ohne Zugriff auf eigene Daten und ohne Anbindung der notwendigen APIs stößt das Modell sehr schnell an Grenzen. Gleichzeitig müssen die Ergebnisse des Modells zuverlässig validiert werden, doch das nichtdeterministische Verhalten macht klassische Testansätze unzuverlässig.

In diesem Talk zeige ich dir, wie du LLM-basierte Funktionen systematisch prüfst und bewertest, auch wenn bekannte Teststrategien an ihre Grenzen stoßen. Du erfährst, wie du mit RAG zusätzliche Informationen bereitstellst, damit das Modell fundierte Antworten liefert, anstatt zu halluzinieren. Außerdem lernst du, wie du über das Model Context Protocol (MCP) gezielt API-Aufrufe einbindest und damit auch komplexe Abläufe umsetzen kannst.

Bio

Thorben Janssen löst als freiberuflicher Consultant und Trainer Persistenzprobleme mit JPA und Hibernate. Seit neuestem unterstützt er Teams auch bei der Entwicklung intelligenter Anwendungen mit Spring AI. Er ist Autor des Amazon Bestsellers Hibernate Tips - More than 70 solutions to common Hibernate problems und internationaler Redner mit über 20 Jahren Erfahrung mit JPA und Hibernate. Auf thorben-janssen.com schreibt er über Persistenzthemen und Spring AI und hilft Entwicklern im Persistence Hub ihre Fertigkeiten zu verbessern.

Anmeldung auf Eventbrite