Sie haben ein Problem, das von einem LLM gelöst werden muss. Nun stehen Sie vor drei Wegen: ein Modell feinabstimmen, einen besseren Prompt entwickeln oder eine Retrieval-Augmented Generation (RAG)-Pipeline aufbauen. Jeder Weg kostet unterschiedlich viel Zeit und Geld. Jeder scheitert auf unterschiedliche Weise. Die falsche Wahl kostet Wochen.
Die Kernspannung: Verhalten vs. Wissen vs. Beides
Bevor Sie sich entscheiden, verstehen Sie, was jeder Ansatz tatsächlich verändert.
Prompt Engineering modifiziert, wie ein Modell eine einzelne Anfrage verarbeitet. Sie ändern nicht die Gewichte des Modells. Sie ändern die Eingabe.
RAG ändert den Kontext, den das Modell sieht. Sie rufen relevante Dokumente oder Daten ab, fügen sie in den Prompt ein und lassen das Modell auf Basis dieser fundierten Informationen arbeiten, anstatt sich auf Trainingsdaten von vor 6 Monaten zu verlassen.
Fine-Tuning ändert das Modell selbst. Sie trainieren Gewichte mit aufgabenbezogenen Beispielen neu, bis das Modell die für Sie wichtigen Muster verinnerlicht hat. Dies ist der einzige Ansatz, der das Modell tatsächlich dazu bringt, sich an etwas Neues zu erinnern.
Dies sind keine Konkurrenten. Es sind Schichten. Und die meisten Produktionssysteme verwenden zwei oder alle drei.
Wann Prompt Engineering gewinnt (Es ist oft genug)
Beginnen Sie hier. Ernsthaft. Prompt Engineering ist kostenlos, wenn Sie bereits für den API-Zugang bezahlen.
Es funktioniert, wenn:
- Das Modell bereits weiß, wie es das Problem lösen kann – es benötigt nur klarere Anweisungen
- Fehler inkonsistentes Denken sind, nicht fehlendes Wissen
- Ihre Aufgabe beinhaltet die Verarbeitung von Informationen, auf denen das Modell trainiert wurde
Beispiel: Sie benötigen Claude Sonnet 4, um strukturierte Daten aus Kunden-E-Mails zu extrahieren. Ein einfacher Prompt scheitert zu 15 %, weil das Modell Felder überspringt oder Werte halluziniert.
Schlechter Prompt:
Extrahieren Sie Kundendaten aus dieser E-Mail:
{email_text}Verbesserter Prompt:
Extrahieren Sie Kundendaten aus dieser E-Mail. Geben Sie nur gültiges JSON zurück. Wenn ein Feld in der E-Mail nicht vorhanden ist, verwenden Sie null. Erfinden Sie keine Werte.
Erforderliche Felder: name, email, phone, company, issue_category
E-Mail:
{email_text}
JSON:Die zweite Version reduziert die Fehlerrate in den meisten Fällen auf 3 %. Kein Retraining. Keine Vektordatenbanken. Nur Spezifität bezüglich Format, Einschränkungen und was zu tun ist, wenn Informationen fehlen.
Kosten: 30 Minuten Iteration.
Wann RAG das behebt, was Prompting nicht kann
RAG ist nicht für Denkprobleme gedacht. Es ist für Wissensprobleme.
Verwenden Sie RAG, wenn:
- Dem Modell die benötigten Informationen fehlen (sie sind in Ihren Dokumenten, Ihrer Datenbank, Ihrem Slack-Verlauf, veröffentlicht nach dem Trainings-Cutoff des Modells)
- Sie möchten, dass das Modell Quellen zitiert oder auf bestimmte Dokumente verweist
- Ihre Wissensbasis sich schneller ändert als Modellaktualisierungen (vierteljährliche Produktdokumentation, Live-Preise, kundenspezifische Richtlinien)
Reales Szenario: Ein Support-Team benötigt ein LLM, um Fragen zu Ihrem SaaS-Produkt zu beantworten. Ihr Produkt wurde dreimal seit den Trainingsdaten von GPT-4o aktualisiert. Das Modell halluziniert nicht existierende Funktionen und verpasst neue.
Prompt Engineering hilft nicht – das Modell weiß es buchstäblich nicht. Fine-Tuning ist übertrieben für etwas, das sich jeden Monat ändert. RAG ist die Antwort: Betten Sie Ihre neuesten Dokumente ein, rufen Sie relevante Abschnitte ab, fügen Sie sie in den Prompt ein.
Beispiel RAG-Setup in Python:
from anthropic import Anthropic
import json
client = Anthropic()
# Ihre Dokumente als einfache Wissensbasis
KNOWLEDGE_BASE = {
