Was ist ein Foundation Model?
Ein Foundation Model ist ein großes KI-Modell, das auf massiven Datensätzen (Text, Bilder, Code, Audio) ohne Spezialisierung vortrainiert wurde. Beispiele: GPT-4, Claude, Gemini, Llama. Das Foundation Model ist eine „Basis“, die dann für spezifische Anwendungen angepasst wird.
Von der Basis zur Spezialisierung
Ein reines Foundation Model ist ein Generalist. Die Anpassung erfolgt durch: Fine-tuning (Nachtraining mit domänenspezifischen Daten), RAG (Bereitstellung von Kontext aus Wissensdatenbanken), Prompt Engineering (Systemanweisungen, die Rolle und Einschränkungen definieren) und RLHF (Lernen aus menschlichem Feedback).
Offene vs. geschlossene Modelle
Foundation Models gibt es als offene (Llama, Mistral — herunterladbar, auf eigenen Servern betreibbar) und geschlossene (GPT-4, Claude — nur über API zugänglich). Die Wahl beeinflusst Kosten, Datenschutz, Anpassungsflexibilität und Vendor-Lock-in-Risiko.