In den letzten Jahren haben wir mit den meisten relevanten KI-Systemen gearbeitet und kennen ihre Stärken und Grenzen.
Große Sprachmodelle wie ChatGPT, Claude oder Gemini setzen wir dort ein, wo Textverständnis, Zusammenfassung oder Dialog gefragt sind und wo eine Anbindung an externe Server rechtlich vertretbar ist.
Lokale KI mit vLLM und ähnlichen Systemen nutzen wir, wenn Datenschutz oder DSGVO im Vordergrund stehen. Die Modelle laufen dann auf eurer eigenen Infrastruktur, keine Daten verlassen das Haus. Besonders relevant für Unternehmen mit Kundendaten, Patientendaten oder internen Dokumenten.
Spezialisierte Modelle für OCR, Klassifikation oder Bildverarbeitung, die gezielt eine Aufgabe erledigen, oft deutlich zuverlässiger als ein großes Generalisten-Modell.
Retrieval Augmented Generation (RAG) für Fälle, in denen eine KI Wissen aus deinen eigenen Dokumenten ziehen soll, etwa für einen internen Assistenten, der auf deiner Dokumentation arbeitet.