NOTIZEN / KATEGORIE

Künstliche Intelligenz

Lokale Modelle und Workflows

ÜBER DIESE KATEGORIE

Diese Kategorie richtet sich an alle, die KI-Modelle unabhängig von der Cloud auf dem eigenen Rechner oder Server betreiben möchten. Anhand praktischer Beispiele behandle ich Themen wie lokale Sprachmodelle mit Ollama, Bildgenerierungs-Workflows mit ComfyUI, strukturierte Ausgaben und Validierung sowie unternehmensinterne Wissensdatenbanken mit RAG.

In den Beiträgen finden Sie nicht nur Erfolgsgeschichten; ich teile auch konkrete Messdaten wie Quantisierungsvergleiche, Speichergrenzen und Qualitätsverluste. So können Sie anhand Ihrer eigenen Anforderungen fundiert entscheiden, welches Modell auf welcher Hardware und für welchen Einsatzzweck sinnvoll ist.

Die Artikel in dieser Kategorie richten sich sowohl an Entwickler als auch an nicht-technische Teams. Einerseits erläutere ich Implementierungsdetails wie Modellauswahl, Prompt-Design, Ausgabevalidierung per JSON-Schema und Batch-Warteschlangen; andererseits beantworte ich typische Fragen von Entscheidungsträgern zu Kosten, Datenschutz, Wartung und der Nutzung im Team. Auch meine Projekte zur lokalen Bildgenerierung für Textil- und E-Commerce-Marken werden hier als anonymisierte Fallstudien vorgestellt.

Wenn Sie eine KI-Lösung planen, bei der Ihre Daten das Unternehmen nicht verlassen, werfen Sie gerne einen Blick auf meine Leistungen im Bereich Desktop-Anwendungen und lokale KI.