Praxisfeld
Engineer für KI-Integration
LLM-Pipelines, die unbeaufsichtigt laufen und am nächsten Morgen immer noch richtig liegen
Ich baue Produktionssysteme rund um Sprachmodelle, den unglamourösen Teil: Orchestrierung, Validierung, Wiederholungen, Kosten und die Auswertung, die sagt, ob das Ganze noch funktioniert. Eine automatisierte Content-Pipeline, die ohne Menschen im Ablauf generiert, prüft, redigiert und übersetzt. Ein Streaming-Transkriptionsmodul, das Sprache in ein strukturiertes Dokument verwandelt. Ein Suchdienst über eigene Dokumente: hybride Suche, Reranking, ein semantischer Cache und die Zahlen, die sagen, was jede Antwort gekostet hat. Darunter der volle Stack, damit das Modell eine Komponente bleibt und nicht zur Architektur wird.
Was ich kann
- Eine LLM-Pipeline mitsamt den langweiligen Teilen entwerfen: Validierung, Wiederholungen, Idempotenz und eine Kostenobergrenze.
- Vom Modell strukturierte, schemageprüfte Ausgaben bekommen statt Prosa, die man danach parsen muss.
- Suche über Ihre eigenen Dokumente bauen und erkennen, wann sie die falsche Passage zurückgibt.
- Sprache und Dokumente ins System führen: Transkription, Extraktion und ein erzeugtes Artefakt am Ende.
- Auswertung aufsetzen, damit eine Prompt-Änderung eine Messung ist und kein Gefühl.
- Klar sagen, wo ein Modell nichts zu suchen hat, und dort gewöhnlichen Code schreiben.
Woher das kommt
- 2025 bis heute
Freelance / Independent Developer
Groundline: ein RAG-Dienst auf Python und FastAPI mit pgvector, einer LangGraph-Pipeline, hybrider Suche, Reranking und einem semantischen Cache, der 60 bis 65 Prozent der wiederholten Fragen abdeckt. Litseller: eine automatisierte LLM-Orchestrierungs-Pipeline, die Artikel generiert, validiert, redigiert, in elf Sprachen übersetzt und ohne Menschen im Ablauf veröffentlicht. Auto Inspect: Streaming-Sprachtranskription, strukturiert zu einem erzeugten PDF-Bericht.
- 2023-2025
Yandex
Hochlast-B2B-Module und die Integrationsschichten zwischen Microservices und externer Analytik.
- 2019-2022
Sber
Parsen und Strukturieren unstrukturierter Daten in Vollstreckungsdokumenten und damit weniger manuelle Fehler.
Stack
- KI und Sprachmodelle
- OpenAI API ·Claude API ·Groq API ·LangGraph ·pgvector ·LLM orchestration ·Prompt engineering ·Structured output ·RAG ·Speech transcription ·Evaluation harnesses
- Backend und Daten
- Node.js ·Python ·FastAPI ·TypeScript ·PostgreSQL ·Supabase ·Queues ·REST API
- Frontend
- React ·Astro ·Next.js ·Streaming UI
- Infrastruktur
- Docker ·GitHub Actions ·Vercel ·Playwright
Dazu auf der Website
Zusammenarbeit
Schreiben Sie mir, wenn Ihre Aufgabe diese Form hat.
Schreiben