Практика
Інженер з інтеграції AI
LLM-конвеєри, які працюють без нагляду і зранку все ще мають рацію
Будую продакшн-системи навколо мовних моделей, ту неромантичну частину: оркестрація, валідація, ретраї, вартість і оцінка, яка каже, чи це ще працює. Автоматичний контентний конвеєр, що генерує, перевіряє, редагує й перекладає без людини в циклі. Модуль потокової транскрибації, який перетворює мовлення на структурований документ. Сервіс пошуку по закритих документах: гібридний пошук, переранжування, семантичний кеш і цифри, які кажуть, скільки коштувала кожна відповідь. Під усім цим повний стек, тому модель лишається компонентом, а не стає архітектурою.
Що я вмію
- Спроєктувати LLM-конвеєр разом із нудними частинами: валідація, ретраї, ідемпотентність і стеля вартості.
- Отримувати від моделі структуровану відповідь за схемою, а не прозу, яку потім треба розбирати.
- Побудувати пошук по ваших документах і розуміти, коли він віддає не той фрагмент.
- Завести мовлення й документи в систему: транскрибація, витяг і готовий артефакт на виході.
- Налаштувати оцінку, щоб зміна промпту була вимірюванням, а не відчуттям.
- Прямо сказати, де модель не потрібна, і написати там звичайний код.
Звідки це
- 2025 до тепер
Freelance / Independent Developer
Groundline: RAG-сервіс на Python і FastAPI з pgvector, пайплайном на LangGraph, гібридним пошуком, переранжуванням і семантичним кешем, який закриває від 60 до 65 відсотків повторних запитань. Litseller: автоматичний конвеєр LLM-оркестрації, що генерує, валідує, редагує й перекладає статті одинадцятьма мовами та публікує їх без людини в циклі. Auto Inspect: потокова транскрибація голосу, структурована у готовий PDF-акт.
- 2023-2025
Yandex
Високонавантажені B2B-модулі та інтеграційні шари між мікросервісами і зовнішньою аналітикою.
- 2019-2022
Sber
Парсинг і структурування неструктурованих даних у виконавчих документах, зниження ручних помилок.
Стек
- AI та мовні моделі
- OpenAI API ·Claude API ·Groq API ·LangGraph ·pgvector ·LLM orchestration ·Prompt engineering ·Structured output ·RAG ·Speech transcription ·Evaluation harnesses
- Бекенд і дані
- Node.js ·Python ·FastAPI ·TypeScript ·PostgreSQL ·Supabase ·Queues ·REST API
- Фронтенд
- React ·Astro ·Next.js ·Streaming UI
- Інфраструктура
- Docker ·GitHub Actions ·Vercel ·Playwright
Про це на сайті
Робота разом
Напишіть, якщо ваша задача такої форми.
Написати