Практика

Інженер з інтеграції AI

LLM-конвеєри, які працюють без нагляду і зранку все ще мають рацію

Будую продакшн-системи навколо мовних моделей — ту неромантичну частину: оркестрація, валідація, ретраї, вартість і оцінка, яка каже, чи це ще працює. Автоматичний контентний конвеєр, що генерує, перевіряє, редагує й перекладає без людини в циклі. Модуль потокової транскрибації, який перетворює мовлення на структурований документ. Під усім цим — повний стек, тому модель лишається компонентом, а не стає архітектурою.

Що я вмію

  • Спроєктувати LLM-конвеєр разом із нудними частинами: валідація, ретраї, ідемпотентність і стеля вартості.
  • Отримувати від моделі структуровану відповідь за схемою, а не прозу, яку потім треба розбирати.
  • Побудувати пошук по ваших документах і розуміти, коли він віддає не той фрагмент.
  • Завести мовлення й документи в систему: транскрибація, витяг і готовий артефакт на виході.
  • Налаштувати оцінку, щоб зміна промпту була вимірюванням, а не відчуттям.
  • Прямо сказати, де модель не потрібна, і написати там звичайний код.

Звідки це

  1. 2025 —

    ASMB Tech

    Litseller: автоматичний конвеєр LLM-оркестрації, що генерує, валідує, редагує й перекладає статті одинадцятьма мовами та публікує їх без людини в циклі. Auto Inspect: потокова транскрибація голосу, структурована у готовий PDF-акт.

  2. 2023 — 2025

    Yandex

    Високонавантажені B2B-модулі та інтеграційні шари між мікросервісами і зовнішньою аналітикою.

  3. 2019 — 2022

    Sber

    Парсинг і структурування неструктурованих даних у виконавчих документах, зниження ручних помилок.

Стек

AI та мовні моделі
OpenAI API ·Claude API ·LLM orchestration ·Prompt engineering ·Structured output ·RAG ·Speech transcription ·Evaluation harnesses
Бекенд і дані
Node.js ·TypeScript ·PostgreSQL ·Supabase ·Queues ·REST API
Фронтенд
React ·Astro ·Next.js ·Streaming UI
Інфраструктура
Docker ·GitHub Actions ·Vercel ·Playwright

Про це на сайті

Робота разом

Напишіть, якщо ваша задача такої форми.

Написати