Сергей Товпеко — AI / LLM / MLOps

MLOps / LLM Infrastructure Engineer

Досвід

3 роки 5 місяців

Технології

VLLM · Kubernetes/k3s · Python · FastAPI · Rust · Docker · RAG · Ollama · CUDA · Prometheus · pgvector · Go

Досвід роботи

Middle MLOps

Кві 2025 – Тра 2026

Спроєктував і розгорнув production-ready відмовостійку архітектуру для високонавантаженого інференсу LLM на базі vLLM та Ollama.
Вибудував MLOps-процеси: CI/CD пайплайни для доставки ML-моделей у Kubernetes (k3s), observability через Prometheus/Grafana.
Впровадив RAG-систему на Qdrant/pgvector для семантичного пошуку та підвищення точності відповідей LLM.

DevOps-інженер

Лют 2024 – Кві 2025

Створив інструментарій для навантажувального тестування: CLI-обгортки та генератори трафіку на Go та Python.
Спроєктував мокування зовнішніх залежностей для інтеграційних тестів у ізольованих Docker-середовищах.
Переробив моніторинг та налаштував збір бізнес-метрик у Victoria Metrics/ClickHouse.

ETL Програміст

Лип 2023 – Лют 2024

Розвивав корпоративну шину даних та оптимізував DAG-и Apache Airflow.
Забезпечував інтеграції PostgreSQL, MariaDB та MinIO, впровадив ELK Stack для логування.

Програміст

Гру 2022 – Чер 2023

Розгорнув інфраструктуру в Yandex Cloud для доставки рекламного контенту на мережу ресторанів.
Розробляв серверні модулі на C#/FastAPI та плагіни для POS-систем IIKO SDK.

Desktop GIS & Telemetry

Спроєктував desktop-застосунок для моніторингу та візуалізації просторових даних у реальному часі.
Реалізував алгоритми аналізу траєкторій рухомих об'єктів та архітектуру для потокової телеметрії.

AI Voice Assistant Backend

Розробив backend на Python/FastAPI для потокової обробки голосових даних та взаємодії з LLM.
Налаштував low-latency NLP-пайплайни та прототипував тимчасову і постійну пам'ять агента.