Сергей Товпеко — AI / LLM / MLOps

MLOps / LLM Infrastructure Engineer

Вопыт

3 гады 5 месяцаў

Тэхналогіі

VLLM · Kubernetes/k3s · Python · FastAPI · Rust · Docker · RAG · Ollama · CUDA · Prometheus · pgvector · Go

Вопыт працы

Middle MLOps

Кра 2025 – Май 2026

Спраектаваў і разгарнуў production-ready адмоваўстойлівую архітэктуру для высоканагружанага інферэнсу LLM на базе vLLM і Ollama.
Выбудаваў MLOps-працэсы: CI/CD пайплайны для дастаўкі ML-мадэляў у Kubernetes (k3s), назіральнасць праз Prometheus/Grafana.
Укараніў RAG-сістэму на Qdrant/pgvector для семантычнага пошуку і павышэння дакладнасці адказаў LLM.

DevOps-інжынер

Лют 2024 – Кра 2025

Стварыў інструментарый для нагрузкавага тэсціравання: CLI-абгорткі і генератары трафіку на Go і Python.
Спраектаваў макіраванне знешніх залежнасцяў для інтэграцыйных тэстаў у ізаляваных Docker-асяроддзях.
Перарабіў маніторынг і наладзіў збор бізнес-метрык у Victoria Metrics/ClickHouse.

ETL Праграміст

Ліп 2023 – Лют 2024

Развіваў карпаратыўную шыну даных і аптымізаваў DAG-і Apache Airflow.
Забяспечваў інтэграцыі PostgreSQL, MariaDB і MinIO, укараніў ELK Stack для лагавання.

Праграміст

Сне 2022 – Чэр 2023

Разгарнуў інфраструктуру ў Yandex Cloud для дастаўкі рэкламнага кантэнту на сетку рэстаранаў.
Распрацоўваў серверныя модулі на C#/FastAPI і плагіны для POS-сістэм IIKO SDK.

Desktop GIS & Telemetry

Спраектаваў desktop-прыкладанне для маніторынгу і візуалізацыі прасторавых даных у рэальным часе.
Рэалізаваў алгарытмы аналізу траекторый рухомых аб'ектаў і архітэктуру для патокавай тэлеметрыі.

AI Voice Assistant Backend

Распрацаваў backend на Python/FastAPI для патокавай апрацоўкі галасавых даных і ўзаемадзеяння з LLM.
Наладзіў low-latency NLP-пайплайны і прaтатыпаваў часовую і пастаянную памяць агента.