Сергей Товпеко — AI / LLM / MLOps

MLOps / LLM Infrastructure Engineer

Опыт

3 года 5 месяцев

Технологии

VLLM · Kubernetes/k3s · Python · FastAPI · Rust · Docker · RAG · Ollama · CUDA · Prometheus · pgvector · Go

Опыт работы

Middle MLOps

Апр 2025 – Май 2026

Спроектировал и развернул production-ready отказоустойчивую архитектуру для высоконагруженного инференса LLM на базе vLLM и Ollama.
Выстроил MLOps-процессы: CI/CD пайплайны для доставки ML-моделей в Kubernetes (k3s), observability через Prometheus/Grafana.
Внедрил RAG-систему на Qdrant/pgvector для семантического поиска и повышения точности ответов LLM.

DevOps-инженер

Фев 2024 – Апр 2025

Создал инструментарий для нагрузочного тестирования: CLI-обертки и генераторы трафика на Go и Python.
Спроектировал мокирование внешних зависимостей для интеграционных тестов в изолированных Docker-средах.
Переработал мониторинг и настроил сбор бизнес-метрик в Victoria Metrics/ClickHouse.

ETL Программист

Июл 2023 – Фев 2024

Развивал корпоративную шину данных и оптимизировал DAG-и Apache Airflow.
Обеспечивал интеграции PostgreSQL, MariaDB и MinIO, внедрил ELK Stack для логирования.

Программист

Дек 2022 – Июн 2023

Развернул инфраструктуру в Yandex Cloud для доставки рекламного контента на сеть ресторанов.
Разрабатывал серверные модули на C#/FastAPI и плагины для POS-систем IIKO SDK.

Desktop GIS & Telemetry

Спроектировал desktop-приложение для мониторинга и визуализации пространственных данных в реальном времени.
Реализовал алгоритмы анализа траекторий подвижных объектов и архитектуру для потоковой телеметрии.

AI Voice Assistant Backend

Разработал backend на Python/FastAPI для потоковой обработки голосовых данных и взаимодействия с LLM.
Настроил low-latency NLP-пайплайны и прототипировал временную и постоянную память агента.