Сергей Товпеко — AI / LLM / MLOps

MLOps / LLM Infrastructure Engineer

Туршлага

3 жэл 5 hара

Технологинууд

VLLM · Kubernetes/k3s · Python · FastAPI · Rust · Docker · RAG · Ollama · CUDA · Prometheus · pgvector · Go

Ажалай туршлага

Middle MLOps

Арб 2025 – Май 2026

VLLM ба Ollama дээрэ high-load LLM инференсэй production-ready архитектура зохёон байгуулба.
MLOps процессуудые шэнээр байгуулба: Kubernetes (k3s) кластер руу ML-модель татаха CI/CD, Prometheus/Grafana харалга.
Qdrant/pgvector дээрэ RAG-системэ нэбтэрүүлжэ, LLM харюунуудай нариишабари ехэдхэбэ.

DevOps-инженер

Фев 2024 – Арб 2025

Go ба Python дээрэ CLI обёртко ба трафик генераторнуудые бүтээжэ, нагрузкатай тест хэхэ хэрэгсэлнүүдые хэбэ.
Тусгаарлагдаhан Docker-оршондо интеграционна тестнүүдые хэхэдэ, гадаада хамааталга мокировалгын архитектура зохёобо.
Мониторинг шэнэдхэжэ, Victoria Metrics/ClickHouse руу бизнес-метрикын сбор асараба.

ETL Программист

Июл 2023 – Фев 2024

Корпоративто мэдээсэлэй шубуун хүгжөөжэ, Apache Airflow DAG-уудые оптимизацилба.
PostgreSQL, MariaDB, MinIO нэгэдүүлжэ, ELK Stack лог харуулгада зорюулба.

Программист

Дек 2022 – Июн 2023

Реклама контент ресторануудай hүлжээндэ хүргэхэ Yandex Cloud дээрэ инфраструктура дэлгэбэ.
C#/FastAPI сервер модулинууд ба IIKO SDK POS системэдэ плагинуудые хүгжөөбэ.

Desktop GIS & Telemetry

Пространственна мэдээсэлэй мониторинг болон визуализациин desktop-аппликации зохёобо.
Хүдэлөөнэй объектуудай траекториин алгоритмууд ба стриминг телеметриин архитектура хэргүүлбэ.

AI Voice Assistant Backend

Дуу хоолой мэдээсэлэй стриминг боловсруулга ба LLM-тэй харилсаха Python/FastAPI backend хүгжөөбэ.
Low-latency NLP-пайплайнуудые тохируулжа, агентай түр зуурын ба гурим hанаха ой прототипировалба.