Σεργκέι Τόβπεκο

Σεργκέι Τόβπεκο

MLOps · LLM Infrastructure · AgentOps

Ο ειδικός σας σε

MLOps / LLM Infrastructure Engineer

Εμπειρία

3 έτη 5 μήνες

Τεχνολογίες

VLLM · Kubernetes/k3s · Python · FastAPI · Rust · Docker · RAG · Ollama · CUDA · Prometheus · pgvector · Go

Επαγγελματική εμπειρία

RTI JSC

Middle MLOps

Απρ 2025 – Μαϊ 2026
  • Σχεδίασα και ανέπτυξη production-ready ανθεκτική αρχιτεκτονική για inference LLM υψηλής φόρτισης με vLLM και Ollama.
  • Δημιούργησα MLOps διαδικασίες: CI/CD pipelines για παράδοση ML μοντέλων σε Kubernetes (k3s), παρατηρησιμότητα με Prometheus/Grafana.
  • Εφάρμοσα RAG σύστημα σε Qdrant/pgvector για σημασιολογική αναζήτηση και βελτίωση ακρίβειας απαντήσεων LLM.

Sber

DevOps Μηχανικός

Φεβ 2024 – Απρ 2025
  • Δημιούργησα εργαλεία δοκιμών φόρτου: CLI wrappers και generators traffic σε Go και Python.
  • Σχεδίασα mocking εξωτερικών εξαρτήσεων για integration tests σε απομονωμένα Docker περιβάλλοντα.
  • Ανασχεδίασα το monitoring και ρύθμισα συλλογή business metrics σε Victoria Metrics/ClickHouse.

Rosseti Digital JSC

ETL Προγραμματιστής

Ιουλ 2023 – Φεβ 2024
  • Ανέπτυξα τον εταιρικό δίαυλο δεδομένων και βελτιστοποίησα DAGs του Apache Airflow.
  • Ενσωμάτωσα PostgreSQL, MariaDB και MinIO, και εφάρμοσα ELK Stack για logging.

Franklins Burger

Προγραμματιστής

Δεκ 2022 – Ιουν 2023
  • Ανέπτυξα υποδομή στο Yandex Cloud για διανομή διαφημιστικού περιεχομένου σε δίκτυο εστιατορίων.
  • Ανέπτυξα server modules σε C#/FastAPI και plugins για POS συστήματα IIKO SDK.

Προσωπικά έργα & R&D

Rubezh

Desktop GIS & Telemetry

  • Σχεδίασα desktop εφαρμογή για实时 παρακολούθηση και οπτικοποίηση χωρικών δεδομένων.
  • Υλοποίησα αλγόριθμους ανάλυσης τροχιών κινούμενων αντικειμένων και αρχιτεκτονική για streaming telemetry.

YourFriendAI

AI Voice Assistant Backend

  • Ανέπτυξα backend σε Python/FastAPI για streaming επεξεργασία φωνητικών δεδομένων και αλληλεπίδραση με LLM.
  • Ρύθμισα low-latency NLP pipelines και πρωτοτύπησα προσωρινή και μόνιμη μνήμη του agent.