MLOps

MLOps (Machine Learning Operations) to zestaw praktyk i narzędzi, które pozwalają niezawodnie wdrażać, monitorować i utrzymywać modele uczenia maszynowego w produkcji. To odpowiednik DevOps dla świata ML - z tą różnicą, że oprócz kodu trzeba zarządzać także danymi i modelami, które z czasem się „starzeją”.

Czym zajmuje się MLOps

• Powtarzalny trening - pipeline'y, które z danych i kodu zawsze dają ten sam model; wersjonowanie danych i modeli.
• Śledzenie eksperymentów - parametry, metryki i artefakty każdego treningu (np. MLflow, Weights & Biases).
• Wdrażanie (serving) - udostępnianie modelu jako usługi, skalowanie, optymalizacja kosztów inferencji na GPU.
• CI/CD dla ML - automatyczne testy danych i modeli przed wdrożeniem.
• Monitoring - wykrywanie data drift (zmiany w danych wejściowych) i spadku jakości modelu w czasie.

LLMOps

Przy aplikacjach opartych na LLM mówi się o LLMOps: zarządzaniu promptami, ewaluacji odpowiedzi, monitorowaniu kosztów tokenów, opóźnień i halucynacji, a także obsłudze systemów RAG i agentów.

Narzędzia i umiejętności

Typowy stos MLOps Engineera to Python, Docker, Kubernetes, chmura (AWS, GCP, Azure), narzędzia do orkiestracji (Airflow, Kubeflow), serwowania modeli (vLLM, Triton, KServe) i monitoringu. Stanowiska MLOps Engineer i ML Platform Engineer regularnie pojawiają się w ofertach - zobacz aktualne.