ML Engineer vs AI Engineer: What's Actually the Difference?

개요

ML Engineer와 AI Engineer는 기술 생태계에서 근본적으로 다른 역할을 수행하며, ML Engineer는 AI의 지능을 구축하고 AI Engineer는 그 지능을 실제 제품으로 전달하는 역할을 담당한다.

주요 내용

* ML Engineer (농부):
* AI 연구의 결과물을 가져와 실제 세상에서 대규모로 작동하도록 만드는 역할을 한다.
* 주요 업무는 대규모 데이터셋 처리, 분산 모델 학습, 모델 튜닝 및 최적화, 임베딩 구축, 모델 API 배포 등이다.
* PyTorch, TensorFlow, CUDA, MLOps 플랫폼, 분산 컴퓨팅 인프라 등의 도구를 사용한다.
* 최종 제품이 아닌, 학습된 모델, 체크포인트, 모델 API와 같은 "지능" 자체를 생산한다.

* AI Ecosystem Layers:
* Layer 1: The Farm (ML Engineer): ML Researcher가 개발한 기초 아키텍처(Transformers, diffusion models 등)를 실제 사용할 수 있는 형태로 만든다.
* Layer 2: The Wholesale Market (AI Distribution):
* Premium Branded Suppliers (OpenAI, Anthropic, Google DeepMind): GPT, Gemini, Claude API와 같이 잘 패키징된 최첨단 지능을 제공한다.
* Open Wholesale Markets (AWS Bedrock, Azure AI Foundry, GCP Vertex AI): 다양한 브랜드를 제공하며, 사용자가 자체 파인튜닝 모델을 올릴 수도 있는 유연성을 제공한다.
* Small Language Models (SLMs): Llama, Mistral, Phi, Gemma와 같이 자체 데이터로 파인튜닝 가능한 비용 효율적인 오픈소스 모델이다.
* vLLM (Cold-Chain Logistics Truck): SLM과 같은 모델을 대규모로 효율적으로 서빙할 수 있게 해주는 오픈소스 추론 엔진이다.
* Layer 3: The Kitchen (AI Engineer): 도매 시장에서 제공되는 재료(모델)를 활용하여 사용자가 원하는 제품을 만드는 역할을 한다.

* AI Engineer (요리사):
* 모델 자체를 훈련시키는 것보다 모델을 중심으로 지능적인 시스템을 구축하는 데 집중한다.
* 주요 업무는 프롬프트 엔지니어링, RAG 파이프라인 구축, 에이전트 워크플로우, API 오케스트레이션, AI 시스템 아키텍처 설계 등이다.
* LangChain, LangGraph, Semantic Kernel, FastAPI, 클라우드 서비스 등 다양한 API를 조합하여 사용한다.
* 최종 결과물은 사용자가 상호작용하는 제품(AI 코파일럿, 엔터프라이즈 챗봇, 자율 에이전트 등)이다.

* 두 역할의 근본적인 차이 - 속도:
* ML Engineering은 모델 학습에 시간과 비용이 많이 소요되어 피봇이 어렵고 피드백 루프가 길다.
* AI Engineering은 새로운 프롬프트 전략, 도구 추가, 워크플로우 재설계 등을 빠르게 적용할 수 있다.

* 산업 동향:
* AI 분야는 클라우드 컴퓨팅과 유사하게 인프라 엔지니어, 플랫폼 엔지니어, 애플리케이션 개발자 등으로 분화되는 과정을 겪고 있으며, AI는 이러한 패턴을 더 빠르게 따르고 있다.
* ML Engineer는 지능을 구축하고, AI Engineer는 경험을 제공하며, 이 둘이 협력해야 실제 가치를 창출할 수 있다.

시사점

AI 생태계는 연구, 모델 구축, 배포, 최종 제품 개발이라는 전체 공급망의 협력이 필수적이며, ML Engineer와 AI Engineer는 각기 다른 전문성을 바탕으로 상호 보완하며 AI 기술의 발전을 이끌어 나간다.