-
엣지 디바이스에서 AI 모델을 직접 구동하는 기술을 단계적으로 학습할 수 있는 무료 오픈소스 교육 과정
- 목표는 AI 모델을 클라우드가 아닌 디바이스 상에서 직접 실행함으로써 지연 최소화, 개인정보 보호, 비용 절감, 네트워크 의존도 감소를 달성하는 것
- 학습자는 SLM 배포, 멀티에이전트 시스템 구축, 로컬 RAG 파이프라인 구현, 모델 라우팅 등 실무형 프로젝트를 완성하며 Windows·모바일·임베디드·하이브리드 환경 배포 기술을 익힐수 있음
-
Llama.cpp, Microsoft Olive, OpenVINO, Apple MLX 등 주요 최적화 도구를 통한 성능 개선(최대 85% 속도 향상, 75% 모델 크기 감소) 방법을 실습 중심으로 설명
- 커리큘럼 (전체 예상 시간: 36–45시간)
- 0. EdgeAI 개요 및 학습 목표 소개 (입문 : 1–2시간)
- 1. 엣지 AI 기본 개념 및 사례 (초급 : 3–4시간)
- 2. SLM 모델 구조 및 패밀리 (초급 : 4–5시간)
- 3. 로컬 및 클라우드 배포 실습 (중급 : 4–5시간)
- 4. 모델 최적화 툴킷 (Llama.cpp 등) (중급 : 5–6시간)
- 5. SLMOps 및 파인튜닝 (고급 : 5–6시간)
- 6. AI 에이전트 및 Function Calling (고급 : 4–5시간)
- 7. 크로스플랫폼 구현 (고급 : 3–4시간)
- 8. Foundry Local 샘플 프로젝트 (전문가 : 8–10시간)