초보자를 위한 생성형 AI
(microsoft.github.io)- 생성형 AI 앱을 처음 만드는 개발자가 개념부터 구현까지 따라갈 수 있도록 Microsoft Cloud Advocates가 21개 레슨으로 구성한 입문 과정임
- 레슨은 이론 중심의 Learn과 코드 예제를 포함한 Build로 나뉘며, 가능한 경우 Python과 TypeScript 예제를 함께 제공함
- 실습은 Azure OpenAI Service, GitHub Marketplace Model Catalog, OpenAI API 중 하나로 실행할 수 있어 학습 환경 선택지가 넓음
- 각 레슨은 짧은 영상 소개, README 문서, 코드 샘플, 추가 학습 링크로 구성돼 독립적으로 학습하기 쉬움
- 50개 이상 언어 번역을 제공하지만 로컬 클론 시 용량이 커질 수 있어, 번역 파일을 제외하려면 sparse checkout을 쓰는 방식이 유용함
21개 레슨으로 구성된 입문 과정
- Generative AI for Beginners는 Microsoft Cloud Advocates가 만든 생성형 AI 애플리케이션 입문 과정임
- 총 21개 레슨으로 구성되며, 각 레슨은 독립 주제를 다뤄 원하는 위치에서 시작할 수 있음
- 레슨 유형은 두 가지로 나뉨
- Learn: 생성형 AI 개념을 설명함
- Build: 개념과 코드 예제를 함께 다룸
- 가능한 경우 Python과 TypeScript 코드 예제를 제공함
- .NET 개발자는 Generative AI for Beginners (.NET Edition)을 참고할 수 있음
- 각 레슨에는 추가 학습 자료를 모은 Keep Learning 섹션이 포함됨
실습을 위한 준비 사항
- 과정 코드를 실행하려면 다음 중 하나를 사용할 수 있음
- Azure OpenAI Service: 레슨 라벨
aoai-assignment - GitHub Marketplace Model Catalog: 레슨 라벨
githubmodels - OpenAI API: 레슨 라벨
oai-assignment
- Azure OpenAI Service: 레슨 라벨
- Python 또는 TypeScript 기본 지식이 있으면 학습에 도움이 됨
- 완전 초보자는 Python과 TypeScript 과정을 먼저 볼 수 있음
- 전체 저장소를 자신의 계정으로 fork하려면 GitHub 계정이 필요함
- 개발 환경 설정은 Course Setup 레슨에서 다룸
번역 지원과 로컬 클론 최적화
- 과정은 50개 이상 언어 번역을 포함하며, GitHub Action을 통해 자동으로 최신 상태를 유지하는 번역을 제공함
- 지원 언어 목록에는 Arabic, Chinese, French, German, Hindi, Japanese, Korean, Spanish, Vietnamese 등 여러 언어가 포함됨
- 번역 파일 때문에 저장소 다운로드 크기가 커질 수 있음
- 번역 없이 빠르게 클론하려면 sparse checkout으로
translations와translated_images를 제외할 수 있음
git clone --filter=blob:none --sparse https://github.com/microsoft/generative-ai-for-beginners.git
cd generative-ai-for-beginners
git sparse-checkout set --no-cone '/*' '!translations' '!translated_images'
레슨 기본 구성
- 각 레슨은 다음 요소를 포함함
- 주제에 대한 짧은 영상 소개
- README 기반 문서형 레슨
- Azure OpenAI와 OpenAI API를 지원하는 Python 및 TypeScript 코드 샘플
- 추가 학습을 이어가기 위한 리소스 링크
전체 레슨 흐름
- 00 Course Setup: 개발 환경 설정
- 01 Introduction to Generative AI and LLMs: 생성형 AI와 LLM 동작 이해
- 02 Exploring and comparing different LLMs: 사용 사례에 맞는 모델 선택
- 03 Using Generative AI Responsibly: 생성형 AI 애플리케이션의 책임 있는 구축
- 04 Understanding Prompt Engineering Fundamentals: 프롬프트 엔지니어링 기본과 모범 사례
- 05 Creating Advanced Prompts: 프롬프트 결과를 개선하는 기법
- 06 Building Text Generation Applications: Azure OpenAI 또는 OpenAI API를 사용하는 텍스트 생성 앱
- 07 Building Chat Applications: 채팅 애플리케이션 구축과 통합 기법
- 08 Building Search Apps Vector Databases: 임베딩으로 데이터를 검색하는 검색 앱
- 09 Building Image Generation Applications: 이미지 생성 애플리케이션
- 10 Building Low Code AI Applications: 로우코드 도구를 활용한 생성형 AI 앱
- 11 Integrating External Applications with Function Calling: 함수 호출과 애플리케이션 사용 사례
- 12 Designing UX for AI Applications: 생성형 AI 앱 개발 시 UX 설계 원칙 적용
- 13 Securing Your Generative AI Applications: AI 시스템 위협, 위험, 보안 방법
- 14 The Generative AI Application Lifecycle: LLM 생명주기와 LLMOps 관리 도구 및 지표
- 15 Retrieval Augmented Generation (RAG) and Vector Databases: RAG 프레임워크와 벡터 데이터베이스
- 16 Open Source Models and Hugging Face: Hugging Face의 오픈소스 모델 활용
- 17 AI Agents: AI Agent 프레임워크를 사용하는 애플리케이션
- 18 Fine-Tuning LLMs: LLM 파인튜닝의 개념, 이유, 방법
- 19 Building with SLMs: Small Language Models로 구축할 때의 이점
- 20 Building with Mistral Models: Mistral 계열 모델의 기능과 차이
- 21 Building with Meta Models: Meta 계열 모델의 기능과 차이
추가 자료와 참여 경로
- 더 고급 코드 샘플은 Generative AI Code Samples 모음에서 확인할 수 있으며, Python과 TypeScript로 제공됨
- 학습자와 교류하고 지원을 받으려면 Azure AI Foundry Discord server에 참여할 수 있음
- 질문이나 제품 피드백은 Azure AI Foundry Developer Forum에서 공유할 수 있음
- 스타트업으로 Azure 크레딧을 활용해 시작하려면 Microsoft for Startups를 확인할 수 있음
- 제안, 오탈자, 코드 오류는 issue를 올리거나 pull request를 만들 수 있음
댓글과 토론
Hacker News 의견들
-
생성형 AI를 어떻게 쓰는지가 아니라 실제로 어떻게 동작하는지를 다루는 강의나 책 추천이 궁금함
- https://course.fast.ai와 https://karpathy.ai/zero-to-hero.html 둘 다 훌륭함
- 형제 댓글에 나온 것들을 봤지만 도움이 안 됐고, 이 채널을 보고 바로 이해가 됐음: https://www.youtube.com/@algorithmicsimplicity
합성곱 신경망과 트랜스포머 네트워크 모두 설명이 잘 맞아떨어졌음
시각화 목적이라면 이 채널도 강력 추천함: https://www.youtube.com/watch?v=eMXuk97NeSI&t=207s
합성곱 신경망에서 보폭, 특징, 창 크기, 입력과 출력 크기의 관계 같은 개념을 잘 설명하고 보여줌 - 본인 수준에 따라 다름
Andrew Ng의 Coursera 강의는 딥러닝 기초를 배우는 데 도움이 됨
"Generative AI for Everyone"과 다른 짧은 강의들도 기본 감을 잡게 해주고, 거기서 이어가면 됨
https://www.coursera.org/specializations/deep-learning
https://www.deeplearning.ai/courses/generative-ai-for-everyo...
HuggingFace에도 괜찮은 강의가 있음: https://huggingface.co/learn/nlp-course/
Jay Allamer의 트랜스포머 구조 블로그 글도 좋음: https://www.deeplearning.ai/short-courses/
결국에는 arxiv.org의 논문을 읽게 될 가능성이 큼 - Karpathy가 최근 YouTube에 올린 1시간짜리 강연도 있음: https://www.youtube.com/watch?v=zjkBMFhNj_g
- 무료 강의와 교재 목록을 정리해둠: https://phaseai.com/resources/free-resources-ai-ml-2024
전부 직접 검토해서 품질이 괜찮고 영업·마케팅성 내용이 아닌지 확인했음
-
AI/ML을 전혀 해본 적 없는 사람을 위한 학습 경로가 있는지 궁금함
ChatGPT에 물어보니 선형대수부터 시작해서 미적분, 확률과 통계로 가고, 2단계는 기계학습 기초, 3단계는 딥러닝과 신경망이라고 추천했음
이 제안이 얼마나 맞는지 모르겠고, 본인은 소프트웨어 개발자임- 딥러닝 기초를 배우는 올바른 경로는 아님
Andrew Ng의 Intro to Machine Learning과 Deep Learning Coursera 강의를 들으면 됨
Goodfellow 등의 『Deep Learning』도 꽤 좋다고 들었지만 직접 읽어보진 않았음
표준 미적분이나 선형대수 과정을 전부 다시 훑으면 시간을 낭비하게 됨
AI 강의나 딥러닝 책 앞부분에서 가르치는 관련 수학만 배우고, 각 입문 과목의 무관한 90%는 건너뛰는 편이 좋음
10년 전쯤 신경망을 처음부터 직접 만들던 사람으로서 하는 말임 - 선형대수를 미적분보다 훨씬 좋아하지만, 제대로 된 선형대수 강의를 소화하려면 미적분 과정을 통해 다져지는 수학적 성숙도가 어느 정도 필요하다고 느낌
미적분을 알면 Padé 근사 같은 근사 이론으로 들어갈 수 있는데, 이는 미적분과 선형대수가 만나는 아름다운 분야임
어쨌든 『Schaum's Outline of Linear Algebra』는 지금까지 읽은 선형대수 책 중 아마 최고였고, 추상대수 일부도 살짝 다룸 - 무엇을 실제로 원하는지에 따라 크게 달라짐
- 기존 모델을 쓰기: 가장 쉬운 방법은 대개 유료인 웹 서비스이고, 더 어려운 길은 로컬 설치이며 좋은 컴퓨터가 필요함
- 모델이 어떻게 동작하는지 이해하기
- 이 흐름이 어디로 가는지 전반적으로 이해하기
- 기존 모델을 학습하거나 미세조정할 수 있기
4.1 모델 생성을 위한 프레임워크 만들기
4.2 테스트, 학습, 추론 등을 위한 프레임워크 만들기 - 모델 설계: 분야에 따라 매우 다르므로 깊게 들어가려면 전문화해야 함
- 마침내 AGI 만들기
각각 필요한 역량이 다름
어떤 것은 뉴스를 따라가기만 해도 되고, 어떤 것은 코딩 능력이 필요하며, 또 어떤 것은 이론이나 철학이 더 중요함
전부 다 가질 수는 없지만, 관련 역량이 전혀 없어도 처음 4개 정도는 도달 가능함
물론 윤리 “전문가”가 되는 길이 가장 쉬움
- 사용하고 싶은 건지, 구축하고 싶은 건지에 따라 다름
후자라면 ChatGPT의 추천이 좋은 출발점이고, 전자라면 이런 강의가 좋은 시작임 - Andrej Karpathy의 zero to hero 강의를 추천함
아주 좋고, 8개의 영상 강의로 구성되어 있으며 자기 Jupyter 노트북에서 따라 해볼 수 있음
각 강의는 1~2시간 정도임
- 딥러닝 기초를 배우는 올바른 경로는 아님
-
발전 속도와 새 패러다임이 탐색되는 속도를 보면 이 강의는 금방 낡을 것 같음
2년 전에 생성형 AI를 배웠는데, 그때 쓰던 도구들은 이미 전부 구식이 됐음 -
오픈소스 쪽에도 비슷한 게 있는지 궁금함
- 가이드는 아니지만 https://github.com/AUTOMATIC1111/stable-diffusion-webui는 로컬에서 AI 이미지를 생성해보는 샌드박스 앱이고 커뮤니티가 매우 활발함
- Mac Silicon에서는 공개 LLM을 쉽게 내려받고 실행하는 수단으로 Ollama를 써볼 만함
- 시작하기 쉬운 단순한 UI라면 이게 맞을 듯함: https://github.com/oobabooga/text-generation-webui
-
Azure 마케팅처럼 보여서 별로임
-
LLM을 어떻게 쓰는지에 대한 실용 가이드를 찾는다면 Jeremy Howard의 "Hackers Guide to language models"를 강력 추천함
실용적인 정보가 가득한 1.5시간짜리 영상임: https://youtu.be/jkrNMKz9pWU -
이건 Azure OpenAI 접근 권한이 필요한 것 같은데, 개인 사용자는 받을 수 없고 일부 기업 고객에게만 열려 있는 것 아닌가 싶음
-
너무 마케팅 자료처럼 읽혀서 왜 여기 올라왔는지 잘 모르겠음
- 어떤 부분이 마케팅처럼 느껴지는지 모르겠음
내용을 훑어봤는데, 처음 기술에 들어가려는 기술자에게는 꽤 포괄적인 내용으로 보임
- 어떤 부분이 마케팅처럼 느껴지는지 모르겠음