[GN#216] LLM 연구의 공개 과제들
대규모 언어 모델(LLM) 에 대한 관심이 폭발적으로 증가하면서 다양한 부분에서 연구가 이뤄지고 있습니다. 실시간 머신러닝 플랫폼 Claypot의 공동 창업자인 Chip Huyen이 "LLM 연구의 공개 과제들" 이라는 제목으로 요즘 LLM 분야에서 주로 얘기되는 10개의 도전 과제를 정리했습니다. 환각(Hallucination) 감소 및 측정, 컨텍스트 길이 및 컨텍스트 구성 최적화, 멀티모달리티, 더 빠르고 저렴한 LLM 만들기, Transformer를 능가하는 새로운 모델 아키텍처, GPU의 대안 개발, 에이전트, Human Preference, 채팅 인터페이스, 비영어권 언어용 LLM 구축 등을 제시하고 있는데요. 간단한 설명과 함께 원문에는 더 깊이 공부하기 위한 자료 링크들도 제공하고 있으니 참고하시기 바랍니다.
ㅤ
StableDiffusion, Whisper, LlaMA 같은 오픈소스 AI 모델을 가지고 개인이나 스타트업들도 다양한 AI 기반 도구와 서비스를 만들고 있는데요. 사이드 프로젝트라면 로컬에서도 가능하겠지만, 프로덕션을 위해서는 GPU 클라우드가 필요합니다. "Cloud GPU 가이드 - AI에 어떤 GPU를 어디서 써야 할까?" 글은 사용하는 AI 모델에 따라 써야하는 GPU 종류를 로컬 및 클라우드에서 성능 및 가성비에 맞게 제시하고, AWS/Azure 같은 메이저 클라우드 외의 업체들 중에 어떤 곳을 써야 하는지등을 정리한 자료입니다. 글 원본은 7월에 공개되었는데 8월에도 최신 내용에 맞게 업데이트되었고, 아마도 계속 업데이트할 것으로 예상됩니다.
ㅤ
✓ Show GN - 직접 만드신 오픈소스나, 재직중인 스타트업의 제품/서비스를 소개해주세요
- 클라우드타입 - Kubernetes기반 배포 플랫폼
- 1초 무통장입금 자동확인 서비스 PayAction
- (노코드툴로 1시간만에 뚝딱 만들어본) 커피나 카페 정보를 공유사이트
- 웹 방탈출 카페 데모
✓ Ask GN - 다양한 질문을 올려주세요.
✓ 사내 커뮤니케이션 도구에 GeekNews Bot을 추가해서 멤버들과 함께 새 글을 받아보세요
ㅤ→ Slack봇, 잔디봇, Teams봇, Discord봇, 구글 챗 봇, Swit 봇
✓ 긱뉴스는 RSS로도 구독 가능합니다
✓ 주위분들께 긱뉴스 위클리 - https://news.hada.io/weekly 뉴스레터를 추천해 주세요.
매주 월요일 아침, 지난 일주일간의 GeekNews 중 엄선한 뉴스들을 이메일로 보내드립니다.
- LLM 연구의 공개 과제들
- Cloud GPU 가이드 - AI에 어떤 GPU를 어디서 써야할까?
- 세계 최초 M1 GPU 드라이버
- 함수형 패러다임을 이용한 안전한 FFmpeg 서버 구현기
- FastAPI 한줄씩 따라읽기
- SpaceTimeDB - DB와 서버를 하나로 결합
- Cloud Database Cheat Sheet
- Notion-Avatar - 노션 스타일의 아바타 만들기
- JSON Schema Store
- Chrome에서 Firefox로 전환할 때 팁들
- Code Llama - 코딩을 위한 최첨단 거대 언어 모델
- Lightning CSS - Rust로 작성된 초고속 CSS 파서
- Awesome Runbook - 런북 큐레이션 리스트
- SeamlessM4T: Meta AI에서 공개한, 번역을 위한 멀티모달에서의 파운데이션 모델
- Awesome 한국어 음성인식
- SQLedge - Edge에서 Postgres를 SQLite로 복제해주는 도구
- KHOj - 당신의 디지털 뇌를 위한 AI 개인 비서
- Aih - 터미널에서 Bard|ChatGPT|Claude2|Llama2 와 대화하기
- 패키지 매니저 만들기
- 소프트웨어 개발에서 지속적 테스트 관련 기술과 유의사항
- Rift - 개발을 도와주는 AI-Native 언어 서버
- GPT-3.5 Turbo 미세 조정 및 API 업데이트
- Microsoft Excel의 Python 지원 기능 공개
- Fooocus - SD 와 Midjourney에서 배운, 더 쉽고 편한 이미지 생성 소프트웨어
- FreeBSD, SYSINIT의 버블소트를 머지소트로 변경
- Walk - 터미널 네비게이터
- GNU Parallel을 왜 그동안 몰랐을까?
- OpenCopilot - 오픈소스 AI Copilot
- Ruby의 'Hash'는 만능도구 입니다
- AI가 잘못 생성한 이미지로 Stable Diffusion XL을 더 똑똑하게 파인튜닝했어요
- 5년 전 Valve가 출시한 Proton이 리눅스 게이밍을 영원히 바꿨다
- .COM 과 .XYZ 도메인 가격 인상 예정