[GN#209] LLM 어플리케이션을 위한 새로운 아키텍처

2023-07-03 ~ 2023-07-09 사이의 주요 뉴스들

LLM이 빠르게 성장하면서 이를 실제 서비스에서 이용하기 위한 다양한 시도들이 나오고 있습니다. a16z가 정리한 "LLM 어플리케이션을 위한 새로운 아키텍처"는 LLM 앱을 만들기 위한 스택을 상세히 설명합니다. 자신의 상황에 맞는 LLM을 직접 만들거나 파인튜닝 하는 것은 비용과 시간에 대한 부담이 크기 때문에 "In-Context Learning" 디자인 패턴을 이용하게 되는데요. LLM을 파인튜닝 없이 그대로 사용하면서, 잘 구성된 프롬프트와 일부 "Contextual" 한 데이터를 이용하는 방식입니다. 이를 위한 3단계 워크플로우를 1. 데이터 전처리와 임베딩 / 2. 프롬프트 생성 및 Vector DB에서 찾기 / 3. 프롬프트 실행과 추론 으로 설정하고 단계별로 요즘 인기 있는 기술들을 하나하나 설명하고 있습니다. LLM을 이용한 제품을 만들고 계시는 회사에서는 꼭 읽어보시기를 권해드립니다.

지난주 큰 화제는 Instagram/Meta가 만든 트위터 클론 Threads 였습니다. 오픈 후 7시간 만에 1천만명이 가입을 했고, 현재 9천만 명을 넘어서 곧 1억 명에 도달할 것으로 보입니다. 가입자 1천만 명에 도달하는데 페이스북은 852일, 트위터는 780일, 구글+가 16일이었는데 엄청난 초기속도를 보여주네요. 출시 한 달 만에 가입자 1억 명에 도달했던 ChatGPT가 우리를 놀라게 한 게 불과 몇 달 전인데 Threads는 아마도 일주일도 안 되어 1억 명을 찍으면서 역사상 가장 빠르게 성장한 서비스가 되지 않을까 싶습니다. 사용자 수 증가보다 더 놀라운 점은 W3C가 표준화하고 있는 ActivityPub 프로토콜을 지원해서 Fediverse 연동을 하겠다고 한 것입니다. 페이스북/인스타그램/트위터 각각의 SNS들이 자신들만의 표준으로 클로즈드 가든을 만들어 온 데 반해, Fediverse는 Federation + Universe 라는 이름에서 따왔듯이 여러 개의 서비스가 연합으로 구축하고 통신하는 환경입니다. 트위터의 대체제 Mastodon도, Reddit의 대체제인 Lemmy도 모두 ActivityPub을 이용해서 Fediverse에 참여하고 있어서, Threads도 동참하게 되면 더 커지게 될 것 같습니다. 확실히 어떻게 구현될 것인지는 모르고 아직은 모든 게 예상입니다만, 사용자 입장에서는 언젠가 Threads가 싫어지면 그 팔로워를 그대로 가진 채로 다른 서버 또는 심지어 자신이 호스팅한 서버로 쉽게 이전할 수도 있다는 얘기가 되겠죠. 트위터의 또 다른 대체제였던 Bluesky가 자신들만의 AT Protocol을 만든 것과는 비교되는 전략인 것 같습니다. ActivityPub 프로토콜이 열리면 긱뉴스도 공식 뉴스를 Threads에 발행할 예정이니 함께 지켜봐 주세요.

매일 조금씩 꾸준히 발전하면 위대한 성과를 낼 수 있다는 얘기는 많이 들어봤는데요. "탁월함은 습관이지만, 실패도 마찬가지" 글에서는 그 이야기의 다른 면을 이야기합니다. 뭔가를 방치/무시하거나 작은 실수가 계속 쌓이면 큰 부정적인 결과를 낸다는 것인데요. 대부분의 경우 큰 문제들은 한 번에 발생한 게 아니고, 이전에 있었던 작은 잘못된 선택의 합인 경우가 많습니다. 그래서 나쁜 습관을 피하는 것은 좋은 습관을 기르는 것만큼 중요하며, 이런 방치/무시의 패턴을 인식하고 조기에 대처하는 것을 통해서 큰 문제를 예방할 수 있습니다.

사회에 첫발을 내딛는 주니어 엔지니어는 어떻게 성장하면 좋을까요? "주니어의 스터디 드라이브 성장기"는 2년간 30개 이상의 스터디를 통해서 성장한 경험을 공유한 발표자료입니다. 슬라이드 자료임에도 스크립트를 다 포함하고 있어서 생생한 발표처럼 볼 수 있는게 좋네요. 스터디의 적정 인원은 6명이라던가, 스터디 시작 방법, 온라인/오프라인의 비교, 사람이 많아도 잘 운영되는 스터디의 특징 등 팁들이 훌륭하니 참고하시기 바랍니다.

Show GN - 직접 만드신 오픈소스나, 재직중인 스타트업의 제품/서비스를 소개해주세요

Ask GN - 다양한 질문을 올려주세요.

✓ 사내 커뮤니케이션 도구에 GeekNews Bot을 추가해서 멤버들과 함께 새 글을 받아보세요
ㅤ→ Slack봇, 잔디봇, Teams봇, Discord봇, 구글 챗 봇, Swit 봇
긱뉴스는 RSS로도 구독 가능합니다
✓ 주위분들께 긱뉴스 위클리 - https://news.hada.io/weekly 뉴스레터를 추천해 주세요.


매주 월요일 아침, 지난 일주일간의 GeekNews 중 엄선한 뉴스들을 이메일로 보내드립니다.