[GN#258] 1년 동안 LLM과 함께 구축하며 배운 점
LLM이 단순한 작업부터 프로그래밍, 핵심 서비스 연동까지 폭넓게 사용되고 있습니다. 처음에는 단순한 데모 수준이었지만, 이제는 실제 제품에 적용할 만큼 LLM의 성능이 발전하고 비용도 저렴해졌습니다. 그러나 실제 서비스에 LLM을 적용한 시스템을 구축하는 것은 여전히 어렵습니다. 아마존의 Senior Applied Scientist인 Eugene Yan은 "1년 동안 LLM과 함께 구축하며 배운 점"이라는 글에서 LLM을 사용하는 실무자, 기술 리더, 창업자 및 경영진을 위한 내용을 폭넓게 정리했습니다. Eugene Yan은 심리학을 전공한 후 온라인으로 데이터사이언스를 독학해, 동남아의 아마존이라 불리는 Lazada의 데이터 사이언스 VP까지 되었고 현재는 아마존에서 ML, 추천 시스템, LLM을 담당하고 있는데요. 그는 성공의 이유 중 하나로 "지속적인 자기 학습"을 꼽으며, 이 글만 봐도 그의 학습 자세를 알 수 있습니다. 이 글은 3부로 구성되어 있는데요. 1부 "전술" 파트는 실무자를 위한 프롬프팅, RAG, 워크플로우, 평가 및 모니터링 등을 다루고 있고, 2부 "운영" 파트는 제품/기술 리더를 위해서 조직에서 데이터/모델 다루기, 제품에 도입하기, 효율적인 팀 구축 방법 등을 설명하며, 3부 "전략" 파트에서는 창업자/경영진을 위해 LLM을 어느 시점에 어떤 방법으로 도입해야 할지를 조직과 비용 관점에서 폭넓게 다루고 있습니다. 글의 마지막에 "0에서 1로 가는 데모는 이제 충분함. 이제는 1에서 N으로 가는 제품을 만들 때"라는 문장이 이 글의 목적을 잘 설명해줍니다. 꼭 읽어보시고 훌륭한 제품을 만드시기 바랍니다.
ㅤ
긱뉴스의 방문자 통계를 보면 모바일:데스크탑이 5.5:4.5 정도 입니다. 데스크탑의 경우는 맥과 리눅스를 합친 사용자가 윈도우보다도 많은데요. 그래서인지 "매일 사용하는 추천 macOS앱을 알려주세요" 글이 엄청 인기를 끌었습니다. 본문에 정리된 도구들 외에도 40개가 넘는 댓글에서 많은 추천 앱을 보실수 있으니 참고 하시기 바랍니다. 댓글이 많으니 얻어갈 수 있는 정보가 많아서 좋네요. 다른 글에도 활발한 참여 부탁드립니다.
ㅤ
✓ Feedback : 긱뉴스 위클리 어떻게 읽고 계신가요? 의견과 제안 부탁드려요
ㅤ
✓ Show GN - 직접 만드신 오픈소스나, 재직중인 스타트업의 제품/서비스를 소개해주세요
✓ Ask GN - 다양한 질문을 올려주세요.
- 이번 주말에 뭐 하시나요?
- 구인 공고 - 멤버를 찾고 계신가요? (2024년 2분기) - 분기별로 한번씩 올라오는 구인공고입니다.
✓ 사내 커뮤니케이션 도구에 GeekNews Bot을 추가해서 멤버들과 함께 새 글을 받아보세요
ㅤ→ Slack봇, 잔디봇, Teams봇, Discord봇, 구글 챗 봇, Swit 봇
✓ 긱뉴스는 RSS로도 구독 가능합니다
✓ 주위분들께 긱뉴스 위클리 - https://news.hada.io/weekly 뉴스레터를 추천해 주세요.
매주 월요일 아침, 지난 일주일간의 GeekNews 중 엄선한 뉴스들을 이메일로 보내드립니다.
- 1년 동안 LLM과 함께 구축하며 배운 점
- 매일 사용하는 추천 macOS앱을 알려주세요
- Ask HN: 머신 러닝 엔지니어들은 업무시간에 어떤 일 하나요?
- Dblab - 인터랙티브한 터미널용 DB 클라이언트
- DuckDB는 단지 빠른 것만이 아님
- Manifest - 간단하지만 풀 기능을 제공하는 백엔드(BaaS) 오픈소스
- 실리콘 밸리의 숨겨진 비밀: 창업자 유동성(Founder Liquidity)
- Lexbor - 오픈소스 HTML 렌더러 라이브러리
- mpa-archive - 웹사이트를 zip 으로 만들고, zip파일에서 바로 서빙하는 도구
- GPT-4o는 이미지를 어떻게 인코딩할까?
- Google Mesop - 파이썬으로 웹앱 만들기
- Abliteration 으로 LLM 무삭제 검열 해제하기
- Stripe의 문서DB가 다운타임 없는 데이터 마이그레이션으로 99.999%의 가동 시간을 지원한 방법
- Revideo – 코드로 동영상을 제작하는 오픈소스 프레임워크
- Flameshot – 크로스 플랫폼 화면캡쳐 소프트웨어 오픈소스
- AI가 생성했다고 의심되는 자료를 설명하는 새로운 용어 "Slop" 등장
- 애플 인텔리전스 분석 완전판
- Tillywork - 팀을 위한 작업 관리 도구 오픈소스
- a16z가 정리한 AI Voice 에이전트에 대한 모든 것
- 마이크로프론트엔드 모범관행
- LSP-AI : AI기능을 위한 오픈소스 랭귀지 서버
- 구글 소프트웨어 엔지니어링의 AI: 진전과 향후 전망
- Snip - 커맨드 라인 Snippet 관리자
- 아직 Vision Pro 잘 사용하고 계신가요?
- 애플, 개인용 인공 지능 시스템 Apple Intelligence 공개
- 애플, OpenAI의 ChatGPT에 대해서 돈이 아닌 '배포'로 비용 지불
- 애플, WWDC 2024에서 Passwords 매니저 앱 공개
- Raspberry Pi가 런던 증권거래소에 상장되어 공개 기업이 됨
- Swift Static Linux SDK
- EU에서 사용가능한 애플 App Store 대체 마켓플레이스들 4가지
- Microsoft, 보안 우려로 Recall AI 기능 출시 연기
- iOS 18은 전체 주소록 접근 요청 앱을 규제함
- 인도 스타트업, 72시간 만에 3D 프린팅 로켓 엔진 제작