17P by xguru 2021-08-21 | favorite | 댓글 5개

1. AI에 있어 2010년대와 2020년대는 명확하게 구분이 됨. GPU를 쓰면서 AI의 새시대가 열림
2. 딥러닝이 그럴듯 해보여도 학습시킬 방법이 없었는데, 금붕어(=GPU)를 잡아다 학습시켜보니 뭔가 되기 시작. 하지만 금붕어는 금붕어
3. 어짜피 머리나쁜 금붕어는 답이 없으니 머리를 좋게 만들자. 여기서 OpenAI가 등장
ㅤ→ 머리나쁜 금붕어가 안되면 금붕어 만마리를 잡아서 금붕어 머리를 이어붙여서 돌고래 머리만하게 만들어 봄
ㅤ→ 근데 이게 공부를 엄청 잘해. 머리가 좋아지니 개떡같이 이야기해도 찰떡같이 알아먹음
ㅤ→ Transformer라는 학습법 하나로 천하통일
4. 문제는 금붕어 머리를 이어붙이는게 쉬운일이 아님. Nvidia도 고민이 덜 되어있음
5. 현 시점에서 AI의 핵심경쟁력은 모델이 아님
ㅤ→ 금붕어 만마리를 살 돈(최신 A100 한장이 만불이니, 만장이면 GPU만 1천억원)
ㅤ→ 이어붙인 금붕어 머리를 하나의 돌고래 머리처럼 다루는 기술
ㅤ→ 이 금붕어 만마리가 학습할 데이터
6. 결국 개별 AI기업들이 주섬주섬 금붕어 몇마리 주워다가 학습법 노력하는 시대는 끝났음
ㅤ→ 새 붕어 머리 만들고, 연결하고 돌고래 처럼 돌아가게 하는걸 다하는 애는 Google 혼자였음
7. Tesla가 오늘 보여준게 이것
ㅤ→ Nvidia 금붕어는 별로니까, 우리 새로 까만붕어 만들었음
ㅤ→ 연결하기 쉽게 구멍도 많이 만들고 머리도 잘 다듬음
ㅤ→ 이제 이걸로 로봇도 조종할수 있어!

재미난 설명글이니 원문을 꼭 보시기 바랍니다

개인적으로는 테슬라에서 '20xx년도에 A라는게 출시 됩니다!'라고 하면, 실제로는 20xx + 1~2년 출시가 매번 반복 되었어서, 실제 나와서 볼 때까지는 기대감만 가지고 있는게 맞지 않나. 하는 생각이 들긴 합니다. 장기적으로는 달성이 되기 하겠지만요. 장기적으로는 다른 회사들도 다들 노는게 아니니... 🤔

금붕어도 이해하기 쉽게 적으셨는데, 넘처 흐르는 지적인 면모가 선명하게 보이는 것 같아 대단하신 것 같네요. 뻐끔뻐끔(... )

흑흑 페이스북 가입을 안 해서 원문을 못 보네요…

재밌는 설명 감사합니다ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ