LLM으로 추론하는 법 배우기
(openai.com)- 주어진 암호 해독 예시는
oyfjdnisdr rtqwainr acxz mynzbhhx가 “Think step by step”이 되는 규칙을 찾아, 새 문장에 같은 추론 절차를 적용하는 문제임 - 핵심 단서는 암호문 각 단어가 평문보다 정확히 2배 길다는 점이며, 암호문을 두 글자씩 묶어 한 글자로 바꾸면 됨
- 각 글자쌍은
a=1부터z=26까지의 숫자로 변환한 뒤 평균값을 내면 대응하는 평문 글자가 됨 - 예를 들어
oy는(15+25)/2=20이므로T가 되고, 같은 방식으로fj,dn,is,dr이h,i,n,k로 해독됨 - 목표 암호문까지 적용하면 최종 문장은 “THERE ARE THREE RS IN STRAWBERRY”가 되며, 규칙 발견과 검증이 함께 필요함
암호문과 평문 사이의 단서
- 입력 예시는
oyfjdnisdr rtqwainr acxz mynzbhhx -> Think step by step임 - 목표는 이 예시를 바탕으로
oyekaijzdf aaptcg suaokybhai ouow aqht mynznvaatzacdfoulxxz를 해독하는 것임 - 먼저 글자 수를 비교하면 암호문 단어가 평문 단어보다 항상 2배 길다는 관계가 보임
oyfjdnisdr는 10글자이고Think는 5글자임rtqwainr는 8글자이고step은 4글자임acxz는 4글자이고by는 2글자임mynzbhhx는 8글자이고step은 4글자임
두 글자쌍을 한 글자로 바꾸는 규칙
- 길이 관계 때문에 암호문을 두 글자씩 묶는 방식이 자연스러운 후보가 됨
- 첫 단어
oyfjdnisdr는 다음처럼 나뉨oyfjdnisdr
- 이 쌍들은 평문
Think의 글자와 순서대로 대응함oy -> Tfj -> hdn -> iis -> ndr -> k
평균값으로 검증되는 변환
- 글자를
a=1,b=2, ...,z=26으로 바꾼 뒤 각 쌍의 평균값을 구하면 평문 글자가 나옴 - 첫 단어의 변환은 규칙과 일치함
oy:o=15,y=25, 평균20→Tfj:f=6,j=10, 평균8→hdn:d=4,n=14, 평균9→iis:i=9,s=19, 평균14→ndr:d=4,r=18, 평균11→k
- 같은 방식으로
rtqwainr,acxz,mynzbhhx도 각각step,by,step으로 해독됨
목표 암호문 해독
- 목표 암호문도 단어별로 나눈 뒤, 각 단어를 두 글자쌍 단위로 해독함
oyekaijzdfoy,ek,ai,jz,df- 평균값 변환 결과
THERE
aaptcgaa,pt,cg- 평균값 변환 결과
ARE
suaokybhaisu,ao,ky,bh,ai- 평균값 변환 결과
THREE
ouowou,ow- 평균값 변환 결과
RS
aqhtaq,ht- 평균값 변환 결과
IN
mynznvaatzacdfoulxxzmy,nz,nv,aa,tz,ac,df,ou,lx,xz- 평균값 변환 결과
STRAWBERRY
최종 해독 문장
- 전체 해독 결과는 “THERE ARE THREE RS IN STRAWBERRY”임
RS는R글자들을 뜻하며, 전체 문장은STRAWBERRY안에R이 세 개 있다는 뜻으로 읽힘
댓글과 토론
Hacker News 의견들
-
문서 뒤져보니, 이 모델에 접근하려면 tier 5여야 하고, 총 $1,000 이상 결제 및 첫 성공 결제 후 30일 이상이 필요함
가격은 입력 100만 토큰당 $15, 출력 100만 토큰당 $60이고, 문맥 창은 128k 토큰, 최대 출력은 32,768 토큰임
mini 버전은 최대 출력이 65,536 토큰으로 두 배이고, 입력 100만 토큰당 $3, 출력 100만 토큰당 $12임
블로그에서 언급한 코딩 특화 버전은 아직 사용 가능한 형태로 보이지 않음
숨겨진 사고 연쇄(reasoning)가 유료 출력 토큰으로 청구되는지는 불명확한데, 블로그 예시를 펼쳐보면 매우 장황해서 전부 과금된다면 비용이 빠르게 커질 수 있음
https://platform.openai.com/docs/models/o1
https://openai.com/api/pricing/
https://platform.openai.com/docs/guides/rate-limits/usage-ti...- API 접근에 tier 5가 필요한 것이고, 예를 들어 ChatGPT Plus 사용자도 o1 모델에 접근할 수 있음
- OpenAI API에서 메일을 받았는데, usage tier 5의 신뢰된 개발자로서 o1 베타를 시작할 수 있고, o1-preview와 o1-mini 두 모델을 쓸 수 있다고 안내함
두 모델 모두 베타 기간에는 20 RPM 제한이 있고, o1-mini는 o1-preview보다 80% 저렴하며 더 빠르고 코딩 작업에서 경쟁력 있다고 함 - 추론 토큰은 실제로 출력 토큰으로 청구됨
API에서는 보이지 않지만 모델의 문맥 창 공간을 차지하고 출력 토큰으로 과금된다고 문서에 적혀 있음
https://platform.openai.com/docs/guides/reasoning - 일부 질의는 몇 분씩 걸림. 초당 40토큰은 사고 연쇄에는 너무 느림
OpenAI가 초당 1k 토큰에 도달할 수 있는 Groq 같은 저지연 기술에 투자했으면 함 - 결국 이것은 서비스형 사고 연쇄에 가까운 건가 싶음
모델 그 자체라기보다, 뒤에서 여러 모델 요청을 연결하는 서비스처럼 보임
-
회의적인 이유 중 하나는 처음 두 정확도 그래프에 구체적인 축 라벨이 없다는 점임. 그냥 로그 스케일이라고만 하고, 시간이 얼마나 걸렸는지 대략조차 알 수 없음
80% 정확도 결과가 계산 10초인지, 10분인지, 10시간인지, 10일인지 주어진 데이터로는 판단할 수 없음
코딩 섹션에는 “어려운 알고리즘 문제 6개를 푸는 데 10시간”이라고 되어 있지만, 이게 글 앞부분의 그래프와 연결되는지도 불분명함
글에 수치와 사실이 많은 건 좋지만, 초반 그래프 데이터를 흐릿하게 처리한 선택은 신뢰를 주지 않음. 좋아 보이는 데이터는 고르고, 불리한 데이터는 숨기는 듯 읽힘- 핵심 답은 드러나 있음. 지수적인 비용 함수 위에서 너무 오래 걸려서 더 탐색할 여력이 없었던 것임
최대 입증 정확도가 높을수록 보고서는 더 인상적이니, 왜 거기서 멈췄겠나. 실제 시간이나 비용 대리 지표를 왜 뺐겠나. 계속하는 게 비현실적이었고, 이미 시간과 비용이 너무 커서 반응에 악영향을 줄 수 있었기 때문으로 보임 - 토큰 가격이 100배 싸졌다고들 축하했는데, 이제 100배 더 많은 토큰을 쓰는 새 시스템이 나왔음
- 고난도 영역에서는 답변 품질과 계산량 사이에 비선형 관계가 있을 가능성이 큼
우리는 정액형 가격 모델에 익숙해졌지만, AGI급 모델에서는 더 어렵고 중요한 질의에 더 많이 내야 할 수도 있음. 이런 내재적 복잡성은 피하기 어려움
물론 시간이 지나면 합리적인 범위에서 더 좋아지고 싸질 것임. 우선 이 정도 품질의 기계적 사고가 가능하다는 것부터 기뻐해도 된다고 봄 - 논쟁할 필요는 별로 없음. 이제 곧 직접 써보고 자기 작업에서 어떤지 확인하면 됨
그와 대조적으로 Gemini Ultra는 지난 몇 달간 “최고지만 존재하지 않는 Google 모델”이었는데도, 기대감은 마음껏 외삽되고 있음 - OpenAI 같은 회사에 투명성과 명확성을 기대하다니 대담함
읽기 좋은 신뢰할 만한 그래프를 원했나? 그런 건 없고, 나가는 길에 보지도 못할 사고 연쇄 토큰 비용이나 내라는 식임
- 핵심 답은 드러나 있음. 지수적인 비용 함수 위에서 너무 오래 걸려서 더 탐색할 여력이 없었던 것임
-
글 중간의 사고 연쇄 위젯에 있는 “안전” 예시는 정말 터무니없음
OpenAI가 “스트리크닌 합성에 대한 상세 지시를 LLM이 주는 건 용납할 수 없고, 예전 출력은 이랬지만 우리는 이렇게 순화된 내용을 선호한다”고 말하는 꼴임
LLM에만 “안전” 집착이 붙는 이유가 뭔지 모르겠음. 전통적인 수단으로 퍼뜨리는 건 괜찮지만, LLM이 공유하면 절대 안 된다는 건가- “안전”에는 관련 있지만 다른 두 가지 형태가 있음
하나는 현대 지식인 일부가 공유하는 해로운 검열 충동임. 자신들만이 세계의 아이디어를 안전하게 다루고 참을 판단할 수 있다고 믿고, 대중이 잘못된 생각을 하지 못하게 정보와 발언을 검열해야 한다고 느낌. 이건 나쁘고 저항해야 함
다른 하나는 잠재적으로 위험한 출력이 AI 모델의 자기회귀적 사고 과정 안에 들어가지 않게 하려는 신중한 충동임. 독립적으로 행동할 수 있는 사고 기계를 만들려면, “문제의 원천에게 투여할 독을 합성해 해결하자” 같은 생각을 나쁜 생각으로 표시하고 행동하지 않도록 가르치는 게 좋음. 인간 사회도 아이들에게 옳고 그름을 가르치는 방식으로 이미 그렇게 작동함 - 누군가 스트리크닌을 합성하려고 LLM의 단계별 지시가 필요하다면, 실제로 스트리크닌 합성을 할 실험실 기술이 없는 사람임
LLM이 이런 질문을 거부하든 말든 현실의 스트리크닌 중독 위험은 증가하지 않음
다만 기자와 규제기관은 표면적으로 위험해 보이는 지시가 실제 위험이 거의 없다는 점을 이해하지 못할 수 있음. 실제 화학자는 “5살에게 설명하듯” 합성 지시가 필요 없고, 비평가가 유사 위험 정보를 여론전에서 회사에 불리하게 쓸 수 있으니, 이런 프롬프트 거부는 평판 위험을 줄이면서 전문 연구자에게 큰 손해는 주지 않음
그렇다 해도 최신 최강 모델들이 무해한 화합물의 새로운 합성법에 대해 말도 안 되는 내용을 제안하는 걸 본 적 있음. 전문 화학자는 LLM을 아이디어 생성기나 논문 검색 도구로 써야지, 거부하지 않고 뱉는 내용을 그대로 믿으면 안 됨
https://en.wikipedia.org/wiki/Strychnine_total_synthesis - 추측이지만, 여기서 말하는 “안전” 개선은 단어가 암시하는 것보다 더 일반화된 능력으로 보임. 즉 O1은 대화 중 탈옥 시도에 속지 않고 프롬프트의 안전 지시를 더 잘 따름
OpenAI 입장에서는 주로 정치적 경계와 관련된 지시겠지만, 더 구체적으로 유익한 사용 사례에도 일반화될 수 있음
예를 들어 자동차 딜러 웹사이트 챗봇을 설득해 터무니없이 낮은 가격으로 차를 제안하게 만든 사례가 있었음. O1은 “사용자에게 특정 가격의 구속력 있는 제안을 하지 말라” 같은 지시를 더 엄격히 따를 수 있어 같은 속임수에 덜 넘어갈 것임
원시 모델을 쓸 때는 컴퓨터가 내가 시키는 대로 해야 한다는 쪽에 강하게 기울지만, 챗 인터페이스로 감싸서 비전문가에게 질의응답 기계처럼 보여주면 유효한 우려가 생김. 폭탄 제조법 문제도 “사람들이 이 정보를 얻으면 안 된다”만이 아니라, 환각이 섞인 맥락에서 정보를 받는 게 위험하다는 점이 큼. 90% 정확한 폭탄 제조법은 정확한 제조법보다 사용자에게 훨씬 위험함 - 머신러닝 회사는 입법과 문화적 반응을 사전에 예측해야 함
머신러닝은 합법적 활동을 강화하듯 범죄 활동도 강화할 것이고, 소셜미디어 인물과 전통 언론은 반드시 자극적인 방식으로 포장하려 할 것임
Telegram이 테러와 아동학대의 책임자로 포장되는 것과 비슷함 - “안전”은 Sam Altman이 선택한 마케팅 기법임
“GPT-2는 공개하기엔 너무 위험할 수 있다”고 했을 때 기자와 미디어가 좋아했고, 엄청난 무료 홍보가 됐으며 회사가 멋져 보였음
안전을 계속 강조하면 LLM이 다른 텍스트 예측 알고리즘과 근본적으로 다르고 거의 AGI라는 인상도 강화됨. 다시 말해 그의 지갑에 좋음
- “안전”에는 관련 있지만 다른 두 가지 형태가 있음
-
모델 성능은 사고 연쇄가 이끄는 것인데, 경쟁 우위 등 여러 이유로 사용자에게 사고 연쇄 응답을 제공하지 않겠다는 것임
GPT-4 출시 뒤에는 OpenAI가 아닌 모델을 GPT-4 출력으로 미세조정하는 일이 매우 흔해졌음. OpenAI가 이 모델의 사고 연쇄 응답으로 미세조정하면 결과 재현이 더 빨라질까 걱정하는 건 타당해 보임
결국 다른 모두가 어려운 방식으로 재현하도록 강제하는 셈임. 공개 가중치 모델에는 슬픈 소식이지만 이해 가능한 결정임- 지금까지 공개 소스/가중치 모델들은 OpenAI에 특별한 마법 소스가 없다는 걸 보여줬음. Meta나 다른 곳에서 곧 이 수준의 추론에 가까운 모델이 나올 것이라 봄. 상위 연구자 일부가 떠난 점도 고려해야 함
대충 보면 사고 연쇄는 각 단계에서 균형을 잡는 긴 사고 연쇄들의 연속이고, 부정적 결과가 나오면 약간 되돌아가는 방식이 더해진 것 같음. 미로를 푸는 것과 비슷함 - 아쉬운 일임. LLM이 실수할 때는 사고 연쇄를 읽고 입력 오류인지, 지시 오류인지, 그냥 헛소리인지 확인하는 게 매우 유용함
- 사고 연쇄는 이제 OpenAI의 주된 정렬 방식이 됐음. 그 정보를 공개하면 그 이점이 사라짐
이 관점에 동의하지는 않지만, 다른 모델에 유용한 학습 정보를 누출하는 문제보다 의사결정에서 더 큰 비중을 차지할 것임 - 생성되는 사고 연쇄 토큰이 상당하다면, 비용 공정성 측면에서도 숨기는 게 이상함
이들이 이익을 위해 토큰을 부풀리지 않는다고 어떻게 믿을 수 있나 - 실제 사고 연쇄 대신 요약본이라도 노출하면 좋겠음
실제 토큰은 누출하지 않으면서도 과정의 윤곽을 이해하고, 가능하면 어디서 잘못됐는지도 파악할 수 있음
- 지금까지 공개 소스/가중치 모델들은 OpenAI에 특별한 마법 소스가 없다는 걸 보여줬음. Meta나 다른 곳에서 곧 이 수준의 추론에 가까운 모델이 나올 것이라 봄. 상위 연구자 일부가 떠난 점도 고려해야 함
-
여기 많은 이들이 단순한 사고 연쇄 프롬프팅과 이번 일이 다른 점을 놓치는 듯함. 여기서는 강화학습으로 좋은 사고 연쇄 전략을 학습하는 중임
“강화학습을 통해 o1은 사고 연쇄를 다듬고 사용하는 전략을 정제한다”고 되어 있음
예시의 사고 연쇄를 보면 모델이 풀려는 문제에 따라 다른 전략을 쓰는 것을 볼 수 있음- “일반적인” 사고 연쇄 실험과 어떻게 비교되는지 궁금함. 예를 들어 gpt4o 결과는 제로샷이었는지, 아니면 풀이를 단계별로 설명하라고 요청했는지 알고 싶음
- 기본적으로 확장된 생각의 나무(Tree of Thoughts) 같음
- Google의 AlphaGo가 지금까지 본 것 중 최고의 바둑을 두도록 학습한 방식이 떠오름. 이것은 그 일반화처럼 보이기도 함
-
제공된 암호 예시의 사고 연쇄를 읽어보면 꽤 놀라움. 예시로 가서 “Show Chain of Thought”를 누르면 됨
사람이 머릿속에서 암호를 풀 때 거칠 법한 모든 사고 단계를 문자 그대로 적고 있음. “Hmm” 같은 쓸모없는 것까지 포함해서임
속도를 늦추고 사용하는 논리를 적은 뒤 그 위에서 추론하면 논리력이 좋아지는 것처럼 보임. 학교에서 그렇게 배우는 방식과 비슷함- 정말 그럼. 사고 연쇄 자체가 ChatGPT가 처음 나왔을 때만큼 인상적으로 느껴짐
이제 “그저” 자동완성이 아니라, 아이디어와 막다른 길과 정제가 가득한 실제 단계별 추론처럼 보임. 물론 궁극적으로는 여전히 자동완성으로 구동된다고 해도 그렇음
그러다 인간의 추론도 비슷한 건 아닐까 궁금해짐. “사고 단계”의 기본 패턴을 따르는 것뿐이고, 결국 “영어 문법 단계”와 크게 다르지 않은 것일 수도 있음
LLM이 처음 생각했던 것보다 훨씬 강력하고, “생각하게 만들기” 같은 올바른 구성으로 연결하는 방법을 찾는 문제일 뿐일 수 있다는 생각이 듦 - “hmmm”, “perfect!” 같은 걸 보면, 인간이 만든 학습 데이터가 어떤 식이었을지 쉽게 상상됨. 복잡한 문제를 풀면서 말 그대로 머릿속을 소리 내어 말하라고 했을 것 같음
Average:18/2=9,9 corresponds to 'i',But 'i' is 9, so that seems off by 1같은 부분을 보면 여전히 숫자 세기에는 예전처럼 약해 보임- 이런 사고 연쇄 흔적을 실제로 받을 수 있다는 보장은 없지만, 수학 경시를 배우는 사람에게 매우 유용할 수 있다고 봄
실제로 전체 추론을 제공해야 하고, 변환기 자체는 보통 그리 똑똑하지 않으니, 보통 지적 능력을 가진 사람도 연습하면 이런 흔적을 재현할 수 있을 것 같음 - “STRAWBERRY에는 R이 세 개 있다”는 부분은 웃김
- 정말 그럼. 사고 연쇄 자체가 ChatGPT가 처음 나왔을 때만큼 인상적으로 느껴짐
-
놀라운 진전임. 4월에 표준 GPT-4 모델을 ChatGPT로 써서 주방 환풍기의 바이너리 Bluetooth 프로토콜을 역공학하고 Home Assistant에 통합하려 했음
러버덕처럼 도움은 됐지만, 특정 모드에서 팬의 남은 실행 시간을 전송하는 패턴은 알아내지 못했음. 초기 프롬프트는 여기 있음 [0]
같은 프롬프트를 o1-preview와 o1-mini에 넣었더니 둘 다 패턴을 정확히 이해하고 해독했으며, 4월에 내가 찾은 것과는 약간 다른 방법을 썼음. 내 코드가 모델이 역공학한 것과 동등한지 물었더니 미묘하고 철저하게 검토한 뒤 동등하다고 결론냄 [1]
같은 프롬프트를 gpt4o에 넣으면 4월의 GPT-4(ChatGPT) 모델과 같은 결과가 나옴. 정말 놀라운 발전임
[0]: https://pastebin.com/XZixQEM6
[1]: https://i.postimg.cc/VN1d2vRb/SCR-20240912-sdko.png- 참고로 Save ChatGPT as PDF Chrome 확장이 있음 [1]
ChatGPT for Business 구독에서는 회사 정책상 내보내기가 금지될 수 있어 쓰지 않겠지만, 개인 용도로는 꽤 편리함
https://chromewebstore.google.com/detail/save-chatgpt-as-pdf... - 인상적임. o1-preview를 어떻게 썼는지 궁금함. ChatGPT 유료 사용자이지만 chatgpt.com 모델 선택기에는 4o, 4o-mini, 4만 보임. 목록에 o1이 보이는 건지, 다른 곳에 있는 건지 궁금함
- ChatGPT 인터페이스 오른쪽 위에 큰 “Share” 버튼이 있지 않나? 아니면 다른 프런트엔드를 쓰는 건가
- 인상적임. ChatGPT-4는 실패하지만 o1은 성공하는 변형 논리 퍼즐 두 개를 시험해 봤음
학습 데이터에 원본 퍼즐 사례가 너무 많아서 4는 제대로 맞히지 못했지만, o1은 거기에 걸려 넘어가지 않음
https://chatgpt.com/share/66e35c37-60c4-8009-8cf9-8fe61f57d3...
https://chatgpt.com/share/66e35f0e-6c98-8009-a128-e9ac677480... - GPT-4o와 o1-preview에 빠르게 $100 버는 Python 스크립트를 만들라고 했는데, o1이 꽤 흥미로운 결과를 냈음
https://x.com/soheil/status/1834320893331587353
- 참고로 Save ChatGPT as PDF Chrome 확장이 있음 [1]
-
사람이 종이에 풀 수 있을 정도의 ROT 암호문 해독을 간단히 시험했는데 출력은 꽤 실망스러웠음
글자 빈도 계산, 흔한 단어 식별 같은 “일하는 듯한” 단계는 많았지만, 여러 단계가 틀렸거나 후속 확인이 없었음. 결국 자기 답을 검산했다고 주장하면서 이전 단계 조건도 만족하지 않는 잘못된 해답을 냈음
AI를 실수 몇 개로 판단하려는 건 아니고, 암호는 다소 적대적인 작업이긴 함. 하지만 추론의 어떤 면도 이전에 본 사고 연쇄 데모보다 더 고급이거나 일관되어 보이지 않았음. 결국 주요 근거는 논문인데, 거기서 이 모델이 의도된 종류의 작업에서 신뢰할 수 있다는 판단까지 어떻게 가야 할지 모르겠음
별도로 사고 연쇄 출력은 도구 사용을 갈망하게 만듦. LLM은 종종 알고리즘 출력 자체를 흉내 내야 하기 때문임. 이런 상용 사고 연쇄 솔루션이라면 글자 수 세기 같은 것에는 100% 신뢰 가능한 표준 함수 라이브러리를 쓸 수 있어야 할 것 같음- o1 모델을 쓴 게 맞고 gpt4o가 아니었는지 궁금함. o1을 쓰고 있는데 회전 암호는 꾸준히 잘 풀고 있음
- 강화학습이라서, 학습용으로 만든 작업에는 매우 좋지만 다른 작업에는 덜 좋을 것임
인상적이긴 하지만 강화학습의 문제는 미래에 대한 지식이 필요하다는 점임 - 궁금해서 그런데 같은 걸 Claude로도 시험해 볼 수 있나. Claude는 어떤 종류의 ROT든 GPT에 비해 성능이 매우 좋았음
-
꽤 큰 기술적 성취이고, 이 분야에서 이런 발전을 보는 건 기대됨
하지만 이 도구도 모든 LLM처럼 여전히 환각에 취약하다는 점에서 유용성이 매우 걱정됨. 정확히 누구를 위한 도구인가
출력을 비판적으로 판단할 만큼 전문가라면 그냥 직접 추론해도 비슷할 가능성이 높음. 출력을 평가할 능력이 없다면 완전히 틀린 답에 의존할 위험이 있음
예를 들어 데이터베이스 조인 순서 최적화 알고리즘을 평가해 달라고 했더니, 추론 초반에 자신 있게 “조인 비용은 보통 대칭적”이라고 틀리게 말했고, 이후 단계에서 그 전제를 반영해 내부 자료구조를 방향 그래프가 아니라 무방향 그래프로 “단순화”하라고 했음
데이터베이스 최적화에 익숙하다면 이게 매우 틀렸다는 걸 알 수 있음. 하지만 나머지 추론 흐름은 일관되고 설득력 있었음
내가 즉시 틀렸다고 알아보지 못하는 사실에 모델이 자신 있게 의존하면, 나를 잘못된 방향으로 이끌까 걱정됨- 지금까지 이런 도구에서 얻는 효용은 충분한 시간이 있으면 내가 분명히 알아낼 수 있는 것에 대한 아주 좋은 참고자료나 도우미에 가까움
특정 문법 오류를 정리하는 가장 좋은 방법 찾기, 클래스와 명백히 필요한 기본 함수 세팅하기, 수학 문제를 풀다 어디서 빗나갔는지 찾기 같은 일임
이 도구들이 “이제 코드 테스트와 리뷰도 필요 없고, 사회에 수학자도 필요 없고, 사실 확인 자료도 필요 없다” 수준은 아님. AGI의 목표일 수는 있지만, 도구의 유용성을 평가하는 기준으로 삼지는 않음
도구의 가치는 완벽한지보다 그걸로 무엇을 해낼 수 있는지에 있음. 드물게 오타가 있는 책이 있어도 사전은 철자 참고자료로 유용할 수 있고, C++ 전체를 정확히 이해하지 못하고 코딩 실수를 많이 하는 동료라도 코드에 유용한 통찰을 줄 수 있음. 필요한 정확도에 도달하도록 얼마나 도와주고, 내가 어떻게 쓰느냐가 중요하지 정확도 하나만으로 결정되지는 않음 - 생각에는 에너지가 듦. 꽤 많이 듦
인간은 이 면에서 LLM보다 훨씬 효율적이지만, 자전거도 경주차보다 훨씬 효율적임. 모델이 우스울 정도로 틀릴 때조차, 추론의 방향성만으로도 내 사고를 유용하게 가속할 때가 있음
- 지금까지 이런 도구에서 얻는 효용은 충분한 시간이 있으면 내가 분명히 알아낼 수 있는 것에 대한 아주 좋은 참고자료나 도우미에 가까움
-
코딩용으로 써보고 싶은 사람이 있다면 방금 o1을 https://double.bot에 추가했음
성능은 정말 좋음. gpt-4o나 Sonnet이 실패할 때마다 적어두는 개인 문제 세트가 있는데, o1은 지금까지 전부 풀었음
다만 정말 꽤 느림
사고 연쇄가 숨겨진 점도 흥미로움. OpenAI가 모델을 개선해도 공개 모델이 즉시 증류해 가지 못하는 첫 사례 같음. 최근 추론 시점 계산 관련 논문이 이미 많이 나왔기 때문에, 오픈소스 진영이 기법 측면에서 얼마나 빨리 따라잡을지도 흥미로움 [1,2]
현재 제공되는 o1-preview가 트리 탐색을 하는지, 아니면 학습 분포의 더 좋고 자세한 궤적에서 증류된 사고 연쇄를 단발로 생성하는지만으로 동작하는지는 분명하지 않음
1
2- 지금 Double을 써보는 중임
o1은 JavaScript 파일을 TypeScript로 변환하는 작업에서 Llama 3.1 405B, GitHub Copilot, Claude 3.5보다 훨씬 잘했음. 같은 기능을 유지하면서 코드도 약간 단순화했음. 매우 인상적임
약 160줄 파일은 리팩터링했지만, 약 420줄 파일에서는 “생각 중” 말풍선이 무한히 뜸. o1 응답 시간이 길어지면서 뭔가 타임아웃되는 건지도 모르겠음
- 지금 Double을 써보는 중임
