내가 OpenAI에 합류한 이유
(brendangregg.com)- 유명한 리눅스 성능관리 전문가이자, BPF의 메인 컨트리뷰터인 브렌던 그레그의 OpenAI 입사 이유
- 급격히 증가하는 AI 데이터센터 비용과 에너지 소비 문제를 해결하기 위해 OpenAI에 합류, 초기에는 ChatGPT 성능 최적화에 집중
- 기존의 성능 엔지니어링만으로는 한계가 있다고 보고, 새로운 엔지니어링 방법을 구상해 더 큰 최적화 효과를 빠르게 찾는 것을 목표로 함
- 일상 사용자들이 ChatGPT를 폭넓게 활용하는 사례—예를 들어 미용사, 부동산 중개인, 세무사, 양봉업자—를 통해 기술의 사회적 확산을 실감
- 26회의 인터뷰를 거쳐 여러 AI 기업의 엔지니어링 수준을 비교했으며, OpenAI의 인재 밀도와 협업 환경이 가장 인상적이었다고 평가
- OpenAI에서의 역할을 통해 지구적 규모의 효율성 향상과 지속 가능성 확보에 기여할 수 있는 기회를 인생의 전환점으로 인식
AI 데이터센터와 성능 엔지니어링의 과제
- AI 데이터센터의 비용과 성장 속도가 역사상 유례없이 빠르며, 단순한 비용 절감이 아니라 지구 환경 보호의 문제로 인식
- OpenAI에서 이 문제를 직접 해결하기 위해 합류, 초기에는 ChatGPT 성능 개선에 집중
- 기존 성능 엔지니어링의 한계를 넘어 더 큰 최적화와 빠른 개선을 위한 새로운 접근법을 모색
- 대규모 환경에서도 변화를 가로막는 제약이 거의 없는 개방적 구조를 강조
- “무엇이든 시도하고, 규모 있게, 지금 당장 실행하라”는 태도로 설명
ChatGPT의 일상적 확산과 개인적 계기
- AI 채택에 회의적이던 중, 미용사 Mia와의 대화에서 ChatGPT의 대중적 사용을 직접 체감
- Mia는 친구의 여행지 정보를 ChatGPT로 확인하며 정서적 연결감을 유지하는 등 다양한 활용 사례를 공유
- ChatGPT의 기억 기능을 사람과 대화하는 듯한 경험으로 묘사
- 부동산 중개인, 세무사, 양봉업자 등도 ChatGPT를 실무에 적극 활용
- 예: 양봉업자는 소규모 사업 서류 작업을 ChatGPT로 처리
- 이러한 경험을 통해 ChatGPT가 일상 도구로 자리 잡았음을 깨닫고, 기술적 기여의 사회적 의미를 확신
OpenAI 선택의 이유와 인터뷰 과정
- 여러 업계 전문가의 추천으로 OpenAI를 포함한 AI 기술 대기업들과 26회 인터뷰 진행
- Netflix 시절과 유사한 대규모 클라우드 환경과 빠른 코드 변경, 엔지니어 자율성을 발견
- GPU뿐 아니라 전체 기술 스택 전반의 성능 문제를 다루는 폭넓은 과제 존재
- OpenAI에는 이미 알고 지내던 유능한 엔지니어 동료들이 다수 근무
- Netflix 동료 Vadim 등과의 협업 경험이 합류 결정에 긍정적 영향
- OpenAI에는 이미 숙련된 성능 엔지니어 팀이 존재하며, 자신은 그중 “가장 최근에 합류한 사람”이라고 언급
어린 시절의 꿈 ‘Orac’과 AI의 연결
- 어린 시절 영국 SF 드라마 Blake’s 7의 슈퍼컴퓨터 Orac에 매료되어 AI 개발을 꿈꿨던 경험 회상
- 대학 시절 자연어 처리 소프트웨어를 직접 개발하려 했으나 메모리 제약으로 중단
- ChatGPT를 사용하면서 Orac을 떠올리고, ChatGPT가 Orac의 성격을 완벽히 재현하는 답변을 보여 감탄
- 이후 ChatGPT 설정에서 Orac 모드로 개인화해 사용 중
- Blake’s 7의 리부트 소식도 함께 언급
OpenAI에서의 현재와 향후 계획
- 현재 시드니에서 원격 근무 중이며, ChatGPT 성능 엔지니어링 팀의 Member of Technical Staff로 활동
- 초기 프로젝트는 조직 간 협업을 통한 성능 개선 및 비용 절감 전략 수립
- eBPF, Ftrace, PMC 등 기존 기술을 OpenAI의 필요에 맞게 적용할 계획
- Codex를 코딩 외의 다양한 작업에도 활용 중
- Intel 퇴사 후 Linux Plumber’s Conference에서 많은 이들이 향후 행보를 궁금해했으며, 이를 계기로 본 글을 작성
- 마지막으로 미용사 Mia에게 다시 ChatGPT 사용 여부를 묻자, “24시간 내내 사용한다” 는 답변을 들었다고 전함
- 이 글은 개인적 기록이며 회사 요청이 아닌 자발적 작성임
이건 또 무슨... 칩셋부터 데이터센터까지 뭐 하나 직접 만들어 쓰는게 없는 OpenAI 입장에서는, 소프트웨어 스택이 최적화되면 여유분만큼 스케일업 할테니 환경보호보다는 이익의 극대화가 목표죠 (HN 댓글처럼 제본스의 역설)
너무 자기 PR성 포스트라 보기 민망하네요
Hacker News 의견들
-
“비용 절감이 아니라 지구를 구하는 일”이라는 말이 뭔가 어색하게 들림
혹시 단순히 돈 때문이 아니냐는 생각이 듦- “세상을 더 나은 곳으로 만든다”는 말은 이제 너무 자주 쓰여서 진부해졌음
일에 열정을 가지는 건 좋지만, 굳이 마더 테레사처럼 보일 필요는 없음
참고로 이건 실리콘밸리 TV쇼의 패러디 장면을 떠올리게 함 - 예전엔 Google이나 Tesla가 세상을 바꿀 거라 믿었지만, 지금은 그게 우연일 뿐이라는 걸 깨달았음
대기업의 목표는 세상을 구하는 게 아니라 이윤 추구임 - “작을수록 위대하다”는 식의 허황된 슬로건이 떠오름 — “파일을 작게 만들면 암과 기아도 작아진다”는 Hooli의 Gavin Belson식 논리 같음
- BG가 전력 소비를 줄일 거라는 생각은 순진한 발상임
하드웨어 효율이 높아지면 결국 더 많은 워크로드가 채워질 뿐임
그래도 이 문제 영역에서 나올 새로운 혁신은 기대됨 - “It’s not just about… it’s about…” 같은 문장은 ChatGPT가 쓴 듯한 문체로 들림
- “세상을 더 나은 곳으로 만든다”는 말은 이제 너무 자주 쓰여서 진부해졌음
-
Brendan의 책 팬으로서, OpenAI 합류 자체는 응원하지만 분석에는 동의하기 어려움
OpenAI가 X달러로 Y만큼의 에너지를 산다면, 효율 향상은 단지 더 많은 토큰 생산으로 이어질 뿐임
에너지 절감이 아니라 Jevons의 역설에 가깝다고 봄- 언젠가 OpenAI가 진짜 수익을 내는 기업이 된다면 비용 절감 압박이 생길 수도 있음
다만 “챗봇에게 농구 점수 묻기” 같은 요청의 에너지 비용은 줄어들 가능성 있음 - 아마 그도 이미 알고 있을 것 같음. 똑똑한 사람일수록 스스로를 설득하기 쉬움
- 결국 더 많은 토큰을 태우면 AI가 현실에 더 깊이 침투하게 됨
- 언젠가 OpenAI가 진짜 수익을 내는 기업이 된다면 비용 절감 압박이 생길 수도 있음
-
보상 이야기를 언급했지만, 돈만이 이유는 아님
AI 데이터센터의 에너지 비용 문제를 직접 해결하고 싶었음- 돈만 좇는 사람으로 보이는 건 억울함
지난 20년간 교재를 거의 최저임금 수준으로 집필하며 다른 개발자들을 돕고,
오픈소스로 수많은 스타트업의 기반을 만들었음
원격 근무 문화 확산에도 기여했음 - 논리적 사고를 하는 사람으로서 “성능 향상으로 지구를 구한다”는 말이 논리적 오류처럼 들림
효율이 높아지면 결국 더 많은 GPU를 사게 되는 구조임
이런 부작용을 줄이려면 규제가 필요하다고 봄 - 오랫동안 당신의 팬이었지만, OpenAI가 윤리위원회 해체와 오픈소스 중단을 택한 이후
“세상을 위한 일”이라는 말은 공허하게 들림
실망스럽지만, 당신의 선택이니 존중함 -
Rebound effect를 읽어보길 권함
관련 링크 - 성능 향상이 업계 전체에 공유된다면 좋겠지만,
OpenAI가 경쟁 우위를 위해 일부를 비공개로 둘 가능성도 있음
- 돈만 좇는 사람으로 보이는 건 억울함
-
글의 자기 과시적인 어조가 너무 강해서 읽기 힘들었음
- 이전 퇴사 글도 비슷했음. 약간 셀럽식 자기 홍보 느낌이었음
- 이건 기사라기보다 개인 서사 블로그에 가까움
-
“미용사 Mia가 내가 Intel Fellow라고 하자 침묵했다”는 부분이 민망했음
마치 그녀를 놀라게 하고 싶었는데 반응이 없자 이직을 결심한 것처럼 보임- 하지만 대부분의 사람은 스마트폰이 주 컴퓨터임
기술 업계 밖의 세상과 마주하면 이런 반응은 자연스러움
반대로 미용사가 말한 가위 브랜드는 우리에겐 생소할 수도 있음
- 하지만 대부분의 사람은 스마트폰이 주 컴퓨터임
-
실리콘밸리의 채용 방식은 사람들의 자아 이미지를 자극해
자신이 세상을 바꾸는 존재라고 믿게 만들고,
그 결과 부정적 영향을 직시하기 어렵게 만듦 -
뛰어난 시스템 엔지니어였던 사람이 이렇게 현실감 없는 글쓰기를 하는 게 충격적임
기술적 진실보다 정치와 자기 홍보가 우선된 느낌임- 반대로, 정치야말로 가장 복잡한 동적 시스템일 수도 있음
스스로나 아이디어를 홍보하는 것도 결국 엔지니어링의 확장이라 볼 수 있음
- 반대로, 정치야말로 가장 복잡한 동적 시스템일 수도 있음
-
팬으로서 글을 읽었지만, “세상을 구한다”는 말은 자기합리화처럼 들림
-
“타이어 화재에서 최대한의 열을 뽑아 지구를 구하겠다”는 식의 아이러니한 비유로 들림
-
친구가 멀리 여행 중이라 ChatGPT로 그 도시 이야기를 나누며 연결감을 느꼈다는 부분이 슬펐음
이런 용도에 기가와트급 전력이 필요하지 않음
작은 로컬 모델이면 충분함- 차라리 친구에게 이메일을 보내는 게 낫다고 생각함
인간 간 비동기 소통은 이미 해결된 문제임 - 그냥 Signal이나 WhatsApp으로 대화하면 될 일임
- 나처럼 매우 마이너한 주제를 이야기할 상대가 없을 때는 ChatGPT가 유용함
- 여행지에서 현지 언어로 대신 말해주게 하는 건 꽤 멋진 활용법임
여행 프로그램을 보는 것보다 덜 우울함
- 차라리 친구에게 이메일을 보내는 게 낫다고 생각함