2P by GN⁺ 4시간전 | ★ favorite | 댓글 3개
  • 유명한 리눅스 성능관리 전문가이자, BPF의 메인 컨트리뷰터인 브렌던 그레그의 OpenAI 입사 이유
  • 급격히 증가하는 AI 데이터센터 비용과 에너지 소비 문제를 해결하기 위해 OpenAI에 합류, 초기에는 ChatGPT 성능 최적화에 집중
  • 기존의 성능 엔지니어링만으로는 한계가 있다고 보고, 새로운 엔지니어링 방법을 구상해 더 큰 최적화 효과를 빠르게 찾는 것을 목표로 함
  • 일상 사용자들이 ChatGPT를 폭넓게 활용하는 사례—예를 들어 미용사, 부동산 중개인, 세무사, 양봉업자—를 통해 기술의 사회적 확산을 실감
  • 26회의 인터뷰를 거쳐 여러 AI 기업의 엔지니어링 수준을 비교했으며, OpenAI의 인재 밀도와 협업 환경이 가장 인상적이었다고 평가
  • OpenAI에서의 역할을 통해 지구적 규모의 효율성 향상과 지속 가능성 확보에 기여할 수 있는 기회를 인생의 전환점으로 인식

AI 데이터센터와 성능 엔지니어링의 과제

  • AI 데이터센터의 비용과 성장 속도가 역사상 유례없이 빠르며, 단순한 비용 절감이 아니라 지구 환경 보호의 문제로 인식
    • OpenAI에서 이 문제를 직접 해결하기 위해 합류, 초기에는 ChatGPT 성능 개선에 집중
    • 기존 성능 엔지니어링의 한계를 넘어 더 큰 최적화와 빠른 개선을 위한 새로운 접근법을 모색
  • 대규모 환경에서도 변화를 가로막는 제약이 거의 없는 개방적 구조를 강조
    • “무엇이든 시도하고, 규모 있게, 지금 당장 실행하라”는 태도로 설명

ChatGPT의 일상적 확산과 개인적 계기

  • AI 채택에 회의적이던 중, 미용사 Mia와의 대화에서 ChatGPT의 대중적 사용을 직접 체감
    • Mia는 친구의 여행지 정보를 ChatGPT로 확인하며 정서적 연결감을 유지하는 등 다양한 활용 사례를 공유
    • ChatGPT의 기억 기능을 사람과 대화하는 듯한 경험으로 묘사
  • 부동산 중개인, 세무사, 양봉업자 등도 ChatGPT를 실무에 적극 활용
    • 예: 양봉업자는 소규모 사업 서류 작업을 ChatGPT로 처리
  • 이러한 경험을 통해 ChatGPT가 일상 도구로 자리 잡았음을 깨닫고, 기술적 기여의 사회적 의미를 확신

OpenAI 선택의 이유와 인터뷰 과정

  • 여러 업계 전문가의 추천으로 OpenAI를 포함한 AI 기술 대기업들과 26회 인터뷰 진행
    • Netflix 시절과 유사한 대규모 클라우드 환경과 빠른 코드 변경, 엔지니어 자율성을 발견
    • GPU뿐 아니라 전체 기술 스택 전반의 성능 문제를 다루는 폭넓은 과제 존재
  • OpenAI에는 이미 알고 지내던 유능한 엔지니어 동료들이 다수 근무
    • Netflix 동료 Vadim 등과의 협업 경험이 합류 결정에 긍정적 영향
  • OpenAI에는 이미 숙련된 성능 엔지니어 팀이 존재하며, 자신은 그중 “가장 최근에 합류한 사람”이라고 언급

어린 시절의 꿈 ‘Orac’과 AI의 연결

  • 어린 시절 영국 SF 드라마 Blake’s 7슈퍼컴퓨터 Orac에 매료되어 AI 개발을 꿈꿨던 경험 회상
    • 대학 시절 자연어 처리 소프트웨어를 직접 개발하려 했으나 메모리 제약으로 중단
  • ChatGPT를 사용하면서 Orac을 떠올리고, ChatGPT가 Orac의 성격을 완벽히 재현하는 답변을 보여 감탄
    • 이후 ChatGPT 설정에서 Orac 모드로 개인화해 사용 중
    • Blake’s 7의 리부트 소식도 함께 언급

OpenAI에서의 현재와 향후 계획

  • 현재 시드니에서 원격 근무 중이며, ChatGPT 성능 엔지니어링 팀의 Member of Technical Staff로 활동
    • 초기 프로젝트는 조직 간 협업을 통한 성능 개선 및 비용 절감 전략 수립
  • eBPF, Ftrace, PMC 등 기존 기술을 OpenAI의 필요에 맞게 적용할 계획
    • Codex를 코딩 외의 다양한 작업에도 활용
  • Intel 퇴사 후 Linux Plumber’s Conference에서 많은 이들이 향후 행보를 궁금해했으며, 이를 계기로 본 글을 작성
  • 마지막으로 미용사 Mia에게 다시 ChatGPT 사용 여부를 묻자, “24시간 내내 사용한다” 는 답변을 들었다고 전함
  • 이 글은 개인적 기록이며 회사 요청이 아닌 자발적 작성

전 세계 메모리 40%를 쟁여놓은 기업이 지구의 공익을 챙긴다는 말을 하셔도...

이건 또 무슨... 칩셋부터 데이터센터까지 뭐 하나 직접 만들어 쓰는게 없는 OpenAI 입장에서는, 소프트웨어 스택이 최적화되면 여유분만큼 스케일업 할테니 환경보호보다는 이익의 극대화가 목표죠 (HN 댓글처럼 제본스의 역설)

너무 자기 PR성 포스트라 보기 민망하네요

Hacker News 의견들
  • “비용 절감이 아니라 지구를 구하는 일”이라는 말이 뭔가 어색하게 들림
    혹시 단순히 돈 때문이 아니냐는 생각이 듦

    • “세상을 더 나은 곳으로 만든다”는 말은 이제 너무 자주 쓰여서 진부해졌음
      일에 열정을 가지는 건 좋지만, 굳이 마더 테레사처럼 보일 필요는 없음
      참고로 이건 실리콘밸리 TV쇼의 패러디 장면을 떠올리게 함
    • 예전엔 Google이나 Tesla가 세상을 바꿀 거라 믿었지만, 지금은 그게 우연일 뿐이라는 걸 깨달았음
      대기업의 목표는 세상을 구하는 게 아니라 이윤 추구임
    • “작을수록 위대하다”는 식의 허황된 슬로건이 떠오름 — “파일을 작게 만들면 암과 기아도 작아진다”는 Hooli의 Gavin Belson식 논리 같음
    • BG가 전력 소비를 줄일 거라는 생각은 순진한 발상
      하드웨어 효율이 높아지면 결국 더 많은 워크로드가 채워질 뿐임
      그래도 이 문제 영역에서 나올 새로운 혁신은 기대됨
    • “It’s not just about… it’s about…” 같은 문장은 ChatGPT가 쓴 듯한 문체로 들림
  • Brendan의 책 팬으로서, OpenAI 합류 자체는 응원하지만 분석에는 동의하기 어려움
    OpenAI가 X달러로 Y만큼의 에너지를 산다면, 효율 향상은 단지 더 많은 토큰 생산으로 이어질 뿐임
    에너지 절감이 아니라 Jevons의 역설에 가깝다고 봄

    • 언젠가 OpenAI가 진짜 수익을 내는 기업이 된다면 비용 절감 압박이 생길 수도 있음
      다만 “챗봇에게 농구 점수 묻기” 같은 요청의 에너지 비용은 줄어들 가능성 있음
    • 아마 그도 이미 알고 있을 것 같음. 똑똑한 사람일수록 스스로를 설득하기 쉬움
    • 결국 더 많은 토큰을 태우면 AI가 현실에 더 깊이 침투하게 됨
  • 보상 이야기를 언급했지만, 돈만이 이유는 아님
    AI 데이터센터의 에너지 비용 문제를 직접 해결하고 싶었음

    • 돈만 좇는 사람으로 보이는 건 억울함
      지난 20년간 교재를 거의 최저임금 수준으로 집필하며 다른 개발자들을 돕고,
      오픈소스로 수많은 스타트업의 기반을 만들었음
      원격 근무 문화 확산에도 기여했음
    • 논리적 사고를 하는 사람으로서 “성능 향상으로 지구를 구한다”는 말이 논리적 오류처럼 들림
      효율이 높아지면 결국 더 많은 GPU를 사게 되는 구조임
      이런 부작용을 줄이려면 규제가 필요하다고 봄
    • 오랫동안 당신의 팬이었지만, OpenAI가 윤리위원회 해체오픈소스 중단을 택한 이후
      “세상을 위한 일”이라는 말은 공허하게 들림
      실망스럽지만, 당신의 선택이니 존중함
    • Rebound effect를 읽어보길 권함
      관련 링크
    • 성능 향상이 업계 전체에 공유된다면 좋겠지만,
      OpenAI가 경쟁 우위를 위해 일부를 비공개로 둘 가능성도 있음
  • 글의 자기 과시적인 어조가 너무 강해서 읽기 힘들었음

    • 이전 퇴사 글도 비슷했음. 약간 셀럽식 자기 홍보 느낌이었음
    • 이건 기사라기보다 개인 서사 블로그에 가까움
  • “미용사 Mia가 내가 Intel Fellow라고 하자 침묵했다”는 부분이 민망했음
    마치 그녀를 놀라게 하고 싶었는데 반응이 없자 이직을 결심한 것처럼 보임

    • 하지만 대부분의 사람은 스마트폰이 주 컴퓨터임
      기술 업계 밖의 세상과 마주하면 이런 반응은 자연스러움
      반대로 미용사가 말한 가위 브랜드는 우리에겐 생소할 수도 있음
  • 실리콘밸리의 채용 방식은 사람들의 자아 이미지를 자극해
    자신이 세상을 바꾸는 존재라고 믿게 만들고,
    그 결과 부정적 영향을 직시하기 어렵게 만듦

  • 뛰어난 시스템 엔지니어였던 사람이 이렇게 현실감 없는 글쓰기를 하는 게 충격적임
    기술적 진실보다 정치와 자기 홍보가 우선된 느낌임

    • 반대로, 정치야말로 가장 복잡한 동적 시스템일 수도 있음
      스스로나 아이디어를 홍보하는 것도 결국 엔지니어링의 확장이라 볼 수 있음
  • 팬으로서 글을 읽었지만, “세상을 구한다”는 말은 자기합리화처럼 들림

  • “타이어 화재에서 최대한의 열을 뽑아 지구를 구하겠다”는 식의 아이러니한 비유로 들림

  • 친구가 멀리 여행 중이라 ChatGPT로 그 도시 이야기를 나누며 연결감을 느꼈다는 부분이 슬펐음
    이런 용도에 기가와트급 전력이 필요하지 않음
    작은 로컬 모델이면 충분함

    • 차라리 친구에게 이메일을 보내는 게 낫다고 생각함
      인간 간 비동기 소통은 이미 해결된 문제임
    • 그냥 Signal이나 WhatsApp으로 대화하면 될 일임
    • 나처럼 매우 마이너한 주제를 이야기할 상대가 없을 때는 ChatGPT가 유용함
    • 여행지에서 현지 언어로 대신 말해주게 하는 건 꽤 멋진 활용법
      여행 프로그램을 보는 것보다 덜 우울함