▲

OpenAI에 대한 회고

 (calv.info)
19P by GN⁺ 1일전 | ★ favorite | 댓글 2개
  • 저자는 2024년 5월 입사 후 1년 남짓 OpenAI에서 일하고 퇴사, 사내 문화와 실제 일하는 분위기에 대해 솔직하게 서술함
  • 초고속 성장(1,000명→3,000명) 속에서 내부 프로세스·조직·문화·일 방식이 빠르게 변하고 있음
  • 바텀업/실력주의 문화, 독특한 슬랙 중심 협업, 높은 실행력, 리더십의 가시성과 신속한 방향 전환, 그리고 '** 코드가 답**'이라는 태도가 조직 곳곳에 녹아 있음
  • 세부 팀 문화·업무 속도·조직 유연성이 강하며, 연구자 개인의 '미니 경영자'적 자율성, 중복 프로젝트 및 사내 아이디어 실험이 빈번함
  • OpenAI는 외부 시선과 언론의 집중 감시, 실질적인 보안/비밀주의, 그리고 AGI/소비자 서비스라는 사명감과 긴장감을 동시에 가진, 야심차고 진지한 조직이라고 설명

서론 및 개인적 배경

  • 2024년 5월에 입사하여 최근 OpenAI를 퇴사하게 되었음
  • 이 글을 통해 OpenAI에서 느꼈던 실제 문화와 개인적인 시각을 공유하고자 함
  • 내부 비밀은 없으며, 역사적으로 흥미로운 조직의 현재 모습과 직원의 작은 창구로서 경험을 담고 있음
  • 퇴사 결정에는 개인적 갈등이 있었으나, 스타트업 창업자에서 대규모 조직 직원으로 전환함에 따른 신선함에 대한 갈망이 있었음
  • AGI 구축에 참여한 경험과 Codex 출시에서 직접 기여한 점은 대단히 의미 있었음

조직 문화

  • 입사 시점 1,000명, 1년 뒤 3,000명 돌파 등 비정상적으로 빠른 성장 경험
  • 빠른 확장으로 인해 커뮤니케이션, 보고 체계, 제품 출시, 조직 관리 등에서 다양한 문제가 발생함
  • 모든 의사소통·업무가 Slack 중심, 이메일 거의 사용하지 않음
  • 팀마다 문화/페이스 차이가 큼, 연구, 적용, GTM(Go-To-Market) 등 시간 흐름도 다름
  • 실질적인 바텀업·실력주의가 강하며, 연구자·개발자 개인이 주도적으로 실험·의사결정함
  • 성과 기반, 실력 우선의 조직 문화로, 정치적 능력보다는 실행력과 아이디어가 중요함
  • 공식 로드맵 없이, 좋은 아이디어를 중심으로 팀이 자연스럽게 모이고, 빠르게 방향 전환하는 경향
  • 리더십은 실행력(doing the right thing), 변화에의 민첩성을 중요시
  • 내부적으로 중복 개발/병렬 실험 많고, 여러 프로토타입이 자생적으로 만들어지며, '코드가 움직이는 조직'임
  • 리더들은 정치적 역량보다 실제 아이디어 실행 능력에 더 비중을 둠
  • 연구자들은 "미니 경영진"처럼 각자 주도적으로 문제 해결에 몰두함
  • 유능한 연구 관리자와 PM의 영향력이 매우 큼
  • ChatGPT EM들은 매우 신뢰할 만하며, 좋은 인재를 고용해 자율성을 부여함
  • 방향 전환의 속도가 매우 빠르며, 결정 후 즉시 실천함

업무 방식과 분위기

  • Slack 채널·권한 구조가 복잡하고, 모든 소통이 Slack에서 이루어짐
  • 연구팀/PM/EM(엔지니어링 매니저) 등 역할별로 각기 다른 방식, 팀 간 이동과 협업 유연성이 매우 높음
  • 외부 보안·언론 노출에 매우 민감하여, 실적/매출 등 내부 정보는 철저히 관리됨
  • 실제 구성원들은 '옳은 일'을 하려는 동기가 강함, 외부에서 생각하는 것만큼 냉소적이지 않음
  • OpenAI는 여러 하위 문화가 혼재한 '로스앨러모스(핵 연구소)+초대형 소비자 서비스' 혼합형 조직으로 비유
  • AI 혜택의 폭넓은 배포를 중시, 최첨단 모델도 엔터프라이즈에만 한정하지 않고, 누구나 API/ChatGPT로 사용 가능하게 공개함

안전 및 내부 정책

  • AI 안전 이슈는 실제로 내부에 많은 인력·자원이 투입되어 있음
  • 실질적으로는 혐오발언, 오남용, 정치적 편향, 프롬프트 인젝션, 자기해 손해 등 실제 위험을 더 많이 다룸
  • 이론적 위험(지능 폭주, 파워시킹)은 일부 인력이 전담하지만 주류는 아님
  • 안전 관련 연구나 시스템의 상당 부분은 외부에 공개되지 않고 있음

개발 환경과 기술

  • 거대한 모노레포(mono-repo) 와 Python 중심, Rust/Golang 일부 도입, 스타일 가이드 강제 거의 없음
    • Google 출신 고참이 설계한 대규모 시스템과, 신규 박사가 작성한 Jupyter notebook이 혼재되어 있음
    • FastAPI 중심 API, Pydantic 데이터 검증 사용이 두드러짐
  • 모든 인프라는 Azure 위에서 구동
    • 신뢰할 만한 서비스는 Azure Kubernetes Service, CosmosDB, BlobStore 정도로 한정적임
    • IAM 수준 및 일부 서비스는 AWS에 비해 미흡하며, 사내 자체 개발 지향
  • Meta(구 Facebook) 출신 엔지니어 대거 유입
    • 인프라 감성과 코드베이스가 Meta/Instagram 초기와 유사함
    • 예: TAO 재구현, 인증 체계 통합 등 자체 시스템 개발 흔함
  • 중복 코드·도구/큐 관리 라이브러리·대규모 백엔드(monolith) 관리 등 급성장 조직의 고질적 문제를 실감, CI 속도/안정성 이슈 존재
  • Chat 메시지·대화 구조가 코드 곳곳에 깊이 내재, 제품마다 반복적으로 활용
  • '코드가 이긴다(Code wins)': 중앙 기획위원회 없이 실제로 일하는 팀의 코드가 표준이 됨
    • 결정 권한은 해당 작업을 직접하는 팀에 있음, 코드에 의한 실력과 실행 우위 체계

소비자 브랜드와 비즈니스 관점

  • Consumer 브랜드의 거대함: 핵심 지표는 팀 단위가 아닌 개인 사용자 구독 기준으로 운영함
    • 프로덕트 성장·트래픽은 '프로 구독자 수' 등 소비자 단위로 측정, B2B 조직 출신인 저자에게 신선한 충격
  • 모델 학습·실험은 소규모에서 시작해, 성공시 대규모 분산 시스템 엔지니어링으로 확장되는 구조
  • GPU 비용이 압도적 비중을 차지, 사소한 기능조차 방대한 GPU 리소스가 필요
    • GPU 사용량 산정과 벤치마킹: 요구되는 지연시간/토큰 수 등 사용자 경험 기준에서 역산함
  • 대규모 Python 코드베이스 운용 노하우: 개발자 수가 증가함에 따라 기본 작동, 테스트, 오용 방지 등 다양한 가드레일 필요

팀 운영과 리더십

  • 리더십은 매우 가시적이고 직접 참여하며, 모든 임원이 Slack에서 수시로 논의 참여
  • 팀 이동·협업 매우 빠름, 타 팀 요청에도 즉시 응원군 투입, 대기나 절차 없음
  • 사내 스왝(swag)도 드물고, 내부적으로 한정 판매 형식으로만 제공

Codex 런칭 경험

  • 최근 3개월, Codex 출시가 커리어 하이라이트였음
  • 2024년 11월 2025년 내 코딩 에이전트 출시 목표 수립, 2025년 2월 경 내부 도구 완성 및 시장 경쟁 속도에 대한 압박을 느낌
  • Codex 런칭을 위해 팀이 합쳐져 7주 만에 완제품(코딩 에이전트) 완성 및 출시, 짧은 개발 기간 내 영향력 있는 제품을 빠르게 구현함
    • 실제로 밤샘, 주말 근무, 신생아 육아를 병행하며 YC 당시 느낌을 재현함
    • 컨테이너 런타임, repo 최적화, 커스텀 모델 파인튜닝, git 연동, 인터넷 접근 등 다양한 기능을 신속하게 구현함
    • 팀 구성은 시니어 8명 엔지니어, 4명 연구원, 2명 디자이너, 2명 GTM, 1명 PM 등 고참 위주의 소수 정예 팀
  • 런칭 전날, 직접 배포 등 마무리 작업에 집중
  • 런칭 당일 트래픽 폭주, ChatGPT 사이드바에 등장한 것만으로도 즉시 대규모 유입 발생
  • Codex는 비동기 에이전트 방식(사용자-에이전트 메시지→작업→PR 결과 반환) 채택
    • 독립 실행 환경에서 사용자 요청을 처리하여 협업자처럼 PR 결과를 반환하는 구조
    • 아직 모델 성능의 신뢰와 한계가 혼재되어 있음
    • 다중 태스크 실행, 대형 코드베이스 이해 능력 등에서 Codex의 차별성이 존재함
  • 출시 53일 만에 630,000 개의 PR 생성, 엔지니어 1인당 78,000개 이상의 PR을 기록하며 압도적인 임팩트 창출

마무리 및 교훈

  • 큰 조직에서 일하는 것에 대한 두려움이 있었으나, 돌아보면 최고의 결정 중 하나로 학습과 성장의 기회였음
  • 목표했던 모델 훈련에 대한 직관, 우수한 동료와 협업, 임팩트 있는 제품 출시 모두 달성함
  • 대규모 파이썬 코드베이스 관리 노하우 습득, 실전 GPU 벤치마킹/용량 산정 등을 실제 경험함
  • 스타트업 창업자거나 진로 고민이 있다면 더 적극적으로 도전하거나, 거대 연구소 합류를 고려할 만한 시점임
  • AGI를 향한 경쟁은 3마리의 말, 즉 OpenAI, Anthropic, Google이 각각 다른 방식을 추구 중이며, 이 중 한곳에서 일하는 경험은 지평을 넓혀줄 것임
  • OpenAI 경험은 창업가이자 엔지니어로서 최고의 선택 중 하나로 평가함
▲
GN⁺ 1일전  [-]
Hacker News 의견

  • 퇴직자가 자신의 근무 경험을 긍정적으로 묘사하는 경우는 흔하지 않음, 이는 OpenAI가 특별해서라기보다는 대부분의 ‘왜 회사를 그만뒀는가’ 포스트가 실은 개인이 조직에 맞지 않았던 이유를 조직 탓으로 돌리려는 경향을 보여줌, 이 글에서 ‘믿을 수 없게 바텀업 방식이다’라는 표현의 이면에는 명확한 로드맵이 없고 각자가 소유하는 프로젝트가 없어 방향성을 잃는 사람들이 있을 수 있음, 또한 ‘행동 중심성’과 ‘즉각적인 방향 전환’은 혼란스러운 환경과 일관성 없는 임원 리더십을 의미할 수 있음, 그리고 “OpenAI엔 실제로 선의의 사람들이 많음”이라는 말은 대부분 도덕적 판단이 복잡한 결정을 내리는 회사에 해당됨, 모두가 스스로를 좋은 사람이라고 여기며 큰 목표와 명분으로 합리화하는 흐름임

    • 나는 절대 공공장소에서 고용주에 대한 비판을 남기지 않음, 이는 내 경력에 해를 끼칠 수밖에 없음, 특히 Altman이 보복적이라는 소문도 있으니 OpenAI는 두 배로 조심해야 함, 심지어 이 글에서는 OpenAI가 소셜미디어까지 모니터링한다고 함, 이 퇴직자는 자신의 짧은 14개월 경력을 긍정적으로 포장해 평판을 관리하려는 의도도 있어 보이고, 이런 모습이 오히려 미래 고용주에 어필이 되는 것 같음
    • "회사에 악당은 없다. 좋은 사람들이 스스로를 합리화할 뿐"이라는 말이 있었는데, 나는 예전에 카지노용 소프트웨어 회사에서 근무해봤는데, 거긴 정말 대놓고 악당 같은 사람들이 경영진이었음
    • OpenAI는 퇴사 후 부정적으로 말하면 이미 부여된 지분을 모두 박탈당하기 때문에, 긍정적인 경험담이 훨씬 흔한 구조임
    • 내 생각에 Altman은 AGI가 곧 나온다고 대중을 설득하는 데 집중하는 동시에, OpenAI를 강력한 프로덕트 회사로 만들기 위해 많은 노력을 들인 것으로 보임, 그리고 실제로 성공적으로 해낸 것으로 보임, 회사 내 큰 자부심과 경쟁 속에서 퇴사자가 여러 정치적인 싸움에 일부 패배하거나, 자신의 Codex 프로토타입이 채택되지 않는 등 상처를 입었을 수도 있음, 혹은 이미 충분한 돈과 인생 경험을 쌓았기에 더 이상 젊은 인재들과 경쟁할 동력이 사라진 것일 수도 있음
    • 퇴직자들이 자신의 경험을 부정적으로만 이야기하는 게 아니라, 오히려 너무 긍정적으로 포장하는 사례가 정말 많음, 내가 다녔던 회사에서도 독재적인 CEO 아래 심하게 독성적인 환경이 되어서, 많은 이들이 고생했음에도 불구하고 미래 취업을 위해 블로그나 LinkedIn에 찬양글을 썼음, HN에서 화제가 되는 글들은 회사에 애정을 가졌던 직원들이 회사나 부서가 몰락하는 것을 아쉬워하며 쓰는 경우가 더 많은 듯함

  • 이 글에서 인상적인 점은 다음과 같음

    • 진보는 반복적이고, 바텀업과 실력 위주 문화가 있음, 경영진의 ‘마스터 플랜’이 아니라 누구의 아이디어든 현실이 될 수 있고, 실질적 실행력과 아이디어로 리더가 승진함
    • 팀원들이 허락 없이도 프로젝트를 주도적으로 시작할 수 있어, 여러 개의 병렬 프로젝트가 자연스럽게 생기고 성공 가능성 있는 것에 자원이 집중됨
    • OpenAI 구성원들은 선의로 일한다는 의식이 강하며, 세간의 비판에도 불구하고 진지하게 책임감을 가지고 옳은 일을 하려 함
    • 회사의 프로덕트가 대중 정서의 영향을 크게 받고, 실제로 회사가 ‘트위터 분위기’를 따라 움직이는 느낌임
    • GPU 비용이 압도적으로 높아, 다른 인프라 비용은 거의 의미 없을 정도임, 컴퓨팅 파워 확보가 재무와 기술의 최우선 과제임
    • AGI를 향한 길이 OpenAI(컨슈머 프로덕트 DNA), Anthropic(엔터프라이즈 DNA), Google(인프라/Data DNA)의 삼파전으로 설명된다는 점이 흥미로웠음
    • Meta도 소비자 중심 DNA를 가진 중요한 경쟁자임, 소비자를 정말 '프로덕트'로 만드는 데 대표적인 역할을 해왔음

  • Codex 개발 마라톤이 지난 10년 중 가장 힘들었던 업무였다는 부분이 눈에 띔, 대부분 밤 11시~자정까지 일하고, 아침 5시 반에는 갓난아이를 돌보며, 7시에 사무실로 나가는 삶이었음, 몇 주~몇 달 만에 대규모 프로젝트가 완성되어버리는 타이트한 업계 분위기에서, 이러한 워크스타일이 과연 직원들에게 장기적으로 지속 가능할지 의문임

    • 누가 나에게 저런 모드로 일하라고 강요하면 절대 거부하겠지만, 내가 진짜 흥미롭고 중요하다고 느끼는 프로젝트라면 몇 주~몇 달 올인하는 것도 좋음, 이런 프로젝트 이후에는 모든 에너지가 빠진 상태일 것을 알기에 계획도 미리 세워둠, 나와 비슷한 문화를 가진 커뮤니티 덕분에 지속적인 동기부여를 얻기도 함
    • 이미 경제적으로 여유 있는 사람이 갓난아이 돌보는 대신 16~17시간씩 7일 내내 일하는 선택을 한 건 대단함, 결혼한 파트너에게 "육아를 맡겨서 고맙다"고 남긴 데서 다 말해줌
    • 이런 방식의 근무는 절대 지속 가능하지 않음, 하지만 커리어 동안 몇 번 일어나는 일이라면 충분히 해볼 만하고, 오히려 활력을 얻었다는 지인도 있음
    • 배우자에게 육아 부담을 전적으로 넘긴다는 상상 자체를 못하겠음, OP의 아내가 대단하고, 그런 점을 마지막에 언급한 것은 좋지만 솔직히 놀라움
    • 글쓴이가 14개월 만에 OpenAI를 그만둔 걸로 보아, 이런 근무 패턴이 번아웃으로 이어진 듯함

  • 정말 궁금한 건 OpenAI나 다른 AI 연구소들이 실제로 내부 운영에 LLM을 주춧돌로 적극적으로 활용하는지임, 코드 개발, 내부 모델 커스텀, 최신 정보 정리 등 실무용으로 실제로 돈과 역량을 투입하는지 알고 싶었으나, 기사에는 언급이 없어 아쉽게 느꼈음

  • 엔지니어들이 ‘신’을 만든다는 생각을 품게 하게 하는 게 최고 수준의 마케팅 전략임, 실제로 나는 그게 사실이라고 믿지는 않지만, 이 아이디어는 비판이 거의 먹히지 않는 구조임, “만약 정말이라면 어떡할 것인가”라는 질문으로 언제든 반박할 수 있고, 잠재적 이득이 무한대라 작은 확률이라도 무시할 수 없게 됨, 확률 0.00001%라도 무한의 보상과 곱해지면 기대값이 무한대가 되는 논리임, 최고의 마케팅임

    • “하지만 진짜일 수도 있잖아?”라는 질문이 LLM 개발사들의 이야기의 일환으로서, 미스테리한 요소를 심어주고 있음

  • 내가 가장 알고 싶었던 건 OpenAI 내부에서 LLM이 실제 프로덕트 빌딩에 얼마나, 어떤 방식으로 활용되는지임

    • 53일 동안 엔지니어 한 명당 78,000개의 퍼블릭 pull request가 있다는 설명은 거의 99.99%가 LLM에 의해 쓰였을 것이라는 농담처럼 들림, 글에서 공개한 업무 프로세스 정보가 많아 놀라웠고, 이런 건 보통 비밀로 지켜야 하지 않나 싶었음, 참고로 78,000개 PR 통계는 Codex 엔지니어가 아니라 전체 사용자 기준임

  • 이렇게 빠르게 성장한 회사임에도, OpenAI의 테크니컬 라이터 부족이 계속 놀라움, 문서가 개선될 수 있다고만 표현하는데, 실제로 Anthropic의 문서화 수준과 비교하면 OpenAI에는 동료 테크라이터를 찾기 힘듦, 좋은 개발자 도구를 만들려면 우수한 문서가 필수이며, 이를 전담하고 발전시키는 팀이 꼭 필요함

    • 경영진이 문서화의 가치를 못 느끼는 게 문제임, 예전에 DigitalOcean에선 업계 최고 수준의 기술 문서팀이 있었지만, 정리해고 때 가장 먼저 잘렸음, 비용으로만 보는 시선이 크다고 느낌

  • 이 글엔 정말 처음 듣는 흥미로운 정보가 엄청 많았음, 시간을 들여 볼 만한 가치가 있음

  • “안전이 생각보다 중요하게 여겨진다”는 글쓴이 의견에 대해, 실제로 OpenAI의 여러 안전 팀 리더들이 퇴사했거나 해고되었고, Superalignment 프로젝트가 실패했으며, 다른 직원들이 안전 이슈 지원 부족을 언급한 것을 감안하면 이러한 발언은 현실과 동떨어져 있거나 의도적으로 오도하는 것처럼 느껴짐

  • “대부분의 연구는 연구자가 특정 문제에 마음을 빼앗겨 시작된다”는 글이 흥미로웠음, 만약 이 진단이 맞다면 회사의 아킬레스건이 될 수 있다고 봄

    • 하지만 이는 특정 회사 문제가 아니라 인간의 본질적인 문제임, 정상급 연구자는 자신이 진정 사랑하는 분야에 미쳐 어마어마한 시간을 기꺼이 쏟는 성향임
답변달기