YC의 워싱턴 DC 방문 이유

• AI 규칙이 만들어지는 시점에 YC는 거대 기술기업만이 아니라 little tech로 부르는 스타트업도 정책 논의에 들어가야 한다며 워싱턴 DC를 방문함
• 논의의 축은 오픈소스 AI, 이민을 통한 인재 접근, 반독점 조치를 통한 시장 접근, 직원 경업금지(noncompete) 폐지였음
• YC 커뮤니티는 미국 거의 모든 주의 11,000명 창업자와 5,000개 스타트업으로 구성되며, 올해 50,000건의 지원 중 500개 이상 회사에 투자할 예정이고 거의 모두가 어떤 방식으로든 AI와 관련됨
• 폐쇄형 AI 정책은 소수 대기업에 권력을 더 집중시키고, 스타트업이 경쟁하기 전부터 성장할 공간을 줄일 수 있음
• YC가 원하는 방향은 오픈소스 모델 우선, 대기업의 상호운용성 강제와 자사 우대 제한, FTC의 전면적 경업금지 금지처럼 공정하고 개방적인 시장을 만드는 조치임

---

워싱턴 DC 방문의 목적

• 빅테크는 이번 세기 대부분 동안 제한적인 감시와 감독 아래 운영되며 소셜 미디어 피해와 반경쟁적 행위 같은 부정적 결과를 낳았음
• 최근 통제 시도에도 소수 거대 기업은 경제와 워싱턴에서 여전히 큰 힘을 갖고 있으며, AI에서도 같은 실수가 반복될 위험이 있음
• YC는 몇 주 전 DC에서 정책 담당자들과 접촉을 시작하며 little tech의 목소리를 내는 활동에 나섬
  • little tech는 경제의 역동성을 유지하는 신흥 기술 기업을 뜻함
  • YC는 양당 지도자와 백악관 기술정책 담당자를 만남

스타트업이 AI 정책 논의에 필요한 이유

• AI와 기술 정책에서 대기업 의견을 듣는 일은 필요하지만, AI의 이익이 널리 공유되고 미국의 기술 리더십이 지속되려면 수천 개 스타트업의 관점도 함께 반영돼야 함
• 스타트업 창업자들은 AI 정책의 핵심 쟁점에서 직접적인 이해관계를 갖고 있음
  • 오픈소스 대 폐쇄형 개발
  • 국가안보 우려
  • 혁신에 대한 위협
  • 기타 AI 정책의 주요 쟁점
• YC 커뮤니티는 현재 미국 거의 모든 주에 걸친 11,000명 창업자와 5,000개 스타트업으로 구성됨
• 올해 YC는 50,000건의 지원 중 500개 이상 회사에 투자할 예정이며, 거의 모든 회사가 어떤 방식으로든 AI와 관련됨

AI의 기회와 정책 공간

• AI는 기후변화 대응의 새로운 방법을 찾거나 헬스케어 비용을 줄이는 데 도움을 줄 가능성이 있음
• 이런 이익을 실현하려면 작은 회사 안의 큰 아이디어가 성장할 공간을 가져야 함
• 스타트업을 논의 테이블에 포함하는 스마트 정책이 필요함
• 스타트업의 관점과 이해관계를 무시한 채 출발하기도 전에 죽이는 정책을 만드는 일은 입법자가 할 수 있는 가장 심각한 실수 중 하나임

YC가 원하는 AI 및 경쟁 정책

• 오픈소스 AI와 맞춤형 애플리케이션 우선

  • 경쟁 환경을 만들고 스타트업에 실질적 기회를 주려면 오픈소스 모델과 더 맞춤화된 AI 애플리케이션을 우선해야 함
  • 오픈소스 AI 모델은 기본 코드에 공개적으로 접근하고 수정할 수 있게 해 투명성, 협업, 혁신을 높임
  • 폐쇄형 모델은 대형 기술기업이 선호하는 경우가 많고, 경쟁을 제한하며 권력을 집중시킬 수 있음
  • 오픈소스 기술이 악의적 행위자에게 들어갈 수 있다는 안전 우려는 있지만, 지금까지 그 우려는 과장된 것으로 드러났다고 봄
  • 입법자가 빅테크 로비에 굴복해 AI 개발을 닫아버리면, 더 적은 주체에게 더 많은 힘이 집중되고 스타트업의 혁신이 경쟁 전에 꺾일 수 있음

• 경쟁 촉진을 위한 강한 구제책

  • 시장 경쟁을 촉진하고 신규 진입자가 보복 우려 없이 진입하려면 강력한 구제책을 우선해야 함
  • 대형 기업에는 더 많은 상호운용성을 강제하고 자사 우대를 제한하는 단호한 조치가 필요함
  • 이는 2021년 마지막 순간에 빅테크 로비로 무산된 American Innovation and Choice Online Act의 요구 조치와 유사함
  • 최종적으로 소비자와 개발자가 직접 관계를 유지할 수 있는 개방적이고 중립적인 앱 생태계가 필요함

• 경업금지 전면 금지

  • YC는 FTC의 최근 직원 경업금지 전면 금지와 같은 조치가 더 필요하다고 봄
  • 이 금지는 carve-out, 제한, 예외가 없는 형태로 제시됨
  • 이런 정책은 창업자가 강한 새 회사를 만들고 기존 질서를 흔드는 데 도움이 됨

little tech가 성공할 조건

• 미국은 거친 개인주의, 창의성, 끈기와 함께 기회 균등이라는 생각 위에 세워졌다는 것이 YC의 시각임
• 새로운 혁신의 시대에 진입하면서 규칙이 지금 작성되고 있으므로, little tech가 성공할 기회를 가져야 함
• 공정하고 개방적이며 경쟁적인 시장을 촉진하는 AI 정책은 little tech의 성장을 돕는 방향으로 이어짐

[GN⁺]

Hacker News 의견들

• 더 고칠 게 필요하다면 소프트웨어 R&D 상각부터 봐야 함
  실제로 존재하지 않는 이익에 세금을 매기는 구조이고, 특허법은 특허 트롤로부터 소기업을 보호해야 함
  정부 주도 준수 표준은 자동화해서 소기업이 대기업·정부기관에 납품할 수 있게 하고, 사전 승인된 클라우드 솔루션을 쓰면 자동 인증되게 해야 함
  의료보험은 중소기업 직원이 자동으로 Medicare에 접근할 수 있게 하는 식이 필요함

  • 사전 승인 클라우드 사용 시 자동 인증이 좋은 결말로 이어질지 모르겠음
    취지는 이해하지만 좋은 해법은 아니고, 수만~수십만 달러가 들지 않으면서 스타트업과 고객 모두 납득할 수 있는 더 스타트업 친화적 준수 프레임워크가 낫다고 봄
    예를 들면 SOC2-lite처럼 부담은 덜하지만 제3자 관점에서 현재 상태를 꽤 잘 보여주는 방식이 필요함
  • 이 중에서는 Section 174 사태, 즉 소프트웨어 R&D 상각 문제가 가장 시급하게 다뤄져야 할 사안으로 보임
  • 의료보험이 이익과 연결되지 않게 하는 건 어떨까 싶음
    스타트업은 실질 이익이 없어서 공제할 게 없으니 의료보험 비용을 전부 떠안지만, 대기업은 직원 의료비로 막대한 이익을 비용 처리할 수 있음
    그래서 스타트업 보험은 대체로 형편없고, 나이가 있고 아이가 있는 입장에서는 의료보험이 필요해서 스타트업이 점점 더 선택하기 어려워짐
    스타트업은 젊은 사람의 게임이어야 하는지도 모르지만, 아닐 수도 있음
  • 소프트웨어 R&D 상각 문제가 정확히 뭐였는지 다시 알려주거나 설명 자료를 알려줄 수 있나
    예전에 읽고 문제라고 생각했던 기억은 나는데 세부 내용은 다 잊어버림
  • 정부 주도 준수 표준 자동화는 시장이 풀 수 있는 문제임
    로비로 만들어낼 수 있는 성격이 아니라고 봄

• 5년 전 OpenAI가 안전을 이유로 GPT-2를 공개하지 않기로 했을 때 그곳에 있었던 Jack Clark의 새 글이 관련 있어 보임: https://importai.substack.com/p/import-ai-375-gpt-2-five-yea...
  역사는 정부에 권한을 넘겨주면 이후 그 권한을 국민에게 돌려주기 싫어한다는 걸 보여줌
  정책은 래칫처럼 작동하고 시간이 지날수록 쌓이므로, 오늘 정부에 부여하는 권한이 미래 권한의 바닥이 됨
  그래서 정부에 권한을 줄 때는 극도로 조심해야 하며, 한번 준 권한은 되찾지 못할 가능성이 높음

  • Jack Clark이 여기서 어떤 역사를 말하는지 궁금함
    지난 30년간 유럽 대부분과 미국의 정책을 떠올리면, 규제 완화와 시장에 더 많은 권한을 주고 국제 무역 장벽을 낮추는 흐름이 강했음
    인용된 글이 말하는 역학과는 반대처럼 보임
  • 이 평가에 반대하진 않지만, 애초에 문제가 계속되게 만드는 좁은 관점이기도 함
    오히려 긍정적인 감독이 어떤 모습일지 보고 싶은데, 지금까지 이런 조직들 중 누구도 그걸 내놓지 않았음
    결국 “우리를 믿어라”로 귀결되는데, 그것도 받아들이기 어렵다
    이 관점은 미국인에게서 자주 보이지만 미국인만 그런 건 아니고, 나도 미국인임
    우리는 정부가 긍정적 힘이 될 수 있다는 상상과 그 구체적 모습을 집단적으로 잘 못 함
  • 잘 표현했음
    우정, 연애, 직장 관계 같은 여러 인간관계에도 적용됨
    권력을 넘겨주는 건 래칫이고, 처음부터 선을 긋지 않으면 계속 갈려나감
  • 래칫인 게 또 하나 있음: 경험
    때로는 T2 시점에 배운 것이 T1 시점에 배운 것을 무효화할 수 있으니, 어떤 형태로든 되돌리는 체계가 필요하긴 함
    하지만 실제로 래칫을 움직이는 건 현재 정책 또는 정책 부재에 대한 경험임
    “X에 대한 계획이 없어서 당했으니 X에 대한 정책을 추가하자” 같은 식임
    정책의 래칫성은 사회적 경험 축적의 래칫성을 반영한다고 봄
  • 왜 GPT-2를 공개하지 않기로 했는지 궁금함
    그 얘기는 들어본 적이 없음

• 부정적인 톤이라 미안하지만, YC가 “오픈소스 모델과 더 맞춤화된 AI 애플리케이션을 우선해 경쟁 구도를 만들고 스타트업에 실질적 기회를 만들자”고 말하는 건 이상함
  YC 전 대표가 경쟁자를 늦추려는 명시적 의도로 모델을 닫았던 사실과 이 입장을 어떻게 양립시키는지 모르겠음 https://www.theverge.com/2023/3/15/23640180/openai-gpt-4-lau...
  논지가 “우리 같은 사람이 우리가 했던 일을 못 하게 정치인이 막아주길 원한다”는 건가 싶음

  • 이미 그곳에서 일하지 않는 전 임원이 과거에는 비슷한 입장을 전달했다가 지금 마음이 바뀐 것처럼 보인다고 해서, 현재 조직의 입장과 어떻게 맞춰야 하느냐는 질문이 성립하는지 모르겠음
    전 임원의 행동이 회사의 현재 가치와 맞지 않는다고 해서 모순은 아님
  • YC가 전직 임원이 하는 일에 어떻게 책임을 져야 하는지 모르겠음
    더 중요하게는 어떤 일을 하면서 그 일을 금지하는 정책을 지지하는 게 꼭 모순은 아님
    세율이 20%일 때 25% 세율을 주장하면서 법이 통과되기 전까지 추가 5%를 내지 않는다고 해서 행동에 모순이 있다고 보진 않음
  • 늦더라도 안 하는 것보다는 낫고, 과거에 무슨 일이 있었든 오늘 옳은 일을 하는 사람들은 지지하겠음
    다만 과거 이력 때문에 약간 조심스럽긴 해서, 좀 지켜보자는 태도도 필요해 보임
    그래도 이건 꽤 긍정적인 방향으로 들림
  • 이미 오래전에 갈라섰고, pg도 최근 그 결별의 성격에 대해 입장을 냈음
    사람과 조직은 마음을 바꿀 수 있음
  • YC는 한 사람이 아니고, 조직이 반드시 단일한 입장이나 일관성을 가져야 하는 것도 아님

• 업계 안팎에서 변화를 주장하는 건 좋지만, 현실적으로 이건 숲을 보지 못하고 나무만 보는 것이거나 증상을 원인과 혼동하는 것임
  장기적으로 빠져나올 유일한 길은 정치에서 돈을 빼는 것, Citizens United 폐기, 회전문 인사와 정치인 주머니를 채우는 다른 방식들을 막는 것임

  • Citizens United v. Federal Election Commission이 끼친 해악에는 동의하지만, 그건 대법원 판결이라 “폐기”할 수는 없음
    대법원이 뒤집거나 주들이 헌법 개정을 해야 하는데, 둘 다 매우 어렵고 드문 일임
  • Citizens United를 폐기해야 한다는 건 Hillary Clinton을 비판하는 다큐멘터리를 만드는 걸 불법으로 해야 한다는 뜻인가
    Citizens United 사건은 그런 사안이었는데, 반대하는 사람들 대부분은 그 사건이 실제로 무엇에 관한 것이었는지 잘 모르는 것 같음
  • 그조차도 숲을 조금 놓치는 것일 수 있음
    개인이나 기업이 극도로 부유해져 부당한 시장 지배력을 얻지 못하도록 훨씬 더 재분배적인 조세 정책을 도입하는 게 어떨까 싶음
  • 수정헌법 1조 보호와 Citizens United 폐기를 조화시키는 건 솔직히 어렵다고 봄
    해법이 뭔지는 모르겠지만, 최근 사건들은 정부가 선거자금법을 남용해 공론장에서 승자와 패자를 고를 수 있음을 보여준다고 생각함

• “소셜 미디어 피해라는 재앙적 효과”를 말하면서도 “AI에 대해 낙관할 이유가 많다”고 하는 건 최소한의 자각도 없어 보임
  Paul G https://x.com/paulg/status/1651613807779667968와 Sam Altman https://blog.samaltman.com/machine-intelligence-part-1 모두 잠재적 위험을 인정했음

  • 마지막 문장에서 거친 개인주의를 칭송하는 것도 웃겼음
    그 철학이 소셜 미디어가 세상에 피해를 준 방식과 비슷한 해로운 효과를 많이 부추기고 있기 때문임

• 기대가 크진 않았는데, 이 글에는 의외로 긍정적으로 반응하게 됨
  피하기 어렵겠지만, 생성형 AI가 또 하나의 기술 과점으로 바뀌지 않게 막는 건 매우 중요하다고 봄
  한두 기업이 시장을 통제할 수 있으면 혁신은 확실히 억눌릴 것임
  지난 10년간 Google이 돈 찍어내는 독점 수익으로 무엇을 했는지만 봐도 됨
  현대 AI가 현재의 과장된 기대를 상당 부분 충족한다면 경쟁은 두 배로 중요해짐
  그런 힘이 Sam Altman 같은 세련된 중고차 영업사원 손에 들어가는 건 여러 면에서 나쁠 것임

• “올해 우리는 50,000개 지원 중 500개 넘는 회사를 투자할 것이고, 거의 모두가 어떤 식으로든 AI와 관련 있다”는 말은 2024년에 벤처 자본을 받으려면 스타트업이 AI 관련이어야 한다는 뜻으로 들림

  • 아이러니한 건 Michael Seibel이 YC 팟캐스트에서 VC가 좋아하는 유행을 따라 만들지 말라고 여러 번 말해왔다는 점임
    투자자 관심은 매년 바뀌지만 창업자는 10년을 만들어야 하기 때문임
    2020년은 원격근무, 2021년은 web3였고, 지금은 거대한 대규모 언어 모델 붐임
    솔직히 “파도를 타는 것”에도 장점이 많고, 반대로 가는 것에도 장점이 많아 보임
    하지만 자금 조달이 우선이라면 파도를 타야 한다고 생각함
    반대로 가는 건 낭만적으로 들리지만, 당신과 의견이 다른 사람들에게 투자받을 거라고 기대하면 안 됨
    YC의 AI 집중을 가장 좋게 해석하자면, AI로 어떤 식으로든 도움을 받을 수 없는 스타트업 아이디어를 떠올리기 어렵다는 정도임
  • 전혀 그렇지 않음
    현재 VC 수요가 상당한 다른 주제 영역도 여러 개 있음
    오히려 AI가 소셜 미디어 관심을 엄청나게 빨아들인 덕분에, 다른 유행 영역에서 VC 투자를 받기가 쉬워졌음
    저품질 “나도 한다” 스타트업들이 전부 유행하는 AI 궤도로 끌려갔기 때문임
    그래서 비AI 영역에서는 신호 대 잡음비가 크게 좋아졌고, 남아 있는 스타트업들은 유행과 관계없이 자기 분야에 상당한 투자와 전문성을 가진 사람들이 창업한 경우가 많음
    VC와 창업자 모두에게 좋은 일임
  • 낮은 합격률을 계속 과시하는 게 참 재밌음
    “지원자의 1%만 받습니다. 그런데 모두 지원하세요!”
    사실상 복권에 가까운 것에 매년 지원하느라 낭비되는 집단 노동시간이 말도 안 되게 큼
  • 명문화되진 않았어도 실제로는 몇 년 전부터 계속 그랬던 것 아닌가
  • 늘 유행어를 따라갔음
    모바일, 클라우드, VR, 블록체인을 거쳐 이제 AI임

• “오픈소스 AI 모델은 기반 코드에 공개적으로 접근하고 수정할 수 있게 해 더 큰 투명성, 협업, 혁신을 가능하게 한다”는 말에는 동의하기 어려움
  오픈 모델은 투명성, 협업, 혁신에 거의 아무것도 하지 않는 느낌이고, 수정 가능하다는 것도 사실상 미세조정 정도에 그침
  오픈소스 학습 과정과 데이터가 있어야 투명성, 협업, 혁신으로 이어질 텐데, 대기업 중 그렇게 하는 곳은 모름
  내가 틀린 건가

  • 맞음
    더 나쁜 건 “오픈소스”라고 홍보되는 모델 중 여러 사용을 허용하지 않거나 자체 맞춤 라이선스를 지정하는 것들이 있다는 점임
    Falcon의 초기 라이선스나 Meta 모델의 특정 상업적 예외 조항 같은 걸 보면 됨
    이런 가짜 OSS 접근을 지적할 새 시대의 rms가 필요함
    실제로 자유롭고 개방적이지 않으면서 오픈소스 마케팅 광택만 얻으려는 것처럼 느껴짐
    학습 코드, 원본 데이터셋, 모델 구조 세부사항, 학습 방법론이 모두 공개되어 있지 않다면 “소스”는 열려 있지도 투명하지도 않음
  • 여기에 가장 가까운 건 https://www.eleuther.ai일 듯함
    학습 데이터가 대체로 공개되어 있고, 학습 과정도 Discord 서버에서 공개적으로 논의·계획·평가됨
    학습 데이터셋의 많은 부분은 https://the-eye.eu에서 받을 수 있음
    다만 저작권 우려 때문에 onion 링크가 “기본”으로 여겨짐
  • 기초 모델을 처음부터 만드는 작업에만 초점을 맞추면 맞는 말임
    하지만 더 넓게 보면, 법적으로 미세조정하고 로컬에서 해킹할 수 있는 오픈 모델이 있었기에 이런 모델 없이는 존재할 수 없었던 거대한 개발자·혁신 커뮤니티가 생겼음
    이미지 분야의 InvokeAI https://github.com/invoke-ai/InvokeAI나 특히 텍스트 생성 분야의 llama.cpp https://github.com/ggerganov/llama.cpp를 보면 됨
    이런 프로젝트들은 규모가 크고 기여자가 많으며, 매우 빠르게 움직이고, 오픈 모델 없이는 불가능했을 방식으로 여러 영역에 AI를 적용하는 혁신과 협업을 이끌고 있음
  • 그 분야 문외한으로서는 동의함
    해당 분야 전문가들의 의견도 들어보고 싶음

• 우리 모두가 그러는 것과 같은 이유임: 로비

• FTC가 최근 모든 직원의 경업금지 조항을 금지한 것처럼 더 많은 조치가 필요하다는 말에는 큰 예외를 만들라고 적극적으로 목소리를 내야 함
  인력 빼가기 금지법이 없고 연방 차원에서는 그런 법이 없는 상태에서 이건 나쁜 정책임
  Google이 팀을 acqui-hire할 필요 없이 통째로 빼갈 수 있다는 뜻이기 때문임
  경쟁 촉진을 위해 강력한 구제책을 우선해야 한다는 주장에 대해서도, 역사가 보여주는 건 순수 독점이었던 AT&T를 제외하면 이런 기업들에는 유통기한이 있다는 점임
  60년 전으로 돌리면 US Steel은 Apple과 비슷한 시장 점유율을 가졌고, AT&T는 독점으로 얻어맞았음
  하지만 지금은 GE, IBM, RCA를 기술 분야 주요 플레이어로 얘기하지 않음
  당시에는 기술 거인이었는데도 그럼
  이런 기업에 대한 제한에는 찬성하지만, 더 큰 조치는 적절히 과세하는 것임
  지금처럼 전부 봐주지 말아야 함
  세금 부담을 가장 큰 기업으로 옮기면 아래쪽에 공간이 생기고 다른 여러 문제도 풀 수 있음
  나머지 제안들은 관료주의가 많이 늘어나는 것처럼 들림
  역사로 돌아가 Orwell을 절실히 다시 읽어야 할 것 같고, 우리는 말 그대로 과거의 실수를 반복하고 있음

  • 숙련 노동자가 더 나은 보수를 주는 새 직장으로 옮기는 걸 상상해보라니, 정말 악몽 같은 시나리오임
  • “인력 빼가기”를 어떻게 정의하는지 궁금함
    자금력이 큰 회사가 경쟁사의 팀원 전원을 두 배 연봉으로 데려간 뒤, 경쟁사를 망가뜨릴 목적으로 6개월 뒤 해고하는 경우는 상상할 수 있음
    하지만 그 외에는 문제가 잘 보이지 않음
    어떤 회사가 당신 팀을 통째로 빼갈 수 있다면, 애초에 그 팀은 보상을 적게 받고 있었고 새 회사에서 더 나아질 가능성이 큼
    경업금지 금지의 핵심 목적은 경업금지로 임금을 억누르는 고용주로부터 직원을 보호하는 것임
    경쟁 증가도 좋은 부수효과지만 주된 동기는 아님
  • California는 이미 경업금지 조항을 금지하지 않았나
    그곳 산업은 잘 성장해온 것 같고, 그게 문제가 됐다는 얘기는 들어본 적이 없음
  • “자유 해고 고용”은 명시적으로 인력 빼가기를 허용함
    마음에 들었다면 반지를 끼웠어야 한다는 말처럼, 아니면 고용계약을 썼어야 함
  • 경업금지를 초고소득 직원으로 제한하되, 대규모 해고로 내보내진 경우에는 예외를 두는 식은 가능해 보임