3P by GN⁺ | ★ favorite | 댓글 1개
  • 과학에서 통계적 유의성을 판단할 때 널리 쓰이는 t-test는 맥주 제조의 품질 관리 문제에서 출발함
  • 20세기 초 세계 최대 양조장이던 Guinness는 눈대중과 냄새에 의존하던 품질 관리를 일관성과 산업적 엄밀성 중심으로 바꾸려 했음
  • William Sealy Gosset은 홉의 수지 함량처럼 작은 표본만 측정할 수 있는 상황에서 실제 차이와 우연한 변동을 구분하는 방법을 고안함
  • t-test는 표본 평균의 차이와 데이터의 퍼짐을 함께 보는 신호 대 잡음비를 이용하며, 작은 표본에서는 정규분포보다 꼬리가 두꺼운 t분포가 필요함
  • Guinness가 경쟁사에 연구 내용을 알리고 싶어 하지 않아 Gosset은 “Student”라는 필명으로 발표했고, 이 방법은 지금도 과학의 핵심 통계 도구로 남아 있음

Guinness 품질 관리에서 나온 통계 기법

  • Guinness 양조장은 창업자 Arthur Guinness가 Dublin에서 연 £45에 9,000년 임대 계약을 맺은 뒤 혁신적 방법으로 알려져 왔음
  • 맥주 관련 혁신으로는 수학자 출신 양조가 Michael Edward Ash가 4년간의 시도 끝에 만든 화학적 기법이 있음
    • 이 기법은 Guinness stout의 부드러운 거품층을 만드는 데 쓰임
    • 질소 가스를 케그와 캔 안의 작은 공에 넣는 방식이 포함됨
    • 이후 맥주와 커피의 “nitro brew” 스타일로 이어짐
  • 양조장에서 나온 가장 영향력 있는 혁신은 맥주 자체가 아니라 t-test였음

세계 최대 양조장의 작은 표본 문제

  • 20세기 초 Guinness는 거의 150년 동안 운영된 세계 최대 양조장이었음
  • 당시 제품 품질 관리는 대체로 눈대중과 냄새 검사에 의존했음
  • 글로벌 확장 요구가 커지면서 경영진은 더 일관되고 산업적 엄밀성을 갖춘 품질 관리로 전환하려 했음
  • 회사는 연구팀을 고용하고 완벽한 맥주를 만들기 위한 질문을 탐구할 재량을 줬음
    • 가장 좋은 보리 품종이 자라는 곳
    • 맥아 추출물의 이상적인 당도
    • 최신 광고 캠페인이 매출을 얼마나 늘렸는지
  • 연구팀이 반복해서 마주한 난제는 작은 표본 크기에서 데이터를 해석하는 일이었음

홉 사례로 보는 통계적 유의성

  • 홉 꽃은 Guinness의 쓴맛과 자연 방부 역할에 중요한 재료였고, 양조가들은 홉 품질을 평가하기 위해 soft resin 함량을 측정했음
  • 예시에서는 좋은 전형값을 8%로 두고, 9개 표본을 측정했을 때 값이 4~10% 범위이고 평균이 6%인 상황을 가정함
  • 모든 꽃을 검사하는 것은 경제적으로 가능하지 않아 무작위 표본을 검사해야 했음
  • 표본 평균 6%가 나왔을 때 가능한 해석은 두 가지임
    • 전체 작물의 soft resin 함량이 실제로 비정상적으로 낮음
    • 전체 작물은 정상인데 우연히 낮은 표본만 뽑힘
  • 판단의 핵심은 표본의 낮은 수지 함량이 8%와 유의하게 다른지, 아니면 자연 변동인지 구분하는 데 있음

과학 전반에 반복되는 판단

  • 이 문제는 양조에만 국한되지 않고 과학 연구 전반에 나타남
  • 의학 시험에서 치료군과 위약군이 모두 개선됐지만 치료군이 조금 더 나은 경우, 그 약을 권할 충분한 근거가 있는지 판단해야 함
  • 두 집단이 서로 다른 위약을 받았고 한쪽 결과가 더 좋았다면, 그 위약에 약효가 있는지 자연스러운 개선인지 구분해야 함
  • 이런 판단은 결국 통계적 유의성의 문제로 이어짐

Gosset의 t-test가 해결한 지점

  • 작은 표본 크기에서 이런 문제를 다루는 이론은 Guinness의 William Sealy Gosset이 t-test를 만들기 전까지 개발되지 않았음
  • 통계적 유의성 개념 자체는 Gosset 이전에도 있었지만, 이전 통계학자들은 주로 큰 표본을 다뤘음
  • 홉 예시에서 묻는 질문은 전체 작물 평균이 8%인 세계에서 평균 6% 같은 극단값을 관측할 확률이 얼마인지임
  • 이 확률은 P값으로 불리며, 전통적으로 5% 또는 0.05보다 작으면 통계적으로 유의하다고 보는 경우가 많음
    • 단, 적용 분야에 따라 기준값은 달라질 수 있음

신호, 잡음, 그리고 t분포

  • P값에는 보통 두 요인이 영향을 줌
    • 표본이 모집단에서 기대되는 값과 얼마나 떨어져 있는지
    • 큰 편차가 얼마나 흔한지
  • 표본 평균 6%와 기대값 8%의 차이는 신호에 해당함
    • 차이가 클수록 작물의 soft resin 함량이 실제로 낮을 가능성이 커짐
  • 꽃들 사이의 표준편차는 잡음에 해당함
    • 표준편차가 크면 평균 6%가 크게 걱정할 일이 아닐 수 있음
    • 표준편차가 작으면 6%는 기대값 8%에서 실제로 벗어난 신호일 수 있음
  • 이상적인 경우에는 신호 대 잡음비를 계산하고, 그 비율이 5% 기준에 도달할 만큼 큰지 판단함
  • Gosset 시대의 통계학자들은 실험을 여러 번 반복해 신호 대 잡음비를 그리면 표준정규분포, 즉 종 모양 곡선과 비슷해진다는 점을 알고 있었음
  • Gosset은 이 접근이 큰 표본에서만 잘 작동하고, 작은 홉 표본에서는 정규분포를 보장하지 않는다는 점을 알아차림
  • 그는 작은 표본 크기에 맞는 새 분포를 꼼꼼히 표로 만들었고, 이것이 오늘날 t분포로 불림
    • t분포는 정규분포처럼 종 모양이지만 꼬리가 더 완만하게 떨어짐
    • 따라서 작은 표본에서는 유의성을 판단하려면 더 큰 신호 대 잡음비가 필요함

왜 양조장에서 나왔는가

  • John D. Cook은 2008년 블로그 글에서 t-test가 와이너리가 아니라 양조장에서 나온 일이 놀랍지 않을 수 있다고 썼음
  • 맥주 양조가는 제품의 일관성을 요구하지만, 와인 생산자는 다양성을 즐긴다는 차이가 있음
  • 와인은 “좋은 해”가 있고 병마다 이야기가 있지만, Guinness는 매번 같은 고유한 맛을 내야 함
  • 이처럼 균일성에 대한 요구가 통계적 혁신으로 이어짐

“Student’s t-test”라는 이름

  • Gosset은 새 기법으로 양조장의 여러 문제를 해결했음
  • 독학 통계학자였던 그는 Guinness가 경쟁사에 연구 내용을 알리고 싶어 하지 않았기 때문에 “Student”라는 필명으로 t-test를 발표했음
  • Gosset은 산업 품질 관리를 개척했고 정량 연구에 여러 아이디어를 기여했지만, 많은 교과서는 그의 대표 성과를 여전히 Student’s t-test라고 부름
  • 그의 이름은 역사에서 덜 부각됐지만, t-test는 현재까지 과학에서 가장 널리 쓰이는 통계 도구 중 하나임

댓글과 토론

Hacker News 의견들
  • 생화학 역사에도 재미있는 대목이 있음: Chaim Weizmann은 생화학자이자 강한 시온주의자였고, 제1차 세계대전 중 해군 포병 추진제인 코르다이트 생산에 필요한 아세톤을 만들 수 있는 Clostridium acetobutylicum을 배양해 Winston Churchill의 주목을 받았음
    전쟁 기여에 대한 보답으로 George Lloyd가 영국이 무엇을 해줄 수 있느냐고 묻자, Weizmann은 “나를 위해서가 아니라 내 민족을 위해서”라고 답했고, 이것이 유대 민족의 보금자리 제공을 약속한 Balfour Declaration으로 이어짐
    https://en.wikipedia.org/wiki/Chaim_Weizmann
    https://en.wikipedia.org/wiki/Balfour_Declaration
    Balfour Declaration에는 팔레스타인 사람들이 쫓겨나서는 안 된다는 조항도 있었지만 거의 잊혔고, Weizmann이 영국에 온 뒤 George Lloyd를 만나기까지 Albert Einstein을 홍보하기 위한 세계 순회 등 상당한 정치 공작도 있었음

    • “역사에서 거의 잊혔다”는 말은 현실적으로 맞지만, 적어도 일부는 이를 잊히지 않게 하려 노력해 왔음
      최근 읽은 David Fromkin의 A Peace to End All Peace는 Weizmann의 역할과 Balfour Declaration의 형성 배경을 깊게 다루며, 책의 결론 중 로마 이후 제국 질서가 무너진 뒤 유럽이 민족국가와 정치적 정체성을 정리하는 데 1,500년 가까이 걸렸다는 대목이 오래 남음
      중동의 현재 위기도 깊이나 기간은 다를 수 있지만, 오래된 제국 질서 붕괴 뒤 다양한 민족이 어떤 새 정치적 정체성으로 재편될 것인가라는 같은 문제를 다룬다는 해석이 인상적임
    • 팔레스타인 사람들이 쫓겨나지 않아야 한다는 조항은 좋게 봐도 희망적 사고였고, 더 현실적으로는 거짓말에 가까웠음
    • 오늘날 많은 사람이 놓치는 점은 Balfour Declaration이 이스라엘 국가를 만든 것이 아니며, 유엔·영국·미국도 이스라엘을 만든 것이 아니라는 것임
      연합국이 전후 유대인 난민을 재정착시키는 계획을 만든 것도 아니었고, 오히려 당시 유대인은 영국 위임통치령 팔레스타인에 들어가는 것조차 금지됐음
      이스라엘인들은 미국이 영국으로부터 독립을 선언한 것처럼, 영국의 뜻에 반해 스스로 국가를 선언했음
      또한 그 지역에 대한 어떤 “계획”도 내전을 예정하지 않았지만 내전은 실제로 벌어졌고, 실현되지 않은 여러 계획과 맞지 않았다고 사후적으로 사건을 끼워 맞추는 건 수정주의적 해석에 가까움
      요르단강 서안의 아랍인들이 이스라엘인들에게 받은 대우가 그들이 이스라엘인들에게 하려던 것보다 더 나빴다고 보기는 어렵고, 다만 아랍 측은 군사 충돌에서 패한 뒤 자신들의 오랜 유대인 공동체도 내쫓았음
    • HN에서 배우는 것들이 계속 놀라움
      지난여름 폴란드에 갔을 때, 양차대전 사이 폴란드의 여러 유대인 지도자가 유대인 민족국가를 지지했지만 정부가 공개적으로 이를 선언하도록 설득하지는 못했다는 걸 알게 됨
      당시 유대인이 폴란드 인구의 최대 25%였다는 점을 생각하면 더 놀라움
    • Balfour 자신이 확고한 인종차별주의자이자 반유대주의자였다는 점도 과소평가되면 안 됨
      그가 선언을 통과시킨 동기에는 영국이 유대인에게 자기 나라를 주면 세계 유대인 음모 속 강력한 동맹을 얻고, 동시에 유대인이 영국을 떠나 정치·문화·경제를 조종하지 않게 만들 수 있다는 생각이 적어도 일부 있었음
      Wikipedia에 인용된 1919년 Balfour의 글에서도 시온주의가 서구 문명이 “자기 안의 유대인이라는 집단”을 외래적이고 적대적으로 보면서도 추방하거나 흡수하지 못해 생긴 오랜 고통을 완화할 것이라고 썼음
      그는 시온주의 지지와 반유대주의가 서로 모순되지 않고 실제로 함께 갈 수 있음을 보여주는 가장 좋은 예임
      Hitler 집권 뒤에도 독일 정부의 지원 아래 독일 유대인의 팔레스타인 이주를 돕는 시온주의 프로젝트가 있었고, 물론 모든 이주처럼 제2차 세계대전 시작과 함께 끝났음
      Nazis가 그 프로젝트를 좋아했다는 뜻은 아니지만 적극적으로 반대하지도 않았고, 대신 이주 유대인에게 자산을 청산하게 하고 국외 이전 재산을 크게 제한했으며, 이후 Holocaust 중 유대인 사업주를 몰수하고 다시 민영화했음
  • 흥미로운 글임. 통계 수업에서는 이런 얘기를 못 들었던 것 같음
    Gosset은 새 기법으로 양조장의 여러 문제를 해결했고, Guinness가 경쟁사에 연구 내용을 알리고 싶어 하지 않아 Student라는 필명으로 t-검정을 발표했음
    Gosset은 산업 품질관리의 선구자였고 정량 연구에도 많은 기여를 했지만, 대부분의 교과서는 아직도 그의 업적을 “Student의 t-검정”이라고 부름

    • 정말 좋은 이야기라 모든 통계학 입문 수업에 들어가야 함. 예전에 입문 통계를 가르칠 때 이 이야기를 다뤘음
      Gosset은 올바른 분포를 이론적으로 유도할 수학적 배경이 부족해서, 표본 크기별 추출을 수천 번 시뮬레이션하고 곡선을 맞춰 분포를 찾아냈음
      당시 시뮬레이션은 수천 장의 카드에 숫자를 쓰고 섞은 뒤 표본을 뽑아 평균과 표준편차를 계산하고, 이를 수천 번 반복하는 일이었음
      그는 제대로 증명하지 못한 데 대해 미안해하는 태도로 결과를 발표했음
    • 그 이름이 늘 이상하다고 생각했지만 찾아볼 생각은 못 했음
      통계 교과서는 너무 건조해서 이런 이야기를 들려줄 여유가 별로 없음
    • 그래도 필명으로나마 발표를 허락했다는 점은 다행임
      산업 현장에서 유용한 발견이 나왔지만 경영진이 경쟁 정보 유출을 우려해 묻어버린 경우가 얼마나 많을지 궁금해짐
      한 사람이 아니어도 결국 누군가는 발견할 수 있다고 믿는다면, 그런 발견들도 결국 독립적으로 재발견됐거나 재발견될 것이라고 볼 수는 있음
      관련해서 회사가 망하거나 인수될 때 가치 있는 연구가 얼마나 사라지는지도 궁금함
      예컨대 MCC 관련 1990년대 “에이전트”와 “다중 에이전트 시스템” 논문을 읽다 보면 “MCC Technical Report TR86-32791” 같은 참고문헌이 자주 나오지만, 일부는 온라인에서 찾을 수 있어도 꽤 많은 보고서는 찾기 어렵거나 불가능해 보임
      https://en.wikipedia.org/wiki/Microelectronics_and_Computer_...
      HN에서 “샤딩” 용어의 기원을 따졌을 때도 비슷했음. 많은 증거가 CCA 내부 논문을 가리켰고 CCA는 Xerox에 인수됐지만, 원본 논문은 이제 사실상 구할 수 없음
      Xerox 어딘가에는 있을지 몰라도 손에 넣기는 매우 어려울 것임
      https://news.ycombinator.com/item?id=36848605
    • 더블린에서는 국제 학회가 자주 열리고, 참석자들이 사회 행사로 Guinness 양조장을 방문하곤 함
      그곳의 기념 현판이 Gosset과 그의 통계학 기여를 떠올리게 해줌
    • “Student”라는 이름이 늘 헷갈렸음. “Professor의 t-검정” 같은 것도 있나 싶었음
      이 사소한 배경을 알고 나서 개인적으로 꽤 개운해졌음
  • AWS에 처음 입사한 해에 일한 곳이 DUB1 사이트였고, Digital Hub라는 기술·인큐베이터 공간의 일부였음
    우연히도 Amazon의 작은 사무실은 William Sealy Gosset의 옛 실험실에 있었고, Guinness 통제작업장이 있던 St. Patrick's Tower 바로 옆이었음
    전직 통계학 강사로서 우리가 얼마나 운 좋은 곳에서 일하는지 동료들에게 신나게 말했지만 거의 아무 반응도 없었음
    오래전에 William Sealy Gosset을 아일랜드 우표 기념 인물로 제안했지만 아무 일도 일어나지 않았고, 언젠가 그가 더 인정받기를 바람

  • Guinness는 시대를 훨씬 앞서갔고 여러 면에서 당시의 Google 같았음. 주거 제공, 높은 임금, 훌륭한 복지까지 갖췄음
    할아버지가 그곳에서 일해서 아버지의 형제자매들은 모두 Guinness 수영장에서 수영을 배웠음
    또 재미있는 사실은 캔에서 좋은 거품을 만들기 위한 위젯이 올해의 발명품으로 뽑혔는데, 그해가 인터넷이 발명된 해였다는 것임
    Guinness에 관한 더 많은 흥미로운 이야기는 이 글이 좋음: https://www.thefitzwilliam.com/p/no-great-stagnation-in-guin...

    • “당시의 Google”이라고 했으니, The Guinness Book of Records의 Guinness가 그 양조장을 가리킨다는 점도 딱 맞는 이야기임
      오늘날 우리가 술집 논쟁을 Google로 해결하듯, 당시에는 바로 그 용도로 책이 출판됐음
    • Guinness는 “아일랜드에 투자한다”는 명목으로 기업이 세금, 혹은 이 경우 임대 조건에서 양보를 얻어내는 관행도 개척한 셈으로 보임
  • Guinness 양조장 옆 학교에 다녔고, 홉을 끓이는 냄새는 평생 잊지 못할 것 같음
    하지만 학교는 여러 면에서 매우 가난했고, 1980년대 아일랜드의 대량 실업과 대규모 이민 시절에도 Guinness는 학교 축구팀 장비 후원을 해주지 않았음
    아이러니하게도 한 졸업생이 Apple Mac 몇 대와 Apple IIe 십여 대를 기증해서, 그 학교에는 시대를 앞선 컴퓨터실이 있었음
    거기서 아마도 BASIC 프로그래밍을 독학하며 처음 실력을 쌓았음
    본론으로 돌아가면 Guinness는 늘 영리하고 시대를 앞서갔고, 그곳에 취직하는 건 복권 당첨처럼 사실상 평생이 보장되는 일이었음

  • 이런 이야기를 좋아함
    학부 통계 교재에서 운 좋게 이 사실을 접했고, 나중에 더블린에서 Guinness 양조장을 둘러볼 때도 Gosset에 관한 작은 전시가 있었음. 다만 Gosset은 실제로는 영국 쪽 양조장에 있었음
    유기화학에서 알게 된 또 다른 재미있는 사실은 러시아 작곡가 Alexander Borodin이 “In the Steppes of Central Asia”와 “Prince Igor”를 쓴 작곡가였지만, 작곡은 여가 활동이었고 본업은 알돌 반응의 공동 발견자인 유기화학자였다는 것임
    https://en.wikipedia.org/wiki/Alexander_Borodin

  • 2019년에 발표하면서 이 일화를 다뤘음
    제대로 살리려면 무대에서 Guinness를 가져와 직접 따야 했음
    퇴역한 원양 여객선을 호텔 겸 콘퍼런스 공간으로 바꾼 곳에서 촬영한 EuRuKo 영상임: https://youtu.be/Aczy01drwkg?si=lsVWAFv9f3eLc2fZ&t=1095

  • 놀랍지는 않음. 거의 모든 제조업은 통계적 방법을 시험하기에 완벽한 환경처럼 보임
    충분한 규모가 있어서 미묘한 차이만으로도 큰돈을 절약할 수 있고, 그래서 꽤 빨리 이익이 생김
    t-검정은 더 고급 기법과 비교하면 단순한데도 영리해서 늘 인상적이었음

    • 시스템공학 석사 과정의 연구방법론 수업에서 이 내용을 다뤘음
      1900년대 초 재배와 농업은 분산분석, 블로킹 요인, 교란 요인, 요인·수준·범위, 완전요인설계 같은 실험설계 덕을 많이 봤음
      오늘날에는 F 통계량, 임계 F값 같은 것들이 당연하게 여겨짐
  • 원문은 아쉽게도 Gosset의 작업과 t-검정의 핵심을 대체로 놓친 느낌임
    Gosset/Fisher/Pearson/Neyman을 현대적으로 뒤섞은 영가설 유의성 검정 교육을 받은 사람들이 흔히 하는 방식임
    중요한 건 p값을 계산할 수 있다는 점이 아니라, 거짓 양성률과 거짓 음성률을 맞바꿔 경제적으로 합리적인 결정을 내리는 의사결정 프레임워크라는 점임: https://www.tandfonline.com/doi/full/10.1080/00031305.2018.1...
    이 경우 양조장 기록에는 불량 배치 비율이 테스트와 시음을 통해 잘 정리돼 있었으므로, 특정 수의 시험 표본 비용을 절약하는 대신 어느 정도 “나쁜” 배치를 감수할지 정할 수 있었음
    예를 들어 거짓 음성으로 나쁜 배치 100개 중 1개를 감수하고, 좋은 배치 20개 중 1개를 거부하겠다고 정하면 필요한 표본 수 n이 나옴
    측정값의 분산을 낮추면 같은 절충을 달성하는 데 필요한 표본 수가 줄어들고, 이는 폐기 재료나 시험 비용 절감으로 바로 돈이 됨
    표본 수가 작을수록 좋았기 때문에 Student는 점근법이나 근사를 쓸 수 없었고, 근사가 몇 자릿수씩 틀릴 수도 있었음. 심지어 n = 2인 검정도 시도했음
    또는 알코올 도수가 과세 기준을 넘지 않도록 하면서도 고객을 실망시킬 만큼 낮아지지 않게 매우 촘촘히 최적화하려 했을 수 있음
    Gosset은 “필요한 정확도, 즉 0.5 정확도에서 10 대 1의 odds를 얻으려면 적어도 네 번 측정한 평균을 써야 한다”고 계산했고, Guinness 이사회는 이를 반겼음
    이게 주관적 베이즈 의사결정 이론처럼 들린다면 맞지만, Student는 대부분의 통계학자처럼 이를 거부했을 것이고, 알려진 기저율을 가진 모집단을 다루므로 베이즈가 필요 없고 빈도주의적 의사결정 이론일 뿐이라고 강조했을 것임

  • 가끔은 t-검정이 점들을 흔들어 표시한 상자그림 두 개, 혹은 데이터 개수에 대한 다른 표시와 비교해 실제로 얼마나 유용한지 궁금해짐
    상자그림에서 명확히 드러나지 않는다면, 충분한 점이 있다는 가정하에 t-검정만으로 정말 설득력 있는 주장을 할 수 있을까 싶음

    • 그렇게 하면 정확히 과학적이라고 보기는 어려움
      t-검정은 독립적으로 계산하고 검증할 수 있음