.Stallman이 누구인지, 무엇을 주장하고자 하는지를 잘못 이해한 것 같아요.

1. 이 글의 의도는 LLM의 확률적 특성 때문에 semantic grounding이 없고 틀린 말도 그럴듯하게 하는 것을 주의하라는 뜻입니다. 누구나 오류를 범할 수 있다는 이유로 LLM과 동일선상에 놓을 수는 없습니다.
2. 내재된 원리를 이해하는 것과 소스코드를 얻는것은 완전히 다릅니다. ChatGPT가 proprietary software이고 이 때문에 그럴 능력이 있어도 ChatGPT를 직접 설치/수정/배포 할 수 없다는 것이 문제입니다.
3. Stallman은 free software 개념을 창시한 급진적인 자유주의자입니다. 독선주의자라는 측면에도 어느 정도 동의합니다만, 타인의 서버에서 연산하는 건이 잘못되었다가 어떻게 다른 사람 머리의 생각이 자유를 침해한다로 이어지는지는 이해할 수 없습니다.

Stallman이 급진적이고 항상 맞는 말만 하는것은 아니지만 이 글에서 제기된 문제는 이미 활발히 논의되고 있는 문제입니다. 단순히 bullshit이라고 치부할 수준의 논리는 아닙니다.

근본적으로 이용자가 소프트웨어의 소스코드 혹은 복사본을 가질 수 있어야만 한다고 말하는 것의 근본적인 근거는 결국 스톨먼 개인의 신앙 아닌가요.

마치 모든 것을 무료로 공평하게 나눠가질 수 있고 그래야만 한다는 아주 급진적이고 이상적이며 순전히 이론적인 신앙을 세워놓고 그 사상누각에 조금이라도 그림자를 드리우는 것은 그것이 무엇이든 마치 이단으로 취급하는 것 같은 자세는 동의하기 어렵죠. 우리 인류는 이미 경제체제에 관해서 이와 비슷한 질병을 하나 가지고 있습니다.

생성형 인공지능의 결과물이 확률론적이며 말씀하신 semantic grounding이 없다는 것에는 동의하지만 결국은 정도의 차이일 뿐 사람과 소통하고 의논하는 것도 내용의 판단과 검증은 개인의 책임입니다. 나와 대화하는 상대가 생성형 인공지능이든 사람이든 결국은 그 상대의 대답은 학습한 배경지식과 가치관을 형성하는 학습데이터의 영향을 받습니다. 물론 이러한 공통점이 있다고 해서 인공지능이 진실된 지능을 갖는다고는 생각하지 않지만, 애시당초 생성형 인공지능이 진실 여부에 무관한 이유는 그것이 학습한 데이터가 진실여부에 무관하기 때문이고 이는 사람도 마찬가지입니다. 그러한 사실만 가지고 “쓰지 말아야 한다”라는 말은 납득할 수 없죠.

3번은 제가 섣불리 넘겨짚고 오해한 부분이 있네요. 2번의 소스코드와 마찬가지로 서버에서 무슨 일이 일어나는지 이용자가 알아야 한다는 식의 이야기였다면 어떤 지식 서비스를 제공하는 서비스 제공자로서의 타인을 서버로 비유해도 같은 맥락이 될 수 있다는 생각이었지만 그냥 제가 처음부터 잘못 이해한 것이었네요.

그러나 말씀하신대로 독선적이라는 것은 제 오해가 아닌 것 같구요.

생성형 인공지능의 소스코드나 사본을 얻을 수 있어야만 말한다면 지적재산권은 박살이 나겠죠.

타인의 서버에 데이터가 제공되는 것이 불만이라면 제공하지 않으면 됩니다. 이용을 하지 않으면 되죠. 누구에게도 비밀을 누설하지 않으면서 비밀에 관해 의논하는 방법은 없습니다. 누군가가 시간과 자원, 노력을 들여 개발한 인공지능의 소스코드나 사본을 누구나 가질 수 있어야 한다니, 그게 bullshit이 아니라면 뭔가요. 내가 내 것을 무료로 내놓는 다고 해서 타인의 것을 내가 맘대로 가질 수 있는 건 아니죠.

맨 처음 말씀하신 것처럼 저는 스톨먼이라는 사람과 그의 주장에 대해서 잘 모릅니다. 피상적으로 이름만 조금 들어봤고 자유 소프트웨어와 관련된 갈등이 있다는 것 정도는 알아요. 그러나 그의 주장과 영향력이 어디까지 뻗어있는지, 얼마나 진지하게 받아들여지는지는 몰라요. 하지만 적어도 합리성과 현실성이 결여된 주장을 bullshit이라고 말할 자유 정도는 제게 있는 것 같네요.

저는 사회에게 큰 영향을 주는 기술/지식은 사회로 환원되어야 한다는 프레임으로 봅니다. 마치 의약품의 제네릭처럼요. 제네릭이 제한되면 다라프림같은 사례가 늘어나고 일부의 이익을 위해 사회 전체가 손해를 보겠죠.
그리고 전자기학과 스마트폰을 말씀하셨는데, 전자기학과 같은 기초학문들은 지식이 제3자가 검증 가능한 형태로 개제되고 사회에 공유되지 않습니까. 그러니 전자기학 지식이 없는 일반인들도 이렇게 차근차근 쌓아올려진 신뢰에 기반해서 스마트폰 생태계에 합류할 수 있는거고, 그러니까 생태계 규모가 커지고 시장이 생기고 인류가 그 덕을 누리는 것이구요.

기업이 시장으로부터 이익을 얻은 만큼 시장에 기여하고 기술의 발전이 다시 그러한 발전이 있을 수 있게 이바지한 사회에 공헌하는 것은 저도 바람직하다고 생각합니다.

생성형 인공지능에 대한 기초적인 얼개가 이미 공개되어있고 그 중 OpenAI가 공개하지 않는 부분은 기업의 영업비밀에 속한다고 생각합니다. 기업이나 기술이 사회에 다시 기여하는 것은 표면상으로는 감사함의 표현이자 상생의 메시지이지만 실질적으로는 기업의 지속가능한 성장을 위한 시장에 대한 재투자라고 봅니다. 그러한 관점에서 보면 인공지능 기업은 벌어들인 돈으로 교육이나 사회 인프라에 기여하는 것이 바람직하지 기업이 가진 자산이나 다름없는 인공지능의 복사본을 전부 공개하라고 하는 것은 황금알을 낳는 거위의 황금알의 혜택을 무시하고 배부터 가르라고 요구하는 것으로 볼 수 있지 않을까요. 황금알은 얼마든지 나옵니다. 그것을 나눠가지면 되지 꼭 거위를 내놓아야 한다면 누가 거위를 길러낼까 싶을 뿐입니다.

인공지능이 어떻게 동작하는지는 이미 전자기학처럼 밝혀져 있습니다. 스마트폰에는 전자기학의 기초지식 뿐만 아니라 각 기업이 밝히지 못하는 영업비밀로서의 기술도 포함되어 있을 것입니다. 이 부분을 존중하지 않고 생성형 인공지능을 마녀사냥하듯이 나쁜 것으로 몰아세우는 것이 이해가 가지 않을 뿐입니다.

대댓글 달아주신 분들의 이야기 덕분에 많은 것들을 찾아보고 많은 생각을 하게 되었습니다. 감사합니다.

이해해주셔서 감사합니다.

황금알을 낳는 거위가 있다고 주장하는 사람이 있으면, 정말 그 알이 황금인지, 그 거위가 낳은 게 맞는지, 황금알의 댓가로 무엇을 취하는지 검증할 수 있어야 하는 것 아닐까 싶습니다.
저는 스톨먼의 신뢰 가능한 컴퓨팅을 위해서 소스에 접근 할 수 있어야 한다는 주장을 그런 뉘앙스로 읽습니다.

최근 중국 임베디드 플랫폼 제조사인 sipeed 에서 출시한 nanokvm 이라는 제품에서 마이크가 발견된 사례가 있었습니다.
중국산 임베디드 제품이 보안적으로 취약하다거나, 심지어 정부의 보안 공작에 이용되는 것 아닌가 하는 불안감이 있는것으로 압니다.
그래서 그 선입견이 반영된 건 지 최근 해당 제품에 대해 이런 기사도 나왔었습니다. 중국산 NanoKVM에서 숨겨진 마이크를 발견한 과정
하지만 sipeed 는 해당 하드웨어부터 소프트웨어 개발까지를 오픈소스로 진행했었기에 해프닝으로 오해를 벗을 수 있었다고 생각합니다: https://x.com/lexifdev/status/1999340940805439775

스톨먼의 시대에는 이런 담론에서 중국 정부 대신에 매커시즘의 영향이 남아있는 때의 미국 정부와 NSA 가 그 자리에 있었던걸로 압니다.
음모론인 줄 알았지만 실재로 밝혀진 NSA 의 백도어 사례도 있고, printer tracking dots (https://en.wikipedia.org/wiki/Printer_tracking_dots) 같은것도 있어왔구요.
요새는 정부가 관여된 음모론보다 광고가 주요 수입인 회사들이 타겟광고를 위해서 스마트폰의 마이크를 도청한다는 얘기가 핫하긴 하지만요.

그리고 소프트웨어 기술 회사에서는 소스코드가 물론 큰 역할을 하지만, 전반적인 편의성, 서비스 운영 역량과 신뢰가 더 큰 역할을 한다고 생각합니다.
OpenAI 의 소스코드를 다 얻었다고 해서 후발주자들이 쉽게 수많은 사용자를 지탱 할 수 있는 인프라를 안정적으로 확보 운영하고, 브랜드 신뢰를 쫓아갈 수 없지 않겠습니까.
주요 프로덕트를 오픈소스로 운영하고 수많은 포크가 있으면서도 주도권을 잃지 않은 사례들이 상당히 있습니다.
당장 떠오르는 것만 하더래도 Chrome, VS Code 같은 사례들도 있구요.
물론 주도권을 잃은 사례로 Elastic 이나 Redis 가 AWS 때문에 오픈소스 라이선스를 두고 벌어진 사건이 있지만, 마찬가지로 저는 두 회사가 상대적으로 AWS 의 편의성, 서비스 운영 역량과 신뢰에 있어서 뒤쳐졌기 때문에 생긴 일이라고 생각합니다.

뭐 이런 얘기도 어떻게 보면 정치적이고 사상적인 얘기긴 합니다. 그래서 개인적인 얘기를 덧붙여봅니다.
주업으로 소프트웨어 개발하고, 취미로 임베디드 하드웨어 만지작 하는 입장에서 소스코드, 회로도같은게 없는 블랙박스 상대로는 정말... 개발 하고 유지보수 하기 정말로 힘들더라구요.
어떤 소프트웨어 라이브러리나 하드웨어같은걸 사용해서 개발하려고 할 때 소스코드나 설계도를 습득 가능하면, 아니면 적어도 스펙문서라도 잘 정리돼있으면 개발에 정말 수월하고, 그렇지 않으면 정말 머리가 아픕니다.
최근에 해외에서 수리할 수 있는 권리 얘기가 꽤 있었는데요, 그중 인상깊던 얘기가, 예전에는 전자기기들 뚜껑을 열면 수리할 때 참고하라고 배선도가 그려져 있었다고 합니다. (최근 애플은 수리 업자들에게 회로도를 제공한다고 하긴 합니다)
이런 경험들이 해당 제품들의 신뢰도 형성에 큰 영향을 주더라구요. 요새는 어떤 기술을 선택하거나, 제품을 구매 할 때 이게 고장나거나 문제가 생겼을 때 제가 쉽게 이해하고 고쳐 쓰거나 우회해서 쓸 수 있는지를 먼저 따져봅니다.