GN⁺: 또 다시 AI를 언급하면 파일드라이버 해버릴꺼에요

(ludic.mataroa.blog)

6P by neo 5달전 | favorite | 댓글 3개

"최근 GPT-4 등 AI 분야의 혁신은 사회에 광범위한 영향을 미칠 것임. 단조로운 일을 없애는 유토피아부터 예술가들의 생계를 위협하는 디스토피아, 인류 자체에 대한 실존적 위협까지 다양함."

필자는 데이터 과학자로서 정규 교육을 받았고, 호주 최고 대학 중 하나에서 열린 ML 대회에서 우승할 정도로 뛰어난 실력을 가지고 있음
- 하지만 최고는 아니며, 엘리트 기관에서 작성한 라이브러리를 사용하고 고급 언어로 알려진 솔루션을 구현할 수 있는 수준임
하지만 다시 AI를 언급하는 사람은 "목을 부러뜨리는" 척추 교정을 무료로 해주게 될 것이니, 미리 진심으로 사과함

I. 하지만 우리는 기계 학습으로 엄청난 효율성을 실현할 거야-

"내가 방금 뭐라고 했는지 못들었어?"

2019년부터 데이터 과학자로 일했지만, 2021년에는 이 분야가 크지만 사기가 많다는 것을 깨달았음
- 대부분의 리더들은 AI에 대해 30분도 읽어보지 않고, AI에 초점을 맞춰야 한다고 주장했음
- AI 이니셔티브를 시작하는 회사 수가 실제 사용 사례 수를 훨씬 능가했음
- 시장은 사기꾼과 무능한 사람들로 가득했음
필자는 데이터/소프트웨어 엔지니어링으로 전환했음
- 개발자들에게 과대광고는 좋지 않음
- 정직한 친구와 영혼을 가지고 있지만, 분야를 쉽게 바꿀 수는 없음
데이터 과학 일자리가 사라지고 과대광고 주기가 데이터 엔지니어링으로 옮겨갔음
- 드디어 AI가 끝났다고 생각했는데...
그런데 누군가가 ChatGPT를 만들었고, 이제 모든 애플리케이션에 챗봇 지원을 추가하는 데 엄청난 엔지니어링 노력을 쏟아붓고 있음
- 업계의 절반은 정기적으로 데이터베이스 백업을 테스트하는 방법도 모르는데 말임...
AI가 비즈니스의 미래라고 제안하는 다음 멍청이에게 폭력을 가해야 하는 이유는 그들이 이제 수억 명의 고의적인 바보들과 구별할 수 없기 때문임!

II. 하지만 우리는 경쟁력을 유지하기 위해 AI가 필요해-

"오 자비로운 주여, 제발 말을 멈춰줘. 당신이 AI를 정확히 어떻게 사용할지 아는 소수의 기업이 아니라면, 당신은 AI가 필요하지 않음"

현재 존재하고 유용한 인공지능은 이미 비즈니스 소프트웨어 공급망에 통합되어 있을 가능성이 높음
- 관리형 보안 제공업체는 아마도 이상 트래픽을 감지하기 위해 실험실 소프트웨어에 내장된 알고리즘을 사용하고 있음
- 그들도 AI 작업을 많이 하지 않았고, 실제로 데이터 과학자를 고용해야 하는 작은 시장 부문에서 소프트웨어를 구입했을 뿐임
스티브 잡스처럼 되고 싶어 혁신적인 능력에 대해 이야기하고 싶겠지만, 그렇다고 터틀넥을 입을 수 있는 건 아님
- 설사 그렇다 해도 필자의 맹공격에서 살아남으려면 스웨터 대신 철갑옷을 입어야 할 거임
대부분의 회사는 가장 단순한 CRUD 애플리케이션조차 제때 예산 내에서 성공적으로 개발하고 배포할 수 없음
- 똑똑한 사람들과 협력하고 합리적인 요구사항을 제공하면 유능한 팀이 매번 이를 해낼 수 있음
- 필자가 지금 일하는 고객들은 기술에 전혀 밝지 않더라도 서로의 지성을 존중하고 "어른처럼 대화"하며 함께 문제를 해결함
하지만 대부분의 회사는 운영과 문화적으로 불구가 되어 이를 할 수 없음
- 엔지니어의 중간 체류 기간은 1~2년 정도여서 조직은 제도적 역행성 기억상실증을 앓고 있음
- 누군가 엔지니어링 팀의 원격 근무 특권을 취소하자고 하면 최고의 엔지니어들이 떠남
- 랜섬웨어 공격이 있을 때마다 6개월 동안 백업을 테스트한 사람이 없고 레거시 시스템의 절반을 되살릴 수 없다는 게 밝혀짐
  - 4년 만에 두 번이나 직접 봤음. 얼마나 미친 일인지 아시겠어요?
대부분의 조직은 가장 기본적인 애플리케이션조차 일관되게 제공할 수 없는데, 여기서 당신은 실험적 기술을 도입하는 것이 경쟁력을 유지하는 최선의 방법이라고 말하고 있음
- IT 부서가 운영하는 그 어떤 것보다 한 차원 높은 수준이며, 고용 경험도 없고, GPU를 사용해본 적도 없는 그런 기술 말임
- 설사 다 잘한다 해도 데이터와 비즈니스 특성 때문에 문제를 해결할 수 없을 가능성도 있음
- 이건 재앙을 위한 요리법이 아니라 12코스 대참사를 준비하려는 사람을 위한 요리책임
그냥 "자신의 일을 제대로 고치는 것"으로 경쟁력을 유지하는 게 어때요?
- 필자는 민감한 고객 기록에 접근할 수 있는 선임 데이터 과학자가 데스크톱의 텍스트 파일에 비밀번호를 보관하도록 허용하는 것을 봤음
- 그런데 당신은 아직 생각해내지도 않은 메커니즘을 통해 AI를 사용하여 보안을 개선하는 것이 고객에게 최선이라고 걱정하고 있나요?
당신은 "멍청이" 같은 소리를 하고 있어서 필자는 의사가 당신의 턱을 철사로 묶어 모두를 안심시키고 우리가 "실제 문제를 해결"할 수 있는 축복받은 10초의 침묵을 줄 때까지 당신의 턱을 걷어차줄 거임

III. 우리는 이미 광범위한 이득을 보았는데-

"내가 어렸을 때 R.A 살바토레의 고전 판타지 소설 '수정의 파편'을 읽었음. 그 안에 주인공 울프가르가 자신의 백성들을 세상을 구할 전쟁으로 이끌기 위해 야만인 족장에게 결투를 신청하는 장면이 나옴. 싸움은 울프가르가 무기를 버리고 맨손으로 족장의 머리를 잡고 살인자가 되지 않기 위해 항복해달라고 '애원'하며 끝남"

자, 이게 바로 나임. 거짓말 그만하라고 너에게 애원하는 거임. 정말 네 머리통을 으깨고 싶지 않아.
- "하지만 네가 나를 그렇게 만든다면 그렇게 할 거야".
어제 Scale의 "2024 AI 준비 보고서"를 봤는데, 차트에 AI 도입의 생산적인 결과가 없었다는 회사가 8% 였음
AI 프로젝트에 실패한 기업이 겨우 "8%"라고 믿을 만큼 멍청해야 하나?
- CRUD 앱으로도 이걸 꾸준히 관리할 수 없는데 이 숫자가 우스꽝스럽지 않다고 생각하나?
- LLM 열풍 동안 "일부" 기업은 혜택을 봤겠지만 "92%"는 아님
34%의 기업이 생성형 AI가 전략적 의사 결정에 도움이 되고 있다고 보고했다고?
- 도대체 무슨 소리야? GPT-4는 파이썬만큼 수준 높은 일관된 Elixir도 작성하지 못함
- 그런데 당신은 "가끔 가족들이 섭취할 치명적인 독소를 양조하라고 사람들에게 말하는" 그것에 의사 결정을 맡기고 있다고 인정하고 있나?
필자는 믿지 않음. 제정신인 사람은 아무도 믿지 않음
- 이사회가 당신이 설문조사에 쓴 것을 믿는다면 당신을 해고해야 함
- 친구들 중 일부가 리더십 자리에 "꼭" 있어야 한다고 느끼는 이유를 이제야 이해함
  - 당신이 우리 모두를 집단적으로 절벽에서 몰아내기 전에 누군가는 권력의 고삐를 당신의 도마뱀 발톱에서 뽑아내야 하기 때문임
몇 년 전 한 친구가 FAANG 조직에 초대받아 미국을 방문했는데, 많은 발표가 인상적인 인공지능 제품의 기술 데모였음
- 소프트웨어 엔지니어인 그는 개발자들과 무대 뒤에서 시간을 보냈고, "대부분의 데모가 조작되었다"는 사실을 알게 되었음
  - 제품이 작동하지 않았고, "실제로 예측해야 할 것을 예측하는" 등의 사소한 문제를 해결하지 못했던 것
- 그래도 숨 가쁜 청중들에게 1시간 동안 절대적인 넌센스를 내뱉는 걸 막지는 못했음!
또 다른 친구는 응급 서비스용 소프트웨어를 검토하고 있었는데, 영업사원들은 응급 서비스 구매 담당자가 열혈 프로그래머일 거라고는 예상하지 못했음
- 이 허술한 보안 의식 때문에 그들은 "실수로 그 서비스가 결국 인도의 어떤 남자일 뿐이라는 사실을 드러냈음"
- 필자도 인도 사촌들과 자리를 바꾸면 그냥 인도의 아무 남자나 될 테니 개인적으로 받아들이겠음
- 하지만 "AI라는 말을 써서 나처럼 생긴 사람들의 노동을 외국 정부에 팔려는 것"은 엿 같고, 당신은 비윤리적인 괴물임
- 계속 "try { thisBullshit(); }"을 시도한다면 "catch (theseHands)"를 받게 될 거임

IV. 하지만 우리는 미래를 준비해야 해-

"ChatGPT에게 목줄 준비하는 법을 물어본 다음 그걸로 너를 목 졸라 죽일 거야. 그리고 넌 ChatGPT가 10%의 확률로 미쳐서 목줄이 종이와 악의로만 이루어져야 한다고 말해주기를 '기도'할 수밖에 없을 거야."

임원들이 미래 업무를 대비해 즉시 생성형 AI를 도입해야 한다고 토론하는 모습을 봄
- 연설이 다 똑같이 들리는데도 손을 움직이고, 말하고, 침을 흘리지 않으려 노력하는 걸 보면 열심히 연습했음이 분명함!
잠시 진지하게 이야기해보자면:
- 필자는 생성형 AI가 세상을 급격히 바꿀 잠재력이 없다는 동등하게 진지하지 않은 진영에 속하지 "않음"
- GPT-2의 초기 데모를 보고 어떻게든 조작된 거라고 반쯤 확신했지만, 틀렸다는 걸 기억함
- 그래서 더 이상 무슨 일이 일어나고 있는지 확신할 수 없음
그러나 기술의 핵심 원칙을 이해할 기술적 배경은 있으며, 우리는 세 가지 방향 중 하나로 가고 있는 것 같음
1. 지능 폭발이 일어나 AI가 스스로 재귀적으로 자기 개선을 하고, 우리는 구성 원자로 수확됨
  - 인간이 커피 머신을 고치는 데 큰 수요가 있는 외계인을 위해 "글루브나"라는 새로운 에폭시로 전환될 수 있다는 걸 시장 알고리즘이 알아내기 때문
  - 이런 시나리오에서 필자는 회사의 수익에 그다지 신경 쓰지 않음
2. 현재 접근 방식이 기대만큼 확장되지 않는다는 것이 밝혀짐. 데이터 부족, 아키텍처 문제 등 여러 이유 때문
  - 이 우주에서는 "일부" 산업, 예를 들어 고객 지원 같은 곳이 크게 혼란에 빠질 것임
  - 이런 식으로 점진적인 이득을 계속 낸다면 회사는 그냥 생성형 AI가 필요하지 않음. 정말 필요하다면 "정확히" 왜 필요한지 알게 될 거임
    - Todoist의 자연어 필터를 내부 필터링 언어로 변환하는 기능 같은 건 실제로 도움이 됨. 하지만 "사용 사례가 없다면" 이런 광범위한 기능은 실제로 그다지 유용하지 않음
    - 해야 할 일은 "운영과 문화를 개선"하는 것뿐이며, 그러면 AI가 관련성을 갖게 될 때 사용할 수 있는 능력을 갖추게 될 거임
    - 모두가 검색 증강 생성에 대해 이야기하고 있지만 대부분의 회사에는 실제로 검색할 만한 내부 문서가 없음. 제발 "일 좀 똑바로 해라".
3. 이러한 근본적인 문제가 해결되고 오늘날 우리가 알고 있는 프로그래밍을 대체하거나 광범위하게 일반 지능으로 식별될 수 있는 무언가로 끝남
  - 생성형 AI가 로켓처럼 궤도를 달린다면 "무작위 챗봇을 만드는 것이 당신을 미래에 대비시켜 주지는 않을 거임"
    - "import openai"를 입력한다고 해서 인공지능의 최첨단에 있다는 뜻이 아님
    - 비즈니스는 아무것도 하지 않았을 때와 "정확히 같은 수준으로" 혼란에 빠질 것이고, 기본에 충실했다면 그랬을 때보다 훨씬 더 심각할 것임
    - 직원들에게 이해관계자에게 이메일을 쓰는 데 ChatGPT를 사용하라고 가르치는 것은 "기업이 이것에서 살아남을 수 있게 해주지 않을 거임"
  - 온건한 영향과 소행성이 공룡을 멸종시키는 수준의 영향 사이에서 바늘구멍을 통과한다면 모든 것이 "영원히 바뀔 것"이고, 당신의 미지근한 준비는 거대한 쓰나미 그림자에서 "매우 힘겹게" 버티는 개미만큼의 영향력밖에 없을 거임
"기준을 높이기 위해" LLM 기반 코드 리뷰를 구현해보라고 하는 대신 사람들에게 조금이라도 규율을 가르치라고 하는 또 다른 멍청한 새끼가 나타나면 유도를 충분히 배워서 그들을 태양으로 던져버릴 거임
충분히 강조할 수 없는데, "절대적인 최첨단에 있으면서 새로운 연구를 내놓거나", 아니면 LLM을 통합하는 사소한 양보를 제외하고는 5년 전에 하던 대로 정확히 해야 함
- "중간에 있는 건 전혀 말이 되지 않음". 당신의 업계가 "지금 당장 완전히 혼란에 빠지고" 있는 드문 분야에서 일하지 않는 한 말이죠.

V. 하지만 모두가 사용하고 있다고 하는데-

"지루한 행정 관료가 집에 가서 잔디나 만지기 전에 ChatGPT가 실제로 얼마나 많은 정부 정책을 작성하는지 상상이 가나? 사람들이 헛소리에 질려 이메일 교환을 계속되는 스레드에 붙여넣으면서 LLM들이 서로 빙빙 도는 부서가 얼마나 많을까? 내 근처 10km 이내에 의사가 증상을 챗봇에 때려박아서 환자를 오진했을 거라고 '장담'해"

우리는 사회로서 "무엇을" 하고 있는 거지?
학생들에게 잠재적으로 생명을 구하는 일과 이민법에 적합한지 검증하는 데 사용되는 중요한 자격증을 제공하는 기관의 임원이 학생들의 부정행위를 탐지할 수 있는지 물어봤음
- "아니요, 아마도 못할 거예요"라고 말하려 했는데... 의심이 들어서 대신 이렇게 말했음
"할 수는 있을 것 같은데, 현재 학생들의 50% 이상이 부정행위를 하고 있어서 그들을 정학시켜야 하므로 수익에 심각한 영향을 미칠 거라고 봅니다. 그래도 조사해볼까요?"
- 그 후로는 이에 대해 이야기하지 않고 있음
현재 공공 부문에서 일하고 있는 멘토에게 목격한 특히 난감한 대화에 대해 물어봤음

나: 진지한 질문인데, 사람들이 정말 그렇게 바보 같은 이야기를 믿나요? 아니면 AI 사기꾼한테서 돈을 뜯어내려는 슬픈 시도로 대부분 정교한 연극을 하는 건가요?

멘토: 최대한 정치적으로 대답하자면... 쿨에이드를 마신 사람들이 있어. 안 마신 사람들도 있고. 그리고 가능한 한 많은 쿨에이드를 섞으려는 사람들도 있지. 누가 어디에 속하는지는 네가 판단해 봐.
나는 결정했고, 쿨에이드를 무기인 양 퍼마시는 사람들과 대량으로 생산하는 사람들을 구별할 순 없지만, 당국이 나를 잡기 전에 "그들 중 몇 명은" 잡을 거야
- 운이 좋으면 LLM에게 내가 어디 있는지 물어보느라 몇 달을 낭비할 거임
피지에서 휴가를 보내다가 마지막 리조트 아침 식사 때 웨이트리스가 회원 가입 양식을 가져왔음
- 완전 무료이고 공짜 물건도 딸려 온다고 함. 식당에 있는 모두가 즉시 서명하고 있었음
- 서비스 약관을 훑어보니 내가 제공한 모든 데이터를 AI 모델 학습에 사용할 권리가 있고, 그 모델을 계열사의 불특정 다수 회사와 공유할 권리도 있다고 되어 있었음
나는 그냥 팬케이크를 평화롭게 먹고 싶을 뿐인데, 이 바보들아

VI.

"내가 격분하는 이유는 LLM이나 생성형 AI 열풍 자체를 '싫어해서'가 아님. Copilot으로 재미는 봤지만 결국 나를 더 멍청하게 만든다고 판단했음. 인상적이지만 상용구를 쏟아내는 것 외에는 실제로 "적합하지" 않음. 프로그래밍은 설계이고 이 도구들은 아직 이를 진지하게 도와주기에 충분히 좋지 않기 때문에 생각했던 것처럼 엄청난 생산성 향상을 가져다주지는 않았음."

내가 싫어하는 건 피를 빨아먹고 맹목적으로 꿈틀거리는 거머리들처럼 AI에 달라붙은 사람들임
- 인기 없을 때는 비즈니스를 위한 블록체인의 잠재력을 논하는 걸 좋아했던 자들임
- 최근 컨퍼런스에 참석했을 때는 "'양자'의 잠재력"에 대해 숨 가쁘게 토론했지만 도대체 그게 뭔지 명확히 모르는 것 같았음
지난주에 읽은 기사 아래에 작은 설문조사가 떴는데 보안 임원을 위한 거였지만 질문이 뭔지 보려고 재빨리 클릭해봤음
자, 여기 있습니다. 친애하는 리더여, 당신은 무엇에 가장 관심이 있나요? 인공지능, 블록체인, 아니면 양자 컴퓨팅?
- 그들은 목표 시장이 누구인지 정확히 알고 있음. 모든 것에 미소 짓는 법을 배워서 "남의 돈"을 맡은 권력자들이며, 다음 투기적 유행에 편승해 돈을 찍어낼 수 있다는 걸 아는 사람들임
- 내가 아는 유능한 보안 전문가 중 누구도 이런 것에 관심이 없음. 그들은 방화벽이 올바르게 구성되었는지, 조직이 리포지토리에 암호를 커밋하고 있는지 알아내느라 바쁨
- 양자 컴퓨팅이 암호학에 미치는 영향을 알아내야 하는 사람이 필요하지만, 그게 "시너지 그렉"은 아님
  - 매우 빠르게 말하고 인원을 늘리는 것 외에는 식별할 수 있는 기술이 없는 사람
  - 시너지 그렉은 기계 학습 운영부터 신발 끈 빨리 묶는 법에 이르기까지 중요한 문제에 대해 절대 조언을 구해서는 안 됨
  - 마지막으로 시너지 그렉의 아바타 중 한 명과 이야기했을 때 "대부분의 코인은 제로로 갈 거지만 하나는 달러가 될 거야"라며 모네로라는 암호화폐에 대부분의 돈을 투자해야 한다고 주장했음
  - "이것이 기업 AI의 얼굴"임. 그 소름 끼치는 얼굴을 보고 질겁하라. 악마처럼 충혈된 눈을 하고 시가를 즐기는 척하고 있으니
내 컨설팅 회사에는 "꽤 훌륭한" 데이터 과학자 세 명이 있음. 사실 그 중 두 명은 실험 연구를 하는 그룹 외에는 국내 최고 수준이라고 해도 무방하지만 겸손해서 그렇게 말하지는 않을 거임
- 그럼에도 우리는 어떤 종류의 AI 서비스도 판매하지 "않음". 시장이 너무 왜곡되어 있어서 암호화폐 공간에 발을 담그는 것만큼이나 "거의" 나쁨
- 아직 "import tensorflow"를 입력한 적이 있는 사람은 누구나 개자식이라고 생각할 정도는 아니지만 "우리는 그쪽으로 가고 있음"
이 부류의 사람들은 간단히 말해 바른 생각을 하는 사람들에게 혐오스러움
- 실제로 이 분야에서 진전을 이루고 있는 사람들에게는 창피한 존재이고, 기술을 현명하게 사용해 세상을 개선하는 법을 아는 사람들에게는 불명예스러운 존재임
- 또한 교훈을 배울 때까지 사상 지도자 감옥에 처넣어야 할 따분한 무지렁이 개자식들임. 내가 모금하고 있는 감옥임
- 매일 아침 묘비를 새기는 듯한 쉰 목소리의 검은 두건을 쓴 인물이 수감된 관리자들에게 이 기관이 체벌을 혁신하고 있다는 내용으로 60분 동안 TedX 강연을 하고, 그 혁신이 매일 아주 세게 배를 차는 거라는 걸 밝힘
내가 선택한 직업이 나를 이 사람들과 너무 가깝게 만든다는 사실과 그들의 악취 나는 음절이 내 귀를 더럽히지 않도록 열심히 공부한다는 사실에 역겹습니다
- 의인들과 어울리기 위해 필사적으로 도망쳐야 하는데, 그들은 OSS에 기여하고 하루 종일 애자일에 대해 이야기하는 것이 인간 생산성에 관한 책을 읽은 외계인들을 위한 운동이라고 생각함
방금 훨씬 덜 발전된 나라에서 여행을 마치고 돌아왔는데, 정말로 잠시나마 "살아보니" 그 돈이 얼마나 많은 삶을 개선할 수 있는지 "볼 수" 있었음
- 그런데 믿을 수 없을 만큼 Microsoft Fabric 하수구로 쏟아붓고 있으니 내 기어가 갈리는 것 같음
맹세컨대 나는 공부하고, 글을 쓰고, 네트워크를 형성하고, 그렇지 않으면 "문제에 힘을 가할" 것임
- 그 자원들이 방긋 웃는 광대의 지갑 대신 사회를 위해 무언가를 이룰 수 있는 곳으로 가게 될 때까지 말임!

VII. 오, 그럼 당신은 AI 비관론자 중 한 명이군요-

"하느님이 증인이시니, 당신이 개인적으로 기계 학습 시스템을 작성하지 않고 AI에 대해 한 번만 더 입을 연다면, 벽돌과 프롬프트 인젝션이 적힌 종이를 우편으로 보내서 그것으로 당신의 얼굴을 때리라고 할 거예요. 그리고 당신이 아마도 혼자서는 더 이상 읽을 수 없기 때문에 ChatGPT에 그것을 로드하기를 기다리면서 가만히 앉아 있을 거예요, 이 괴물 같은 멍청이."