미래의 기술은 'AI'가 아니라 '집중력'임

• LLM은 반복 작업 자동화와 브레인스토밍 등에 유용하지만, 맹목적인 의존은 문제 해결 능력 저하를 초래할 수 있음
• 특히 새로운 문제에 대한 LLM의 신뢰도는 낮아, 인간 엔지니어의 판단력이 중요함
• 구글 같은 검색엔진은 탐색과 활용의 균형을 제공하지만, LLM은 즉시 ‘활용’(exploitation)만 유도함
• 빠른 정답에만 의존하는 습관은 핵심적인 문제 해결 능력과 집중력(focus)의 쇠퇴를 부름
• 미래의 핵심 역량은 AI 사용법보다 깊이 있는 사고와 집중력이라는 인간 고유의 능력이 될 것

---

LLM은 강력하지만 조심해서 사용해야 함

• LLM은 반복적인 작업을 자동화하고, 코드 작성이나 디버깅 보조 등에서 큰 도움이 됨
• 그러나 편향, 불일치, 환각(hallucination) 등의 문제로 인해 출력 결과는 항상 검토가 필요함
• 특히 훈련 데이터는 기존 문제의 해답은 담고 있지만 진짜 새로운 문제에 대한 대응력은 낮음
• 결과적으로 엔지니어가 LLM에 의존하면 자체 문제 해결 능력이 약화될 수 있음

무비판적 수용의 위험성

• LLM이 제공하는 답을 이해하지 않고 그대로 수용하면, 문제를 해결하는 것보다 해답을 받는 것에 집중하게 됨
• 복잡한 문제 해결은 결국 기초 능력과 사고력의 축적이 필요하며, LLM은 이를 대체할 수 없음
• 중요한 것은 결과물이 아니라 왜 그렇게 해결되는가에 대한 이해와 사고 과정임

검색엔진과 LLM의 중요한 차이점

• 검색엔진은 탐색(exploration)과 활용(exploitation)의 균형적 접근을 가능하게 함
• 반면 LLM은 처음부터 정답을 제공하려 하며, 사용자는 이를 검증 없이 활용하려는 경향이 있음
• 탐색 없이 활용만 존재하는 시스템은 불안정성과 의존성을 키움

컴퓨터공학의 본래 목적: 인간이 문제 해결에 집중하기 위한 도구

• 인간은 반복 작업을 줄이기 위해 도구를 만들어 왔고, 알고리듬의 주도권은 인간에게 있었음
• 그러나 지금은 빠르게 결과를 내야 한다는 압박으로 인해 집중력과 사고력 훈련의 기회가 줄어들고 있음
• 이 흐름은 결국 인간의 창의성과 깊이 있는 사고의 약화를 불러올 수 있음

미래를 위한 진짜 기술: 집중력(Focus)

• 기술이 발전할수록 인간 고유의 사고 능력과 집중력이 더욱 중요해짐
• AI의 성능보다 중요한 것은 복잡한 문제를 인식하고 해결할 수 있는 인간의 역량
• LLM 사용 능력이 아닌 집중력과 본질에 대한 이해 능력이 미래의 핵심 스킬이 될 가능성이 높음

[GN⁺]

Hacker News 의견

• 새로운 학생들이 집중력을 잃는 것은 흔한 일임. LLMs뿐만 아니라 거의 모든 앱과 스타트업이 사용자의 제한된 주의를 끌기 위해 경쟁하고 있음

  • LLMs는 학생들이 답을 찾기 위해 노력해야 했던 장벽을 제거했음. 빠른 답변에 중독되기 쉽고, 왜 어떤 것이 작동하는지를 묻는 것을 잊기 쉬움
  • 그러나 올바르게 접근하면 LLMs는 탐구를 지원할 수 있음. 학생들이 첫 번째 답변에 반박하고 더 깊은 통찰을 발견한 순간을 본 적이 있음
  • 진정한 위험은 도구가 아니라 그것을 신중하게 사용하는 방법을 잊는 것임

• Gunbound에서 aimbot을 사용하는 것은 플레이어를 더 나아지게 하지 않았음. 게임 생태계를 파괴했음

  • 인류가 "문해력 aimbot"을 책임감 있게 사용할 수 있을지 모르겠음
  • ABS는 미끄러운 조건에서 제동을 더 쉽게 하고 안전하게 만들었음. 사람들은 더 나은 제동을 배우지 않았고, 여전히 페달을 더 세게 밟아야 차가 더 빨리 멈출 것이라고 생각했음
  • 많은 사람들이 집중이 필요함. 어떤 사람들은 그렇지 않으며, 그들은 확장해야 함. 어떤 시스템은 aimbot이 필요하고, 어떤 시스템은 필요하지 않음
  • 미래는 모든 종류의 기술이 공존해야 함

• 검색 엔진은 탐색(결과 목록과 페이지를 탐색)과 착취(상위 결과 클릭) 사이에서 좋은 선택을 제공함

  • LLMs는 이 선택을 제공하지 않음
  • LLMs는 탐색에 매우 유용함. 복잡한 문제를 해결하고 아이디어를 정제하는 데 도움을 줌. 인간 파트너와도 어려운 피드백 루프를 생성할 수 있음

• 집중할 수 있는 것은 요즘 특권처럼 보임

  • 90년대에는 방해 없이 몇 주 동안 작업할 수 있었음. 요즘은 항상 업데이트나 계획을 원하는 관리자들이 있음
  • 실제 작업은 대화보다 뒷전으로 밀려남

• 정보가 풍부한 세계에서 정보의 풍부함은 다른 것의 부족을 의미함. 정보는 수신자의 주의를 소비함

  • 정보의 풍부함은 주의의 빈곤을 초래하고, 이를 효율적으로 할당할 필요가 있음

• 집중의 반대는 반응성임. SO에 게시하면 정확한 답을 얻을 수 있지만, 올바른 질문을 작성하고 응답을 기다리는 인내가 필요함

  • LLM은 잘못된 것을 즉시 말해줄 수 있음. 반응적임
  • 훌륭한 엔지니어는 팀원, 관리자, 고객, 비즈니스에 반응적이어야 함. 또한 집중할 시간을 찾아야 함
  • Covid 이후 비동기적이지 않고 원격이 아닌 사람들이 모두 온라인으로 이동하면서 큰 문화적 변화가 있었음
  • 반응성을 측정하기는 쉽지만, 품질과 성장을 측정하기는 어려움

• LLMs를 사용할 때 집중력을 잃음

  • 복사-붙여넣기, 복사-붙여넣기. 솔루션에 대한 실제 이해가 없음
  • 더 많은 일을 할 수 있을지 모르지만, 즐기지 않음. 이제는 구글링으로 돌아갈 수 없음
  • 발명되지 않았으면 좋겠음

• 다른 종류의 집중이 될 것임

  • 기술은 정기적으로 이전에 중요하다고 여겨졌던 능력을 감소시킬 것으로 예측됨
  • 계산기는 아이들이 손으로 산수를 할 필요가 없게 만들었음. 그러나 여전히 결과를 해석하는 기술이 필요함
  • 검색 엔진은 사람들이 몇 초 만에 답을 찾을 수 있게 했음. 그러나 여전히 무엇을 찾아야 하는지 알고, 찾은 것을 어떻게 사용할지 알아야 함

• 10년 전 스마트폰과 소셜 미디어가 모든 것을 바꿀 것이라는 전문가들이 있었음. 현명하게 사용하는 법을 배워야 함

• LLM 혁명을 90년대 Google과 같은 검색 엔진의 부상과 동일시하는 것에 동의하지 않음

  • LLMs는 즉각적인 착취를 장려함. 사용자는 첫 번째 솔루션이 작동하지 않을 때 탐색할 수 있음
  • 대부분의 LLM 사용은 실제로 검색 엔진과 유사함. 기존 디자인 결정을 설명하거나, 필요에 맞는 라이브러리를 검색하거나, 관련 쿼리를 생성함