AI 제품 개발의 잘못된 접근 방식
- 대부분의 AI 제품은 다른 모델을 감싸는 형태로, 예를 들어 ChatGPT API를 호출하는 것과 같은 방식으로 구현됨.
- 이러한 접근 방식은 구현이 쉽고 멋진 기능을 수행할 수 있지만, 차별화되지 않고, 비용이 많이 들며, 속도가 느리다는 문제가 있음.
- AI 제품의 고유한 가치 제안이 중요할 때, 쉽게 복제될 수 있는 기술에 의존하는 것은 위험한 위치에 있음을 의미함.
LLM의 고비용과 느린 속도 문제
- 대규모 언어 모델(Large Language Models, LLM)은 다양성을 제공하지만, 그 크기와 복잡성 때문에 운영 비용이 매우 높음.
- 예를 들어, GitHub Copilot은 사용자당 평균 $20의 비용이 들지만 $10만 청구하여 손실을 보고 있음.
- LLM은 느린 속도로 인해 실시간 반응이 필요한 애플리케이션에서 상당한 문제를 일으킬 수 있음.
LLM의 한계와 맞춤화 문제
- LLM은 미세 조정을 지원하지만, 특정 문제에 대한 해결책을 제공하는 데는 한계가 있음.
- Builder.io의 Visual Copilot 개발 시 LLM을 사용하여 Figma 디자인을 코드로 변환하려 했으나, 느리고 비용이 많이 들며 품질이 낮은 결과물에 도달함.
자체 도구 체인 생성의 해결책
- Builder.io는 자체 도구 체인을 생성하여 문제를 해결함.
- 미세 조정된 LLM, 사용자 정의 컴파일러, 맞춤형 훈련 모델을 결합하여 사용함.
- 이 방법은 더 빠르고, 더 신뢰할 수 있으며, 비용이 적게 들고, 더 차별화된 제품을 만들 수 있음.
AI 제품 개발에 대한 일반적인 오해
- 많은 사람들은 AI 제품이 하나의 슈퍼 모델에 의해 모든 핵심 기술이 처리된다고 오해함.
- 자율 주행 차량의 예를 들면, 하나의 거대한 AI가 모든 입력을 처리하여 결정을 내리는 것으로 생각하지만, 실제로는 전문화된 여러 모델과 일반 코드가 결합된 것임.
실제 AI 구축 시작 방법
- AI 솔루션을 위해 Visual Copilot에서 사용한 접근 방식을 탐색하는 것이 좋음.
- 문제 공간을 일반 프로그래밍 관행을 사용하여 탐색하고, 특수 모델이 필요한 영역을 결정함.
- 특정 문제에 대해 표준 코딩이 잘 해결하지 못하는 경우, 잘 정립된 AI 모델로 데이터를 생성하고 자체 모델을 훈련함.
GN⁺의 의견
- 가장 중요한 것은 AI 제품 개발 시 다른 사람들이 하는 방식을 피하고, 자체 도구 체인을 만들어 차별화된 가치를 제공하는 것임.
- 이 글은 AI 기술의 혁신적인 사용과 개발자들이 AI를 활용하여 독창적인 제품을 만들 수 있는 방법을 제시함으로써 흥미롭고 매력적임.