AI 에이전트의 다음 단계: 2025년 주목할 트렌드들

(cbinsights.com)

AI 에이전트는 사용자를 대신해 복잡한 업무를 최소한의 개입으로 수행하는 LLM 기반 시스템이며, 기업 활동에서 급격히 증가하고 있음

1. 범용 AI 에이전트 분야를 지배하는 빅테크와 주요 LLM 개발사들

빅테크 기업 및 주요 LLM(대형 언어 모델) 개발사들은 2025년에 더 저렴하고 성능이 뛰어난 AI 에이전트를 대중화시킬 것
모델 비용은 매년 약 10배씩 저렴해지고 있으며, 개방형과 폐쇄형 모델 간의 성능 격차도 점차 좁혀지고 있어, 에이전트 개발에 유리한 환경 조성 중
특히 OpenAI는 주간 활성 사용자 4억 명의 ChatGPT를 기반으로 자체 AI 에이전트 'Operator' 를 출시할 예정이며, Klarna와 Uber 같은 기업들은 이미 고객 지원용 AI 에이전트를 OpenAI와 협력하여 구축 중
Lyft는 Anthropic과 협력하여 고객 지원 에이전트를 도입, 문제 해결 시간을 87% 단축하는 성과를 냄

AI 에이전트 스타트업들이 고객 데이터와 깊이 연동된 특화된 솔루션을 개발하여 경쟁력을 강화할 것으로 전망
현재는 고객 지원, 코딩, 영업, 일반 기업 워크플로우 등의 범용 분야가 주류를 이루며, 앞으로 이 분야에서 데이터와 통합 워크플로우를 깊숙이 활용하는 기업들이 차별화될 전망
특히 버티컬 산업별 솔루션(예: 헬스케어, 금융 서비스)이 빠르게 성장할 것으로 예상되며, 규제가 엄격하고 데이터 민감도가 높은 분야에서 산업별 전문성을 갖춘 AI 에이전트가 확산될 것
헬스케어 분야의 Hippocratic AI는 데이터 통합과 설명 가능한 AI로 주목받고 있으며, Norm AI는 컴플라이언스 워크플로우 특화로 Citi Ventures 등에서 투자를 유치

현재 분산된 AI 에이전트 개발 및 관리 환경이 점차 구조화되며, 분야별 특화된 솔루션들이 등장 중
주요 인프라 분야:
- 데이터 큐레이션(Data Curation): 기업의 비정형 데이터를 AI가 사용할 수 있는 형태로 변환하는 솔루션(LlamaIndex, Unstructured 등)
- 웹 검색 및 도구 활용(Web Search & Tool Use): AI 기반 웹 자동화 도구(Browserbase 등)
- 평가 및 모니터링(Evaluation & Observability): AI 에이전트의 신뢰성 및 정확성을 지속적으로 모니터링하는 도구(Langfuse, Haize Labs, Coval 등)
또한 모든 기능을 한 번에 제공하는 통합 AI 에이전트 개발 플랫폼이 주목받으며, 특히 노코드 및 로우코드 솔루션을 통해 AI 전문지식이 없는 사용자도 쉽게 에이전트를 개발할 수 있도록 지원

조사에 따르면 기업의 63% 가 AI 에이전트를 향후 12개월 내에 매우 중요한 전략으로 보고 있으며, 단순 실험에서 본격적인 도입 단계로 넘어가고 있음
Twilio와 같은 기존 기업용 소프트웨어 회사들이 자사 제품과 내부 업무에 AI 에이전트를 통합하며 시장의 성숙도를 높이고 있음
그러나 다음과 같은 주요 과제가 존재:
- 신뢰성 및 보안(응답자의 47%가 주요 우려 사항으로 지목)
- 기술적 구현 어려움(41%)
- 인력 및 기술 부족(35%)
기업들은 데이터 프라이버시, 기존 시스템과의 통합 문제를 해결하고, AI 도입을 위한 전문 인력 확보에 주력해야 함
'Human-in-the-loop'(인간이 개입하는 AI 감독 방식) 을 활용하거나 데이터 인프라를 견고히 구축하는 것이 성공적인 AI 에이전트 도입의 핵심 요소가 될 것

지금도 엄청나게 AI를 업무/개인적 케이스 모두에서 잘 활용하고 있는데, 에이전트는 또 어떨지 기대됩니다