3P by oksktank 7시간전 | ★ favorite | 댓글과 토론

영어 미팅은 당연하게도 영어가 편한 사람이 유리합니다. 특히 미팅은 발언 타이밍이 정말 중요한데 내가 아무리 머리속으로 완벽해도 영어가 모국어가 아니라면 버퍼링에 걸려버리고 그냥 발언을 포기하고는 합니다.

이 문제를 언어 구사에 특히 강점을 발휘하고 있는 LLM으로 해결할 수 있을 것 같아 제품을 만들기 시작했습니다.

이 제품은 Zoom, Google meet, Teams 등 원격 회의 툴 위에 투명 창 하나를 띄워둘 수 있는 별도 데스크탑 어플리케이션입니다.

아래와 같은 핵심 기능들을 제공합니다.

  • 실제 회의에서 다른 사람이 말하는 말과 내 마이크 입력을 감지해서 상대의 말은 실시간으로 받아 적고 빠르게 번역해줍니다.
  • 미팅 중 상대가 나에게 질문을 한 것 같으면 이를 자동으로 감지해서 적절한 답변을 생성해 보여줍니다.
  • 미팅 중에 영어로 표현할 문장이나 단어가 영어로 어떻게 말해야할지 떠오르지 않으면 타이핑해서 굉장히 빠른 속도로 영어 표현을 받아볼 수 있습니다.
  • 미팅이 끝나면 미팅 내용을 바탕으로 내가 발화한 문장들을 본격적으로 피드백 및 분석해주고 원어민이 실제로 쓸법한 표현으로 모두 리프레이징해서 리포트로 제공합니다.

제가 기술적으로 가장 집중하고 노력한 부분은 최대한 빠르게 응답을 받는 것이었습니다. 아무리 좋은 성능이어도 정신없이 흘러가는 미팅에서 단 2초정만 지나도 의미없는 정보가 되기 때문입니다.

LLM들의 성능은 이미 충분히 영어를 보조하기에 좋지만 토큰 생성속도는 모델별로 천차만별이고 이 밸런스를 잡는데에 정말 많은 시간을 썼습니다. 테스트해본 파운데이션 모델만 수십개가 넘고 현재는 각 목표에 맞는 적합한 파운데이션 모델 조합을 찾아 최적화해나가고 있습니다.

그 결과 번역 뿐만아니라 표현을 제안받거나 하는 부분에서 모두 LLM을 활용하면서도 거의 실시간에 가까운 응답속도로 좋은 품질의 결과를 받을 수 있게 되었습니다.

3개월간 알파테스터 150명과 매일매일 카톡과 1:1 화상 인터뷰를 진행하며 제품을 매주 조금씩 개선해왔고 드디어 정식 런칭하게 되었습니다.

수년간 GeekNews를 눈팅만 하고 슬랙으로 알림만 받아보다가 직접 글을 작성하게되니 조금 떨리는데요.. 제품에 관심이 생기셨다면 한번 아래 링크에서 구경해보시고 피드백을 댓글로 주셔도 너무 감사하고 큰 도움이 될 것 같습니다.

신용카드 등록 없이 무료로 사용해보실 수 있습니다.
https://trysmooth.ai