▲

Cursor IDE의 AI 지원 시스템이 환각을 내면서 사용자 혼란 발생

 (old.reddit.com)
1P by GN⁺ 4일전 | ★ favorite | 댓글 1개
  • Cursor IDE는 여러 기기에서 동시 로그인 후 작업 전환이 가능한 것이 장점임
  • 그러나 특정 시점부터 사용자가 데스크탑에서 노트북으로 전환하거나 여러 기기에서 로그인하면 자동 로그아웃되는 현상이 발생함
  • 아무런 경고나 알림 없이 로그아웃되는 방식으로 작동하여 사용자들이 혼란을 겪음
  • 다중 기기 작업은 개발자에게 필수적인 기능이기 때문에, 갑작스러운 차단에 대해 사용자들이 당연히 새로운 정책으로 오해함

지원 시스템의 "허위 정책 안내"

  • 사용자들이 Cursor의 지원 이메일로 문의를 보내자, 돌아온 답변은 "이것은 새 로그인 정책에 따른 정상 동작임"이라는 안내였음
  • 문제는 이 답변이 실제 사람이 아닌 AI 챗봇에 의해 생성되었고, 실제 정책이 아닌 허위 정보였음
  • AI가 자율적으로 만든 이 설명은 사용자들 사이에서 빠르게 퍼지며 공식 정책으로 오인됨
  • 다수의 사용자가 이 허위 정보를 바탕으로 공개적으로 구독 취소를 선언하고, Cursor에 대한 신뢰를 잃음

커뮤니티 반응과 대응 부족

  • 상황을 공유하고 문제점을 토론하던 Reddit의 메인 스레드는 잠금 처리 후 삭제됨
  • 이로 인해 사건에 대한 공식적인 대응이나 해명 없이 침묵으로 일관한 것으로 비춰짐
  • 실제로는 정책 변경이 아니라 단순한 백엔드 세션 처리 오류였지만, 그보다 AI가 만든 설명이 더 큰 피해를 야기함

사건의 의의

  • 이번 사건은 단순한 기술적 실수가 아닌, AI 지원 시스템이 사용자 신뢰를 무너뜨릴 수 있음을 보여준 사례임
  • 실제 팀이 아닌 AI가 고객 지원을 담당할 경우, 거짓 정보를 생산해내는 "환각(hallucination)" 현상이 발생할 수 있으며, 이로 인한 피해가 클 수 있음
  • 사용자와의 커뮤니케이션에서 투명성 부족과 AI 시스템의 관리 미흡이 결합되면 치명적인 결과를 초래함
▲
GN⁺ 4일전  [-]
Hacker News 의견

  • 사람들이 환각이 더 이상 큰 문제가 아니라고 열심히 주장하는데, 그 이야기에 이익을 얻을 회사가 직접적으로 피해를 입는 아이러니가 있음

    • 물론 그들은 이 문제를 무시하려고 할 것임
    • 이 문제가 여전히 존재하고 쉽게 사라지지 않을 것임을 인정하는 것보다 나음

  • LLM에 대해 불편함을 느낌

    • 자존심 있는 소프트웨어 개발자가 왜 이런 것을 사용할까 의문임
    • 좋은 소프트웨어를 작성하는 법을 배우고, 그 분야의 전문가가 되어야 함
    • AI는 소프트웨어의 가치를 떨어뜨리고, 과정은 망치며, 미래의 주니어 개발자들의 기술 개발 희망을 완전히 없앰
    • Debian, Python, Vim을 계속 사용할 것임
    • LLM, LSP, 자동 완성 없이도 자부심을 느끼며 유지보수하기 쉬운 코드를 작성할 것임

  • 음모론적으로는 정책 변경을 "AI 지원 에이전트" 탓으로 돌리고 아무도 깊이 파헤치지 않기를 바라는 것 같음

    • 회사에 대한 일반적인 불신 외에는 이와 관련된 지식이나 이유가 없음

  • 원래 Reddit 게시물의 아카이브 링크 제공

  • 정책 변경이 실제라고 생각해서가 아니라, 이번 달에 많이 사용하지 않았다는 것을 상기시켜줘서 구독을 취소함

  • Cursor는 이상함

    • 거의 사용되지 않는 GitHub에 수천 개의 미해결 이슈가 있음
    • VSCode보다 버그가 많음
    • 매일 사용하고 비용을 지불하지만 싫어함
    • 사람들이 싫어하면서도 사용하는 제품을 만들었을 때 성공한 것임
    • 다른 대안이 있는지 궁금함
    • Continue를 시도했지만 탭 완성과 타이핑 경험이 실망스러웠음

  • Cursor는 사용자들이 새로운 계정을 만들어 무제한으로 사용하는 "해킹"과의 쫓고 쫓기는 게임에 갇혀 있음

    • GitHub에서 트렌딩되기도 했음
    • Cursor는 자체 VSCode 포크를 유지하는 데 항상 어려움을 겪을 것임
    • 이 분야의 다른 회사들은 빠르게 확장 중이며, 본인도 Roo와 Cline으로 전환하기 시작함

  • "수십 명의 사용자가 공개적으로 구독을 취소했다"는 증거는 무엇인가?

    • 댓글에서 총 4명의 사용자가 구독을 취소했거나 취소할 것이라고 주장했으며, 그 중 3/4은 이 문제가 실제이거나 자신에게 발생하면 취소하겠다고 함
    • 이미 취소했다고 주장한 사람은 1명뿐임
    • 다른 논의가 있는지 궁금함

  • Reddit 상위 게시물에서:

    • 혼란에 대한 사과가 있음
    • 진심 어린 사과였다면, 채팅봇으로 지원을 하려는 시도를 멈췄을 것임

  • 이 사례는 AI 과대광고가 AI 능력을 앞지르는 예로 역사에 남을 것임

답변달기