▲

GN⁺: 생성형 AI를 이용한 "버섯 식별 책"을 보고 독버섯에 중독되어 입원한 가족

 (old.reddit.com)
3P by neo 1달전 | favorite | 댓글 1개
  • 온 가족이 지난 주에 우연히 독버섯을 섭취한 후 병원에 입원했음
  • 아내가 생일을 위해 주요 온라인 소매업체에서 "Mushrooms UK: A Guide to Harvesting Safe and Edible Mushrooms"와 유사한 제목의 책을 구매했음
  • 책에는 각 버섯을 식별하는 데 도움이 되는 버섯 사진이 포함되어 있음
  • 불행히도 문제의 책은 정확하지 않았음. 자세히 조사한 결과 버섯 이미지는 AI가 생성한 것이었고, 각 문장 끝에 "무작위 질문"이나 "네번째 벽을 깨는 문장"이 뒤따르는 텍스트의 두 가지 사례를 발견했음
  • 예를 들어:
    • "결론적으로 곰보버섯은 8월부터 여름 끝까지 먹을 수 있는 맛있는 버섯입니다. 제가 도와드릴 일이 더 있으면 알려주세요."
  • 온라인 소매업체는 책을 반품하면 환불해 주겠다고 답변 했음
  • 이 책은 온라인 소매업체에서 판매가 중단되었지만, 유사한 스타일의 책이 수십 권 더 있는 것으로 보임
  • 확실히 하기: "구매 당시에는 인공지능으로 생성된 것인지 몰랐음! 웹사이트에 공개되지 않았음!"
▲
neo 1달전  [-]
Hacker News 의견

  • AI 출판에 대한 규제가 필요함을 강조함

    • "University of East Ontario"가 존재하지 않음을 지적하며 범죄적 과실로 간주함

  • 생성형 AI가 실제 결과를 요구하는 상황에서는 작동하지 않음을 주장함

    • 현재 AI는 단순한 자동완성 기능에 불과하며, 사용되는 맥락을 이해하지 못함
    • 주식 이미지나 제품 페이지 텍스트에는 괜찮지만, 중요한 상황에서는 매우 위험함

  • Reddit의 "LegalAdvice" 스레드의 신뢰성에 의문을 제기함

    • 영국에서는 현재 morel 버섯 시즌이 아님을 지적함

  • 더 신뢰할 수 있는 기사를 공유함

    • AI를 이용한 버섯 식별의 정확성이 낮음을 지적함
    • Apple, Google, OpenAI, Microsoft가 이에 대한 코멘트를 하지 않음

  • Tiktok과 Facebook에서 인플루언서들이 잘못된 식물 정보를 공유하는 사례를 언급함

    • 위험한 식물을 음식이나 스킨케어 용도로 잘못 홍보하는 경우가 많음

  • Reddit의 "advice" 게시물 대부분이 창작 글임을 주장함

    • 실제 증거가 나오기 전까지는 분노를 보류할 것임

  • 생성형 AI의 한계와 이에 따른 책임 문제를 지적함

    • AI 회사들이 면책 조항과 경고 문구를 추가해야 함
    • LLM이 생성하는 내용이 잘못될 수 있음을 명시해야 함

  • 온라인 소매업체의 이메일에 대한 의심을 표현함

    • 제품 사진 촬영 금지와 즉시 반송 요청이 의심스러움
    • 계정 해지 위협이 포함된 이 이야기가 가짜임을 주장함

  • National Audubon Society Field Guide도 잘못된 사용 시 중독 위험이 있음을 언급함

    • 이는 AI 문제만이 아님

  • AI 생성 법률 조언에 대한 후속 불만을 예상하며 웃음을 유발함

답변달기