# 생성형 AI를 이용한 "버섯 식별 책"을 보고 독버섯에 중독되어 입원한 가족

> Clean Markdown view of GeekNews topic #16345. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=16345](https://news.hada.io/topic?id=16345)
- GeekNews Markdown: [https://news.hada.io/topic/16345.md](https://news.hada.io/topic/16345.md)
- Type: GN+
- Author: [neo](https://news.hada.io/@neo)
- Published: 2024-08-17T10:12:01+09:00
- Updated: 2024-08-17T10:12:01+09:00
- Original source: [old.reddit.com](https://old.reddit.com/r/LegalAdviceUK/comments/1etko9h/family_poisoned_after_using_aigenerated_mushroom/)
- Points: 3
- Comments: 1

## Topic Body

- 온 가족이 지난 주에 우연히 독버섯을 섭취한 후 병원에 입원했음  
- 아내가 생일을 위해 주요 온라인 소매업체에서 "Mushrooms UK: A Guide to Harvesting Safe and Edible Mushrooms"와 유사한 제목의 책을 구매했음  
- 책에는 각 버섯을 식별하는 데 도움이 되는 버섯 사진이 포함되어 있음  
- 불행히도 문제의 책은 정확하지 않았음. 자세히 조사한 결과 버섯 이미지는 AI가 생성한 것이었고, 각 문장 끝에 "무작위 질문"이나 "네번째 벽을 깨는 문장"이 뒤따르는 텍스트의 두 가지 사례를 발견했음  
- 예를 들어:   
  - "결론적으로 곰보버섯은 8월부터 여름 끝까지 먹을 수 있는 맛있는 버섯입니다. 제가 도와드릴 일이 더 있으면 알려주세요."  
- 온라인 소매업체는 책을 반품하면 환불해 주겠다고 답변 했음  
- 이 책은 온라인 소매업체에서 판매가 중단되었지만, 유사한 스타일의 책이 수십 권 더 있는 것으로 보임  
- 확실히 하기: **"구매 당시에는 인공지능으로 생성된 것인지 몰랐음! 웹사이트에 공개되지 않았음!"**

## Comments



### Comment 28065

- Author: neo
- Created: 2024-08-17T10:12:02+09:00
- Points: 1

###### [Hacker News 의견](https://news.ycombinator.com/item?id=41269514) 
- AI 출판에 대한 규제가 필요함을 강조함
  - "University of East Ontario"가 존재하지 않음을 지적하며 범죄적 과실로 간주함

- 생성형 AI가 실제 결과를 요구하는 상황에서는 작동하지 않음을 주장함
  - 현재 AI는 단순한 자동완성 기능에 불과하며, 사용되는 맥락을 이해하지 못함
  - 주식 이미지나 제품 페이지 텍스트에는 괜찮지만, 중요한 상황에서는 매우 위험함

- Reddit의 "LegalAdvice" 스레드의 신뢰성에 의문을 제기함
  - 영국에서는 현재 morel 버섯 시즌이 아님을 지적함

- 더 신뢰할 수 있는 기사를 공유함
  - AI를 이용한 버섯 식별의 정확성이 낮음을 지적함
  - Apple, Google, OpenAI, Microsoft가 이에 대한 코멘트를 하지 않음

- Tiktok과 Facebook에서 인플루언서들이 잘못된 식물 정보를 공유하는 사례를 언급함
  - 위험한 식물을 음식이나 스킨케어 용도로 잘못 홍보하는 경우가 많음

- Reddit의 "advice" 게시물 대부분이 창작 글임을 주장함
  - 실제 증거가 나오기 전까지는 분노를 보류할 것임

- 생성형 AI의 한계와 이에 따른 책임 문제를 지적함
  - AI 회사들이 면책 조항과 경고 문구를 추가해야 함
  - LLM이 생성하는 내용이 잘못될 수 있음을 명시해야 함

- 온라인 소매업체의 이메일에 대한 의심을 표현함
  - 제품 사진 촬영 금지와 즉시 반송 요청이 의심스러움
  - 계정 해지 위협이 포함된 이 이야기가 가짜임을 주장함

- National Audubon Society Field Guide도 잘못된 사용 시 중독 위험이 있음을 언급함
  - 이는 AI 문제만이 아님

- AI 생성 법률 조언에 대한 후속 불만을 예상하며 웃음을 유발함