# 위키미디어 재단의 실험적 LLM/RAG 크롬 확장 프로그램 'Citation Needed' 출시

> Clean Markdown view of GeekNews topic #14787. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=14787](https://news.hada.io/topic?id=14787)
- GeekNews Markdown: [https://news.hada.io/topic/14787.md](https://news.hada.io/topic/14787.md)
- Type: GN+
- Author: [neo](https://news.hada.io/@neo)
- Published: 2024-05-13T10:30:37+09:00
- Updated: 2024-05-13T10:30:37+09:00
- Original source: [chromewebstore.google.com](https://chromewebstore.google.com/detail/wikipedia-citation-needed/kecnjhdipdihkibljeicopdcoinghmhj)
- Points: 1
- Comments: 1

## Topic Body

### Wikipedia Citation Needed 크롬 확장 프로그램

- 웹 브라우징 중에 특정 텍스트 구절을 선택하여 해당 진술을 검증함
- ChatGPT API를 활용해 Wikipedia에서 관련 문서를 검색하고 해당 문서에서 인용함
- 선택한 진술이 Wikipedia에서 뒷받침되는지 여부에 대한 정보와 함께 문서의 최종 편집 날짜, 참조 개수 등 문서 품질 신호를 제공하여 사용자가 받는 정보(Wikipedia에서 받는 정보 포함)에 대해 더 많은 맥락을 파악할 수 있도록 도움

### 사용자 피드백 요청

- 이 기능은 생성형 AI를 사용하는 실험적 기능으로, 때로는 실수를 할 수 있음을 인지하고 있음
- 결과의 품질을 이해하고 개선하기 위해 확장 프로그램의 피드백 링크를 통해 발견한 문제를 보고해 줄 것을 요청함
- 일반적인 피드백과 Wikipedia가 일상적인 웹 브라우징에서 유용하게 사용될 수 있는 다른 방법에 대한 아이디어도 환영함

### 개발자 정보

- 이 확장 프로그램은 Wikipedia와 자매 프로젝트를 지원하는 비영리 단체인 Wikimedia Foundation의 Future Audiences 팀에서 개발함

### GN⁺의 의견

- 이 확장 프로그램은 사용자가 웹에서 접하는 정보의 신뢰성을 평가하는 데 도움이 될 수 있음. 하지만 Wikipedia 문서 자체의 품질과 정확성에 한계가 있을 수 있으므로, 이를 절대적인 기준으로 삼기에는 무리가 있어 보임. 
- ChatGPT와 같은 대규모 언어 모델을 활용하여 요약과 검증을 자동화하는 것은 사용자 편의성을 높일 수 있지만, 동시에 잘못된 정보를 생성할 위험성도 있음. 이에 대한 지속적인 모니터링과 개선 노력이 필요해 보임.
- Wikipedia 외에도 각 분야의 전문가들이 검증한 신뢰할 만한 정보원을 추가로 활용한다면 검증의 정확도와 포괄성을 높일 수 있을 것임. 장기적으로는 블록체인 기반의 탈중앙화된 지식 베이스 구축도 고려해 볼 만함.

## Comments



### Comment 25188

- Author: neo
- Created: 2024-05-13T10:30:38+09:00
- Points: 1

###### [Hacker News 의견](https://news.ycombinator.com/item?id=40330667) 
- Experimental LLM powered RAG(Retrieval Augmented Generation) application이 위키피디아와 대조하여 인터넷 상의 주장을 확인함.
- 인용문이 환각되는지 아니면 "결정론적 인용"과 같은 것을 사용하는지에 대한 질문이 있음.
- 이 확장 프로그램에 대한 Wikimedia의 Git 저장소가 제공됨. README의 빌드 지침이 불완전하고 핫 리로드가 작동하지 않는 것 같음. `npm run build-dev`를 사용하여 작동하는 빌드를 얻을 수 있음.
- Firefox 확장 기능은 제공되지 않음. 사이드바/사이드패널 API 차이 때문일 수 있음.
- LLM이 Wikipedia 기사를 사실 확인하고 플래그를 지정하는 것도 희망적임.
- 기사 생성기 및 기사 검사기와 결합하여 1조 페이지를 생성할 수 있음. LLM을 위한 유용한 학습 콘텐츠일 수 있지만 사람들도 사용할 수 있음.
- 크롬에서만 작동하는 것 같음. Arc에서는 작동하지 않음.
- 학계에서는 Wikipedia 인용이 일반적으로 금지됨. 신뢰성이 떨어지고(저자가 자신이 편집할 수 있는 출처를 인용함) 1차 출처를 찾는 데는 좋지만 그 자체로 2차 출처임.
- 자기 자신에 대해 묻는 것은 "Citation Needed가 2024년에 개발된 실험적 기능"이라는 응답을 반환함. 하지만 제공된 문단에는 2024년에 개발된 'Citation Needed'라는 기능에 대한 정보가 포함되어 있지 않음.