1P by minsuchae 15시간전 | ★ favorite | 댓글 1개

21대 대통령 후보 정보를 한눈에

  • 제목은 거창하게 지었지만, 간략하게 말하면 제 21대 대통령선거에 앞서 대통령 후보의 약력이나 선거의 공약 혹은 후보의 논란 등을 제공하는 것을 목표로 하는 프로젝트입니다.
  • 🔗 https://대선은지금.com

만든 목적

제가 아는 20대 지인분들이 대통령이나 대통령 선거에 대한 관심을 보였고, 최근 여러 사건으로 인해 청년들의 선거 관심도가 커졌고 대통령 선거 참여 독려가 되어야 한다고 생각하였습니다.
그러나 실제 선거 투표를 하다보면 한 사람씩 자세히 보기도 힘들고 타 후보와 비교하면 누가 더 나은지 판단하기가 쉽지 않은 것이 현실이었습니다.
“그렇다면 LLM으로 질문‑답변을 바로 해 주는 사이트를 만들어보자.” 라는 아주 단순한 아이디어로 만들게 되었고 기획은 2~5일, 코딩과 배포는 이틀정도 걸렸습니다.

기능 제공

  • 후보별 약력·공약·논란 요약 제공
    (선거공보가 나오지 않아 현재는 뉴스 기반의 초안입니다.)
  • “○○ 후보의 대표 공약 알려줘” 같이 묻는 실시간 Q&A
    (Gemma‑3‑1b‑it 모델이 답변을 생성합니다. CPU만으로 연산해서요 😅 )

향후 계획

  • 선거공보 자료 기반의 정보 제공
  • 개발자 수준이 아닌 대한민국 국민 수준에서 큰 관심도를 받거나 기관 등에서의 후원 시 Gemma‑3‑27b로 LLM 모델 개선

아쉬운 점

  1. 모델 크기
    원래는 27 b 파라미터 버전을 돌리고 싶었지만 VRAM 48 GB가 필요했습니다.
    결국 1 b 모델로 타협했습니다. (A6000 한 대만 빌려도 월 60만정도 필요합니다.)
  2. 낮은 수준의 데이터 품질
    뉴스기사 등을 통해 스크리닝하긴 했지만 공식 자료가 없다보니 아직 구체적인 공약 등을 파악하기 어려운 문제점이 있습니다. 선거공보가 공개되면 가장 먼저 업데이트할 예정입니다.
  3. LLM 모델 응답속도
    간단한 인사 등을 하게 되면 수 초 내에 응답을 하지만 공약 등의 핵심 질문을 하게 되면 1분 이상 걸리는 문제점이 있습니다. 실시간 이라고 하기엔 무리가 있죠. CPU 연산이여서 그렇습니다. 😅

요청사항

  • 잘못된 정보나 불편함을 발견하시면 댓글로 알려주세요.
  • GPU 후원/클라우드 제휴는 언제든 환영입니다.
  • 과도한 부하 테스트만 피해주시면 감사하겠습니다!

최근 청년들의 선거 참여가 중요해지는 만큼 정치 정보를 쉽고 빠르게 하기 위해서 만들어보았습니다.
한 번 들러서 궁금한 후보를 검색해 보시고, 부족한 점을 지적해 주세요. 🙏

제 전공이 컴퓨터쪽 이지만 개발자 포지셔닝보다는 AI 연구자 포지션이 강하다보니 테스트 코드라던가 데이터 타입 검사 등의 찐 개발자분들이 보기에 불편할 수 있습니다.

몇군데 사이트 안올렸는데 제 내부 테스트인지 누군가인지 몰라도 과도한 부하로 인해 좀비가 되었네요. 로컬 AI이고, 가벼운 모델이라 이정도로 심하게 부하 걸릴줄은 몰랐는데 가상화한경에서 수행시켰는데 좀시 상태로 빠졌네요...;; 확인 후 복구시키겠습니다.
로컬 AI 서비스 제공하시는 분들은 GPU 연산하는거면 덜하겠지만 CPU는...포기하는 것이 좋을 듯 싶네요. 누군가가 그렇게 많이 쓴 것도 아닌 것 같은데...;;
물리적인 서버에서 큰 작업이 이루어지지 않던 서버인데 docker container로 띄워 서비스했는데 아무리 사양이 낮다 하더라도 ssh 접속까지 힘들정도로 과도하게 CPU 부하가 걸렸습니다...; cpu 제한 안걸었는데 그것 때매 호스트 서버까지 문제가 생기네요...
실 사용자가 많이 쓴 것 같지도 않은데...