◀ 일년전◁ 한달전<< 일주일전< 하루전| 2024-05-13 |다음날 >일주일후 >>한달후 ▷일년후 ▶ 지난 소식21▲대규모 언어 모델의 Under-trained 토큰 자동 감지 기술 (arxiv.org)LLM은 토크나이저 생성과 모델 학습이 분리되어 있어, SolidGoldMagikarp 같은 특정 토큰이 예상 밖 동작을 만들 수 있음 문제의 핵심은 토크나이...1 point by GN⁺ 2024-05-13 | 댓글 1개22▲GPU의 폭발적인 성능 향상 (hazyresearch.stanford.edu)AI 연산 비용이 커지는 상황에서 Hazy Research는 NVIDIA H100의 tensor core를 쉬지 않게 유지하는 것이 GPU 성능 최적화의 핵심이라고 정리함 H1...1 point by GN⁺ 2024-05-13 | 댓글 1개23▲비전 트랜스포머(ViT)에 레지스터 토큰이 필요한 이유 (openreview.net)ViT 특징 맵의 고노름 토큰은 정보량이 낮은 배경 영역에 주로 나타나며, 패치 토큰이 내부 계산용 저장 공간처럼 재활용되는 현상으로 해석됨 해...1 point by GN⁺ 2024-05-13 | 댓글 1개24▲Emacs 윈도우 관리 백과사전 (karthinks.com)Emacs의 윈도우 관리는 버퍼와 윈도우가 분리된 유연한 구조 위에 다소 투박한 기본 조작이 얹혀 있어, 사용자가 도구와 습관을 조합해 작업 흐름...1 point by GN⁺ 2024-05-13 | 댓글 1개25▲아담 커티스, 자기표현의 위험성을 말하다 (2017) (thecreativeindependent.com)예술과 자기표현은 한 시대의 분위기를 압축해 보여주지만, 권력에 맞서 세계를 바꾸는 정치적 행동을 대신하기는 어려움 1970년대 초 이후 자기표...1 point by GN⁺ 2024-05-13 | 댓글 1개