GeekNews Weekly

초기에는 커뮤니티와 친구들을 통해 사용자 기반을 확장하고, 트렌드 관찰을 통해서 본격적으로 홍보를 시작했습니다. 그리고, 트위터에서의 긍정적인 반응을 통해 사용자가 급증하며 기술적 문제를 겪었지만, 이를 극복하고 수익화 모델을 도입하여 지속적인 성장을 이루어냈습니다. 성공의 핵심은 기술 단순화, 고객과의 지속적인 대화, 비용 절감이라는 세 가지 원칙을 일관되게 유지한 데 있습니다.

R1은 o1과 유사한 성능을 제공하면서도 약 30배 저렴하고 오픈 소스로 제공되어 많은 사람들이 쉽게 접근할 수 있는 점에서 큰 의미가 있습니다. 추론 모델은 에이전트와 혼동될 수 있지만, 실제로는 의사 결정 및 상호작용 기능을 제공하기 위해 소프트웨어가 필요하며, R1은 단순한 강화 학습 방식을 통해 충분한 추론 성능을 달성할 수 있음을 보여주었습니다. AI의 발전은 사전 학습의 한계를 넘어 추론 스케일링, 모델 다운사이징, 강화 학습 및 모델 증류를 통해 계속 가속화될 것으로 보입니다.

교황청 신앙교리성과 문화교육성이 공동 발표한 문서 "Antiqua et Nova"는 인공지능(AI)과 인간 지능의 관계에 대한 인류학적 및 윤리적 도전을 다루며, AI의 발전이 인간의 존엄성과 공동선에 미치는 영향을 심도 있게 성찰합니다. 문서는 AI가 인간 지능을 모방하고 새로운 산출물을 생성할 수 있는 능력으로 인해 공적 영역에서 진실성 위기를 초래할 수 있으며, 윤리적 책임과 인간 안전에 관한 근본적인 질문을 제기한다고 경고합니다. 또한, AI의 윤리적 사용을 위해 인간의 도덕적 책임과 AI의 활용 목적을 명확히 하고, AI가 인간의 존엄성과 공동선을 증진하는 방향으로 발전해야 한다고 강조합니다.

2024년 11월에 소개된 무료 Rust 프로그래밍 책이 업데이트 되어서, 함수형 프로그래밍, Cargo 사용법, 토이 프로젝트 챕터가 추가되었으며, 몇 가지 예제 및 테스트 코드도 보강되었습니다.

이 글은 임베딩과 정보 검색의 전 과정을 다루며, 임베딩의 개념과 한계, 데이터셋 생성 및 라벨링, 다양한 검색 모델 평가, 하이브리드 검색 및 리랭킹, 임베딩 모델의 파인튜닝과 최적화, 그리고 해석 가능한 신경망 검색 구현에 대해 설명합니다. 또한, 인간과 LLM을 활용한 데이터셋 구축, 긴 컨텍스트 임베딩 모델에서의 청크 처리 여부, 상용 SaaS 검색 서비스 평가 등도 포함됩니다.

PdfDing은 PDF를 관리, 보기, 편집할 수 있는 셀프 호스팅 웹 애플리케이션으로, 데스크톱 및 모바일 기기에서 원활한 열람이 가능합니다. 다중 기기에서의 심리스한 PDF 보기, 읽던 위치 기억, 다중 레벨 태그 관리, 주석 및 하이라이트 추가, 다양한 테마 지원 등을 지원합니다. 그외에 PDF 공유, 사용자별 업로드, 자동화된 S3 백업 등 다양한 편의 기능도 제공합니다.

매일 해야 할 일을 습관으로 만들기 위한 웹앱으로 셀프 호스팅이 가능합니다. 각 습관에 대해 월간, 3개월, 연간 단위로 연속 기록을 확인할 수 있으며, Python과 SQLite로 개발되었습니다. 또한, 사용자들이 만든 확장을 통해 Stream Deck, Apple Shortcut, Home Assistant와 같은 다양한 도구와 연동하여 사용할 수 있습니다.

이도건 님이 Command-line interface guideline을 한국어로 번역하여 공유하였습니다. 번역본의 소스 코드는 GitHub 저장소에서 확인할 수 있습니다.

DeepSeek에서 공개한 멀티모달 오픈소스 AI 모델 Janus-Pro는 이미지 생성 및 이해가 가능한 모델로, 1B와 7B 두 가지 버전을 제공합니다. 이 모델은 벤치마크 테스트에서 DALL-E 3와 Stable Diffusion을 능가하는 성능을 보였습니다.

ByteStash는 개인용 코드 스니펫을 저장, 구성, 관리할 수 있는 셀프 호스팅 웹 애플리케이션입니다. 사용자는 직관적인 인터페이스를 통해 스니펫을 쉽게 추가 및 수정할 수 있으며, SQLite 데이터베이스에 안전하게 저장된 스니펫은 사용자만 접근할 수 있습니다. 또한, 프로그래밍 언어나 키워드로 스니펫을 필터링하여 필요한 코드를 빠르게 검색할 수 있으며, Docker-compose를 통해 간편하게 셀프 호스팅이 가능합니다.

Slink는 사용자에게 미디어 공유에 대한 완전한 제어권을 제공하는 셀프 호스팅 이미지 공유 플랫폼입니다. 이 플랫폼은 다양한 이미지 형식을 지원하며, 사용자 등록 및 관리자의 승인 후 이미지를 업로드할 수 있습니다. 또한, 로컬 및 클라우드 스토리지를 지원하고, 관리자용 통계 대시보드와 공용 API를 제공합니다.

Pinchflat은 yt-dlp를 기반으로 한 경량의 셀프 호스팅 YouTube 콘텐츠 다운로드 앱으로, YouTube 채널 및 재생목록에서 콘텐츠를 자동으로 다운로드하고 Plex, Jellyfin, Kodi와 같은 미디어 센터 앱과 통합됩니다. 이 앱은 단일 Docker 컨테이너로 동작하며, 사용자 친화적인 웹 인터페이스를 통해 빠르게 시작할 수 있고, RSS 피드를 제공하여 팟캐스트 앱과의 통합도 가능합니다. 또한, 특정 날짜 이후의 콘텐츠 필터링, 유튜브 쿠키를 통한 개인 재생목록 다운로드, SponsorBlock 통합 등 다양한 고급 옵션을 지원합니다.

DeepSeek-R1은 OpenAI의 o1 Reasoning 모델과 유사한 성능을 보이는 오픈소스 모델로, 원래 720GB의 모델을 131GB로 축소하여 80% 크기 감소를 달성했습니다. 이 모델은 동적 양자화 기법을 사용하여 일부 레이어는 높은 비트로 유지하고 대부분의 MoE 레이어는 1.58bit로 처리하며, 다양한 양자화 버전이 제공됩니다. Flappy Bird 게임 생성 기준으로 성능을 평가한 결과, 1.58bit 동적 양자화 모델은 비동적 양자화 모델에 비해 더 나은 점수를 기록했습니다.

데이터 관리 분야에서 Lakehouse 아키텍처가 클라우드 스토리지와 실시간 분석 수요 증가로 주목받고 있으며, Apache Iceberg, Apache Hudi, Delta Lake가 핵심 기능을 제공해 왔습니다. Google의 Napa는 LSM 기반의 머티리얼라이즈드 뷰와 Queryable Timestamp를 통해 데이터 최신성과 성능을 조절하며, LakeDB는 Napa와 Apache Pinot의 아이디어를 결합해 더 통합적이고 유연한 데이터 관리 솔루션을 제안합니다. LakeDB는 스토리지, 적재, 메타데이터, 쿼리 처리를 통합하여 사용자 요구에 맞춰 자동으로 최적화하며, 차세대 데이터 관리 아키텍처로 발전할 가능성이 큽니다.

SmolGPT는 교육 목적으로 설계된 PyTorch 기반의 간단한 LLM 훈련 프로젝트로, 최신 아키텍처와 효율적인 샘플링 기법을 포함하고 있습니다. 이 프로젝트는 최소한의 코드베이스로 구현되었으며, 혼합 정밀도, 그래디언트 누적, 웜업을 통한 학습률 감소 등의 훈련 기능을 제공합니다. TinyStories 데이터셋을 지원하며, SentencePiece 토크나이저 훈련이 통합되어 있습니다.

다리오 아모데이는 DeepSeek의 V3와 R1 모델의 성능이 과장되었다고 주장하며, AI 발전의 세 가지 동력으로 스케일링 법칙, 비용-성능 곡선의 이동, 패러다임의 전환을 설명했습니다. DeepSeek 모델은 미국 회사들의 수십억 달러 모델과 비교해 과장된 성능 소문이 있지만, 실제로는 현재의 발전 추세를 벗어나지 않는 수준입니다. 또한, 미국과 중국 간의 AI 개발 경쟁과 수출 규제가 향후 AI 기술 발전에 큰 영향을 미칠 것으로 예상됩니다.

DeepSeek-R1은 OpenAI의 o1 모델과 유사하거나 더 나은 성능을 보이며, 순수 강화 학습을 통해 인간의 감독 없이 추론하는 방법을 학습한 모델입니다. Open-R1 프로젝트는 DeepSeek-R1의 데이터와 훈련 파이프라인을 재구성하여 강화 학습이 추론을 어떻게 향상시키는지에 대한 투명성을 제공하는 것을 목표로 합니다. 이 프로젝트는 R1-Distill 모델 재현, R1-Zero의 순수 RL 학습 파이프라인 복제, 단계별 학습 과정 구축 등을 포함한 단계별 계획을 가지고 있으며, 커뮤니티와의 협력을 통해 통찰을 공유하는 데 중점을 둡니다.

GoDoxy는 경량이면서도 성능이 뛰어난 리버스 프록시로, 웹 UI와 대시보드를 제공하여 사용자 친화적인 환경을 제공합니다. 자동 SSL 인증서 관리, Docker 컨테이너 자동 구성, 핫 리로드 기능을 통해 효율적인 운영이 가능하며, HTTP(S) 리버스 프록시 및 TCP/UDP 포트 포워딩을 지원합니다. 또한, 다양한 플랫폼에서 사용 가능하며, Go 언어로 작성되었습니다. 약간 우려섞인 댓글이 있었는데 제작자 분이 직접 오셔서 답변을 달아주셨네요. 긱뉴스에서 꽤 많은 트래픽이 갔다고 합니다.

DeepSeek-R1은 자동 코드 생성 및 최적화에서 뛰어난 성능을 보여서, 이를 통해 llama.cpp 프로젝트에서 WASM 속도를 2배 향상시키는 데 기여했습니다. R1의 제안으로 SIMD 명령어를 활용하여 내적 함수를 최적화한 결과, WebAssembly 기반 애플리케이션의 실행 속도가 크게 개선될 것으로 기대됩니다. DeepSeek-R1은 OpenAI O1과의 성능 비교에서 더 우수한 결과를 보여주었습니다.

OpenAI o3-mini는 STEM 분야에서 뛰어난 성능을 보이며, 이전 모델인 o1-mini보다 낮은 비용과 지연 시간을 유지합니다. 이 모델은 함수 호출, 구조화 출력, 개발자 메시지를 지원하며, 다양한 API에서 사용 가능하고, 무료 사용자에게도 접근성을 제공합니다. 또한, o3-mini는 더 빠른 응답 속도와 향상된 안전성을 제공하며, AI의 대중적 채택을 위해 비용 효율적인 발전을 목표로 하고 있습니다.

Pocket ID는 Passkey 인증을 통해 사용자가 비밀번호 없이 안전하게 로그인할 수 있도록 돕는 간단한 OIDC 제공자입니다. Keycloak이나 ORY Hydra보다 더 간단하고 사용하기 쉬운 것을 목표로 하며, Yubikey 같은 물리적 보안 키와 호환됩니다. WebAuthn API를 사용하므로 HTTPS로 서빙되어야 하며, Node.js, Go, PM2, Caddy(옵션)으로 구성됩니다.

MiceWine 프로젝트는 Android 스마트폰에서 Windows 애플리케이션과 게임을 실행할 수 있도록 하는 에뮬레이터입니다. 이 프로젝트는 Android 및 Box64용으로 컴파일된 맞춤형 Wine 빌드를 사용하고, Termux-X11 기반의 XServer를 활용합니다. Android 10 이상에서 실행 가능하며 Adreno, Xclipse, Mali GPU를 지원합니다.

Postiz는 Buffer, Hypefury 등의 셀프호스트 가능한 대체제로, 다양한 소셜 미디어 플랫폼에서 포스팅을 스케줄링할 수 있습니다. 또한, 분석 도구를 통해 성과를 분석하고, 팀 멤버와 협업하여 포스트를 교환하거나 구매할 수 있습니다. 기술적으로는 NX, NextJS, NestJS, Prisma, Redis, Resend 등을 활용하여 구축되었습니다.

Beszel은 경량의 셀프호스트 서버 모니터링 플랫폼으로, Docker 통계, 이력 데이터, 알림 기능을 제공하며 직관적인 웹 인터페이스와 간단한 설정으로 쉽게 사용할 수 있습니다. 주요 기능으로는 멀티 사용자 지원, OAuth 인증, 자동 백업, REST API 액세스 등이 있으며, 각 컨테이너의 CPU, 메모리, 네트워크 사용 이력을 추적하고 사용자 정의 알림을 설정할 수 있습니다. 아키텍처는 Hub와 Agent로 구성되어 있으며, 다양한 시스템 메트릭을 지원하여 효율적인 모니터링을 가능하게 합니다.

9살 아들의 1형 당뇨병 관리를 위해 직접 스마트워치를 제작한 부모의 후기로, 단순하고 신뢰할 수 있는 CGM 데이터 제공과 학교 생활에 방해되지 않는 디자인을 목표로 삼았습니다. 초기에는 BLE 연결 문제와 배터리 수명 최적화 등의 기술적 도전을 겪었으며, 최종적으로 6-7일의 배터리 수명을 가진 스마트워치를 완성하여 아들의 혈당 인식을 개선했습니다. 이 과정에서 하드웨어 개발의 어려움과 배운 점을 바탕으로, 오픈 소스로 프로젝트를 진행할 가능성을 고려중이라고 하네요

OpenAI는 중국 AI 스타트업 DeepSeek이 자사의 독점 모델을 사용해 오픈소스 경쟁 모델을 훈련했다는 증거를 발견했다고 밝혔으며, 이는 자사 서비스 약관을 위반한 행위라고 주장합니다. DeepSeek은 대형 모델의 출력을 활용해 작은 모델을 효과적으로 훈련하는 "지식 증류" 기법을 사용한 것으로 의심받고 있으며, OpenAI와 Microsoft는 관련 계정을 조사하고 차단했습니다. OpenAI는 IP 보호를 위해 모델의 기능 공개를 신중히 결정하고 있으며, 기술 유출 방지를 위해 미국 정부와 협력하고 있습니다.

Sublime Text는 2008년에 출시된 이후 빠른 속도와 효율성으로 많은 현대적인 GUI 기반 에디터들에게 영감을 주었으며, 여전히 대용량 파일 처리에 강점을 보입니다. 이 에디터는 LSP를 통해 코드 자동 완성 및 호버 정보 등 현대적인 기능을 제공하며, 프로젝트별 작업 공간과 다양한 빌드 시스템을 지원하여 사용자에게 유연한 환경을 제공합니다. 또한, 멀티플 커서, 다양한 스니펫 기능, 키/마우스 바인딩 등 다양한 기능을 갖추고 있어 2025년에도 강력한 에디터로 자리매김하고 있습니다.

OpenAI의 o3-mini 모델은 일부 평가 지표에서 GPT-4o 및 o1보다 우수한 성능을 보이며, 특히 경쟁 프로그래밍 성능에서 두각을 나타냅니다. 이 모델은 저렴한 비용으로 장문 입력 및 출력을 처리할 수 있어 번역 작업 등에 유리하며, 최대 입력 토큰 200,000개와 출력 토큰 100,000개를 지원합니다. 그러나 비전 기능은 지원하지 않으며, 긴 텍스트 번역 시 후반 품질 저하가 발생할 수 있습니다.

DeepSeek의 R1-Zero와 R1 시스템은 OpenAI의 o1 시스템과 유사한 ARC-AGI-1 점수를 기록하며 주목받고 있으며, 특히 R1-Zero는 인간의 직접 레이블링 없이 강화학습만으로 학습하여 미래적 가치가 크다고 평가받고 있습니다. AI 산업은 LLM의 단순 확장보다는 새로운 문제에 적응할 수 있는 AI 시스템 연구를 장려하고 있으며, R1-Zero는 인간 의존 없이 스스로 학습 데이터를 생성할 수 있는 가능성을 보여줍니다. AI 시스템의 추론 수요가 증가함에 따라 시장 재평가가 지속될 것으로 보이며, R1-Zero와 R1의 공개는 AI 발전에 큰 기여를 할 것으로 기대됩니다.

Qwen2.5-1M은 1백만 토큰까지 지원하는 고성능 오픈소스 모델로, Qwen2.5-Turbo를 향상시킨 버전입니다. 이 모델은 장문 및 단문 작업에서 뛰어난 성능을 보이며, 특히 Qwen2.5-14B는 GPT-4o-mini와 비교해도 높은 성능을 유지합니다. 또한, 희소 주의집중 기법과 Dual Chunk Attention을 통해 메모리 사용량을 절감하고, 1M 토큰 길이에서 빠른 추론 속도를 제공합니다.

구글은 Pebble 스마트워치의 소스 코드를 공개하여 자원봉사자들이 Pebble 시계를 계속 지원할 수 있도록 돕고자 합니다. 공개된 소스 코드는 대부분의 표준 스마트워치 기능을 제공하지만, 일부 독점 코드가 제거되어 그대로 컴파일하거나 링크할 수는 없습니다. 이번 공개는 Rebble 프로젝트 커뮤니티와 자원봉사자들이 Pebble 시계 지원을 이어가는 데 도움이 되기를 기대하고 있으며, 새로운 펌웨어 업데이트를 위해서는 상당한 작업이 필요합니다.

Kronotop은 Redis 호환 방식으로 동작하는 분산형 트랜잭션 문서 데이터베이스로, FoundationDB를 메타데이터 및 스토리지 관리에 활용합니다. 이 시스템은 MQL과 유사한 쿼리 언어와 ACID 트랜잭션을 지원하며, Primary-Standby 복제 모델을 갖춘 디스크 기반 스토리지 엔진을 목표로 하고 있습니다. 향후 계획으로는 JSON-like 문서를 저장할 수 있는 Bucket 데이터 구조를 설계하고, Redis의 일반적인 자료구조를 점진적으로 지원할 예정입니다.

Mistral AI 팀은 24B-파라미터 모델인 Mistral Small 3를 Apache 2.0 라이선스로 출시하였으며, 이 모델은 Llama 3.3 70B와 같은 더 큰 모델과 경쟁할 수 있습니다. Mistral Small 3는 로컬 배포에 적합하고, 빠른 응답과 저지연 함수 호출 등 다양한 사용 사례에 활용될 수 있습니다. 또한, 이 모델은 다양한 플랫폼에서 제공되며, 향후 더 작은 모델과 큰 모델의 출시가 예정되어 있습니다.

Apple은 T-Mobile 및 SpaceX와 협력하여 iPhone 소프트웨어에 Starlink 네트워크를 지원하기 시작했으며, 이는 기존 Globalstar 위성 통신 기능과 차별화됩니다. Starlink 기능은 특별한 조정 없이 자동으로 위성 연결을 시도할 수 있어, 셀룰러 신호가 닿지 않는 지역에서도 문자 메시지 전송이 가능합니다. 현재 미국에서 일부 iPhone 사용자에게 베타 테스트가 진행 중이며, 향후 데이터 전송과 음성 통화로 기능이 확장될 계획입니다.

Nvidia는 AI와 딥러닝 기술의 성장에 힘입어 높은 마진과 확장 가능한 시장을 바탕으로 독보적인 위치를 차지하고 있습니다. 그러나 Cerebras, Groq와 같은 하드웨어 경쟁자들과 주요 고객들의 자체 칩 개발, 그리고 DeepSeek의 효율성 혁신 등으로 인해 Nvidia는 다양한 경쟁 위협에 직면해 있습니다. 이러한 경쟁과 산업 구조의 변화로 인해 Nvidia의 현재 높은 밸류에이션을 유지하기 어려울 수 있으며, 투자자들은 기술적 우위와 시장 성장 가능성을 긍정적으로 평가하면서도 리스크를 주의 깊게 관찰해야 합니다.