LLM 어떻게 이용하고 계시나요? 서점에 나가보고 유튜브를 둘러보면 다양한 사용 사례들이 보이는데요. 개발자들이 어떻게 사용하는지만 따로 잘 정리된 글은 어디 없나 했는데 "나의 AI 활용 방법" 이라는 글이 약 50개의 대화 사례를 통해서 프롬프트와 결과까지 공유합니다. 작성자는 프로그래머이면서 머신러닝을 공부하는 연구 과학자인데요. 실제로 자기가 1년간 LLM을 이용하면서 나온 결과들을 정리한 것이라 도움이 많이 됩니다. 결국엔 2가지로 카테고리화할 수 있다고 이야기하는데 하나는 "학습에 대한 도움"으로 이전에는 시간이 걸리거나 어려웠을 법한 일들을 할 수 있게 해주고, 다른 하나는 "지루한 작업 자동화"로 자신이 가장 잘하는 일에 집중할 수 있도록 잔가지 일을 처리해 주어서 결과적으로 더 어려운 문제를 해결할 수 있게 한다고 합니다. 내용을 꼭 읽어보시고, 이 외에 다른 활용도가 있다면 어떻게 사용하시는 지도 같이 공유해 주세요.
ㅤ
제가 1997년에 만들었던 웹페이지가 아직 Internet Archive에 남아 있는데요. 기본 HTML과 CSS 1(네 Level 1 맞아요)을 사용해서 작성된 것이라 현재의 웹페이지랑 별 차이가 없더군요. 제 프론트엔드 개발 실력이 늘지 않은 건가 생각도 들기는 하네요. 어쨌거나 요즘 웹 개발은 너무 복잡하고 어려워진 게 아닌가 생각이 들어요. "Plain Vanilla - 바닐라 기술로 웹 개발하기"는 별도의 빌드도구나 프레임워크를 사용하지 않고 웹 표준(순수 HTML/CSS/Javascript) 만으로 개발하는 것에 대해 소개합니다. 무조건 이렇게 해야 한다기 보다는, 표준만으로 대체할 수 있는 방법을 알아두는 것도 중요하다고 생각합니다.
ㅤ
AI가 변화시킬 분야 중에서 큰 것이 교육입니다. "AI가 어떻게 교육을 변화시킬까?" 글은 지난 100년간 큰 변화가 없었던 교실이 AI 때문에 많이 변경될 것이라고 주장하며, 이 상황에서 우리가 생각해 봐야 할 부분을 하나하나 짚어봅니다. 국내에서도 2025년 1학기부터 AI 디지털 교과서를 세계 최초로 도입하는 것에 대해 우려 섞인 기사를 본 거 같은데요. 분명히 AI에 기반한 개인화 교육이 미래라는 것은 동의하지만, 우리 AI 기술이 거기에 맞게 올라와 있나? 하는 걱정이 들기도 합니다. 그리고 공교육에 이런 개인화 교육을 적용해 버리면 과연 학교의 의미는 무엇이 될까요?
ㅤ
✓ Feedback : 긱뉴스 위클리 어떻게 읽고 계신가요? 의견과 제안 부탁드려요
✓ Ask GN - 다양한 질문을 올려주세요.
✓ Show GN - 직접 만드신 오픈소스나, 재직중인 스타트업의 제품/서비스를 소개해주세요
대규모 언어 모델(LLM)을 활용하여 연구 프로젝트와 개인 프로젝트에서 코드 작성 속도를 최소 50% 향상시키고, 지루한 작업을 자동화하여 생산성을 크게 높인 실제 사례들을 소개합니다.
LLM이 현재의 한계에도 불구하고 이미 많은 가치를 제공하고 있으며, 앞으로의 발전 가능성에 대한 기대와 우려를 함께 다루고 있습니다. LLM이 할 수 없는 일을 찾는 게 아니라, "할 수 있는 일"을 잘 찾아서 이용하는 사람이 승리자입니다.
빌드 도구나 프레임워크 없이 순수 HTML, CSS, JavaScript로 웹 사이트와 애플리케이션을 만드는 방법을 이야기 합니다. 이를 통해서 현대 웹 개발 프레임워크의 복잡성을 피하고 장기적인 유지 보수 없이 안정적인 웹 프로젝트를 구축하는 방법을 배울 수 있습니다. 모든 일에는 기초가 중요합니다. 기초부터 익혀두자고요.
지난 100년간 페니실린(1928), 컴퓨터(1943), 우주여행(1957), 인터넷(1983), CRISPR 유전자 편집(2012) 등 많은 혁신이 있었지만, 교육은 많이 변하지 않았습니다. AI가 바꿀 미래 교육에 대해 이야기 합니다.
"차세대를 규정할 기업은 차세대를 위해 삶을 개선하는 기업이 될 것"
이 책은 JavaScript를 사용한 WebGPU 그래픽 프로그래밍을 쉽게 배울 수 있는 무료 이북으로, 여러 그래픽 API의 공통 분모로서 상대적으로 간단하고 모든 플랫폼에서 사용 가능합니다. GPU 드라이버와 파이프라인 개요부터 시작해 기본 삼각형 그리기, 2D 및 3D 렌더링 기술, 고급 GPU 컴퓨팅까지 다루며, 최신 기술인 Gaussian Splatting을 통해 현실적인 3D 장면을 실시간으로 렌더링하는 방법을 배울 수 있습니다. 또한, 인터랙티브 웹 형식으로 제공되어 비디오, 링크, 온라인 플레이그라운드를 통해 학습 효과를 높여줍니다.
오리지널 vimtutor를 마친 사용자가 조금 더 고급의 VIM 명령과 기능을 학습할 수 있는 도구입니다. 오리지널과 마찬가지로 수정가능한 TXT 파일로 되어있어서 Step-by-Step 튜토리얼과 인터랙티브한 연습문제를 통해 실제 명령어를 입력하며 학습할 수 있습니다. 스플릿 화면, 철자 검사, 들여쓰기, 매크로, VIM 스크립팅 등 다양한 고급 기능을 다룹니다.
GitHub Models는 다양한 AI 모델을 무료로 제공하여 1억 명 이상의 개발자가 애플리케이션을 구축할 수 있게 합니다. Llama 3.1, GPT-4o, GPT-4o mini, Phi 3, Mistral Large 2 등 다양한 모델을 무료로 사용할 수 있습니다. Codespaces와 VS Code를 통해 모델을 쉽게 개발 환경에 통합하고, GitHub Models Playground에서 다양한 AI 모델을 쉽게 탐색하고 비교할 수 있습니다.
Age는 간단하고 현대적인 파일 암호화를 제공하며, 다양한 운영 체제에서 쉽게 설치할 수 있습니다. YubiKeys와 같은 하드웨어 PIV 토큰을 포함한 여러 플러그인을 지원하여 유연성을 높였습니다. 또한, 여러 프로그래밍 언어로 구현된 버전이 있어 다양한 개발 환경에서 활용할 수 있습니다.
LG AI 연구원이 공개한 EXAONE 3.0 7.8B 오픈소스 모델은 영어와 한국어 모두에서 뛰어난 성능을 자랑하며, 글로벌 Top 수준의 평가 결과를 보여줍니다. 이 모델은 경제성 측면에서도 큰 개선을 이루어, 비용을 6% 수준으로 절감하고 추론 처리 시간을 56% 감소시켰습니다. 또한, AI 윤리와 보안성을 고려한 연구개발 과정을 통해 투명성을 유지하며, AI 생태계 발전에 기여하고자 합니다.
SQLite용 벡터 검색 확장인 sqlite-vec은 매우 작고 "충분히 빠른" 성능을 자랑하며, float, int8, 바이너리 벡터를 저장하고 쿼리할 수 있습니다. 순수 C로 작성되어 종속성이 없고, 다양한 플랫폼에서 실행 가능하여 유연성이 뛰어납니다. 또한, rowid IN(...) 서브 쿼리를 통해 벡터를 Pre-filtering할 수 있어 효율적인 검색이 가능합니다.
Node.js 라이브러리를 카테고리별로 쉽게 찾을 수 있는 디렉토리입니다. 다운로드 수, 별점, 포크 수, 이슈 해결 비율, 연령 등 다양한 지표를 확인할 수 있습니다. 총 49개의 카테고리로 구성되어 있어 필요한 라이브러리를 효율적으로 찾을 수 있습니다.
RLHF는 LLM 학습의 중요한 단계 중 하나지만, 진정한 강화학습(RL)과는 차이가 있으며, AlphaGo와 같은 사례에서 RLHF가 적합하지 않음을 설명합니다. RLHF는 인간 평가자의 선호도를 반영하는 보상 모델을 사용하지만, 이는 실제 문제 해결보다는 인간이 좋아할 만한 응답을 평가하는 데 그칩니다. 그럼에도 불구하고 RLHF는 LLM 어시스턴트 구축에 유용하며, 특히 환각을 줄이는 데 도움이 될 수 있습니다.
전세계 65,437명의 개발자를 대상으로 하여, 최신 기술 트렌드와 개발자들의 학습 방법, AI 도구 사용 현황 등을 다룹니다. JavaScript, PostgreSQL, ChatGPT, Rust 등 인기 있는 기술과 도구들을 확인할 수 있으며, AI 도구의 사용이 개발 생산성에 미치는 영향도 분석합니다. 또한, 개발자들의 근무 환경과 연봉 정보도 포함되어 있어, 현재 개발자 커뮤니티의 전반적인 상태를 이해하는 데 유용합니다.
OpenAI의 새로운 기능인 구조화된 출력은 JSON 스키마에 맞춰 모델 출력을 정확히 일치시키는 기능을 제공하여 데이터 검색, 질문 응답, 데이터 추출 등 다양한 작업을 더 신뢰성 있게 수행할 수 있게 합니다. 또한, Python 및 Node SDK에서 네이티브로 지원되어 개발이 용이합니다. 기존의 복잡한 스키마를 더 잘 이해하도록 모델을 훈련시켰으며, 유효한 JSON만 생성하도록 제약된 디코딩 기술을 사용합니다.
독점적인 CUDA 런타임 없이 Nvidia GPU에서 CUDA 코드를 실행할 수 있게 해줍니다. 이 프로젝트는 GPU 메모리 관리와 CUDA ELF 바이너리 업로드 및 실행을 지원하며, MIT 라이선스로 제공됩니다. 현재는 기본적인 기능만 구현되어 있지만, 향후 발전 가능성이 큽니다.
Google과 Meta가 10대 사용자를 타겟으로 비밀 광고 거래를 맺어 Google의 규칙을 우회한 사실이 밝혀졌습니다. 이 사건은 빅테크 기업들이 여전히 신뢰할 수 없고 강력한 규제와 감독이 필요함을 보여주며, 특히 아동 프라이버시 침해 우려가 큽니다. 또한, Meta와 Google의 이러한 행태는 장기적으로 기업 이미지에 타격을 줄 수 있습니다.
Andrej karpathy가 구현한 nanoGPT 스타일의 Llama 3.1 버전은 의존성이 적고 간단한 아키텍처로 쉽게 훈련, 미세 조정 및 추론이 가능합니다. Meta와 HuggingFace 구현체보다 코드가 작고 효율적입니다. 현재 8B 기본 모델에 중점을 두고 있으며, 개발이 진행 중입니다.
Google 연구진이 AI 컴퓨팅 수요를 충족시키기 위해 개발한 TPU는 지난 10년간 성능과 효율성 면에서 큰 발전을 이루었습니다. TPU는 AI 모델 구축 및 실행에 최적화된 칩으로, 머신러닝 및 AI 혁신과 밀접하게 연계되어 있습니다. Google Cloud는 2018년부터 Cloud TPU를 제공하여 다양한 AI 팀들이 이를 활용하고 있으며, 향후 데이터센터 설계도 TPU 요구사항에 맞춰 변화할 예정입니다.
Airhart Aeronautics는 비행기를 조종하지 않는 사람들도 쉽게 비행할 수 있도록 설계된 최신 개인용 비행기를 개발하고 있습니다. 이 비행기는 높은 안전성을 유지하면서도 간단한 조작으로 비행할 수 있도록 fly-by-wire 제어 시스템과 다양한 안전 조치를 포함하고 있습니다. 또한, 비용 절감을 위해 자동차 부품을 활용하고, 사용자 친화적인 UI/UX를 통해 비행을 더욱 매력적이고 접근하기 쉽게 만들고 있습니다. 비행기 계기판은 왜 이렇게 복잡할까 했는데, 이런 시도가 있다는게 흥미롭네요. 4인승으로, 현재 $1000 내면 프리오더 가능하고, 2026년 1월 출시 예정으로 가격은 세전 $500K(6.8억원)입니다.
Proton의 새로운 VPN 프로토콜 Stealth는 인터넷 검열과 VPN 차단을 우회할 수 있어 자유로운 인터넷 사용을 보장합니다. Stealth는 기존 VPN 프로토콜의 한계를 극복하고 탐지를 거의 불가능하게 만들어, 전 세계 사용자들이 안전하게 온라인 활동을 할 수 있도록 돕습니다. 또한, Stealth는 모든 Proton VPN 플랜에서 사용 가능하며, 고성능을 유지하면서도 VPN Accelerator 기술과 호환됩니다. 특정 국가에는 도움이 되겠네요.
ISO20022.js는 은행 시스템과 ISO 20022 XML로 쉽게 통신할 수 있게 도와주는 Node 라이브러리입니다. 이 라이브러리는 SWIFT Credit Transfer를 지원하여 국가간 결제와 지불을 간편하게 처리할 수 있습니다. 또한 CAMT와 SEPA/Fednow Credit Transfer 기능도 개발 중이어서 다양한 금융 거래에 활용될 수 있습니다. 개발자가 직접 와서 댓글을 남겨주었네요. 해외 오픈소스 개발자들은 레퍼러 체크도 열심인듯 ㅎㅎ
거대언어모델의 환각현상을 해결하기 위한 다양한 방법론을 소개하며, 특히 RAG와 그 한계를 보완하는 GraphRAG에 대해 다룹니다. 각 방법론의 장단점을 비교하여 독자들이 자신에게 맞는 접근법을 선택할 수 있도록 돕습니다. 또한, 최신 정보와 관련된 맥락을 제공하는 기술의 중요성을 강조합니다.
SQLite 기반의 가벼운 분산 데이터베이스인 rqlite의 9.0 버전은 디스크 사용량을 약 50% 줄이는 것을 목표로 하며, 이를 위해 스냅샷 사본을 제거하는 고수준 설계 개편을 도입합니다. 새로운 "참조 스냅샷" 접근 방식은 스냅샷 생성 속도를 높이고 노드 재시작 시간을 단축시켜 시스템의 효율성을 크게 향상시킵니다. 이 업데이트는 rqlite의 성능 최적화와 디스크 사용량 절감에 중요한 발전을 가져올 것입니다.
npm에 Tea 프로토콜과 관련된 스팸 패키지가 급증하여, 2024년 2분기 동안 새로 등록된 패키지의 70% 이상이 스팸으로 추정됩니다. Tea 프로토콜은 오픈 소스 기여에 대해 암호화폐로 보상하는 시스템으로, 개발자들이 기여를 과장하도록 유도하고 있는데요. 이러한 스팸 패키지는 오픈 소스 생태계를 오염시키고, AI 모델의 학습 데이터를 왜곡시킬 수 있으며, 실제 악성 패키지가 숨겨질 수 있는 환경을 조성합니다. 문제 해결을 위해서는 에코시스템 차원의 접근과 협력이 필요하며, 데이터 품질 관리와 검증에 대한 가이드라인 마련이 시급합니다.
AMD Ryzen 5 9600X와 Ryzen 7 9700X는 단일 스레드 Linux 작업에서 Intel의 14세대 Core를 능가하는 성능을 보여줍니다. 약 400개의 벤치마크 결과에서 인상적인 성능과 경쟁력 있는 가격을 자랑하며, Linux 호환성도 뛰어납니다. 게이밍, AI 작업, 소프트웨어 개발 등 다양한 작업에서 우수한 성능과 전력 효율성을 제공합니다.
이 보고서는 AI의 역사와 현재 상황을 이해하는 데 도움을 주며, AI에 대한 다양한 관점과 논쟁을 다룹니다. 또한, AI의 내부 작동 원리와 공상과학 영화가 AI에 미치는 영향을 설명합니다. 마지막으로, AI에 대한 논쟁의 중요성과 그 이유를 심도 있게 분석합니다.
CSS는 2009년 CSS3 발표 이후 많은 발전을 이루었으며, CSS-Next 커뮤니티 그룹은 최신 CSS 기능에 대한 이해를 높이고자 노력하고 있습니다. 이 그룹은 CSS 기능을 쉽게 이해할 수 있도록 CSS4, CSS5 등으로 그룹화하고, 커뮤니티 교육을 중점적으로 다룹니다. 앞으로 CSS5 시대가 시작될 가능성이 높으며, 누구나 CSS-Next 그룹에 참여해 아이디어를 공유할 수 있습니다. 매년 숫자가 올라가는 아이폰 때문에 메이저 버전 번호 변경이 크게 느껴지지 않지만, 앞에 1997년에 CSS 1 썼었다고 이야기 했는데, 이제 5시대가 열리니 약 30년이 걸린 거네요.
Puppeteer가 Firefox를 정식으로 지원하게 되어 Chrome과 Firefox에서 자동화 및 엔드 투 엔드 테스팅을 쉽게 수행할 수 있습니다. WebDriver BiDi 기반의 크로스 브라우저 프로토콜을 사용하여 향후 더 많은 브라우저를 지원할 수 있는 가능성을 열어줍니다. Firefox의 실험적인 CDP 지원이 중단되고 WebDriver BiDi로 전환됨에 따라, 더 표준화된 자동화 기능을 제공하게 됩니다.
구글이 애플 등과의 계약을 통해 스마트폰 검색 시장을 불법적으로 독점한 것으로 판결되어, 이는 20년 만에 대형 기술 기업을 상대로 한 첫 반독점 소송 승소 사례입니다. 이번 판결로 인해 구글의 시장 지배력에 제동을 주게 될지, 이 덕분에 소비자들에게 더 나은 서비스와 합리적인 가격이 제공될 가능성이 있을지 궁금합니다. 또한, 이 판결은 다른 빅테크 기업들에게도 경종을 울리며, 시장 독점과 불공정 행위에 대한 규제가 강화될 수도 있을 듯 합니다.
Mandala는 ML 실험 추적을 자동화하고, 지속성, 쿼리 및 버전 관리를 쉽게 할 수 있도록 돕는 Python 프레임워크입니다. @op 데코레이터와 ComputationFrame 데이터 구조를 사용하여 코드 오버헤드를 줄이고, 효율적인 반복적 개발과 고수준 계산 그래프를 자동으로 구성합니다. 이를 통해 사용자는 복잡한 ML 실험을 간편하게 관리하고, 과거 결과를 재사용하며, 변수 간의 관계를 쉽게 쿼리할 수 있습니다.
Stack Auth는 개발자 친화적인 완전 오픈 소스 "사용자 인증 솔루션"으로, 빠르게 시작할 수 있으며 프로젝트 성장에 따라 모든 기능을 그대로 이용할 수 있습니다. Next.js 프론트엔드와 REST API를 지원하여 다양한 백엔드와 호환 가능하며, 사용자 관리, 역할 기반 접근 제어, OAuth 연결 등 다양한 기능을 제공합니다. 또한, 매니지드 서비스는 선택 사항으로 언제든지 사용자 데이터를 내보내고 무료로 자체 호스팅할 수 있어 유연한 운영이 가능합니다.
Raspberry Pi Pico 2는 성능과 보안이 크게 향상된 새로운 마이크로컨트롤러 보드로, 더 빠른 코어와 두 배의 메모리를 제공하며 다양한 파트너와 협력하여 여러 제품을 개발 중입니다. RP2350 칩은 서명된 부트와 같은 강력한 보안 기능을 갖추고 있어 코드 보호를 강화합니다. 기존 Pico와 호환되며, 무선 기능을 갖춘 모델도 연말까지 출시될 예정입니다.
Apple이 macOS에서 OCSP 서비스와 관련된 약속을 지키지 않아 사용자들의 신뢰를 저버린 사례를 이야기 합니다. 남몰래 발표한 내용을 수정해버린, 프라이버시 보호와 관련된 Apple의 약속 파기에 대한 비판적 시각을 제시하며, 사용자가 직접 방화벽을 설정해 개인 정보를 보호해야 하는 필요성을 강조합니다. Little Snitch와 같은 방화벽 소프트웨어를 사용해 개인 정보를 보호하는 방법도 소개합니다.
Firefox의 Nightly 131버전에서는 사이드바와 버티컬 탭 기능이 추가되어 브라우징과 생산성을 크게 향상시킬 수 있습니다. 이 기능들은 컨텍스트 전환과 멀티태스킹을 매끄럽게 만들어주며, 모바일 폰의 탭, 확장 프로그램, 북마크 등을 빠르게 참조할 수 있게 해줍니다.
OpenAI 공동 창업자 John Schulman이 AI 스타트업 Anthropic에 합류하면서 AI 산업 내 경쟁이 더욱 치열해지고 있습니다. 요즘 OpenAI 리더급들의 이동이 좀 잦은 듯합니다. 유명세에 따르는 진통일까요?
Character.AI의 CEO Noam Shazeer가 Google로 복귀, Google DeepMind 팀에 합류하게 되어 AI 연구에 큰 기여를 할 것으로 기대됩니다. Google과 Character.AI 간의 비독점 라이선스 계약을 통해 Character.AI는 더 많은 자금을 확보하고, 개인 맞춤형 AI 제품 개발에 집중할 수 있게 되었습니다. 또한, AI 분야의 변화로 인해 Character.AI는 자체 모델과 타사 LLM을 활용하여 더 나은 제품 경험을 제공할 수 있는 기회를 얻게 되었습니다.
댓글에 정리된 Simon Wilison의 의견도 참고 하세요.
"제 해석은 Character.AI가 제품을 지원하기 위해 처음부터 자체 기반 모델을 학습시킬 필요가 없다는 것을 깨달았다는 것입니다. 다른 회사에서 학습시킨 LLM을 사용하면 더 저렴하고 빠르며 아마도 더 나은 제품을 만들 수 있습니다(API를 통한 GPT-4o/Claude/Gemini일 수도 있고, 자체 호스팅된 Llama 3.1일 수도 있습니다). 더 이상 파운데이션 모델을 양성하지 않는다면 Noam Shazeer와 같은 인재의 재능은 그다지 중요하지 않습니다. 대신 제품 개발에 집중해야 합니다."
구글이 11년 동안 1억대 이상 판매된 크롬캐스트의 생산을 중단하고, 더 발전된 기능을 갖춘 "Google TV Streamer"를 출시했습니다. 이 새로운 기기는 AI, 엔터테인먼트, 스마트 홈 기능을 결합하여 사용자들에게 더 나은 경험을 제공하며, 기존 크롬캐스트 사용자들을 위한 지속적인 소프트웨어 지원도 계획하고 있습니다. 물론, Apple TV와 Amazon Fire TV와의 경쟁 속에서 차별화된 기능과 생태계 구축이 가능할 지가 중요한 과제입니다. 이참에 Nvidia Shield를 뛰어넘을 제품을 만들어주면 좋을텐데 말이죠.
USPS 스캠 텍스트 메시지를 역으로 해킹하여 스캐머의 정보를 추적하는 과정을 상세히 설명합니다. 독자는 스캐머의 도메인과 지역을 확인하고, 웹 소켓 통신과 PHP 파일 분석을 통해 취약점을 발견하는 방법을 배울 수 있습니다. 또한 SQL 인젝션을 통해 스캐머의 데이터베이스에 접근하여 정보를 빼내는 과정도 소개합니다. 국내에도 이런 스팸 메시지 많던데 똑같이 적용해보면 가능하려나요?
✓ 사내 커뮤니케이션 도구에 GeekNews Bot을 추가해서 멤버들과 함께 새 글을 받아보세요
ㅤ→ Slack봇, 잔디봇, Teams봇, Discord봇, 구글 챗 봇, Swit 봇
✓ Teams 봇이 Microsoft의 정책 변경으로 새 버전으로 업데이트 되었습니다. 기존 Teams 사용자분들은 재 설치 부탁드립니다.
✓ 긱뉴스는 RSS로도 구독 가능합니다
✓ 주위분들께 긱뉴스 위클리 - https://news.hada.io/weekly 뉴스레터를 추천해 주세요.