Anthropic, Claude에게 "왜"를 가르치다 - 정렬 훈련(Alignment Training) 개선 사례

(anthropic.com)

Anthropic이 작년 공개했던 에이전트 정렬 실패(agentic misalignment) 연구 - 모델이 셧다운을 피하기 위해 엔지니어를 협박하는 등의 행동을 보...

1 point by princox 5분전 | 댓글과 토론

▲

DeepSeek-TUI - 터미널에서 실행되는 DeepSeek 모델용 코딩 에이전트

(github.com/Hmbown)

DeepSeek V4 모델 기반 터미널 코딩 에이전트로, 파일 편집·셸 실행·Git 관리·웹 검색·서브 에이전트 조율을 키보드 중심 TUI에서 수행 --model au...

1 point by xguru 53분전 | 댓글과 토론

▲

goshs - 개발자를 위한 다기능 단일 바이너리 파일 서버

(github.com/patrickhener)

python3 -m http.server의 한계를 넘어, 단일 바이너리 하나로 HTTP/S, WebDAV, SFTP, SMB, LDAP/S 등 다양한 프로토콜을 즉시 구동 가능한 파일 ...

5 points by xguru 1시간전 | 댓글 1개

▲

Rust 백엔드 DB 라이브러리 4종 비교

(aarambhdevhub.medium.com)

Rust로 백엔드를 제대로 만들어본 사람이라면 한 번쯤 이 벽에 부딪혔을 것이다. 데이터베이스가 필요한 순간, 네 개의 라이브러리가 각자의 철학...

13 points by vtrapplepie 12시간전 | 댓글 2개

▲

Claude Code, 여러 에이전트를 한 화면에서 관리하는 'Agent View' 공개

(code.claude.com)

시연 영상 > claude agents 한 줄로 백그라운드 Claude Code 세션들을 한 화면에서 발사·감시·응답 각 세션은 터미널 없이도 살아남음 → superviso...

8 points by princox 13시간전 | 댓글과 토론

▲

Claude Code 에도 /goal 기능 추가

(code.claude.com)

Claude Code에 목표 기반 자동 반복 실행 기능인 /goal 추가 목표가 완료될 때까지 Claude가 여러 턴을 자동으로 이어서 실행 각 턴 종료 후 fast ...

14 points by sikbrad 17시간전 | 댓글 6개

▲

Mini Shai-Hulud의 귀환: npm 생태계를 강타한 자가 전파형 공급망 공격 (5/11)

(stepsecurity.io)

개요 Mini Shai-Hulud 웜이 CI/CD 파이프라인을 탈취하고 개발자의 시크릿(비밀 정보)을 훔치는 방식으로 정상적인 npm 패키지들을 활발하게 감염...

3 points by lamanus 18시간전 | 댓글 1개

▲

Ask GN: 한국어 다중화자 구분을 잘하는 모델이 있을까요??

Open AI의 Whisper 도 써보고, NCP의 Clova도 써봤는데, 한국어 다중화자 구분이 생각보다 많이 어려운거 같아요. 혹시 사용해보신 로컬 or 클라우...

1 point by somang04 24시간전 | 댓글 3개

▲

Rapid-MLX - Apple Silicon 전용 초고속 로컬 AI 엔진

(github.com/raullenchai)

애플 실리콘 맥에서 로컬 AI 모델을 구동하는 추론 엔진으로, Apple의 MLX 프레임워크 기반 네이티브 Metal 컴퓨트 커널 활용 Ollama 대비 최대 4....

21 points by xguru 1일전 | 댓글 3개

▲

zero-native - Zig와 웹 UI로 데스크톱 + 모바일 앱 빌드

(github.com/vercel-labs)

Vercel Labs가 공개한 Zig 기반 데스크톱 앱 셸로, 웹 프론트엔드를 맥/윈/리눅스용 네이티브 앱으로 만드는 프레임워크 시스템 WebView 사용 시 ...

15 points by xguru 1일전 | 댓글 7개

▲

결정론적 아키텍처 : 할루시네이션의 확률적 편차를 통제하여, 무한한 연속성을 보장하는 기호적 통제 ...

(brunch.co.kr/@afa9103cb078474)

📌 요약 : 최근 글로벌 AI 씬을 지배하는 '에이전트 워크플로우(Agentic Workflow)'와 'LLM-as-a-Judge 기반의 자율 교정'은 과연 충분한 상업성을...

1 point by longnightbebe 1일전 | 댓글 7개

▲

LoPE: 무작위 라틴어 텍스트를 앞에 붙이면 LLM 추론이 향상된다! (arXiv 논문)

(dev.to)

LoPE는 RL 훈련 시 프롬프트 앞에 Lorem ipsum dolor sit amet ... 을 삽입하는 기법. 어려운 문제에서 모든 샘플이 실패하면 학습 신호가 0이 되...

14 points by taekim34 1일전 | 댓글 12개

▲

Ask GN: AI끼리 대화하는 환경에서 사람이 개입하는 서비스에 대해서 어떻게 생각하시나요?

저는 AI 응답을 더 잘 만드는 방법을 계속 고민해봤는데 대부분의 사람들은 AI와의 채팅에서 피드백을 주거나 수정해주는 일을 굉장히 귀찮아하는 ...

1 point by lyc2004y 1일전 | 댓글 4개

▲

Claude Code Vercel 플러그인이 유저를 유니크 ID로 동의 없이 추적하고 있다.

(dev.to)

Vercel Claude Code 플러그인 설치 시 ~/.claude/vercel-plugin-device-id에 영구 UUID를 자동 생성. 알림 없음, 만료 없음, 갱신 없음. 매 세션마...

5 points by taekim34 1일전 | 댓글과 토론

▲

AI는 어떻게 미완성 사고를 유창한 확신으로 바꾸는가? - 전문가일수록 더 위험한 이유

(flamehaven.space)

AI는 어떻게 설익은 생각을 전문가의 언어로 바꾸는가 링크드인, AI 커뮤니티에서 “Existential Invocation Engine”, “D9 Governance System”, “To...

4 points by flamehaven01 1일전 | 댓글과 토론

▲

Bun v1.3.14 이 마지막 Zig 버전이 될 수 있음

(x.com/jarredsumner)

Bun이 Rust 재작성을 병합한다면 다음 릴리즈는 Rust 버전이 될 예정 Linux, windows, macos에서 Bun의 테스트 스위트 모두 통과 이전 트윗에서 zi...

1 point by click 2일전 | 댓글과 토론

▲

DORA: AI 보조 소프트웨어 개발의 ROI*

(cloud.google.com)

Google Cloud·DORA 공동 발표 보고서. 핵심 명제는 "AI is an amplifier" — AI는 내부 플랫폼·배포 파이프라인·팀 역량이 강한 조직의 강점을 증폭...

3 points by ysys143 2일전 | 댓글 1개

▲

Open Design - Claude Design의 로컬 퍼스트 오픈소스 대체제

(github.com/nexu-io)

에이전트를 내장하지 않고 사용자의 PATH에 있는 16종 코딩 에이전트 CLI(Claude Code, Codex등)를 자동 감지하여 디자인 엔진으로 활용 31개 스킬...

31 points by xguru 2일전 | 댓글과 토론

▲

Bifrost - 초고속 엔터프라이즈 AI 게이트웨이

(github.com/maximhq)

LiteLLM 대비 50배 빠름. 적응형 로드 밸런서, 클러스터 모드, 가드레일, 1,000개 이상 모델 지원, 5k RPS에서 100µs 미만 오버헤드 OpenAI, Anthr...

8 points by xguru 2일전 | 댓글과 토론

▲

Anthropic, 금융 서비스에 특화된 AI 에이전트/스킬/커넥터 오픈소스 공개

(github.com/anthropics)

Claude Cowork 플러그인 또는 Managed Agents API 두 가지 방식으로 동일한 에이전트를 실행할 수 있는 금융 서비스 워크플로우 자동화 레퍼런스 ...

34 points by xguru 2일전 | 댓글 7개

토픽 더 불러오기