Why AI systems don’t learn and what to do about it
Lessons on autonomous learning from cognitive science
Emmanuel Dupoux, Yann LeCun, Jitendra Malik https://arxiv.org/pdf/2603.15381
과거 닷컴, 블로그, SaaS 열풍이 그러했듯, 수많은 AI 앱이 쏟아지고 있지만 대다수는 빛을 보지 못한 채 사라질 운명입니다. 누구나 AI로 앱을 만들 수 있는 환경에서 특별한 차별점이 없다면, 앱이라는 형태 자체가 무의미해지는 단계가 곧 올 것입니다. 이제는 필요한 기능을 AI가 즉석에서 생성하고 폐기하는 '보이지 않는 소프트웨어'의 시대로 접어들고 있습니다.
스마트폰 초기의 앱 개발 붐을 돌이켜보면 지금의 상황이 더욱 명확해집니다. 이제 AI 개발의 핵심은 코딩이 아니라 아이디어, 설계, 그리고 실행력입니다. 자연스럽게 기업 내 '개발자'의 정의도 변화하고 있습니다. 하지만 현실은 가혹합니다. 기업들은 AI를 통한 초단기 개발을 강요하며, 과거 2주 분량의 업무를 이틀 안에 끝내길 요구합니다. 개발자들은 개인 프로젝트의 '만드는 재미'에 중독되기도 하지만, 정작 업무로서의 개발은 더욱 극심한 노동 강도에 시달리는 상황이 옵니다. (이점은 90년대 '사무 자동화' 때에도 같은 현상을 겪은것이 기억납니다. 사무 자동화로 일이 널널해지고 편해지는게 아니라, 적은 인력으로 더 많은 일을 시키는것...)
최근 중국의 AI 열풍이 정말 거셉니다. 모델 개발부터 응용 프로그램까지, 양과 질 모두 미국과 대등하거나 오히려 앞서는 기세입니다. 제 주관적 관찰로는 미국 내 주요 AI 부서의 핵심 인력 상당수가 중국계입니다.
미국 기업들이 프라이버시, 토큰 비용, 보안 이슈로 신중한 태도를 보이는 반면, 중국은 상대적으로 더 공격적이네요. 한국은 카카오톡과의 연동이 있으면 좋겠는데, 카카오 특유의 강력한 보안 프로토콜과 폐쇄적인 생태계 때문에 외부 접근이 쉽지 않습니다. 결국은 화면 인식 AI를 통한 우회 자동화 방식으로 가거나, AI 서비스들이 카카오톡과는 별개로 가지 않을까 싶습니다. AI 열풍 속에 유행에 휩쓸려 도구를 남용하기보다는, 차분히 대응해 나가는 것이 현명하다 싶습니다.
저는 안드로이드용으로 음성 명령 앱을 만들고 있는데 qwen 확실히 좋드라구요. 근데 아직 최적화를 못해서 whisper base를 한국어 데이터셋으로 파인튜닝 한거 쓰고 있습니다.
Why AI systems don’t learn and what to do about it
Lessons on autonomous learning from cognitive science
Emmanuel Dupoux, Yann LeCun, Jitendra Malik
https://arxiv.org/pdf/2603.15381
본인들 회사 주니어 개발자들에게 WPF 가르칠 자신도 생각도 없어서 대충 리액트 아는 개발자들 채용하고 업무에 바로 투입한 거 아닌가요? 몇년간 비기능 요구사항은 내팽개친 채로 일관해 왔다가 이제와서 말뿐인 공수표 날려봤자 의미없다고 생각합니다
postmortem 형식이었으면 진정성이라도 보일텐데 이 글은 그저 여론 달래기와 사탕발림, 그리고 조직에서 허드렛일 떠안은 사람의 마지못해 하는 일으로 밖에 안보입니다
enpass 언급이 없네요. 평생 구매가 있어서 n년째 잘 사용중입니다.
구독이라 부담되진 않는데, 무시할순 없을것 같습니다.
어느새 또 적응할겁니다. 그때의 사무직과 지금의 사무직의 차이처럼.
조금이나마 힌트가 되네요 ㅎㅎ
Apiece 비용이 만만치 않겠습니다
죽은 인터넷 이론...
https://github.com/opgginc/opencode-bar 추천드립니다.
과거 닷컴, 블로그, SaaS 열풍이 그러했듯, 수많은 AI 앱이 쏟아지고 있지만 대다수는 빛을 보지 못한 채 사라질 운명입니다. 누구나 AI로 앱을 만들 수 있는 환경에서 특별한 차별점이 없다면, 앱이라는 형태 자체가 무의미해지는 단계가 곧 올 것입니다. 이제는 필요한 기능을 AI가 즉석에서 생성하고 폐기하는 '보이지 않는 소프트웨어'의 시대로 접어들고 있습니다.
스마트폰 초기의 앱 개발 붐을 돌이켜보면 지금의 상황이 더욱 명확해집니다. 이제 AI 개발의 핵심은 코딩이 아니라 아이디어, 설계, 그리고 실행력입니다. 자연스럽게 기업 내 '개발자'의 정의도 변화하고 있습니다. 하지만 현실은 가혹합니다. 기업들은 AI를 통한 초단기 개발을 강요하며, 과거 2주 분량의 업무를 이틀 안에 끝내길 요구합니다. 개발자들은 개인 프로젝트의 '만드는 재미'에 중독되기도 하지만, 정작 업무로서의 개발은 더욱 극심한 노동 강도에 시달리는 상황이 옵니다. (이점은 90년대 '사무 자동화' 때에도 같은 현상을 겪은것이 기억납니다. 사무 자동화로 일이 널널해지고 편해지는게 아니라, 적은 인력으로 더 많은 일을 시키는것...)
최근 중국의 AI 열풍이 정말 거셉니다. 모델 개발부터 응용 프로그램까지, 양과 질 모두 미국과 대등하거나 오히려 앞서는 기세입니다. 제 주관적 관찰로는 미국 내 주요 AI 부서의 핵심 인력 상당수가 중국계입니다.
미국 기업들이 프라이버시, 토큰 비용, 보안 이슈로 신중한 태도를 보이는 반면, 중국은 상대적으로 더 공격적이네요. 한국은 카카오톡과의 연동이 있으면 좋겠는데, 카카오 특유의 강력한 보안 프로토콜과 폐쇄적인 생태계 때문에 외부 접근이 쉽지 않습니다. 결국은 화면 인식 AI를 통한 우회 자동화 방식으로 가거나, AI 서비스들이 카카오톡과는 별개로 가지 않을까 싶습니다. AI 열풍 속에 유행에 휩쓸려 도구를 남용하기보다는, 차분히 대응해 나가는 것이 현명하다 싶습니다.
BM25가 단어 위주의 검색이니 galadbran님의 의견은 make sense한 것 같습니다.
어께너머로 길이를 알 수 있게 되는 게 심각한 보안취약점이라면 왜 리눅스 터미널에 접근하는 모든 키보드에 엿보기 방지 덮개가 의무화되지 않는 거죠? 그냥 키보드를 보거나, 비밀카메라로 녹화하면 끝인데.
동감합니다.
먼저 이야기할 걸 나중에 책임안지는 형태로 가고 있습니다.
뭐만하면 죽었다는 제목의 글이 너무 많아지니까
너무 피로해지는감이 있는듯합니다
저도 그만 죽였으면 좋겠다고 생각합니다
솔직히 LLM 서비스들의 프론트엔드를 보면 뭐 이따위로 만들었어 싶을 정도로 느리고 기능이 부족하고 상호작용이 불편해서 이런 글 보면 웃기기만 하네요
솔직히 WinUI같은 본인들 프레임워크로 사용자 쉘을 전부 다시 구현하는 정도 아니면 별로 기대되지는 않네요
리액트로 개발한다는 것 자체가 품질보다는 빠르게 대충 만들어서 출시하는 게 목적 아닌지
폰은 대안이 없으니까 못 쓰는거죠. LG폰이 잘 만들 때만 해도 많이들 썼죠. 본인들이 삽질해서 망한거구요.
대다수를 차지하는 직장인들에게 주거지 선택 기준 중 가장 중요한 것은 통근 시간인데 서울 밖은 당연히 선택지가 못 되고요. 정부가 공공기관/기업들을 밖으로 옮기려는 시도조차 수많은 사람들이 반대하는데 그것부터 지적을 하셔야죠.
모델의 경우 로컬에서 돌리는 것은 일반인 기준에서 이미 불가능하고 나머지 대안들은 똑같은 모델에 프롬프트만 조금 추가한 수준에 별로 싸지도 않고 마케팅도 제대로 하지 않고요. 아무리 좋은 제품도 사람들이 모르면 당연히 안 팔리죠.
그냥 한국인 특징~ 이라며 별 생각없이 어그로만 보고 올리는 숏츠 보는 느낌이네요.
어깨 너머로 이게 보일 정도면 타이핑하는 손가락 자체가 보이는 것을 더 걱정해야 하는 것이 아닌가...
그 정도 거리면 소리 자체를 녹음해서 몇 글자인지 세 볼 수도 있고요.
그렇게 보안이 걱정되고 중요한 곳이라면 물리 보안 키를 쓰셔야죠