GN⁺: 인공지능 신뢰 위기

드롭박스의 새로운 AI 기능에 대한 불신

• 드롭박스가 새로운 AI 기능을 추가함.
• 이 기능들이 OpenAI에 데이터를 보낸다는 비판에 직면함.
• 드롭박스는 개인 파일이 모델 훈련 데이터로 사용되지 않는다고 부인함.

중요한 세부 사항

• 드롭박스에는 고객의 동의 없이 AI 모델 훈련에 고객 데이터를 사용하지 않겠다는 원칙이 담긴 문서가 있음.
• 설정에 숨겨진 체크박스가 있으며, 이는 사용자의 동의 여부가 불분명함.

OpenAI를 믿지 않는 사람들

• 드롭박스의 제3자 파트너인 OpenAI는 데이터를 내부 모델 훈련에 사용하지 않고 30일 내에 삭제한다고 주장함.
• 사람들은 OpenAI의 주장을 믿지 않으며, AI에 대한 신뢰 위기를 겪고 있음.

페이스북은 당신의 마이크를 통해 도청하지 않음

• 페이스북이 사용자의 마이크를 통해 도청하고 광고를 보여준다는 이론은 기술적, 비기술적 이유로 쉽게 반박될 수 있음.
• 그러나 사람들은 자신의 경험을 바탕으로 이러한 주장을 믿지 않음.

이것은 정말 중요함

• 신뢰는 중요하며, 회사가 개인정보를 거짓으로 다루는 것은 심각한 주장임.
• 정부의 역할은 이러한 일이 발생하지 않도록 하는 것임.

우리가 할 수 있는 일

• 큰 AI 연구소들은 훈련 데이터에 대한 정보를 공유하여 신뢰를 개선할 수 있음.
• ChatGPT의 상호작용이 모델 개선에 사용되지만, 어떻게 사용되는지에 대한 세부 정보가 부족함.

로컬 모델에 대한 기회

• 사람들은 클라우드가 아닌 자신의 기기에서 실행되는 로컬 모델을 더 신뢰함.
• 로컬 모델의 품질이 향상되고 크기가 줄어들고 있음.

GN⁺의 의견

• AI와 개인정보 보호의 교차점은 중요한 문제이며, 이에 대한 투명한 대화가 필요함.
• 드롭박스와 OpenAI의 주장에 대한 불신은 기술에 대한 이해 부족과 신뢰의 결여에서 비롯됨.
• 이 글은 AI 기술의 빠른 발전과 그에 따른 개인정보 보호의 중요성을 강조하며, 이해와 신뢰를 바탕으로 한 투명한 커뮤니케이션이 왜 필요한지를 설명함으로써 흥미를 끌고 있음.

[neo]

Hacker News 의견

• 스크린샷은 내 계정에서 직접 찍은 것이다. '켜짐'으로 설정되어 있지만, 나는 그것을 직접 켜지 않았다.

  • 웹사이트 개인정보 보호와 관련하여 '동의'에 대한 위기도 존재함. 법적으로 실행 가능한 동의의 정의가 필요하며, 이는 사용자가 데이터를 제3자에게 전송하는 것에 대해 긍정적인 동의를 해야 한다는 것을 의미하지 않아야 함. 좋은 기사이지만, '내 전화가 나를 엿듣고 있다'와 'openai가 내 데이터를 어떻게 사용하는지 거짓말을 할 수도 있다'는 비유는 다소 결함이 있음. 아이폰의 마이크에 접근하는 제3자 앱에 대한 강력한 검사가 데이터가 제3자에게 전달될 때와 동등하지 않기 때문임. 일반인에게는 같은 것일 수 있지만, 실제로는 전자로부터 보호받고 있음. 사용자 데이터의 사생활과 주권을 위한 싸움이 이미 패배했다고 행동하는 것은 매우 비생산적임. 기술에 어느 정도 밝은 사람들이 새로운 기업의 남용에 대해 '오래된 뉴스'라는 태도로 반응하는 것을 많이 보게 됨. 이러한 사람들은 더 나은 예를 보여줘야 함. 이러한 무력감은 신뢰를 해치고, 더 나은 세상이 가능하다는 인상을 주지 못함. 드롭박스의 실수는 이러한 사고방식이 되돌아오는 것으로 보임: 사용자가 우리가 묻지 않고 그들의 개인 파일을 제3자에게 보내는 것을 신경 쓰지 않을 것이라고 생각함. 나는 드롭박스에서 대부분의 데이터를 이미 빼냈고, 어제 드롭박스를 최종적으로 취소할 필요성을 느낌. 감사합니다, 드롭박스!

• 이 글은 다소 순진하고 '선의를 가정한다'는 느낌을 준다. AI 외부에서 지난 10년 동안 일어난 일을 보라: 모두가 데이터를 마치 강박적인 수집가처럼 소비하고 있음. 구글과 페이스북뿐만 아니라 모든 사람들이 그렇게 하고 있음. 오늘 스웨덴 전통 요리의 미니 사이트가 자동 재생 비디오, 어두운 패턴의 쿠키 동의 배너 등을 추가한 것을 발견함. 거의 모든 새로운 앱/사이트가 이 경제 축을 중심으로 구성되어 있음. 그리고 LLM이 강해지기 시작할 때 갑자기 3자 API에 대한 조정된 봉쇄가 이루어짐. 이제 우리는 ChatGPT/OpenAI와 그 경쟁자들을 가지고 있음. 다른 플레이어들이 데이터를 마치 비밀스러운 야간 간식처럼 먹는다면, 현재 세대의 AI는 마치 혈액과 뇌를 갈망하는 빠르고 민첩한 좀비와 같음. 데이터가 제품에서 더 직접적인 역할을 하기 때문이지만, 기술 VC들의 전형적인 하이프 트레인 경쟁 심리도 수십 년 만에 처음으로 잠에서 깨어남. 모든 상황이 좀비 아포칼립스/골드 러시/나중에 용서를 구하는 것 등을 가리킴. 그래서 그들이 (모두) 안전/책임 수사학에 더욱 집중하는 이유라고 강력히 믿음. 불가피한 명성에 관한 PR 위기(복수형)가 오기 전에 물을 흐리기 위한 탄약을 미리 확보함. 한편 우리 기술자들은 마치 지난 10년을 깊이 체험하지 않은 것처럼 빈둥거리고 있고, 이번에는 AI가 학문적 기반이 있기 때문에, 화려한 새로운 회사들 때문에, 안전 수사학 때문에, '발을 딛고 있는' 창업자들의 엣지 있는 트위터 발언 때문에 다를 것이라고 생각함. 무슨 일이 벌어지고 있는지 정확히 알지는 못하지만, 사람들이 어떻게 작동하는지 충분히 오래 알고 있음. 그리고 그들은 더 나아지지 않았음.

• 당신의 기사는 내 데이터에 대한 훈련을 넘어서는 프라이버시 문제를 간과하고 있다고 생각한다.

  • 전문직 종사자로서, 내 정보가 어디로 가는지에 대한 기밀 유지 협약과 규정을 준수하는 클라이언트를 가지고 있음. 내 데이터가 서버에 머무르는 서비스를 선호함. 내 데이터가 왜 항상 완전히 암호화되어 있지 않고 오직 나만이 볼 수 있는지 이해하지 못하지만, 내 동의나 관심 없이 인터넷을 통해 다른 회사에 전송되어 처리되는 것은 끔찍함. AI 기능을 사용할 때 동의하지만, 내 개인 파일을 내 동의 없이 인터넷 전체에 보내는 것은 미친 짓임. 솔직히, OneDrive에는 마이그레이션 도구가 있고, 드롭박스 비즈니스에 대한 시험판을 받아 어젯밤에 모든 파일을 자동으로 옮김. 이것은 그들의 회사가 내가 요청하지 않은 것들을 계속해서 하고, 내가 지속적으로 요청하는 기능을 제공하지 않는 것에 대한 마지막 한계임... 끝에서 끝까지 암호화. 드롭박스 비즈니스에서 Office 365 OneDrive 계정으로 몇 번의 클릭으로 마이그레이션하고 싶다면, 여기 있음: [마이그레이션 도구 링크]

• 여기서 핵심 문제는 사람들이 드롭박스의 개인 파일이 OpenAI에게 모델 훈련을 위해 사용되고 있다고 걱정하고 있다는 것이다.

  • 이것은 문제의 일부일 뿐임. 내가 승인하지 않는 한 내 데이터가 어디로든 보내지는 것을 원하지 않음. 이 경우, 우리는 OpenAI가 우리 파일을 훈련에 사용하지 않을 것이라고 그들이 말하는 것을 의심할 이유가 없지만, 그들이 우리 파일을 안전하게 다룰 수 있다는 것을 믿어야 함.

• 페이스북은 이것을 하지 않고 있다고 말한다. 거짓말로 들키면 그들의 명성에 미칠 위험은 엄청나다.

  • 페이스북이 누군가의 전화 마이크를 통해 몰래 엿듣고 있다고 믿지 않지만, 그 구체적인 주장은 전혀 설득력이 없음. 페이스북의 명성은 적어도 내가 아는 일반 비기술적인 사람들 사이에서는 최악임. 미국에 거주하고 있으며, 사람들은 페이스북이 2021년 1월 6일의 폭동을 조장하는 데 도움을 주었고, 그 후 모든 책임을 회피하면서 아무것도 고치지 않은 것을 알고 있음. 많은 사람들이 이미 그들이 아마도 하고 있을 것이라고 생각하는 이 일로 인해 그들이 흡수할 명성 피해는 비교가 되지 않음.

• 기사에서 마이크로폰 신뢰 측면은 주요 포인트를 더 명확하게 할 수 있는 것에서 주의를 산만하게 하는 붉은 청어로 보인다.

  • 페이스북은 그들의 앱과 인터넷에서 당신의 데이터를 가져와 인터넷에서 당신의 행동을 추적하고, 이 데이터를 당신의 <i>모델</i>에 입력함. 이 모델들은 때때로 당신이 생각하는 것을 거의 예측할 수 있을 정도로 정확함. 그래서 평범한 사람들은 그들이 마이크를 통해 엿듣고 있어야 한다고 결론짓게 됨. OpenAI와 같은 LLM 회사와 그 파트너들은 거의 정확히 같은 모델을 사용함. 원하는 곳에서 데이터를 가져와 모델을 개선하고, 당신이 클릭하길 원하는 곳에 계속 클릭하게 만들고, 당신을 수익화하기 위함임.

• 나는 OpenAI나 다른 대기업이 그들이 했다고 말하는 것, 할 것이라고 말하는 것, 하고 있는 것에 대해 '신뢰'하지 않는다.

  • 그러나 나는 OpenAI가 사용자의 동의 없이 드롭박스에서 데이터를 <i>훈련</i>에 사용하지 않는다고 믿음. 하지만 그것이 여기서의 문제가 아님. 문제는 데이터가 이동 중일 때 발생함; 실제로 데이터를 읽을 수 있는 제3자에게 데이터를 보내고, 드롭박스가 통제할 수 없는 불량 직원이 있을 수 있으며, 데이터가 로그에 나타나거나 다른 정책에 따라 처리될 수 있음. 내가 드롭박스에 개인 데이터를 보내면, 그들은 내 명시적이고 정보에 입각한 동의 없이 어떤 이유로든 그것을 제3자에게 보낼 수 없음. 이것이 어떻게 논쟁의 여지가 있는지 확신할 수 없음. 드롭박스가 모델을 보관하고 동의하는 사용자에게 RAG 검색을 제공하려는 것이라면 그것은 하나의 문제임. 드롭박스가 모든 사용자의 모든 데이터를 사전에 아무에게도 알리지 않고 제3자에게 보내는 것이라면 그것은 또 다른 문제임. 끔찍한 일임.

• AI에 대한 신뢰 위기?

  • 한 회사의 이사회/CEO가 거짓말이나 조작에 대한 혐의로 해고/변경되었다는 소식을 들은 후 어떻게 될까? 드롭박스가 사용자 데이터에서 파생된 데이터를 스캔하여 얻는다면, 그 '파생된' 데이터는 더 이상 '사용자 데이터'가 아니라 드롭박스 데이터가 되고 공유될 수 있음. 그것은 개별 사용자와 직접적으로 관련이 없을 수 있는 통계적인 성격일 수 있지만, 그것이 바로 훈련 데이터가 아닌가? 그것이 작동하는 방식이 아닌가? 그것은 거짓말이 아니라 머리카락을 가르는 것임. 아니, 그것은 비윤리적인 행동이며 대기업에게는 표준이 되었음.

• AI 회사를 신뢰하지 않는 사람들은 다양한 산업의 회사들, 비영리 단체들, 심지어 정부 기관들에 대해서도 비슷한 감정을 가지고 있을 것이라고 생각한다.

  • 나에게는 AI 기반 회사들을 넘어서는 훨씬 더 큰 신뢰 문제가 있는 것 같음. 그래서 이 특정 분야가 모든 전선에서 오는 이러한 불신과 싸우려고 하는 것은 이러한 비즈니스의 범위를 벗어난 불가능한 임무처럼 보임. 이 문제에 대한 해답이 무엇인지, 실제 문제가 있는지, 이러한 만연한 냉소주의가 모든 것과 모든 사람에게 퍼질 경우 우리가 향할 수 있는 것이 무엇인지 확신할 수 없음. 아마도 우리는 단지 흥미로운 시대에 살고 있는 것으로 저주받았을지도 모름.