지난 5년간 이런 문제는 이미 상식 수준이 된 것 같음
하지만 진짜 질문은 “그래서 우리는 뭘 해야 하는가?”임
나는 온라인에서 분노에 시간을 낭비하지 않으려 노력하지만, 이건 개인이 감당하기엔 너무 큰 사회적 병폐임
규제로 이런 행동을 막거나, 아예 회사를 폐쇄해야 한다고 생각함
Meta나 TikTok이 사회에 순손익이 음수라면 존재할 자연권은 없음
온라인 광고를 과세하고 강력히 규제해야 함
문제의 뿌리는 ‘참여 유도’가 너무 돈이 되기 때문임. 금전적 유인이 사라지지 않는 한 문제는 사라지지 않음
내 Instagram 피드는 요즘 거의 정치인 영상과 대통령 관련 논란, 그리고 자극적인 콘텐츠로 가득함
NPR만 들을 때보다 더 많은 정보를 얻는 기분이지만, 제작된 콘텐츠(편집, 음악, 해설 등)는 피함
나는 실제로 일어난 일이나 누군가의 발언에서 오는 감정적 반응만 받아들이고 싶음
‘뉴스로서의 콘텐츠’는 실제성이 있어야 함
“약의 효능을 줄이자”는 식의 접근은 답이 아님. 금지도 마찬가지임
밀레니얼보다 Gen Z가 술을 덜 마시는 이유를 보면, 그 안에 해법이 있을지도 모름
아마 우리는 아무것도 하지 않고 계속 불평만 할 것 같음
“유해 콘텐츠”라는 말은 결국 정부나 특정 국가가 싫어하는 것을 뜻한다고 봄
결국 또 다른 형태의 검열 요구로 들림
BBC 내부 연구에 따르면 Reels 댓글에는 괴롭힘·증오 발언이 다른 곳보다 훨씬 많았다고 함
만약 어떤 집단이 이런 폭력을 반대한다면, 그건 오히려 좋은 일 아닌가?
내 TikTok 피드에는 유대인에 대한 직접적인 폭력 선동이 뜨기도 함
신고해도 “규정 위반 없음”이라는 답변만 돌아옴
이런 플랫폼들이 여전히 이런 식으로 운영되는 게 답답함
이미 10년 넘게 사회적 피해가 알려졌는데도 아무 일도 일어나지 않음
Facebook과 TikTok은 사실상 디지털 마약임. 그것도 사회적 공감 능력이 결여된 사람들이 설계한 것임
이런 결과가 놀랍지 않음. 대부분의 사람도 그럴 것임
그래도 증거가 명확히 제시되는 건 좋은 일임
이런 현상은 피할 수 없는 걸까?
클릭과 조회수, 사용자 참여를 만들어내기 때문에 한 플랫폼이 그렇게 하면 다른 곳도 따라갈 수밖에 없음
이제는 사용자가 직접 피드를 관리해야 함. 플랫폼이 대신 정리해주길 기대할 수 없음
참여율이 시장 점유율과 같지는 않음
예를 들어, 맥도날드 직원이 손님을 모욕하면 ‘참여’는 늘겠지만 시장 점유율은 떨어질 것임
그들이 그렇게 행동한 건 당연함
법적으로 허용되고 이익이 나는 한, 계속 그렇게 할 것임
이건 최소 2012년부터 반복된 이야기임
Max Fisher의 책 The Chaos Machine에 잘 정리되어 있음
Facebook, YouTube 모두 비판이 나오면 “조치를 취했다”고 말하지만 실제로는 회피·지연·축소·부정의 반복임
유해 알고리즘을 감시하고 소송까지 진행하는 기관이 있는지 궁금함 Reset.tech이 이 분야에서 좋은 일을 하지만, 다른 곳도 있는지, 그리고 누가 자금을 대는지 알고 싶음
200억 달러를 벌고 벌금이 2억 달러라면, 그들은 사용자 정신 건강에 전혀 신경 쓰지 않을 것임
대중이 여전히 선정적 콘텐츠에 반응하는 한, 플랫폼이 그걸 이용하지 않을 이유가 없음
대부분의 게시물은 결국 클릭 유도 미끼에 불과함
Hacker News 의견들
지난 5년간 이런 문제는 이미 상식 수준이 된 것 같음
하지만 진짜 질문은 “그래서 우리는 뭘 해야 하는가?”임
나는 온라인에서 분노에 시간을 낭비하지 않으려 노력하지만, 이건 개인이 감당하기엔 너무 큰 사회적 병폐임
Meta나 TikTok이 사회에 순손익이 음수라면 존재할 자연권은 없음
문제의 뿌리는 ‘참여 유도’가 너무 돈이 되기 때문임. 금전적 유인이 사라지지 않는 한 문제는 사라지지 않음
NPR만 들을 때보다 더 많은 정보를 얻는 기분이지만, 제작된 콘텐츠(편집, 음악, 해설 등)는 피함
나는 실제로 일어난 일이나 누군가의 발언에서 오는 감정적 반응만 받아들이고 싶음
‘뉴스로서의 콘텐츠’는 실제성이 있어야 함
밀레니얼보다 Gen Z가 술을 덜 마시는 이유를 보면, 그 안에 해법이 있을지도 모름
“유해 콘텐츠”라는 말은 결국 정부나 특정 국가가 싫어하는 것을 뜻한다고 봄
결국 또 다른 형태의 검열 요구로 들림
만약 어떤 집단이 이런 폭력을 반대한다면, 그건 오히려 좋은 일 아닌가?
신고해도 “규정 위반 없음”이라는 답변만 돌아옴
이런 플랫폼들이 여전히 이런 식으로 운영되는 게 답답함
이미 10년 넘게 사회적 피해가 알려졌는데도 아무 일도 일어나지 않음
Facebook과 TikTok은 사실상 디지털 마약임. 그것도 사회적 공감 능력이 결여된 사람들이 설계한 것임
이런 결과가 놀랍지 않음. 대부분의 사람도 그럴 것임
그래도 증거가 명확히 제시되는 건 좋은 일임
이런 현상은 피할 수 없는 걸까?
클릭과 조회수, 사용자 참여를 만들어내기 때문에 한 플랫폼이 그렇게 하면 다른 곳도 따라갈 수밖에 없음
예를 들어, 맥도날드 직원이 손님을 모욕하면 ‘참여’는 늘겠지만 시장 점유율은 떨어질 것임
그들이 그렇게 행동한 건 당연함
법적으로 허용되고 이익이 나는 한, 계속 그렇게 할 것임
이건 최소 2012년부터 반복된 이야기임
Max Fisher의 책 The Chaos Machine에 잘 정리되어 있음
Facebook, YouTube 모두 비판이 나오면 “조치를 취했다”고 말하지만 실제로는 회피·지연·축소·부정의 반복임
유해 알고리즘을 감시하고 소송까지 진행하는 기관이 있는지 궁금함
Reset.tech이 이 분야에서 좋은 일을 하지만, 다른 곳도 있는지, 그리고 누가 자금을 대는지 알고 싶음
200억 달러를 벌고 벌금이 2억 달러라면, 그들은 사용자 정신 건강에 전혀 신경 쓰지 않을 것임
대중이 여전히 선정적 콘텐츠에 반응하는 한, 플랫폼이 그걸 이용하지 않을 이유가 없음
대부분의 게시물은 결국 클릭 유도 미끼에 불과함