알고리즘의 덫, 유럽연합이 틱톡의 '토끼굴'을 겨냥한 이유

알고리즘이 설계한 '토끼굴'의 실체

현대 소셜 미디어 플랫폼에서 '추천'은 단순히 편의를 위한 기능이 아니라, 사용자를 플랫폼에 머물게 하는 핵심 엔진이다. 그러나 최근 유럽연합(EU) 집행위원회는 틱톡(TikTok)의 이러한 추천 시스템이 사용자를 끝없는 '토끼굴(rabbit hole)'로 밀어 넣고 있다고 지적하며, 디지털 서비스법(DSA) 위반 혐의로 예비 조사 결과를 발표했다[1, 2]. 여기서 말하는 토끼굴 효과란, 사용자가 특정 콘텐츠에 반응할수록 알고리즘이 유사한 성격의 콘텐츠를 반복적으로 노출하여 사용자가 그 안에서 쉽게 빠져나오지 못하게 만드는 현상을 의미한다[1].

기술적 설계와 사용자 복지의 충돌

EU 집행위원회가 이번 조사를 통해 가장 심각하게 문제 삼는 지점은 틱톡이 제공하는 콘텐츠의 성격이다. 규제 당국은 틱톡의 알고리즘이 우울감, 고립감, 신체 이미지와 관련된 부정적인 콘텐츠를 지속적으로 노출함으로써 사용자, 특히 미성년자의 정신 건강에 실질적인 위해를 가할 수 있다고 판단했다[1, 2]. 이는 단순히 사용자가 좋아하는 영상을 보여주는 수준을 넘어, 플랫폼의 설계 자체가 사용자의 취약한 심리 상태를 파고드는 방식으로 작동하고 있다는 비판이다[2].

틱톡 측은 이러한 혐의에 대해 강력히 반발하고 있다. 틱톡 대변인은 EU의 주장이 플랫폼의 아키텍처를 왜곡하고 있으며, 자사는 사용자 안전을 위해 강력한 보호 조치를 취해왔다고 반박했다[2]. 하지만 EU 관계자들은 틱톡이 도입한 기존의 완화 조치들이 실질적인 효과를 거두지 못하고 있다고 지적한다[1, 2]. 특히 '관심 없음' 버튼과 같은 명시적 신호보다 시청 시간이나 좋아요와 같은 암묵적 참여 데이터에 지나치게 의존하는 현재의 모델이 문제의 핵심이라는 입장이다[2].

규제 당국의 새로운 접근: 추천 시스템의 책임

이번 사건이 주목받는 이유는 디지털 서비스법(DSA) 시행 이후, 플랫폼의 추천 알고리즘 자체를 법적 위반의 근거로 삼은 첫 사례이기 때문이다[1, 2]. 이전까지의 규제가 주로 콘텐츠의 삭제나 투명성에 초점을 맞췄다면, 이제는 콘텐츠를 '배달'하는 알고리즘의 설계 방식까지 규제 영역으로 들어왔음을 의미한다[2]. 만약 틱톡이 이번 조사 결과에 따른 시정 요구를 이행하지 않을 경우, 전 세계 연간 매출의 최대 6%에 달하는 막대한 과징금을 부과받을 수 있다[1, 2].

물론 틱톡에게도 반론의 여지는 남아 있다. 플랫폼은 현재 조사 결과를 검토하며 방어권을 행사할 준비를 하고 있으며, 과거 광고 투명성 관련 조사에서 EU와 합의점을 찾아낸 전례가 있다[2]. 그러나 이번 건은 단순한 투명성 문제를 넘어 플랫폼의 비즈니스 모델인 '참여 기반 추천 시스템'의 근간을 흔드는 사안이라는 점에서 그 결과가 더욱 불투명하다[2]. 과연 기술적 효율성을 추구하는 알고리즘이 인간의 심리적 안전이라는 사회적 가치와 공존할 수 있을 것인가. 이번 EU의 행보는 빅테크 기업들이 사용자 경험을 설계할 때 고려해야 할 '안전'의 기준을 다시 정의하는 계기가 될 것이다.

---

검증에 사용한 자료

1. [1] TikTok’s For You page needs to change, says the EU — The Verge · 원문
2. [2] EU accuses TikTok of designing algorithm that creates ‘rabbit holes’ — www.politico.eu · 독립 참고 자료
3. [3] Google Terms of Service – Privacy & Terms – Google — policies.google.com · 독립 참고 자료
4. [4] Privacy Policy | PMC — www.pmc.com · 독립 참고 자료
5. [5] Privacy Policy – Privacy & Terms – Google — policies.google.com · 독립 참고 자료

링크된 자료는 사실 확인에 사용했으며, 분석과 해석의 책임은 본 사이트에 있습니다.