틱톡·레딧 등 주요 플랫폼 대상… 알고리즘의 유해성 검토

영국 정보보호감독기관(ICO)이 소셜미디어 플랫폼들의 알고리즘이 13~17세 청소년들에게 부적절한 콘텐츠를 제공하는지에 대한 공식 조사를 시작했다. 이번 조사의 핵심 대상은 틱톡(TikTok), 레딧(Reddit) 등 주요 소셜미디어 기업이며, ICO는 이들 플랫폼이 제공하는 맞춤형 콘텐츠가 청소년들에게 미치는 영향을 분석할 계획이다.

최근 청소년들의 디지털 환경 노출이 증가하면서, 소셜미디어의 알고리즘이 특정 유형의 콘텐츠를 추천하는 방식이 논란이 되어 왔다. 특히 극단적인 정보 소비, 정서적 불안정성 증가, 사회적 비교와 관련된 정신 건강 문제 등이 부작용으로 지적되고 있다. 이에 따라 ICO는 알고리즘의 설계 방식과 운영 원리를 조사하여, 청소년 보호를 위한 규제 필요성을 검토할 예정이다.

■ 소셜미디어 알고리즘, 청소년들에게 어떤 영향을 미치나?

소셜미디어 기업들은 사용자 데이터를 기반으로 맞춤형 콘텐츠를 추천하는 알고리즘을 활용해 개인화된 경험을 제공한다. 그러나 이러한 알고리즘이 사용자의 행동을 강화하는 방식으로 작동하면서, 청소년들에게 부정적인 영향을 미칠 가능성이 높다는 우려가 제기되고 있다.

틱톡의 ‘For You’ 피드는 AI를 활용한 강력한 추천 시스템을 통해 사용자 맞춤형 콘텐츠를 제공한다. 하지만 알고리즘이 극단적이거나 자극적인 콘텐츠를 반복적으로 추천한다는 논란이 지속되고 있다. 레딧은 익명성이 보장된 대형 커뮤니티 플랫폼으로, 다양한 정보가 공유되지만 음모론, 가짜 뉴스, 정치적 극단주의 콘텐츠가 확산될 위험이 있다.

ICO는 이번 조사를 통해 알고리즘이 청소년의 정서적 안정성, 정보 소비 습관, 정신 건강에 미치는 영향을 평가할 예정이다. 주요 쟁점으로는 확증편향 강화, 중독성 알고리즘, 부정적 사회 비교, 자극적인 콘텐츠 추천, 허위 정보 노출 증가 등이 포함된다.

■ 청소년과 소셜미디어: 알고리즘이 미치는 심리적 영향

청소년들은 비판적 사고력이 성인보다 미성숙한 상태이므로, 특정 신념이나 가치관에 갇힐 위험이 크다. AI 알고리즘이 기존 관심사와 유사한 콘텐츠만을 반복 추천하면, 확증편향이 심화되어 편향된 정보에 노출될 가능성이 커진다.

또한, 연구에 따르면 소셜미디어 사용과 정신 건강 문제 간의 상관관계가 점점 더 강하게 나타나고 있다. Keles, B., McCrae, N., & Grealish(2020)의 연구에서는 청소년들의 소셜미디어 사용이 우울증, 불안감, 심리적 스트레스를 증가시킬 수 있다는 점을 지적했다. 특히 여성 청소년이 부정적인 피드백을 받을 경우, 정신 건강 문제가 더욱 심화될 위험이 있다.

틱톡과 인스타그램 같은 플랫폼에서 보이는 ‘이상적인 삶’에 대한 지속적인 노출은 왜곡된 자아 인식을 형성할 수 있으며, 반복적인 사회적 비교는 청소년들의 자존감 저하와 불안감을 유발할 가능성이 크다.

■ 소셜미디어 알고리즘, 자극적 콘텐츠 확산 유도

소셜미디어 기업들은 광고 수익을 극대화하기 위해 사용자의 체류 시간을 늘리는 방향으로 알고리즘을 설계한다. 이 과정에서 점점 더 자극적이거나 감정적인 반응을 유도하는 콘텐츠가 추천될 가능성이 높다.

저명한 법학자이자 ‘망 중립성’ 개념을 정립한 팀 우(Tim Wu)는 그의 저서 The Attention Merchants에서 소셜미디어 플랫폼들이 광고 생태계를 강화하기 위해 점점 더 폭력적이고 감정적인 콘텐츠를 확산한다고 비판한 바 있다. 이러한 시스템이 청소년들에게 부정적인 영향을 미칠 가능성이 크다는 점에서 규제의 필요성이 강조되고 있다.

■ 글로벌 규제 흐름 속 영국 ICO 조사 의미

청소년 보호를 위한 소셜미디어 규제는 이미 세계 여러 국가에서 강화되고 있다. 대표적으로 미국과 호주가 청소년 소셜미디어 사용을 제한하는 법안을 통과시키는 등 강력한 조치를 취하고 있다.

미국 뉴욕주: 2024년, 18세 미만 미성년자에게 중독성 콘텐츠를 자동 추천하는 알고리즘을 금지하는 법안 통과 미국 플로리다주: 2025년부터 14세 미만 미성년자의 소셜미디어 계정 생성을 전면 금지 호주: 2024년 11월, 16세 미만 청소년의 SNS 사용을 제한하는 법안 제정

이번 영국 ICO의 조사는 이러한 글로벌 규제 흐름 속에서 추진된 것으로 보이며, 특히 틱톡과 레딧을 조사 대상으로 삼은 것은 이들 플랫폼이 대규모 사용자 데이터를 활용해 강력한 AI 추천 알고리즘을 운영하고 있기 때문이다.

틱톡의 경우, 모회사 바이트댄스(ByteDance)가 중국 기업이라는 점에서 청소년 사용자 데이터가 중국 정부와 공유될 가능성에 대한 우려도 지속되고 있다. 미국에서는 올해 초 틱톡이 45일간 서비스 금지 대상이 되기도 했으며, 영국 기술부 장관 피터 카일(Peter Kyle)도 틱톡의 데이터 사용에 대한 우려를 표명한 바 있다.

레딧은 정치적 극단주의와 가짜 뉴스 유통 문제로 오랫동안 논란이 되어 왔다. ICO는 레딧의 커뮤니티 기반 추천 알고리즘이 특정 편향된 정보만을 강조하는 방식으로 작동할 가능성이 있는지를 집중적으로 조사할 예정이다.

■ ICO 조사 결과, 영국 및 글로벌 플랫폼 규제 강화될까?

ICO의 이번 조사는 소셜미디어 플랫폼의 알고리즘 설계 방식에 대한 투명성을 높이는 계기가 될 것으로 보인다. 만약 틱톡과 레딧이 청소년들에게 유해한 콘텐츠를 반복적으로 제공한다는 사실이 확인될 경우, 영국 내 소셜미디어 규제 강화가 불가피할 전망이다.

특히, 이번 조사는 유럽연합(EU)과 미국 등 다른 국가들의 정책에도 영향을 미칠 가능성이 높다. 이미 여러 국가에서 청소년 보호를 위한 디지털 규제가 강화되고 있는 만큼, 영국의 조사가 글로벌 플랫폼 기업들의 정책 변화를 유도할 가능성이 있다.

소셜미디어는 현대 청소년들에게 중요한 정보와 교류의 창구지만, 알고리즘을 통한 콘텐츠 제공 방식은 심각한 윤리적 문제를 내포하고 있다. 영국 ICO의 이번 조사는 소셜미디어 기업들에게 알고리즘의 투명성을 높이고, 청소년 보호 대책을 강화할 책임을 요구하는 중요한 움직임으로 평가된다.

이미 영국은 2023년 틱톡에 아동 개인정보 보호 위반으로 약 200억 원의 벌금을 부과한 전례가 있다. 2년이 지난 지금 다시 한 번 조사를 진행한다는 것은, 영국이 소셜미디어의 윤리적 문제에 대해 단호한 입장을 유지하고 있음을 보여준다.

소셜미디어 플랫폼에 대한 규제 강화 흐름이 지속되면서, 기업들은 알고리즘 투명성을 강화하고 청소년 보호를 위한 자체 규제를 도입할 가능성이 크다. 앞으로 디지털 시대에서 “청소년 보호와 기술 발전 간의 균형을 어떻게 맞출 것인가?”가 더욱 중요한 논의로 떠오를 전망이다.

■ 관련 논문

< 미국의 청소년 소셜미디어 이용규제와 헌법적 논쟁 >

미국에서는 청소년의 소셜미디어 이용을 부모 동의 하에 허용하거나, 연령 확인이 되지 않으면 성인도 동일한 보호를 받도록 하는 강력한 규제 입법이 논의되고 있다. 그러나 이러한 규제는 표현의 자유 침해, 기본권 제한, 개인정보 보호 문제 등을 초래할 수 있으며, 하급심에서는 위헌 판결이 내려진 사례도 있다. 따라서 청소년 소셜미디어 규제 입법을 신중하게 검토하고 헌법적 한계를 고려해야 한다.

링크

[ⓒ META-X. 무단전재-재배포 금지]