알고리즘이 문제가 된 이유, 사례, 규제 찬반

알고리즘 목적 '돈'

안녕하세요! 오늘은 저번에 이어서 알고리즘에 의해 생기는 여러 사회적인 문제에 대해서구체적인 사례를 들어서 알아보겠습니다. 또 알고리즘을 올바르게 사용하기 위해서는 어떻게 해야 하는지 방법도 공유해 드리겠습니다.

1. 문제인 이유

먼저 왜 알고리즘이 사회적 문제가 되는지 설명해 드리겠습니다. 우리가 접하는 SNS에서의 알고리즘의 목표는 '돈'입니다. 소비자에게 맞춤형 광고, 상품 등을 제공해서 구매하도록 유도하기 때문입니다. 문제는 이윤을 극대화하기 위해서 중독을 유도하는 알고리즘을 사용한다는 것입니다. 광고, 상품에 머무는 시간이 길수록 구매할 확률이 높아지게 됩니다. 그래서 우리의 뇌에 자극적인 요소들을 계속 노출시키고 중독되게 만듭니다. 알고리즘에 중독되게 되면 우리 뇌는 내용이 사실인지 판단하고 스스로 상상하는 기능이 마비되기 때문에 큰 문제가 발생하게 됩니다. 글로벌 기업인 '구글'에서 디자인 윤리를 담당했던 트리스탄 해리스는 유튜브나 틱톡의 자동 재생 기능이 중간에 쉽게 끌 수 없도록 만든다고 주장했어요.

2. 사회적인 문제 사례

그럼 이제 '돈'을 추구하는 알고리즘 때문에 어떤 사회적인 문제가 일어나고 있는지 구체적인 사례를 들어 설명해 드리겠습니다. 2016년 미국 대통령 선거 기간에 피자 게이트 음모론이 퍼지게 됩니다. 평범한 피자 가게 지하실이 아동 성 착취 소굴이고, 정치인들이 여기에 관련되어 있다는 가짜뉴스였어요. 그 가짜 뉴스 때문에 사람들은 흥분해서 총기 난사까지 일어났지만 피자 가게에는 지하실이 없었습니다. 여기서 가장 놀라운 점은 해당 뉴스가 특정 정당을 지지하는 사람들에게만 퍼졌다는 사실입니다. 이렇게 가짜뉴스로 인해보고 싶은 것만 보고, 사실을 구분하지 못하는 사건들이 계속 발생했습니다. 이런 사건뿐만 아니라 SNS 기업에서 일했던 직원들에 폭로들도 있었습니다.'메타(인스타그램)' 직원이었던 프랜시스 하우겐은 우리가 쓰는 알고리즘은 선정적이고 증오를 부추기는 콘텐츠를 더 많이 노출하며 청소년에게도 유해하다. 그런 사실을 알면서도 광고를 늘리고 더 많은 이익을 얻기 위해 이용자들에게 이 사실을 숨겼다고 2021년에 폭로합니다. 또 '페이스북' 공동 창립자인 숀 파커 또한 자신들이 만든 알고리즘이 사람들을 중독에 이르게 하고 사람과 사람 사이의 관계를 완전히 바꿔버렸다고 이야기하며, 그래서 회사를 떠났다고 고백했습니다. 이뿐만 아니라 트위터, 네이버, 스캐터랩, 쿠팡, 카카오모빌리티, 이루다등에서 알고리즘으로 인한 많은 문제들이 발생해서 이슈가 되었습니다. 이렇게 알고리즘으로 인해 보고 싶은 것만 보는 확증편향이 생기고 사실을 구분하는 능력을 상실해서 가짜 뉴스에 속게 됩니다. 그리고 '돈' 때문에 자극적이고 선정적인 콘텐츠들에 무분별하게 노출됨으로써 인종차별, 선동, 갈등, 중독등 많은 사회적 문제를 일으키게 됩니다.

3. 규제 찬반

유튜브, 인스타, 틱톡을 이용할 때 편리하고 좋았던 알고리즘이취향에 맞는 콘텐츠를 추천해 주고, 필요한 광고를 보여주는 장점만 있는 게 아니라 나쁘게 사용되고 여러 사회적 문제를 일으킨다는 사실을 알게 되니 어떤 생각이 드나요? 알고리즘은 나쁜 것이고 무조건 규제하고 없애야 할 존재라는 생각이 들 수도 있습니다. 하지만 스키를 탈 때 나무를 피해야겠다는 생각을 하면 나무밖에 보지 못해서 결국에는 나무에 부딪치고 길을 봐야겠다는 생각을 하면 길을 볼 수 있다는 말이 있습니다. 즉, 알고리즘의 단점만 보고 두려움을 느끼고 규제만 하려고 한다면 장점은 전혀 보지 못하고 발전하지 못할 것입니다. 하지만 알고리즘의 문제를 어떻게 해결하고 장점을 극대화해서 활용할 방법을 찾는다면 알고리즘을 좀 더 효율적으로 사용할 수 있을 겁니다. 지금까지 알고리즘이 왜 사회적 문제가 되는지, 어떤 사회적 문제가 일어났는지 알아봤습니다. 알고리즘에 대해서 알게 된 만큼 어떻게 하면 알고리즘을 좀 더 잘 활용할 수 있을지 생각하고 연구하는 것이 앞으로의 우리의 해결해야 할 문제입니다. 그리고 내가 너무 확증편향을 가지고 있지 않은지 정보의 진실 여부를 판단할 수 있는 능력을 가지고 있는지 한번 생각해 보고 알고리즘에 중독되지 않도록 노력도 해야 합니다.

이 내용은 <알고 있니? 알고리즘>이라는 책에서 나오는 이야기를 알기 쉽게 정리한 글입니다. 책에는 제가 소개해드린 내용보다 더 자세하게 나와있으니 글을 읽고 알고리즘에 대해서 더 알고 싶은 분들은 책을 한번 읽어보고 더 공부해 보는 걸 추천드립니다.

 

알고 있니? 알고리즘

자고 일어나면 달라지는 세상, 더 나은 미래를 한발 앞서 준비하고자 하는 Z세대를 위한 본격 교양 시리즈 〈세상 궁금한 십대〉의 두 번째 책 『알고 있니? 알고리즘』이 출간되었다. 오늘날 우리 일상 속 언제 어디에나 있는 알고리즘이 도대체 무엇이고 어떤 원리로 작동하는지, 어떤 한계와 문제점을 지녔고, 이를 어떻게 풀어 나가야 할지를 한 권에 담았다. 알고리즘은 나날이 우리 삶에 깊숙이 개입하고, 우리는 점점 더 수많은 일을 알고리즘에 맡기고 있다. 검색, 콘텐츠, 쇼핑, 투자, 교육, 의료, 채용에 이르기까지 사회 전 영역에서 알고리즘은 다양한 방식과 형태로 활용된다. 바로 지금 이 순간에도 우리는 알고리즘에 분석당하고 추천받으며, 시시때때로 많은 영향을 받고 있다. 이 책은 여기서 중요한 질문을 던진다. 우리는 정말 알고리즘을 믿어도 되는 걸까? 알고리즘은 우리를 어디로 이끄는 걸까? 『알고 있니? 알고리즘』은 알고리즘의 작동 원리를 비롯해 빅데이터와 인공 지능, 코딩과 머신 러닝 등 알고리즘과 관련된 핵심 개념을 쉽게 풀어 소개함과 동시에 지난 십수 년 동안 알고리즘이 우리를 어떤 상황으로 이끌었는지, 그리고 현재 우리가 알고리즘으로 맞닥뜨린 현실적 문제와 과제는 무엇인지를 알아본다. 초연결 디지털 시대를 무사히 통과하고 싶은 모든 독자에게, 이 책이 의미 있는 안내서가 될 수 있기를 바란다.

저자

소이언

출판

우리학교

출판일

2022.05.16