유튜브와 페이스북 알고리즘의 불편한 진실

월드뷰 MARCH 2021 ● 기독교세계관으로 세상을 보는 매거진 | CULTURE & WORLD VIEW 3

글/ 책읽는사자(작가, 사자그라운드 대표)

이 시대의 석유

한창 화젯거리가 됐던 다큐멘터리가 있다. <소셜 딜레마>다. 빅테크 알고리즘이 어떻게 우리 삶을 잠식하는가에 관한 내용인데 아이러니하게도 그 다큐를 전 세계 5대 빅테크 기업인 넷플릭스에서 제작했다. 개인적으로 수개월 동안 뉴미디어의 좋고 나쁜 속성을 경험하고 또 연구하고 있던 터라 다큐를 보는 내내 공감하는 바가 컸다. 다만 이런 엇비슷한 메시지를 던지고 있는 영상이든, 책이든, 칼럼이든 좌편향 된 시선을 마치 객관적인 사실인 것처럼 묘사한다. 그 정도가 매우 우려스러울 정도이다. 내가 이 글에서 소개하는 다큐와 책 저자들 역시 마찬가지다. ‘라나 포루하’는 본인 저서에서 힐러리 클린턴과 민주당, 좌편향 주류 언론의 악행과 빅테크 알고리즘의 의도적인 조장은 전혀 다루지 않는 채 줄곧 2016년 미국 대선 당시 트럼프에게 유리한 정보‘만’ 흘렸다는 러시아 선거 개입‘만’ 주야장천 반복한다(또 그녀는 책 전반에 걸쳐 시카고학파에 대해 부정적인 관점을 견지한다). 다큐멘터리 <소셜 딜레마>에서는 빅테크 알고리즘이 ‘자유 민주주의의 위기’를 불러온다고 말하면서도 그 위기의 주요 원인을 2016년 미국 대선으로 묘사한다. 즉 이들에게 2016년 미국 대선 당시 트럼프 대통령 당선은 ‘정상적인 절차에 따른 정상적인 결과’가 아니라는 짙은 확증편향이 깔려 있다. 더 나아가 이 다큐멘터리 인터뷰이이자 <지금 당장 SNS 계정을 삭제해야 할 10가지 이유> 저자이기도 한 ‘재런 러니어’는 본인 저서에서 아예 자신이 민주당 지지자임을 밝힌다. 당연히 주요한 비판 내용에 대한 예시에는 빠지지 않고 트럼프가 나온다. 이들은 마치 공화당 지지자들은 모두 ‘극우’인 것처럼 묘사한다. 보수주의 가치를 지향하는 뉴스는 ‘일단’ 가짜뉴스라는 식이다. 그러나 그럼에도 그들이 제기하는 문제의 본질은 매우 중요하다. 자칫 목욕물 버리려다 아기까지 버리게 되는 꼴을 겪지 않기 위해서는 약간의 인내와 세심한 경청이 필요하다.

<파이낸셜타임스> 부편집장 라나 포루하(Rana Foroohar)는 자신이 약 900달러나 되는 통신요금고지서를 받게 된 이유가 어린 아들의 피파(FIFA) 온라인게임 유료 결제 탓인 것을 알게 되어 그 에피소드에서 느낀 심각성을 계기로 <돈 비 이블(Don’t be Evil), 사악해진 빅테크 그 이후>라는 책을 출간하게 되었다. 또한, 다큐멘터리 <소셜 딜레마>의 메인 인터뷰이이자 전 구글 디자인 윤리학자 트리스탄 해리스(Tristan Harris)는 자신이 인터넷에 중독되는 것 같았고 그 누구도 사람들에게 인터넷을 덜 중독적으로 만들려고 하지 않는 것에 흥미를 느끼는 동시에 IT업계 전반에 불만과 위기의식을 느껴 사내에 자신이 만든 프레젠테이션을 배포한다. (이와 관련하여 그는 ‘역사상 단 한 명도 약 50여 명의 실리콘밸리 개발자가 20억 명의 사람들에게 영향을 끼치는 일이 없었으며 구글에겐 그 문제를 해결해야 하는 도의적 책임이 있다’고 말했다) 처음에는 자신의 프레젠테이션이 공감과 반향을 불러일으킨 것 같았으나 결국 직원들이나 구글 자사 반응이 그때뿐인 것을 절감한 뒤, 그는 구글을 나와 ‘인간적 기술센터(Center for Humane Technology)’를 공동창업했다. <소셜 미디어>의 또 다른 인터뷰이이자 ‘가상현실(virtual reality)’이라는 이름을 처음으로 고안하고 상용화한 컴퓨터과학자 재런 러니어(Jaron Lanier)는 이 다큐멘터리가 만들어지기 1년 전인 2019년에 <지금 당장 당신의 SNS 계정을 삭제해야 할 10가지 이유>를 집필하기도 했다.

도대체 무엇이 문제일까. 이들이 말하고자 하는 표면적인 주안점은 각기 조금씩 다르나 결국 ‘이대로는 안 된다’라는 것이다. 한 예로 구글의 목적은 모든 정보를 데이터화하는 것이며 그 데이터를 최적화하는 것이다. 그것이 구글의 ‘이념’이다. 재런 러니어는 본인의 저서에서 “구글의 세계관이나 사명에 대해서 생각해 보지 않았더라도 검색 결과나 추천 동영상 상위에 우선 노출되기 위해 스스로를 최적화하면 당신도 그런 신념을 받아들이게 된다. 이제 당신 삶의 목적은 최적화다. 당신은 이제 세례 받았다(209).”라고까지 표현하며 빅테크 기술에 대한 무분별한 소비에 일침을 가한다. 너무 과하다고 생각할 수 있으나 실제 구글 최고경영자는 “구글은 단순한 사업 그 이상이며, 정신적인 힘”이라고 말했다. 매우 영적인 접근 방식이다. 더 나아가 구글은 ‘애즈워즈(AdWords)’라는 정밀 타깃팅 광고 기술을 개발해 구글 사용자들의 데이터를 ‘실제 돈’으로 바꿀 수 있게 되었다. 유형의 경제에서 무형의 경제로 패러다임의 대전환이 이뤄진 것이다. 데이터가 곧 돈이다. 이 시대의 석유다.

행동수정

라나 포루하는 자신의 저서에서 스마트폰이 만들어진 뒤, 약 10년 동안 세상이 얼마나 어떻게 바뀌었는지 충격적인 내용을 소개한다. “지구 어디에서건 전체 검색의 90%가 단 하나의 검색 엔진, 바로 구글에서 이뤄”지고, “전 세계 신규 광고 지출의 약 90%가 구글과 페이스북으로 들어가며, 전 세계의 휴대전화 중 1%를 제외한 나머지 휴대전화는 모두 구글과 애플의 운영체제를 기반으로” 한다. (수치가 믿기지 않겠으나 사실이다. 이밖에도 충격적인 사실을 알고 싶다면 그녀의 저서를 확인하시라) 또한 “이른바 FAANG(페이스북, 애플, 아마존, 넷플릭스, 구글의 머리글자를 따서 만든 표현으로, ‘팡’이라고도 한다)이라고 불리는 미국 5대 기술 기업의 시가총액은 프랑스의 전체 경제 규모를 능가할 정도(10)”라고 한다. 페이스북 사용자 수는 약 22억 명으로 중국 인구수보다 많다.

빅테크 기업들은 자사 알고리즘 정확도를 개선한다는 명분으로 거의 모든 디지털 기록을 빠짐없이 수집한다. 그것이 우리가 빅테크 기업들이 제공하는 각종 서비스를 공짜로 이용하는 대가다. 하기야 누가 서비스를 이용하기 전, 보이지도 않는 깨알 같은 글자 가득한 ‘동의서’를 읽어보겠으며 자신의 자유의지를 보호하기 위해 단호히 동의 목록에 체크하기를 거부하겠는가. 여기서 한 가지 반전이 드러난다. 즉 빅테크 기업들이 모셔야 하는 소비자는 우리가 아니라 광고주라는 사실이다. 그들의 목적은 1초라도 더 자사 서비스를 이용할 수 있도록 우리들의 ‘관심’을 묶어두는 것이다. 바로 이 이유로 우리의 기질, 성격, 가치관, 정치 성향, 소비 성향, 하물며 현재 나의 감정까지 긁어모으는 것이다. 영상 하나만 보려 했다가 나도 모르게 수 시간을 유튜브에 머물러 있었던 이유는 그들이 나의 관심을 설계했기 때문이다.

이게 문제의 핵심이다. 그들은 우리의 행동을 수정한다. 우리는 스스로 ‘자유롭게 선택했다’라고 생각했을지 모르나 사실은 치밀하게 설계된 빅테크 알고리즘의 우리에 갇혀 그들이 던져주는 ‘도파민 먹이’에 길들여지고 있다는 말이다. 페이스북 초대 대표인 숀 파커(Sean Parker)는 페이스북에 ‘좋아요’ 버튼과 댓글 쓰기 기능을 설계했다. 내 게시물에 누군가 ‘좋아요’를 누르거나 댓글을 달면 소량의 도파민이 분비되는데 사용자는 스스로 인지하지 못하더라도 계속해서 그 도파민을 갈구하게 된다. 자사의 수익을 위해 인간의 심리적 취약성을 악용하는 것이다. 물론 이 ‘악마의 설계’를 마크 저커버그(Mark Zuckerberg)와 인스타그램 창시자 케빈 시스트롬(Kevin Systrom) 역시 잘 알고 있었다.

이것은 매우 심각한 문제다. 실제로 “페이스북은 호주에서 우울감에 사로잡힌 10대를 공략하기 위해 의도적으로 설득 기법(=행동수정)을 동원했으며, 이들을 다양한 제품과 서비스를 홍보하기 위한 광고에 노출시켰다(66).” 하나님의 형상으로 지음 받은 인간의 가장 큰 특징은 ‘자유의지’와 ‘이성’이다. 빅테크 기업들은 이 두 가지를 파괴한다. 우리의 관심을 빼앗는 것을 넘어 통제한다. 어떤 이들은 이미 완전히 장악당했다. 마치 엄마에게 혼날 것이라는 이성적 사고관을 넘어 약 900달러의 게임 아이템을 결제한 그 어느 어린이처럼 말이다. 빅테크 수익구조의 순서를 기억하는가. 호주에서 우울감에 사로잡힌 10대 아이들은 빅테크 기업의 소비자들이 아니다. 아무것도 모르는 사이 자신의 관심과 감정을 빼앗기고 있는 ‘원재료들’이다. 또한 “페이스북은 수년 동안 미국 정부가 미국의 안보를 위협하는 기업으로 공식적으로 언급해온 화웨이를 비롯한 여러 중국 기업들에 경력, 인간관계, 종교 등 페이스북 사용자 본인과 친구들에 대한 구체적인 데이터에 접근할 수 있는 권한을 줬다(383).” 어쩌면 이들은 그 어떤 이념과 권력보다 더욱 본질적으로 악하다.

스마트폰을 스마트하게

물론 빅테크 기술로 인한 장점도 어마무시하다. 인도의 어느 소년이 인터넷을 통해 ‘무료로’ 코딩을 독학해 아이비리그에 진학하는 꿈을 이룰 수도 있고, 불우한 이웃의 안타까운 소식이 SNS에 퍼져 삽시간에 성공적인 모금이 이뤄질 수도 있다. 유튜브 같은 경우 반지성적인 음모론을 조장하기도 하지만 이전에는 없었던 시민 계몽의 주요 도구가 되는 것 또한 명백한 사실이다. 꼭 이념적 학습 효과가 아니라 할지라도 예전에는 상상도 할 수 없었던 정보 교류로 인해 우리 삶의 질은 상승하고 또 상승했다. 빅테크 기술이 없이 맞이해야 했던 코로나19 사태를 상상이나 할 수 있겠는가.

그러나 그렇다고 해서 모든 것이 용인되는 것은 아니다. 그들은 우리의 ‘시간’을 빼앗는다. 스마트폰과 인터넷을 이용하면 이용할수록 우리는 점점 더 바보가 된다(이 주장에 대한 뇌과학적 논거를 알고 싶다면 니콜라스 카(Nicholas Carr)의 <생각하지 않는 사람들>을 읽어보라). 하나님께서 선물해 주신 그 찬란한 자유와 이성을 스스로 파괴하게 만든다. 생각해 보라. 과연 ‘피파 온라인’, ‘배틀 그라운드’, ‘포트나이트’ 등의 게임을 밤새워서 하는 사람들이, 넷플릭스 최신 미국드라마를 며칠 밤새워서 ‘정주행’하는 사람들이, 하루 내내 유튜브만 쳐다보고 있는 사람들이 과연 조용히 성경을 읽으며 무릎 꿇고 기도하는 예배자가 될 수 있겠는가. 아니 주일에 교회에 나가 목사님의 3, 40분 설교 말씀을 집중해서 들을 수나 있겠는가. 그렇다. 사단은 스마트폰과 빅테크를 통해 크리스천의 ‘순결한 신부의 영성’을 파괴하고 있다. 하나님을 향한 우리의 ‘관심’을 끌어내리고 있다!

그럼 당장 스마트폰을 버려야 할까. 아니다. 물론 필요에 따라 디지털 디톡스 개념으로 갖가지 빅테크 계정을 임시 비활성화로 전환하든가 아니면 (계정 탈퇴가 아닌) 어플을 삭제할 수도 있다. 나 스스로 생활 속 ‘스마트 넛지(Smart Nudge)’를 가하는 것이다. 또는 지금 바로 스마트폰 ‘환경설정-알림’에 들어가 빅테크 어플 및 내가 과도하게 자주 사용하는 어플들의 ‘알림’을 끄는 방법도 매우 좋다. 무슨 말인가. 스마트폰을 망치로 깨부수고 숲속에 들어가 숨어 지내라는 것이 아니라, 스마트폰을 스마트하게 사용하라는 말이다. 빅테크 알고리즘에 내 자유와 이성이 오염되고 파괴되는 것이 아니라 십자가 죽음을 부활로 역전하신 예수 그리스도를 본받아 오히려 내 영혼을 개혁하는 ‘축복의 매개’로 사용하라는 것이다.

사단은 물불 안 가린다. 반복음적 마르크시즘, PC주의(Political Correctness)도 위험하지만, 그쪽으로만 방어선을 구축한다면 그 너머의 ‘다른 악’, ‘전혀 다른 전략’에 속수무책으로 당하고 만다. 우리가 예상했던 것보다 훨씬 더 많은 것들이 연결되어 있다. 하물며 세상 기업들도 그 본질을 파악하고 올바른 전략을 짠다. (벌써) 그 옛날 나이키는 자사 라이벌을 타 스포츠 브랜드가 아닌 ‘닌텐도’라고 말했고, 넷플릭스는 자사 라이벌을 HBO나 월트디즈니가 아닌 게임 ‘포트나이트’라고 말했다. 이 시대의 영적 리더라면 네오막시즘과 더불어 반드시 빅테크의 위험성을 면밀히 공부해야 한다. 부모 세대가 구국기도회 다녀올 동안 MZ세대는 본인도 모르는 사이 스마트폰에 중독되고, 노예화된다. 순종의 대상이 바뀌는 것이다.

지면의 한계로 인해 빅테크 알고리즘의 실체를 거의 전하지 못했다. 앞서 소개한 다큐멘터리 또는 서적들을 읽으면 더욱 깊고 넓은 복음적 인사이트를 얻을 수 있을 것이다. 다만 서론에서 언급했듯 이 사람들의 문제 제기 방향성과 그에 따른 솔루션이 조금은 편파적이라는 사실을 잊지 말기 바란다. ‘객관적인 척하는 편향’, 그에 따른 반복음적 전체주의. 지금 우리가 숱하게 겪고 있지 않나.

<thelion333@naver.com>

글 | 책읽는사자

작가이자 콘텐츠 제작가.성경적 관점으로 다양한 사회 주제를 다루고 있다. 책이나 유튜브 영상을 통해 청년들에게 필요한 실제적이면서도 바른길을 제시하려고 노력 중이며, ‘사자그라운드’ 대표를 맡고 있다. 저서로는《책읽는사자의 신앙의참견》이 있다.