2018
11-12월(합본호)

진실을 뒤흔드는 허위뉴스
시난 아랄(Sinan Aral)

진실을 뒤흔드는 허위뉴스

 

허위뉴스는 온라인에서 진실보다 더 빨리, 더 멀리, 더 깊이 확산된다. 하지만 이 확산을 막을 수 있다. 지금부터 그 방법을 알아보자. 시난 아랄

 

 

2018 3월 도널드 트럼프 미국 대통령이, 아마존이주정부와 지방정부에 세금을 거의 내지 않고 있다는 글을 트위터에 올리자 아마존의 주가는 2년 만에 최저치를 기록했다. 트럼프의 주장은 사실과 달랐고, 이후 아마존 주가는 이전 수준을 회복했다. 하지만 이 사건은 기업이 소셜미디어를 통해 퍼지는 오보(誤報)에 얼마나 취약한지 잘 보여준다.

 

 

그래서인지 허위뉴스가 2016년 미 대선에 영향을 끼쳤는지 아닌지를 주류 언론이 중점적으로 다루고 있다는 사실이 그리 놀랍지 않다. 사실 이런 피해로부터 안전한 사람은 아무도 없다. 확산되는 허위정보는 민주주의, 경제, 기업, 심지어 국가안보에까지 영향을 끼친다. 우리는 허위정보의 확산을 제대로 이해하고 저지하는 데 힘을 모아야 한다.

 

지난 3년 동안 나는 소로우시 보수기Soroush Vosoughi, 뎁 로이Deb Roy와 함께 허위뉴스가 온라인을 통해 확산되는 문제를 연구해 왔다.(‘가짜뉴스fake news’라는 용어에 대한 이해가 첨예하게 대립하고 있는 탓에 우리는허위뉴스false news’라는 용어를 사용하고자 한다. 요즘 정치인들은 자신의 입장에 반하는 뉴스를 가짜뉴스라고 주장한다.) 우리는 얼마 전 진행한 연구의 일환으로, 트위터가 창립된 2006년부터 2017년까지의 데이터를 수집했다. 이 기간 중 트위터에서 유통된 총 126000건의 트윗 캐스케이드tweet cascade(하나의 트위터 게시글과 그 리트윗 글들의 묶음)를 모아 전파된 내용의 진위를 확인했다. 그런 다음 온라인상에서 진짜뉴스와 허위뉴스가 확산되는 양상을 비교했다. 그 결과는 3사이언스 >에 커버스토리로 실렸다.

 

연구결과는 놀라운 동시에 심란했다. 어떤 범주의 정보든 간에 허위뉴스가 진실보다 더 멀리, 더 빨리, 더 깊게 확산됐다. 때로는 그 차이가 수십 배에 달했다. 그리고 정치 관련 허위뉴스가 어떤 유형의 허위뉴스보다도 훨씬 멀리, 빠르게, 깊이 퍼졌다.

 

이 현상을 제대로 이해하는 일이 얼마나 중요한지는 아무리 강조해도 부족하다. 그리고 이 문제는 아마 당분간 더 악화될 것이다. 동영상과 음성을 조작하는 기술이 나날이 진화함에 따라, 왜곡된 현실이 점점 더 그럴 듯해지고 조작을 알아채기가 점점 어려워지고 있기 때문이다. 다행히 연구자, 인공지능 전문가, 소셜미디어 플랫폼도 이 문제를 심각하게 받아들이고, 그 본질과 가능한 해결방안을 열심히 연구하고 있다.

 

 

나는 이 아티클에서 허위정보의 확산을 억제하는 방법을 이야기하려고 한다. 허위정보와의 싸움에서 이기려면 관련자에 대한 교육, 인센티브 수정, 기술적 도구 개선, (적절한) 정부 감시라는 상호 연관된 네 가지 접근법을 적용하고, 다음 다섯 가지 핵심 질문의 답을 찾아내야 한다.

 

• 사람들이 허위정보를 알아채고 이런 정보에 혹하지 않도록 교육하는 방법은 무엇일까?

• 허위정보의 확산을 억제하고 정직한 소통과 사실의 확산을 장려하는 방법은 무엇일까?

• 허위정보를 억제하기 위해 기술적 도구, 특히 알고리즘을 어떻게 활용할 수 있을까?

• 소셜미디어로 인해 창출된 사회경제적 가치를 훼손하지 않으면서 규제당국이 효과적으로 관여하는 방법은 무엇일까?

• 어쩌면 가장 중요한 질문일 수 있는데, 진짜정보와 허위정보를 누가 구분해야 할까?

 

해결방안을 논하기에 앞서, 먼저 이 이슈에 관심을 가져야 하는 이유를 살펴보자.

 

 

 

 

 

THE AUTHOR

 

 

시난 아랄Sinan Aral 

 

 

시난 아랄(트위터 @sinanaral)은 애초에 자신이 허위뉴스를 연구하게 되리라고 생각하지 못했다. 2013년 보스턴마라톤 폭탄테러가 발생했을 때, 아랄과 뎁 로이는 MIT에서 박사논문을 쓰던 소로우시 보수기에게 조언을 해주고 있었다. 그날 많은 사람들처럼 이들도 트위터를 통해 소식을 알게 됐다. “트위터에 오보가 정말 많았습니다.” 아랄은 당시 상황을 떠올렸다. 보수기는 이 경험에 매료된 나머지 논문 주제를 완전히 바꾸는 대담하고도 드문 결단을 내렸다. 보수기는 논문에서 허위뉴스만 집중적으로 다루기로 했다. 세 사람은 허위뉴스가 퍼져나가 기정사실화되는 경로를 다룬 기념비적 논문을 공동 저술했다. 이 논문은사이언스 >에 게재됐다.

 

이번 아티클에서 아랄은 한 번의 선거주기 너머에까지 영향을 미치는 허위뉴스의 범주를 살피고, 유포 경향을 분석하고, 대응방안을 제시한다. 연구수상 경력도 있는 아랄은, 현재 MIT의 데이비드 오스틴대 경영학 교수이자 MIT 데이터·시스템·사회연구소 교수로 재직 중이다. 슬론경영대학원의 MIT 디지털경제 이니셔티브 공동 소장 직도 맡고 있다. 또 아랄은 허위뉴스 현상의 진원지라 할 수 있는 소셜미디어의 개발 및 관리와 관련해 다양한 경험을 쌓았다. 여러 소셜미디어 스타트업에서 수석과학자를 지냈고, 주요 소셜플랫폼 및 기술기업들과 긴밀하게 협력해 왔다.

 

아랄은사이언스 >에 실린 논문이 관심을 끌었다는 사실에 그리 놀라지 않았다. “제가 놀란 부분은 따로 있습니다.” 아랄은 말한다. “바로 허위뉴스 문제를 해결하는 게 굉장히 어렵다는 점이었죠. 이 이슈의 기술적 측면부터 행동, 경제, 규제 측면에 이르기까지, 허위뉴스 현상에 내포된 도전과제가 정말 많습니다. 게다가무엇이 진실인가?’라는 근본적 질문은 결코 만만하지 않습니다.”

 

그럼에도 아랄은 좌절하지 않는다. 그는 오보와의 싸움이 조만간 진전을 보이리라고 믿는다. “분명 더 나아질 겁니다. 과학계, 입법부, 스타트업, 다국적 대기업에 이르는 모든 관련 당사자들이 강력한 의지를 보인다면 말이죠. 우리는 앞으로 해야 할 일이 많습니다. 하지만 어떤 전략을 써야 이 투쟁에서 값진 결과를 얻을 수 있는지도 분명히 알고 있습니다.”

 

 

 

 

허위뉴스, 왜 위험한가?

 

유사 이래 인간은 거짓말을 하고 소문을 퍼뜨려왔다. 아마 인간이 언어로 소통하기 시작하면서부터 그랬을 것이다. 그런데 오늘날에는 상황이 크게 달라졌다. 정보 확산의 속도를 높이고 증폭시키는 소셜미디어의 힘이 순식간에 놀랍도록 강력해졌다. 2006년 서비스를 시작한 트위터는 전 세계 실사용자가 33600만 명, 2004년 창립한 페이스북은 219000만 명에 이른다. 이제 많은 사람이 트위터와 페이스북을 주요 뉴스 출처로 삼고 있다. 그러나 플랫폼에서 유통되는 콘텐츠의 질을 검사하지 않겠다는 플랫폼기업들의 사내 방침으로 인해, 온라인 정보의 진위를 알려주는 안전장치는 사실상 전무하다.

 

소셜미디어 플랫폼에서 허위정보가 너무 쉽게 퍼진다는 사실은 단순한 골칫거리가 아니다. 이 문제는 위험하고 큰 비용을 초래할 수도 있다. 허위뉴스가 선거와 민주사회의 보전을 위협한다는 점은 자명하다. 로버트 뮬러 특별검사의 러시아 스캔들 관련 기소가 새삼 뇌리를 스치는 가운데, 데이터분석기업 케임브리지 애널리티카의 알렉산더 닉스 전 CEO가 자신의 회사가 전 세계 선거판에 영향을 끼치기 위해 어떻게 이야기를 날조해서 온라인상에 퍼뜨렸는지를 설명하는 잠입취재 영상을 보면 소름이 끼친다. 허위뉴스가 미 대선과 유럽 및 아프리카 선거에 어느 정도까지 영향을 끼쳤는지는 아직 확실치 않다. 하지만 온라인을 통한 허위정보의 확산이 민주적 절차에 심각한 우려를 낳고 있다는 점에 대해서는 대다수 전문가가 동의하고 있다.

 

 

 

 

사법당국과 최초 대응기관이 테러공격이 발생했을 때 정보를 수집하기 위해 소셜미디어에 조금이라도 의존할 경우, 허위뉴스로 인해 자원을 배분하는 데 오류가 생길 수도 있다. 이를테면 2013년 보스턴마라톤 폭탄테러 당시, MIT 캠퍼스가 수사를 위해 일시 폐쇄되는 동안 오보가 제멋대로 횡행했다. 믿을 만한 정보가 부족했기 때문에 캠퍼스의 어디가 안전한지 알 수 없었다. 그래서 우리는 트위터로 새로운 소식을 계속 확인했다. 트위터를 통해 TV보다 훨씬 빠르게 믿을 만한 속보를 접할 수 있었다. 하지만 트위터에 떠도는 수많은 허위정보가 사법당국을 혼란스럽게 만들기도 했다. 만에 하나 사법당국이 소셜미디어에 의존한다는 사실을 공격자가 눈치채기라도 한다면, 소셜미디어를 활용해 경찰의 대응을 사전에 저지하는 일도 충분히 가능하다. 소셜미디어를 정보의 출처로 활용할 경우, 이 출처를 오염시키는 작전이 무기로 쓰일 수도 있다.

 

오보는 경제, 투자, 그리고 개별 기업의 가치에도 영향을 준다. 2014년 버락 오바마 전 미국 대통령이 폭발로 인해 다쳤다는 허위정보가 트위터에 올라오자, 하루 만에 1300억 달러의 주식가치가 증발했다. 요즘 투자펀드들은 알고리즘 거래에 필요한 정보를 얻기 위해 소셜미디어상의 분위기를 분석한다. 허위뉴스가 이런 매체에 침투하면, 자동거래시스템은 허위정보에 기반해 거래를 실시한다. 아직 허위뉴스에 근거한 알고리즘 거래로 발생되는 손실을 본격적으로 따져본 사례는 없지만, 여러 일화로 미뤄볼 때 소셜미디어가 우리 경제에 커다란 영향을 끼치고 있으리라 추정된다.

 

허위정보는 기업 운영의 거의 모든 측면을 왜곡시킬 수 있다. 엉뚱한 곳에 투자하게 만들고, 수익을 감소시키고, 수요 예측, 재고 모형, 계획 수립을 어긋나게 할 수 있다. 뿐만 아니라 기업의 평판을 손상시켜서 시장 가치에 악영향을 끼칠 수도 있다. 트럼프 대통령이 트위터에 허위 주장을 올려서 아마존에 피해를 입힌 사건은 한 예에 지나지 않는다. 팩트체크 전문 사이트 스놉스Snopes핫 루머 50’이라는 목록을 발표하는데, 이 목록은 걱정될 만큼 자주 업데이트된다. 유나이티드항공이 파산신청을 했다는 2008년 루머, 스타벅스가 불법이민노동자들에게 프라푸치노를 공짜로 제공하기로 했다고 주장한 2017년 보도, 펩시코의 CEO 인드라 누이가 당시 막 당선된 트럼프 대통령의 지지자들에게더 이상 함께 비즈니스하고 싶지 않다라고 했다는 2017년 보도 등이 이 목록에 포함돼 있다. 알고리즘 거래와 마찬가지로, 오보가 개별 기업에 끼친 손실에 대해 믿을 만한 추정치는 없다. 하지만 이런 사건의 발생빈도를 보면, 실질적이고 점증하는 문제라는 사실을 짐작할 수 있다.

 

 

 

 

허위뉴스는 왜 확산될까?

 

우리의 연구 결과는, 허위뉴스가 이처럼 빠르고 널리 퍼지는 이유에 대해 언뜻 보면 명확한 것 같은 내용에 의구심을 제기한다. 이를테면 소셜미디어의 열혈 사용자가 허위뉴스를 확산하는 배후일 거라고 짐작하기 쉽지만, 우리가 수집한 데이터는 정반대 이야기를 한다. 허위뉴스를 퍼뜨리는 사람은 진짜뉴스를 퍼뜨리는 사람보다 훨씬 덜 연결돼 있었다. 팔로어와 팔로잉하는 사람 수도 월등히 적고, 트위터 이용도도 낮았다. 트위터 계정을 인증[1]받은 사람도 더 적고, 가입기간도 더 짧았다. 이런 사실은 허위정보가 훨씬 광범위하고 빠르게 퍼지는 현상이 허위뉴스를 퍼뜨리는 집단과 진짜뉴스를 퍼뜨리는 집단 간 차이 때문이 아니라, 두 집단의 차이에도 불구하고 일어나고 있음을 시사한다.

 

어쩌면 신문에서 읽은 기사와 미 의회의 증언을 토대로,bots이 허위정보의 확산을 이끄는 주요 요인이 아닐까 짐작할지도 모른다. 하지만 우리 연구 데이터에 따르면, 로봇은 진짜뉴스와 허위뉴스의 확산을 거의 같은 비율로 가속화한다. 즉 허위뉴스가 더 빨리 퍼지는 현상의 배후는 로봇보다는 인간일 가능성이 훨씬 높다.

 

허위정보에 대한 인간의 취약성은참신함의 가설novelty hypothesis이라는 개념으로 좀 더 설득력 있게 설명될는지도 모른다. 이 이론에 따르면, 사람들은 참신한 것에 주목한다. 참신한 정보를 공유하면 남보다 많이 아는 듯해서 우위를 점하는 기분이 들기 때문에, 이런 정보를 더 많이 공유하고 싶어 한다. 우리 연구에서도 사람들은 확실히 진실보다 허위뉴스를 훨씬 참신하다고 인식했고, 참신한 정보를 더 많이 공유하는 경향을 보였다.(여기서 말하는 ‘참신함’을해당 트위터 사용자가 평소에 접하던 정보와 다른 것이라고 생각해 보자.) 유언비어를 본 이용자들은 놀라움과 혐오의 감정도 더 많이 드러냈다. 반면 진실을 접한 이용자들은 기대, 기쁨, 신뢰의 감정을 더 많이 보였다. 사람들은 놀랍고 선정적인 뉴스를 더 많이 공유할 가능성이 있는 듯했다.

 

 

 

동영상과 목소리를 조작하는 기술이 나날이 진화하면서, 왜곡된 현실이 점점 더 그럴 듯 해지고 조작을 알아채기가 점점 더 어려워지고 있다.

 

 

허위뉴스에 맞서는 방법

 

온라인에서 허위정보에 맞서 싸우는 한 가지 방법은 소비자의 관점을 고려하는 것이다. 수요 측 접근법은, 가령 어떤 이야기나 트윗의 품질 정보를 소비자에게 제공해서 허위뉴스에 대해 알리는 것이다. 공급 측 접근법은 정보 출처의 문제를 해결하는 방법이다. 허위뉴스를 게재해 퍼뜨리는 소셜미디어와 콘텐츠 제공자에게 불리한 조치를 마련하는 방안을 예로 들 수 있다. 수요 측 접근법과 공급 측 접근법은 상호보완적이며, 두 가지가 반드시 병행돼야 한다. 두 접근법을 실행할 때 알고리즘이 확실히 중요한 역할을 할 것이다. 또한 정부는 허위뉴스와의 싸움에서 방해꾼이 아니라 유용한 감독자가 될 수 있도록 방법을 찾아야 한다.

 

소비자를 보호하고 교육하라.소셜미디어에 제공되는 정보와 뉴스에 정확성을 평가하고 알릴 수 있는 표시가 붙어 있다고 가정해 보자. 식품에는 이미 이런 정책을 시행하고 있다. 대부분의 국가에서는 포장된 식품에 거의 라벨을 부착한다. 우리는 그 라벨을 보고 이 식품의 칼로리가 얼마인지, 설탕, 단백질, 트랜스지방이 몇 그램 들었는지 알 수 있다. 심지어 유기농인지, 방목한 동물을 원료로 했는지, 밀이나 땅콩도 가공하는 시설에서 제조됐는지 아닌지도 알 수 있다.(이런 정보가 처음부터 제공된 건 아니다. 정보 제공을 요구하는 소비자들이 힘을 모으자, 정부가 그에 대응해 관련 규정을 제정 및 시행한 결과다.)

 

하지만 우리가 뉴스를 소비할 때, 특히 온라인에서 소비할 때는 주어지는 정보가 훨씬 적다. 특정 출처가 진짜정보를 전파하는 경향이 있는지, 아니면 가짜정보를 전파하는 경향이 있는지 알 수 없다. 어떤 기사가 사실일 가능성이 높은지, 아니면 허위일 가능성이 높은지 알 수 없다. 심지어 이 뉴스가 어떤 과정을 거쳐 생산됐는지도 알 수 없다. 즉 퍼블리셔가 세 개의 독립된 출처로부터 사실을 확인하라고 요구했는지, 아니면 하나의 출처만 요구했는지 알 수 없다. 그 기사가 완성되기까지 몇 명의 기자가 관여하고, 몇 번의 인터뷰를 진행하고, 얼마나 오래 취재했는지도 알 수 없다.

 

이런 정보의 부재는 매우 중요한 사안이지만, 다음과 같이 쉽게 답할 수 없는 여러 질문을 낳는다.

 

허위뉴스를 어떻게 정확히 판별할 수 있을까?우리 연구에서는 독립적으로 팩트체킹을 하는 여섯 개 조직을 통해 트윗 캐스케이드의 진위를 평가했다. 그런 다음 MIT와 웰슬리대에서 독립적으로 연구하는 학생들에게, 팩트체커가 이 캐스케이드의 진위를 판별할 때 어떤 편견이 작용했는지 알아봐 달라고 요청했다.

 

이런 과정을 평가하는 일은 분명 쉽지 않을 것이다. 따라서 콘텐츠의 진위를 더 효율적으로 예측해 주는 알고리즘을 구축하는 게 상당히 중요하다. 소로우시 보수기는 트위터에서 확산되는 루머의 진위를 실시간으로 자동 감지·예측하는 초기 알고리즘 중 하나를 개발해, 뎁 로이가 지도하고 내가 자문한 그의 MIT 박사논문에서 발표했다. 이 분류 알고리즘은 의미적, 통사적 특징을 바탕으로 루머를 파악하는데, 정확성이 91%에 이른다. 그리고 이런 루머 게시글의 언어적 표현방식, 루머를 퍼뜨리는 데 관여한 사람들의 특성, 루머 전파의 역학을 토대로 진위를 실시간으로 예측하며, 정확성은 75%. 최근에 발표된 이 분야의 연구들도 전망이 밝다. 그러나 공인된 허위뉴스 판별법을 도출하기까지는 여전히 갈 길이 멀다.

 

 

 

 

무엇이 진실이고 거짓인지를 누가 결정할 수 있을까?매우 중대한 질문이다. 하지만 이에 대한 명쾌한 답은 없다. 페이스북, 트위터와 같은 플랫폼에 답을 맡겨야 할까? 규제당국이 정해야 할까? 우리 연구에 참여한 팩트체킹 조직 같은 데 기대야 할까? 일종의 독립적인 위원회를 구성해야 할까? 팩트체킹 조직이나 위원회의 정치화를 막을 수 있다고 확실히 보장하기란 거의 불가능하다. 좋은 답을 도출하기 위해서는 더 깊은 숙고와 연구가 반드시 선행돼야 한다.

 

얼마 전 페이스북은 허위뉴스 이슈를 둘러싼 압박에 대응해, 페이스북 웹사이트에 올라오는 새 게시물에아티클 정보버튼을 추가하겠다고 발표했다. 이 버튼을 클릭하면 해당 주제와 관련된 다른 아티클, 동일한 퍼블리셔가 게시한 최근 기사, 퍼블리셔의 위키피디아 페이지 링크 등 세부 정보를 볼 수 있다. 분명 옳은 방향의 조치이기는 하지만, 이것만으로는 부족하다.

 

 

 

 

허위정보는 엉뚱한 곳에 투자하게 만들고, 수익을 감소시키고, 수요 예측, 재고 모형, 계획 수립을 어긋나게 할 수 있다.

 

정확한 라벨링이 허위뉴스의 확산을 실제로 늦출 수 있을까?라벨링의 효과에 관한 과학적 증거만으로는 아직 확답을 내리기 어렵다. 허위뉴스에 라벨을 붙이는 방법이 잘못된 정보의 확산을 줄인다는 연구 결과가 있기는 하다. 하지만 라벨링이 오히려 확산을 부추긴다는 연구 결과도 있다. 이 분야의 연구 가운데 출판되거나 동료들의 상호 심사를 거친 연구는 거의 없다. 따라서 라벨링을 통해 허위정보의 확산을 가장 효과적으로 제한하는 방법이 무엇인지 알아보는 실험이 시행돼야 한다. 예를 들면진실성 점수를 표시한 것이 퍼블리셔의 위키피디아 페이지 링크보다 더 효과적인지 아닌지 실험을 통해 알아볼 필요가 있다.

 

콘텐츠 크리에이터, 광고주, 소셜미디어 기업에 제공하는 인센티브를 바꿔라. 소셜미디어의 광고 생태계는 콘텐츠 확산에 크게 기대고 있다. 더 많은 관심을 얻는 콘텐츠일수록 더 많은 가치를 창출하고, 더 많은 광고수익을 올린다. 따라서 어떤 의미에서는 지금의 디지털광고 비즈니스 모델이 허위뉴스의 확산을 부추긴다고 할 수 있다. 지금껏 보아왔듯이 잘못된 정보는 정확한 뉴스보다 훨씬 멀리 빠르고, 깊고, 넓게 퍼져나가기 때문이다. 2016년 미 대선 당시 마케도니아에서 제작된 허위뉴스의 경우에도 정치적 동기보다 경제적 동기가 더 크게 작용했다는 사실이 대대적으로 보도된 바 있다. 그 허위뉴스 제작자들은 진짜뉴스보다 허위뉴스를 게시할 때 더 많은 광고수익을 얻을 수 있다는 사실을 알았을 뿐이다.

 

오보의 유통에 따른 경제적 유인은 당연히 단기적이고 근시안적이다. 허위뉴스가 확산되면 결국 플랫폼의 질을 떨어뜨리고, 광고주에게 타격을 입히고, 정직한 콘텐츠 크리에이터의 신용을 깎아 먹는다. 이들 대다수가 이 사실을 잘 알고 있다.

 

공급자들이 어떤 변화를 원하거나 필요로 하는지 파악하는 작업은 아직 걸음마 단계다. 그럼에도 나는 넓게 볼 때 다음과 같은 두 가지 가능성을 본다.

 

1. 소셜미디어 생태계의 비즈니스모델을 폐기하는 경우. 급진적 접근방식은, 페이스북과 다른 소셜미디어 기업의 광고 위주 비즈니스 모델을 구독 모델로 바꾸는 것이다. 이는 클릭 수와 참여도에 우선순위를 두는 기존 방식이 선정적이고, 분열을 일으키고, 허위콘텐츠를 늘린다는 이유에서 나온 발상이다. 플랫폼 이용자가 월 구독료를 내고 서비스를 구독한다면, 이용자에게 가장 득이 되는 서비스가 곧 기업의 인센티브로 연결될 수 있다는 주장이다.

 

페이스북도 이런 가능성을 이미 검토하고 있다. 셰릴 샌드버그 페이스북 최고운영책임자는 미국 NBC방송 토크쇼투데이에서, 페이스북을 프리-미엄freemium모델로 전환해 부분적으로 유료화하는 방안을 제시했다. ‘free’ ‘premium’의 합성어인 프리-미엄 모델은, 기본 서비스는 무료로 제공하고 부가 서비스나 고급 서비스는 유료화하는 가격전략을 말한다. 이 모델을 도입할 경우 유료 사용자는 서비스 이용 중에 광고를 보지 않아도 되고, 아마 데이터를 수집당하지도 않을 것이다. 경제적 측면에서 충분히 가능성 있는 방안이다. 이미 널리 퍼진 비즈니스 모델이기도 하니 말이다. 음악 스트리밍 서비스 업체 판도라는 광고를 듣는 대신 무료로 음악을 즐기게 하면서도, 유료 이용자에게는 광고 없이 음악을 감상할 수 있는 서비스를 제공한다. 뉴욕타임스는 방문자들이 한 달에 기사 열 꼭지는 무료로 읽고, 그 이상부터는 유료로 볼 수 있도록 하고 있다.

 

그런데 이 모델이 과연 현실적일까? 엄청난 가치를 창출하는 새로운 경제 분야가 페이스북을 비롯한 몇몇 대기업에 의해 탄생했다. 규제당국이 강하게 압박하지 않는데도 기업들이 이렇게 기특한 이윤 창출 수단에서 손을 뗄 가능성은 거의 없다.(이 부분은 뒤에서 설명하겠다.)

 

설령 소셜미디어 플랫폼 기업의 비즈니스 모델을 변화시킬 수 있다 해도, 과연 그게 현명한 조치일까? 다양한 비주류 콘텐츠를 생산하는 수많은 롱테일 퍼블리셔는 광고수익 없이는 생존이 불가능하다. 대형 퍼블리셔만이 구독 모델을 적용할 수 있을 정도의 규모를 갖추고 있기 때문이다. 소비자들이 여러 서비스를 유료로 이용하기보다는 뉴스, 스포츠, 오피니언 등 콘텐츠 카테고리별로 하나의 서비스만 구독할 가능성이 높다. 그 결과 콘텐츠 생산 시장이 위축되고, 몇몇 대기업에 의해 독점될지도 모른다. 정보 다양성이 사라지면 우리 사회에 막심한 피해가 초래될 수도 있다.

 

이런 변화의 피해자는 퍼블리셔와 콘텐츠 소비자들로 한정되지 않을 것이다. 소셜 미디어의 디지털 마케팅 생태계는 수많은 기업을 먹여 살린다. 또 대규모 일자리를 창출하고, 각종 브랜드, 단체, 트레이딩 데스크, 광고주 대상 플랫폼, 온라인 광고 거래소인 애드 익스체인지, 광고주와 매체를 연결해주는 애드 네트워크, 매체용 광고 판매 플랫폼의 수익을 책임지고 있다.

 

또 하나 중요한 고려사항은, 구독 모델로 바꾸면 불평등이 가속화할 수 있다는 점이다. 퓨 리서치센터가 2017년에 실시한 연구에 따르면, 미국 성인의 거의 70%전체 뉴스 가운데 일부는 소셜미디어를 통해 접하고있으며, 미국 성인 중 트위터 사용자의 70%는 트위터를 통해 뉴스를 접한다. 페이스북 이용자들은 페이스북 플랫폼에서 뉴스를 접할 뿐만 아니라 지인이나 인맥과도 접촉한다. 이런 활동은 일자리를 구하고, 경제적 기회를 관리할 때 매우 중요한 요소로 작용한다. 구독 모델로 바뀔 경우, 경제적 여력이 없는 사람은 이런 서비스에 접근하는 기회가 제한될 가능성이 매우 높다.

 

구독 모델은 내가 프라이버시 갭privacy gap이라고 부르는 문제를 악화시킬 위험이 있다. 프라이버시 갭은 모든 사회 구성원이 개인정보를 동등하게 보호받지 못하는 현상을 말한다. 만약 페이스북 월 구독료가 9.99달러라면, 돈 있는 사람만 페이스북 유료 서비스를 이용할 수 있을 것이다. 사생활이 존중받을 가치가 있고 개인정보 보호가 중요하다는 인식을 모두가 공유하는 사회에서, 부자는 감시로부터 자유로울 권리를 돈으로 사고 빈자는 정보와 일자리를 얻는 대가로 개인정보를 공개해야 하는 상황을 사람들은 과연 어떻게 받아들일까?

 

결론은 이렇다. 소셜미디어 생태계가 급진적으로 바뀔 가능성은 거의 없다. 적어도 미국에서는 그렇다. 그리고 나는 이런 변화가 일어나지 말아야 한다고 생각한다. 지나치게 엄격한 규제는 플랫폼 기업이 고객과 주주를 위해 창출한 가치를 파괴하고, 의도치 않은 부정적 결과를 가져올 위험이 있다. 하지만 이보다 덜 급진적이고 더 현실적인 대안이 있다.

 

2. 시스템을 폐기하지 않고 조정하는 경우.플랫폼 기업의 힘으로 허위뉴스의 영향을 줄일 수 있다. 다른 관련 당사자들과 힘을 모아 소비자에게 허위뉴스에 대해 알리고, 소비자를 보호하면 된다. 최선을 다해 허위뉴스를 탐지하고 라벨을 붙여서, 플랫폼 이용자들이 허위뉴스를 가급적 공유하지 않게 하면 된다.

 

이런 식의 개입은 현재 소셜미디어 생태계에서 사용되는 다양한 알고리즘을 조정하면 가능하다. 다만 다양한 이해관계자의 협력이 전제돼야 한다. 사용자의 뉴스피드news-feed에 노출되는 정보는 뉴스피드 알고리즘에 의해 결정된다. 인기 게시물 알고리즘은 (긍정적 또는 부정적으로) 가장 많은 관심을 받는 콘텐츠를 파악해, 도달범위를 넓히고 인기를 높인다. 광고 타기팅 모델과 응용 프로그래밍 인터페이스는 광고주, 선거 캠페인, 국외 행위자가 콘텐츠를 특정 집단(특정 주제와 관련된 허위뉴스에 가장 취약한 집단 등)에 노출시키도록 해준다. 뉴스의 진실성을 비교적 정확하게 평가하는 시스템이 있다면, 이런 알고리즘을 수정해 허위정보가 온라인으로 확산되는 일을 줄일 수 있을 것이다.

 

정보 디자인과 테스팅도 중요하다. 온라인 뉴스의 정보를 어떻게 디자인하느냐에 따라 소비자에게 미치는 심리적 효과가 달라진다. 이런 심리적 효과는 사람들이 콘텐츠를 소비하는 방식, 반응하는 방식, 공유하는 방식에 영향을 줄 수 있다. 허위정보를 고려해 정보를 디자인한다면 허위뉴스의 확산을 줄이는 데 도움이 될 것이다.

 

 

 

규제

 

최근 소셜미디어 대기업에 대한 정부의 관리감독 이슈가 연일 뉴스로 보도되고 있다. 마크 저커버그 페이스북 CEO 2018 3월과 4월에는 미 의회에, 5월에는 유럽의회에 증언자로 출석했다. EU 5월에 일반개인정보보호법General Data Protection Regulation을 시행했다. 이 법은 소비자 개인정보 보호를 목적으로 하는 강력하고 광범위한 규제체계다. 데이터 프라이버시와 독점 금지에 대한 올바른 방법을 논하는 것은 이 아티클이 다루는 범위를 벗어나는 일이다. 하지만 규제당국이 디지털경제 전문가들과 충분히 논의하고 신중하게 일을 추진해야 한다는 점은 분명하다.

 

일부 미 의원들은 페이스북이 자율 규제를 시행하기에 너무 크고 강력하기 때문에, 정부의 규제가 필요하다고 확신하는 듯 보인다. 한편 어떤 의원들은 규제가 사회경제에 미칠 영향을 제대로 이해하지 못하는 듯하다. 규제로 인해 초래될 결과는 그리 명확하지 않다. “규제를 해야 할까?”라는 질문은 무의미하다. 그보다는소셜미디어의 긍정적 효과를 유지하면서 부정적 결과를 제한하려면 어떤 방식으로 규제해야 할까?”가 낫다.

 

허위뉴스는 특히 더 규제하기 어려워 보인다. ‘어떤 정보를 유포할지 말지 결정하는 권한을 누가 갖게 될 것인가라는 질문이 반드시 제기되기 때문이다. 이는 어쩌면 정보화 시대의 민주주의 국가가 맞닥뜨린 가장 중요한 질문일지도 모른다. 우리는 정부에 뉴스 매체를 검열할 권리를 주지 않았다. 그런 상황에서 온라인 정보 확산을 통제할 권리를 정부에게 부여하고 싶겠는가? 이런 권한이 독재자와 권위주의적 리더의 손에 들어갈 경우, 이들의 권력기반을 강화하는 데 쉽게 악용될 소지가 있다. 얼마 전 말레이시아는 허위뉴스를 유포한 사람에게 징역 6년형을 선고했다. 이처럼 가혹한 조치는 반정부세력에 재갈을 물리고 탄압을 강화하는 데 이용될 수 있다.

 

그렇다면 소셜미디어 플랫폼에서 유통되는 정보에 대해 기업들에 어느 선까지 책임을 물어야 할까? 1996년 제정된 미 연방정부의 통신품위법Communications Decency Act, 페이스북 같은 플랫폼을 이용자가 온라인에 게시하는 콘텐츠에 대해 책임을 지지 않는 중개회사pass-through entities로 간주했다. 이렇게 표현의 자유를 보호하고, 인터넷을 통한 표현의 자유를 강화할 수 있는 듯 보였다. 하지만 표현의 자유로 인한 득보다 실이 확실히 컸던 유명 사례들이 발단이 되어, 이 법에 예외를 인정하려는 움직임이 일었다. 이로 인해 통신품위법은 도전을 받고 있다. 이를테면, 얼마 전 미 상원은 97 2의 압도적인 표차로 페이스북 플랫폼에 올라오는 성매매 광고에 대해 페이스북에 법적 책임을 묻는 성매매업자 조력방지법Stop Enabling Sex Traffickers Act을 통과시켰다.

 

통신품위법은 소셜미디어 플랫폼이 세계에 미치는 영향에 대해 더 많은 책임을 지게 하는 핵심요소가 될 것이다. 이 법을 어떻게 활용할 것인가가 중요하다. 표현에 대한 규제가 자칫 파국적인 결과를 불러올 수도 있기 때문이다. 입법자들이 향후 비슷한 도전에 맞닥뜨릴 때마다 득과 실 사이의 균형문제는 계속 제기될 것이다.

 

온라인상의 정치적 의사 표현에 대한 규제는 이 문제의 복잡성을 보여주는 또다른 사례다. 얼마 전 메릴랜드 주는 소셜미디어 플랫폼이 모든 정치광고와 이들 광고가 표적으로 삼은 이용자를 추적하도록 하고, 메릴랜드 주 선거에서 외화를 사용하지 못하게 하고, 온라인광고나 투표억제 전략[2]과 관련해 제기된 민원을 조사하는 권한을 선거관리위원회에 부여하는 법안을 통과시켰다. 페이스북과 트위터는 이와 비슷한 규제를 연방정부 차원에서 실시하도록 하는정직한 광고법Honest Ads Act에 대한 지지 의사를 밝히고, 대부분의 법조항을 이미 따르고 있다. 그러나 일각에서는 메릴랜드 법이 언론·종교·집회의 자유를 보장하는 미 수정헌법 제1조에 따라 위헌 판결을 받지 않을까 우려하고 있다. 그리고 물론 편향적이고 사리사욕을 추구하는 정치 행위자들이 규제를 빌미로 정치적 의사 표현에 딴죽을 걸 염려도 있다.

 

개인정보 수집을 규제하는 것도 복잡하다. 얼마나 많은 업계와 사회복지 서비스가 개인정보 수집 활동에 의존하고 있는지 간과하기 쉽다. 가령 모든 신용등급시스템은 세부적인 개인정보를 수집 및 이용하고, 광고 타기팅을 원하는 광고주에게 판매한다. 소비자가 신용카드, 담보대출, 의료서비스, 여행서비스, 사회복지서비스, 교육서비스를 이용하려면 개인정보 수집에 동의해야 한다. 규제당국은 데이터 수집을 제한해서 얻는 개인정보 보호 차원의 이득과, 이런 규제가 필수서비스 이용에 미치는 악영향을 잘 따져봐야 한다.

 

데이터 수집 제한, 정보를 가진 주체의 동의를 얻어야만 수집할 수 있는 옵트인 방식 채택, 데이터 이동성을 가능하게 하는 응용 프로그래밍 인터페이스 실행에는 의도하지 않은 부정적 결과가 반드시 뒤따른다. 예를 들어, 데이터 보호가 경쟁을 저해한다는 매우 타당한 주장이 제기될 수 있다. 데이터 이동성은 신규기업이 기존기업의 소셜데이터와 네트워크 효과를 이용할 수 있게 해서 경쟁을 가능하도록 만든다. 그런데 페이스북이 이런 데이터 이동성을 이용해 중국 등 여러 국가의 글로벌 하드웨어 기업, 모바일서비스 기업, 신규 앱 개발업체들과 데이터를 공유했다는 이유로 지금 비난을 받고 있다. 데이터 보호와 경쟁을 동시에 보장하는 새로운 아이디어가 필요하다. 그렇지 않으면 한쪽을 강화함에 따라 다른 한쪽이 약화될 수 있다.

 

설령 고도의 보안이 보장된다 하더라도, 이동성이 반드시 경쟁을 촉진할지는 불분명하다. 예를 들어, 소비자가 자신의 소셜네트워크 데이터를 다른 플랫폼으로 옮길 수 있게 된다면 플랫폼 간 경쟁이 가능해질 것이다. 하지만 소비자가 믿음직한 대기업에는 자신의 데이터를 제공하지만, 생소한 스타트업에는 제공하려 들지 않을 수도 있다. 페이스북과 몇몇 기업이 데이터 독점 체계를 구축해 놓은 상황에서 전방위로 개인정보를 통제한다면, 페이스북의 경쟁을 억제하고 시장 지배력을 강화할지도 모른다. 데이터 수집과 이용에 대한 규제를 독점 금지 조치와 결합해야 할까? 우리는 앞으로 EU의 일반개인정보보호법 시행 추이를 면밀히 주시해야 한다. 개인정보 통제와 데이터 이동성을 동시에 추구하는 이 법의 향방이, 향후 미국에서 벌어질 일을 예고할지도 모른다.

 

연구자로서 나는, 소위투명성의 역설transparency paradox이라는 뜻하지 않은 결과를 특히 우려한다. 지금 페이스북은 맞춤형 광고, 뉴스피드 알고리즘, 인기 게시물 알고리즘, 러시아와 다른 기업이 페이스북 네트워크를 통해 프로파간다와 허위뉴스를 퍼뜨리는 방식에 대해 좀 더 상세한 정보를 공개하라는 엄청난 압박에 처해 있다. 데이터 보호를 강화하고, 보안 수준을 높이고, 페이스북 이용자의 프라이버시를 보호하라는 압박도 강하게 받고 있다. 페이스북은 학계와 손잡고 소셜미디어가 선거에 끼치는 영향을 분석 중이다. 이를테면 페이스북이 게리 킹Gary King하버드대 교수, 네이트 퍼실리Nate Persily스탠퍼드대 교수와 공동으로 개발한 이니셔티브는 새로운 산학협력 모델의 본보기가 되고 있다. 환영할 만한 진전이다. 하지만 페이스북이 케임브리지 애널리티카 사태에 과잉 대응해 데이터 공유를 불필요하게 통제해서, 절실히 필요한 연구의 진행에 영향을 끼칠 실질적 위험이 있다.

 

 

향후 과제

 

허위정보의 흐름을 저지하기란 결코 쉽지 않을 것이다. 첫번째 과제는 진짜정보와 허위정보를 정의하는 일이다. 거의 모든 해결방안이 여기에 달려 있다. 어쩌면 이 문제가 가장 까다로울지도 모른다. 허위정보에 라벨링을 하고 허위뉴스의 확산을 막는 알고리즘을 구현하려면, 진실과 거짓 사이에 명확한 선을 그어야 한다. 그리고 이런 결정 권한을 누군가에게 위임해야 한다. 결코 만만치 않은 문제다.

 

둘째, 오보라는 표적은 계속 움직인다. 우리가 허위정보를 막는 디자인을 개발하면, 허위정보를 퍼뜨리는 이들은 거기에 재빠르게 적응할 것이다. 우리가 연구한 가장 정교한 허위정보 중에는 혼합형 이야기도 있다. 혼합형 이야기에는 진짜정보와 가짜정보가 뒤섞여 있다. 진실이라는 망토 안에 거짓이 숨어 있기 때문에, 거짓정보를 감지하고 소비자가 그 정보를 일부러 피하기가 더 어려워진다. 허위정보에 대한 감시가 보다 철저해지면, 진짜정보와 의도적으로 섞은 이야기가 훨씬 광범위하게 확산될 것이다.

 

셋째, 지금까지의 허위뉴스는 아무 것도 아니다. 앞으로 보게 될 허위뉴스의 정교함과 은밀함은, 현재 우리가 생각하는 수준을 훨씬 뛰어넘을 것이다. 2016년 러시아는 조작된 사진과 텍스트에 기반한 정치 메시지를 이용해 미 대선에 개입하려 했다. 하지만 미래의 허위뉴스는 영상과 음성을 조작해 진짜처럼 보이고 들리게 하는 합성 미디어 형태로 등장할 것이다. 정치인이 자신의 정치인생을 끝장낼 수도 있는 행동을 하는듯 꾸민 가짜 동영상이 있다고 상상해 보자. 이런 동영상은 정치인이 실제로 저지른 치명적인 행동을 가짜뉴스라고 주장하는 것보다 장기적으로 훨씬 큰 타격을 줄 수 있다. 상업용 미디어합성 프로그램의 개발은 현실에 대한 우리의 인식과 진실의 기준을 바꿔 놓을 것이다. 가장 악명 높은 미디어합성 전문가 중 한 명인딥페이크’[3]는 자신의 소프트웨어를 민주화해서, 누구나 쉽게 접근하고 이용하게 되기를 바란다. 좋지 않은 징조다. 합성 미디어의 확산을 탐지하고, 라벨링하고, 저지하는 일은 조만간 등장할 새로운 유형의 허위정보에 대항하는 데 가장 중요한 난제 중 하나가 될 것이다. 

 

마지막으로 우리는 소셜플랫폼이 사회에 미치는 영향을 조사하는 독립적인 활동을 막아서는 안 된다. 현재 마이크로타기팅 광고에 대한 사람들의 반응을 보면, 이들이 정치조작에 어떻게 반응할지 가장 잘 짐작할 수 있을 것이다. 이들의 반응은 무시할 만한 수준은 아니지만, 그렇게 대단하지도 않다. 마이크로타기팅 광고에 따른 구매전환율은 0.01~0.1% 정도다. 이렇게 수치가 낮은데 케임브리지 애널리티카의 표심전환율이 5~7%나 된다는 내부고발자 크리스토퍼 와일리의 증언은 과연 사실일까? 알 수 없다. 하지만 전 세계 정보생태계 앞에 놓인 난제를 효과적으로 해결하려면 그 답을 찾아야 하며, 그 밖의 많은 사실도 알아내야 한다.

 

. . .

 

허위정보의 부상은 온라인매체 애틀랜틱the Atlantic의 필진 프랭클린 포어Franklin Foer가 말한리얼리티의 종언the end of reality을 불러올 위험이 있다. 우리는 지금 외국 정부가 선거를 조작하고, 민주주의를 혼란에 빠뜨리기 위해 거짓정보를 퍼뜨리고, 정치인들이 반대 의견을 가짜뉴스라고 주장해서 자신의 입장을 방어하고, 신기술이 만들어낸 그럴듯한 인공현실과 가상현실이 진짜 현실과 겨루는 세상에 살고 있다. 만일 이런 경향이 현실과 현실에 대한 우리의 집단인식을 분리하는 데 성공한다면, 우리는 중대한 문제에 맞닥뜨릴 것이다. 현실을 두고 벌이는 투쟁이 전면화되기 전에 소셜미디어 플랫폼, 과학자, 규제당국이 함께 힘을 모아 진실을 보호하고 장려해야 한다.

 

 

 

[1] 트위터에서 특정 유명인의 계정 옆에 표시되는 파란색 인증 배지는 계정 소유자 본인의 신원이 확인되었음을 나타낸다.

 

 

[2] voter suppression, 특정 후보에게 표를 던지지 않을 가능성이 높은 유권자층의 투표 의욕을 떨어뜨리거나 투표를 방해하는 전략

 

[3] Deepfakes. 미국의 소셜뉴스웹사이트 레딧(Reddit)의 이용자로, 유명 연예인의 얼굴과 포르노를 합성해 올리면서 합성미디어에 대한 논란을 불러일으켰다.

 

  • 아티클 다운로드
    (PDF)
    5,000원

    담기바로구매

  • 2018년 11-12월호
    25,000원
    22,500원

    구매하기

  • 디지털서비스
    1년 150,000원

    디지털서비스란

    신청하기

자기계발 다른 아티클

무료 열람 가능 아티클 수 0/1 회원가입 | 서비스상품안내