알고리즘엔 도덕관념이 없다

SNS, 미디어로 받아들여졌지만
사이버민주주의는 허울뿐
광고로 돈 버는 착취 시스템
분노·분열 창궐하며 위기 극대화

소셜미디어 중독은 어제오늘 얘기가 아니다. 지하철 이용객들에게 스마트폰은 일상이 되었다. 서울지하철을 이용하는 젊은이들이 자리에 앉아 스마트폰을 들여다보고 있다. 이정용 선임기자 [e-mail]

소셜온난화
더 많은 사람이 연결될수록 세상이 나아진다는 착각
찰스 아서 지음, 이승연 옮김 l 위즈덤하우스 l 2만2000원

2009년 1월15일 오후 3시30분께. 뉴욕에서 재니스 크럼스는 아이폰으로 사진 한 장을 찍었다. 에어버스 A320이 라과디아 공항 이륙 직후 강에 불시착한 광경을 퇴근길 페리에서 지켜보았던 것. 그는 사진을 트위터에 올렸다. “허드슨 강 안에 비행기가 있다. 내가 탄 페리가 사람들을 구하려 하고 있다. 말도 안 돼”라는 글과 함께.

이 사건은 언론 지형을 바꿨다. 사람들은 그 사진 링크를 복사하거나 트윗을 찍어 널리 퍼뜨렸다. 사진은 순식간에 바이럴이 되어 전세계에 반향을 일으켰다. 트위터 사용자들은 정규 방송보다 15분 먼저 그 뉴스를 접했다. 당시 출시 3년이 채 되지 않았던 트위터는 수백 만에게 뉴스를 전송하는 매체가 됐다.

<소셜온난화>는 장기 신문연재를 책으로 묶은 것처럼 느껴진다. 지은이 찰스 아서가 <가디언> 과학담당 기자로 근무할 때(2005~2014년) 취재일선에서 보고 듣고 경험한 것을 뼈대로 썼기 때문이다. 때로는 일인칭으로.

그해 6월 이란 선거분쟁이 트위터의 미디어 위상을 굳혔다. 거리에 나온 시위자들이 경찰과 무장단체의 폭력을 실시간으로 트위터에 올렸다. 기자들이 취재하여 쓴 기사는 네다섯 시간이 지난 뒤에 일반인에게 전달됐다. 지금 현재 무슨 일이 벌어지는지 궁금해 하는 사람들에게 트위터는 진실에 더 가까이 다가가는 미디어로 받아들여졌다.

착각이었다. 진실에 다가가는 미디어는 개뿔. 트위터(페이스북, 유튜브, 구글도 마찬가지)는 광고가 주요 수입원인 터, 여기에서 수익을 내 주가를 떠받쳐야 하는 회사로서는 사용자가 끊임없이 유입하고 이들이 가능한 한 오랫동안 플랫폼에 머물러야 하며 플랫폼에 콘텐츠를 보태줘야 한다. ‘진실-가짜’ 가리지 않고 주목을 끌면 만사 오케이. 모든 사람을 수평적으로 연결한다, 사이버 민주주의를 구현한다, 정보를 무료로 제공한다…. 이들이 내세웠던 모토는 허울일 뿐이다. 시스템을 떠받치는 알고리즘은 오로지 사용자의 몫을 효율적으로 착취하는 데 초점이 맞춰져 있다. 모든 사람들에게 똑같이 배분된 시간, 개인이 다년간 축적한 노하우를 자발적으로 상납하도록. 바둑천재 이세돌을 꺾어 화제가 된 알파고처럼 머신러닝 기능을 가진 인공지능(AI) 컴퓨터를 쓴다.

예컨대 페이스북의 ‘에지링크’(2009년 특허권 획득). 이놈은 게시물마다 값을 매긴다. 계정 주인과 관계(친구, 가족), 게시물 유형(글, 사진, 동영상), 게시물이 얼마나 ‘좋아요’를 받았는지, 게시된 지 얼마나 됐는지 등 가중치를 고려해 산정한 값은 특정 게시물을 사용자한테 보여줄지 말지 판단하는 잣대가 된다. 2011년 페이스북은 10만 가지 다른 요소에 가중치를 두는 머신러닝 시스템으로 전환했다.

이 시스템은 광고에도 똑같이 적용된다. 미국 펜실베이니아에 거주하며 스포츠카를 소유한 50대 이상 남성에게 보여주고 싶다는 식으로 노출 대상을 특정할 수 있고 실제로 그렇게 실행한다. 교묘하게도(혹은 사악하게도), 광고가 사람들에게 얼마나 매력적인가에 따라 단가를 결정한다. 흥미로울수록 저렴하다. 왜냐면 사용자들이 페이스북을 주목하는 데 기여하기 때문이다.

페이스북은 사용자 70만 명을 대상으로 비밀실험을 했다. 노출 내용이 사용자 정서에 영향을 주는지. 그 결과, 즐거운 내용의 글을 숨기면 사람들은 우울한 글을 쓰고, 즐거운 글만 남기면 거기에 동조돼 같은 반응을 보인다는 사실이 밝혀졌다. 개개인의 행동과 반응을 조작할 수 있다는 얘기다.

문제는 그 알고리즘한테 도덕관념이 없다는 것. 인간이라면 도저히 하지 않을 일을 할 수 있다. 지은이가 예로 든, 인공지능 시스템의 놀라운 창발성. 걸을 수 있는 가상 존재를 만들어 10초 만에 닿을 수 있는 이동거리로써 성공 여부를 측정했더니 글쎄, 이 디지털 생명체는 다리 근육을 튼튼하게 키우는 대신 키를 계속 키워 앞으로 넘어졌다. 한걸음도 떼지 않고 승리를 거뒀다. (‘넘어지면 코닿을 데’라는 한국 관용어를 알고 그랬나?) 미취학 아동 수백만 명을 모아놓은 것과 흡사한 인공지능 시스템은 가차 없이 위험하다.

사용자에게 그룹과 페이지를 추천하며 현상은 뒤틀린다. 게시물, 대화, 검색, 조회 등에서 사용자 관심사를 추출해내고, 기존 그룹의 활동 또는 페이지의 내용과 유사성을 따져 일치도가 높은 것을 추천하는 구조다. 사용자 활동이 활발할수록(강박적일수록) 추천 정확도가 높아진다(극단화한다). 조깅 동영상은 마라톤으로, 마라톤은 울트라마라톤으로. 테드 동영상에서 <시엔엔>(CNN), <폭스뉴스> 동영상을 거쳐, 음모론 이론가 앨릭스 존스의 가짜뉴스로 이어지는 식이다. 인공지능에 가장 완벽한 세상은 모든 사람들이 하루 24시간 소셜미디어 활동을 하는 거다. 페이스북에서 극단주의 그룹에 가입한 사람들 중 3분의 2가 추천 알고리즘의 가입 권유를 받았다. 인도네시아에서 유죄선고를 받은 테러리스트 십중팔구는 과격주의에 노출되어 테러공격을 실행할 때까지 1년이 걸리지 않았다. 소셜미디어가 편만하기 전에는 5~10년이었다.

지은이는 소셜미디어 득세와 그로 인한 지구적 변화를 ‘소셜온난화’라고 이름 지었다. 착취적인 뼈대인데다 서서히 심화되어 어느 순간 공멸에 이를 수 있는 점에서 지구 온난화와 흡사하다. 필리핀 두테르테, 미국 트럼프 대통령의 당선, 영국 보리스 존슨의 집권과 유럽연합(EU) 탈퇴, 최근 코로나19 백신 음모론 등이 소셜온난화와 관련된다.

모든 사람들이 각자 핸드폰 불빛에서 인터넷을 빨아들이는 서울 지하철. 이놈의 세상 어찌될런지. 유튜브가 분노와 분열을 먹고 창궐하는데, 겉보기 동영상을 따라하는 멍청한 종이신문사도 있으니.

임종업 <뉴스토마토> 편집위원