페이스북에서 '새우 예수'를 검색하면 인공지능(AI)으로 생성된 갑각류 이미지 수십 개가 예수 그리스도의 정형화된 이미지와 다양한 형태로 뒤섞여 있는 것을 볼 수 있다.
이 초현실적인 이미지 중 일부는 2만 개가 넘는 좋아요와 댓글을 받았다.
'죽은 인터넷 이론'은 인공지능과 봇이 생성한 콘텐츠가 인간이 만든 인터넷을 능가했다는 이론이다.
하지만 이 아이디어는 어디에서 왔으며 현실에 근거가 있는 것일까?
죽은 인터넷 이론이란?
죽은 인터넷 이론은 소셜 미디어 계정을 포함한 인터넷상의 활동과 콘텐츠가 주로 인공지능 에이전트에 의해 생성되고 자동화되고 있다고 주장하는 이론이다.
이러한 에이전트는 페이스북, 인스타그램, 틱톡과 같은 플랫폼에서 클릭, 좋아요, 댓글과 같은 참여를 유도하기 위해 AI가 생성한 이미지와 함께 게시물을 빠르게 생성할 수 있다.
새우 예수의 경우, AI가 부조리함과 종교적 도상학이 결합된 최신 유행이라는 것을 학습한 것으로 보인다.
하지만 죽은 인터넷 이론은 여기서 더 나아간다.
이러한 콘텐츠에 관여하는 많은 계정도 인공지능 에이전트에 의해 관리되는 것으로 보인다.
이는 명확한 의제가 없고 더 이상 인간이 전혀 관여하지 않는 인위적인 참여의 악순환을 만들어낸다.
무해한 ' 좋아요 조작' 또는 정교한 체제 선전?
언뜻 보기엔 소셜 미디어 참여가 광고 수익으로 이어진다는 점에서 이러한 계정의 관심 유발 동기가 분명해 보일 수 있다.
부풀려진 관심을 받는 계정을 설정하는 사람은 Meta와 같은 소셜 미디어 조직으로부터 광고 수익의 일부를 얻을 수 있다.
그렇다면 죽은 인터넷 이론은 무해한 '좋아요 조작'에서 끝나는 것일까?
아니면 그 이면에는 독재 정권을 지지하고 반대자를 공격하며 체제 선전을 퍼뜨리려는 정교하고 충분한 자금이 뒷받침된 시도가 숨어 있는 것일까?
READ MORE
플리버섹 의원 “코로나바이러스 가짜 뉴스 유포 중단해야” 요구
새우 예수 현상은 무해해 보일 수 있지만, 장기적인 계략이 숨어 있을 가능성이 있다.
소셜 미디어는 이제 전 세계 많은 사용자들의 주요 뉴스 소스이기 때문에 이는 매우 중요한 문제다.
호주에선 지난해 18~24세의 46%가 소셜 미디어를 주요 뉴스 소스로 꼽았다.
이는 2022년의 28%에서 증가한 수치로, 라디오와 TV와 같은 전통적인 매체를 제치고 그 자리를 차지했다.
봇에 의한 허위 정보
이미 소셜미디어가 부풀려진 봇에 의해 조작돼 허위 정보로 여론을 흔들고 있다는 강력한 증거가 있으며, 이러한 현상은 수년 동안 계속되고 있다.
2018년 한 연구에서는 2016년과 2017년 10개월 동안 1400만건의 트윗을 분석했다.
그 결과 소셜 미디어의 봇이 신뢰할 수 없는 출처의 기사를 유포하는 데 크게 관여하고 있는 것으로 나타났다.
팔로워 수가 많은 계정은 잘못된 정보와 허위 정보를 합법화해 실제 사용자들이 봇이 게시한 콘텐츠를 믿고, 참여하고, 재공유하도록 유도했다.
이러한 소셜 미디어 조작 방식은 미국에서 발생한 대규모 총기 난사 사건 이후에도 발견됐다.
2019년 한 연구에 따르면 봇이 생성한 X(옛 트위터)의 게시물이 극단적인 사건과 관련된 잠재적인 내러티브를 증폭하거나 왜곡하는 역할을 하며 공개 토론에 크게 기여하는 것으로 파악됐다.
LISTEN TO
본다이 정션 쇼핑몰 흉기 난동 사건… 연방 총리, ‘가짜 뉴스 확산’ 경고
SBS Korean
14/04/202402:39
최근에는 우크라이나에 대한 지지를 약화시키고 친러시아 정서를 조장하기 위한 대규모 친러시아 허위 정보 캠페인이 여러 차례 진행됐다.
활동가들과 언론인들에 의해 밝혀진 이 조직적인 노력은 봇과 AI를 사용해 가짜 정보를 만들고 퍼뜨려 수백만 명의 소셜 미디어 사용자에게 도달했다.
일부 보고서에 따르면 2022년 전체 인터넷 트래픽의 거의 절반이 봇에 의해 발생한다.
최근 OpenAI의 ChatGPT 모델과 Google의 Gemini와 같은 생성형 AI의 발전으로 가짜 콘텐츠의 품질은 더욱 향상될 것으로 보인다.
소셜 미디어 기업들은 플랫폼의 오용 문제를 해결하기 위해 노력하고 있다.
특히 일론 머스크는 봇 시스템을 막기 위해 X 사용자에게 멤버십 비용을 지불하도록 하는 방안을 검토하고 있다.
거대 소셜 미디어 기업들은 마음만 먹으면 탐지된 대량의 봇 활동을 제거할 수 있다.
죽은 인터넷을 염두에 둔 준비
죽은 인터넷 이론은 실제로 인터넷에서 이뤄지는 대부분의 개인적 상호작용이 가짜라고 주장하는 것은 아니며, 다만 인터넷을 바라보는 흥미로운 관점이다.
더 이상 인간의, 인간에 의한, 인간을 위한 인터넷이 아니라는 것, 우리가 알고 사랑하던 인터넷이 '죽었다'는 의미다.
인터넷과 소셜 미디어에서 우리의 생각을 창조하고 공유할 수 있는 자유는 인터넷의 강력한 힘이다.
당연히 악의적인 행위자들이 통제하고자 하는 것은 바로 이 힘이다.
죽은 인터넷 이론은 소셜 미디어와 기타 웹사이트에 대해 회의적인 시각을 갖고 비판적인 마음으로 탐색해야 한다는 점을 상기시켜준다.
모든 상호작용, 트렌드, 특히 '전반적인 정서'는 합성된 것일 수 있으며, 세상을 인식하는 방식을 약간 바꾸도록 설계됐다.
