AI 슬롭이란? 지금 당신의 피드를 뒤덮고 있는 기계 쓰레기

AI 슬롭은 진실하거나 유용하거나 훌륭하기 위해서가 아니라 참여라는 복권에 당첨되기 위해 기계가 찍어내는 콘텐츠입니다. 나무 강아지를 깎고 있는 병사의 그 기묘한 사진입니다. 한 번도 일어난 적 없는 동물 구조 영상이고, 남이 찍은 드론 영상 위에서 지어낸 역사를 읽는 합성 음성입니다. 이것이 존재하는 이유는 만드는 데 거의 돈이 들지 않고, 피드가 가짜에게도 진짜와 정확히 같은 값을 지불하기 때문입니다. 이 단어는 약 18개월 만에 좁은 인터넷 은어에서 올해의 단어 후보 목록까지 올라왔습니다. 홍수가 얼마나 빨랐는지 이걸로 짐작할 수 있습니다. 당신이 이 문장을 읽는 지금도 물은 계속 밀려들고 있습니다.

정확히 무엇이 AI 슬롭인가요?

AI로 만든 모든 것이 슬롭은 아닙니다. 충분히 고민한 작품의 한 공정으로 생성 도구를 쓰는 감독은 슬롭을 만들고 있는 게 아닙니다. 슬롭을 정의하는 것은 비율입니다. 들어가는 노력은 거의 0, 나오는 양은 어마어마합니다.

이제는 유형이 눈에 보일 정도가 됐습니다.

동정 미끼. 댓글창을 노리고 설계한, 말이 안 되게 슬픈 장면들. 흠뻑 젖은 새끼 고양이, 생일인데 손님이 한 명도 없는 나이 든 제빵사, 아무도 먹으러 오지 않은 케이크. 사람들이 느끼는 감정은 진짜입니다. 그 사건이 존재한 적이 없을 뿐입니다.

가짜 구조 영상. 홍수에서 건져 올린 개, 그물에서 풀려난 새. 한 프레임씩 생성되어, 90분마다 무언가를 새로 구조하는 계정에서 올라옵니다.

지어낸 역사. 한 번도 촬영된 적 없는 장면을 세피아 톤 옛 사진으로 만들고, 아래에 확신에 찬 연도와 어느 기록보관소에서 나온 것처럼 들리는 이야기를 붙인 것.

내레이션을 얹은 도용. 남이 촬영한 영상 위에서 긁어온 대본을 읽는 합성 음성이, 하루에 백 번, 백 개의 채널에서 업로드됩니다.

순수한 미끼. 당신이 멈춰서 “잠깐, 저게 뭐야”라고 말하게 만들려고 조립된 모든 것. 멈추는 그 행동 자체가 측정되는 지표이기 때문입니다.

이 모두를 관통하는 한 가지는 아무도 저작자를 자처하지 않는다는 점입니다. 뒤에 사람이 없으니까요. 슬롭은 어떤 사람의 형편없는 작업물이 아닙니다. 산출물입니다.

제 피드는 왜 AI 생성물로 가득한가요?

두 가지 사실이 부딪혔습니다.

첫째, 콘텐츠 생산이 사실상 공짜가 됐습니다. 예전에는 카메라와 장소와 사람과 오후 한나절이 필요했던 일이 이제 문장 하나면 됩니다. 어떤 채널이 한 달에 네 개 대신 사백 개를 올릴 수 있다면, 올립니다.

둘째, 당신의 피드는 진실 순으로 정렬하지 않습니다. 당신이 멈췄는지로 정렬합니다. 알고리즘이 당신에게서 안정적으로 받는 유일한 신호는 그 멈춤입니다. 얼마나 머물렀는지, 두 번 봤는지, 댓글창에 들어갔는지. 이 전부가 참여로 집계됩니다. 즉 슬롭과 싸우는 것은 슬롭을 먹이는 일입니다. 랭킹 시스템 입장에서는 “이거 딱 봐도 가짜잖아”라는 화난 답글과 박수가 구별되지 않습니다.

이 둘을 겹치면 정말로 새로운 것이 나옵니다. 슬롭이 스스로 A/B 테스트를 돌려 당신의 눈까지 들어오는 것입니다. 천 개의 변형이 나가고, 사람을 멈춰 세운 것만 살아남고, 나머지는 사라지고, 살아남은 것이 다음 천 개에 섞입니다. 렌더 팜의 속도로 돌아가는 진화이고, 그 적합도 함수는 당신의 주의력입니다. 앱은 어떻게 중독되도록 설계되는가는 이 기계의 오래된 절반을 다룹니다. 슬롭은 그 똑같은 기계에 무한한 콘텐츠 공급을 쥐여줬을 때 벌어지는 일입니다.

스크롤해서 지나가면 되는 거 아닌가요?

아닙니다. 지나가는 것 자체가 공짜가 아니고, 당신의 스크롤 시간이 얼마짜리인지가 조용히 바뀌었기 때문입니다.

2년 전에는 아무도 하지 않던 이야기가 이겁니다. 피드에서의 45분은 예전에 실제 인간의 콘텐츠를 일정량 사줬습니다. 친구들, 무언가를 만드는 사람들, 실제로 그 자리에 서 있던 누군가. 똑같은 45분이 지금 사주는 양은 줄었습니다. 그 자리를 슬롭이 차지했기 때문입니다. 사람이 진짜로 만든 것에 하루 중 더 적은 몫을 쓰기로 결정한 사람은 당신이 아닙니다. 공급 쪽이 당신 발밑에서 바뀐 겁니다.

이것이 날것의 스크롤 시간이 비싸다는 주장의 지금까지 가장 강한 근거입니다. 값은 그대로인데 물건이 나빠졌습니다. 매일 45분을 내고 보는 잡지가 지면의 절반을 조용히 기계로 채운 분량으로 바꿔치기했다면, 당신은 고민도 하지 않고 끊을 겁니다. 팝콘 브레인은 이 영양가 없는 식단이, 휴대폰을 내려놓은 뒤 한 가지에 머무르는 능력에 무엇을 하는지 설명합니다.

두 번째 비용도 있고, 사실 그쪽이 가장 과소평가됩니다. 두 번 속고 나면 진짜 사진을 포함해 모든 것을 훑기 시작합니다. 그 낮은 강도의 검증이 계속 돌아가는 상태는 사람을 지치게 하고, 제대로 알아본 게시물에서조차 슬롭이 당신에게 물리는 세금입니다.

어떤 게시물이 AI 슬롭인지 어떻게 알아보나요?

빠르게 할 수 있는 확인들을, 대체로 적중률이 높은 순서로 정리했습니다.

계정 확인이 가장 강력하고 가장 덜 쓰입니다. 사람은 사람의 속도로 올립니다. 게시물을 믿기 전에 프로필을 스크롤해 보십시오. 하루에 서른 개를 올렸는데 그 아래 진짜 대화가 하나도 없다는 사실은 픽셀 단위의 어떤 단서보다 많은 것을 말해줍니다. 게다가 시각적 단서와 달리, 생성 모델이 좋아지고 손이 제대로 나오기 시작할 내년에도 계속 작동합니다.

“할아버지가 전쟁 때 병사와 개가 찍힌 사진을 이야기까지 붙여서 보내주셨어요. 소총 멜빵이 어디에도 이어지지 않는다는 걸 알아채는 데 10초 걸렸습니다. 아무 말도 하지 않았어요. 그러다 할아버지가 이런 걸 일주일에 네 번씩 보내시고, 전부 다 믿으시고, 그분 피드에는 이제 이런 것밖에 남아 있지 않다는 걸 알게 됐습니다. 제 피드를 제대로 들여다보게 된 계기가 그거였어요.” — 김도현, 물류창고 관리자, 34세

부모님과 조부모님은 왜 믿을까요, 어떻게 도와야 할까요?

이걸 알아보는 것이 상식이 아니라 학습된 기술이기 때문입니다. 이미지가 조작될 수 있다는 게 당연한 배경 상식인 시대에 자란 사람은 사진을 기본값으로 훑고, 자기가 훑고 있다는 것조차 잘 인식하지 못합니다. 사진이 곧 증거이던 시대에 자란 사람은 그러지 않습니다. 그 외에 나이가 사람을 더 잘 속게 만드는 요소는 없습니다.

실제로 통하는 순서입니다. 게시물 하나하나를 반박하지 마십시오. 평생 하게 되고, 옮겨 쓸 수 있는 건 아무것도 가르치지 못합니다. 대신 규칙 하나를 가르치십시오. 사진이 아니라 계정을 보라는 것입니다. 실제 사람에게는 기록이 있고, 답글이 있고, 사람이 감당할 수 있는 게시 속도가 있습니다. 생성 도구를 한 번 보여드리십시오. 본인이 직접 친 문장 하나에서 설득력 있는 가짜 사진이 튀어나오는 걸 눈앞에서 보는 것이 스무 번의 정정보다 낫습니다. 그리고 물어볼 곳을 만들어 드리십시오. 대부분은 공개적으로 틀리고 싶어 하지 않습니다. 먼저 조용히 확인할 수 있는 사람 한 명을 원할 뿐입니다.

슬롭으로 가득한 피드에 정말 통하는 건 무엇인가요?

효과가 커지는 순서로 세 단계가 있습니다.

독하게 걸러내십시오. 슬롭은 당신이 열어둔 통로로만 들어옵니다. 관심 없음을 누르고, 계정을 차단하고, 그리고 대부분이 반대로 하는 부분인데 가짜라고 말하려고 댓글 다는 걸 멈추십시오. 답글 하나하나가 더 달라는 투표입니다. 알고리즘을 초기화하는 법은 추천을 실제로 움직이는 것과 움직이는 느낌만 주는 것을 정리합니다.

사람을 직접 팔로우하십시오. 작업을 정말 보고 싶은 사람들을 추천 피드에서 빼내어 알고리즘이 끼어들지 않는 곳으로 옮기십시오. 팔로잉 전용 탭, 뉴스레터, 단체 대화방, 유료 구독. 이름이 붙어 있고 가짜를 만들면 부끄러워할 사람이 뒤에 있는 곳이라면 무엇이든 좋습니다. 이것은 피드를 줄이기만 하는 게 아니라 좋게 만드는 유일한 단계이기도 하고, JOMO가 개념에서 벗어나 무엇을 굳이 따라가지 않아도 되는지에 대한 구체적인 선택으로 바뀌는 순간이기도 합니다.

열려 있는 피드 시간을 줄이십시오. 다른 모든 것보다 오래 버티는 단계가 이겁니다. 걸러내기는 소모전이고, 슬롭의 생산량은 당신의 차단하는 손가락보다 언제나 빠르게 늘어나기 때문입니다. 슬롭이 우회해서 최적화할 수 없는 유일한 변수는 당신이 열어두는 창의 크기입니다. 끝이 분명한 세션은 생성 모델이 아무리 좋아져도 당신에게 도달할 수 있는 양에 천장을 씌웁니다. 같은 고리에 챗봇까지 들어와 있다면 AI 챗봇 의존이 바로 옆에 있는 문제입니다.

Unscrol은 어떻게 도와주나요?

솔직한 출발점부터. 여기까지의 일부는 무료로 됩니다. Apple 스크린 타임에는 앱이나 카테고리별 일일 앱 시간 제한, 시간대를 정하는 다운타임, 그리고 기준으로 삼을 실제 주간 평균이 있습니다. 하루치 숫자 하나와 취침 일정만으로 멈출 수 있다면 다른 건 필요 없고, 아무것도 사지 않는 게 맞습니다. 기본 기능이 힘을 다하는 지점은 한 번에 얼마나 오래 쓰느냐 쪽입니다. iOS에는 한 번의 사용 시간 자체에 대한 기본 상한이 없고, 앱 시간 제한에는 한 번 누르면 되는 출구가 붙어 있습니다. 만들어진 호기심으로 가득한 피드가 당신을 이기는 데 가장 능한 순간이 정확히 그때입니다.

Unscrol은 숫자 하나가 아니라 두 개를 중심으로 만든 iPhone 및 Apple Watch 앱입니다. 하루 총량(기본값 45분)과 한 세션 최대치(기본값 5분)를 정하면, iOS가 겉치레 오버레이가 아니라 Screen Time 및 FamilyControls 프레임워크를 통해 둘 다 실제로 적용합니다. 한 세션 분량의 예산을 쓰면 선택한 앱들이 15분간 잠기고, 하루 예산을 다 쓰면 내일까지 잠깁니다. 예산 안에서 마친 날은 연속 기록으로 세어지고, 홈 화면과 잠금 화면 위젯이 아무것도 열지 않아도 남은 양을 보여줍니다. 시간대 배치에는 Shield가 있습니다. 시간대별로 직접 짜는 차단이고, 차단 도중에 끄는 것은 일부러 느리게 만들어 뒀습니다. 호흡 연습과 대기 시간이 있으며, 한 번 누르면 끝나는 출구가 아닙니다.

분명히 해둘 두 가지. 사용량 숫자는 추정치입니다. iOS가 정확한 분 단위가 아니라 일정 구간 안에서 넘어선 임계값으로 보고하기 때문이며, 예산은 초 단위로 정확한 값이 아니라 대략 맞는 값으로 다루십시오. 그리고 iOS가 앱에 넘기는 것은 앱의 신원이 아니라 불투명한 토큰입니다. Unscrol은 당신이 어떤 앱을 골랐는지, 그 이름도 아이콘도 앱별 사용량도 볼 수 없습니다. 앱 선택 화면은 시스템이 그리고 앱은 그 바깥 테두리만 그립니다. 차단 목록과 사용 데이터는 iOS가 기기 안에서 처리하며 Unscrol의 서버에는 절대 도달하지 않습니다. 내려받기는 무료이고, 선택 사항인 프리미엄에서는 놓친 하루를 살리는 Streak Saver와, 동시에 진행할 수 있는 챌린지 칸이 하나가 아니라 다섯 개가 됩니다.