주요 소셜 미디어 플랫폼들이 인공지능에 의해 전적으로 생성된 저품질 또는 가짜 콘텐츠를 뜻하는 'AI 슬롭'의 급격한 확산에 맞서기 위한 새로운 전략을 펼치고 있다. 디지털 공간이 자동화된 게시물로 점점 더 혼잡해짐에 따라, Snap, YouTube, LinkedIn과 같은 기업들은 피드의 진정성을 보호하기 위해 각기 다른 규칙을 시행하고 있다. 이러한 변화는 방대한 양의 AI 생성 자료로 인해 사용자들이 온라인에서 보는 내용을 신뢰하기가 점점 더 어려워지고 있다는 커지는 우려를 해결하기 위한 것이다.
이러한 자동화된 콘텐츠의 부상은 디지털 환경에 중대한 도전 과제를 형성했다. 연구에 따르면 현재 소셜 미디어에서 발견되는 글의 최대 40%가 가짜이거나 AI 도구에 의해 생성되었다. 이러한 높은 비율의 비진정성 자료는 사람들이 디지털 정보를 인식하는 방식에 직접적인 영향을 미친다. 연구 결과에 따르면 사용자들이 소셜 미디어 피드에서 가짜 AI 생성 콘텐츠를 빈번하게 접할수록, 온라인에 표시되는 콘텐츠가 진짜라고 믿을 가능성이 낮아진다. 이러한 신뢰의 상실은 사용자 참여와 실제 인간의 연결에 의존하는 플랫폼들에게 커다란 장애물이다.
이 현상의 심리적 영향은 아무리 강조해도 지나치지 않다. 전문가들은 디지털 환경이 기계가 만든 텍스트와 이미지로 포화됨에 따라 크리에이터와 시청자 사이의 근본적인 관계가 침식되기 시작한다고 제언한다. 소비되는 정보의 상당 부분이 인공적인 것으로 식별되면, 모든 디지털 커뮤니케이션의 인지된 가치가 하락할 수 있다. 이는 'AI 슬롭'의 존재가 정당한 인간의 목소리가 들리거나 믿어지는 것을 점점 더 어렵게 만드는 순환을 형성하며, 잠재적으로 사용자들이 더 신뢰할 수 있는 정보원을 찾아 소셜 플랫폼을 떠나게 만들 수 있다.
Snapchat의 모기업인 Snap은 영상 기능 내에서 이 문제를 관리하기 위해 직접적인 접근 방식을 취하고 있다. 이 회사는 Spotlight 피드에서 전적으로 AI로 생성된 영상의 추천을 중단할 것이라고 발표했다. 대신 플랫폼은 사용자들이 실제 창작물을 볼 수 있도록 인간이 만든 진정성 있는 콘텐츠를 우선시할 계획이다. 그러나 회사가 AI를 완전히 금지하는 것은 아니다. Snap은 사용자가 콘텐츠를 수정하거나 강화할 수 있는 자체 AI 도구 세트를 제공한다. 이러한 차이로 인해, 단순히 AI로 강화되거나 편집된 영상은 기계로만 제작된 콘텐츠와는 다르게 간주되어 여전히 플랫폼의 추천 목록에 포함될 것이다.
창작과 강화 사이의 이러한 구분은 플랫폼의 새로운 전략에서 핵심적인 부분이다. AI 강화 콘텐츠를 허용함으로써, Snap은 기술을 창의적 결과물을 대체하는 대신 개선하는 데 사용하는 사용자들을 지원하고자 한다. 목표는 도구를 사용하는 인간과 인간의 개입 없이 콘텐츠를 생산하는 기계 사이의 구분을 유지하는 것이다. 이러한 미묘한 접근 방식은 순수하게 자동화된 영상에 의해 사용자 경험이 압도당하는 것을 방지하는 동시에, 현대적인 디지털 창의성을 가능하게 하는 기술적 발전을 수용하려는 시도이다.
YouTube는 '콘텐츠 파밍' 배후의 경제적 유인책을 겨냥함으로써 문제를 해결하고 있다. 플랫폼이 저노력 자동화 영상으로 넘쳐나는 것을 막기 위해 YouTube는 수익 창출에 관한 정책을 업데이트했다. 회사는 어떤 유형의 콘텐츠가 수익을 얻을 수 있는지 결정하는 새로운 규칙을 수립했다. 업데이트된 가이드라인에 따라, 일반적인 콘텐츠, 반복적인 콘텐츠, 또는 템플릿 기반 콘텐츠라는 세 가지 특정 범주에 속하는 영상은 수익 창출이 허용되지 않는다. 이러한 유형의 영상으로부터 수익을 얻는 능력을 제한함으로써, YouTube는 크리에이터들이 단순히 조회수를 얻기 위해 AI를 이용해 저품질 자료를 대량 생산하는 것을 억제하기를 희망한다.
이러한 변화의 경제적 영향은 크리에이터 경제에 있어 매우 중요하다. 반복적이거나 템플릿 기반인 자료로부터 수익을 창출하는 능력을 겨냥함으로써, YouTube는 플랫폼의 인센티브 구조를 전환하려 시도하고 있다. 자동화를 이용해 저품질 게시물을 대량으로 쏟아내어 사이트를 점령하는 이들에게 보상을 주는 대신, 업데이트된 정책은 독창적이고 고유한 작품을 생산하는 크리에이터들을 우대하는 것을 목표로 한다. 이러한 움직임은 광고 수익을 극대화하기 위해 질보다 양을 우선시하는 자동화 계정들이 플랫폼 생태계를 지배하는 것을 막기 위해 설계되었다.
LinkedIn은 커뮤니티가 비진정성 게시물을 식별하고 신고할 수 있도록 권한을 부여하는 데 집중하고 있다. 이 전문 네트워크 사이트는 AI로 생성된 것처럼 보이는 게시물이나 댓글을 사용자가 신고할 수 있는 새로운 기능을 도입했다. 이러한 움직임은 중재 권한을 사용자의 손에 맡겨, 사용자들이 인위적이거나 독창적이지 않다고 느껴지는 콘텐츠를 표시할 수 있게 한다. 이러한 신고 도구를 제공함으로써 LinkedIn은 인간의 전문성과 진정한 상호작용이 표준으로 남는 전문적인 환경을 유지하고자 한다.
이러한 사용자 주도적 접근 방식은 커뮤니티 기반 중재로의 전환을 강조한다. 전문가들에게 의심스러운 콘텐츠를 표시할 수 있는 능력을 부여함으로써, LinkedIn은 자동화된 소음을 걸러내기 위해 사용자 기반의 집단적 판단을 활용하고 있다. 이 방법은 알고리즘이 중재를 도울 수는 있지만, 비진정성을 감지하는 인간의 능력이 전문 네트워크의 무결성을 유지하는 데 필수적인 요소임을 인정하는 것이다. 이 전략은 플랫폼이 자동화된 텍스트의 저장소가 아닌, 진정한 인간의 전문성을 위한 공간으로 남도록 보장하는 것을 목표로 한다.
현재의 상황은 인공지능을 창의적 도구로 사용하는 것과 '슬롭'을 대량 생산하는 데 사용하는 것 사이의 디지털 세계에서의 커지는 긴장을 보여준다. 한편으로 AI는 인간이 창의성을 강화하거나 작업을 더 효율적으로 편집하도록 돕는 강력한 조력자가 될 수 있다. 다른 한편으로, 방대한 양의 텍스트와 영상을 즉각적으로 생성할 수 있는 능력은 질보다 양을 목표로 하는 콘텐츠 파밍의 부상을 초래했다. 이러한 관행은 종종 디지털 공간을 어지럽히는 반복적이고 무의미한 게시물의 확산으로 이어진다.
이러한 플랫폼들이 정책을 계속 개발함에 따라, 'AI 강화'와 '전적으로 AI 생성' 사이의 구분은 핵심적인 주제로 남을 것이다. 플랫폼들은 기술 혁신을 허용하면서 동시에 사용자 경험의 무결성을 보호할 수 있는 균형점을 찾기 위해 고군분투하고 있다. Snap, YouTube, LinkedIn이 취하는 서로 다른 접근 방식은 AI 슬롭 문제를 해결하는 단 하나의 방법은 없다는 것을 보여준다. 어떤 기업들은 추천 알고리즘에 집중하고, 어떤 기업들은 재정적 제한에, 또 어떤 기업들은 사용자 주도적 신고에 집중하고 있다.
비진정성 콘텐츠에 맞선 지속적인 싸움은 소셜 미디어의 미래를 결정지을 것이다. AI 기술이 계속 발전함에 따라, 인간의 창의성과 기계가 생성한 반복 사이를 구별하는 능력은 더욱 중요해질 것이다. 현재로서는 이러한 주요 플랫폼들의 노력은 온라인 커뮤니케이션의 진정성을 훼손할 위협이 되는 자동화된 콘텐츠의 물결로부터 디지털 환경을 방어하려는 중대한 시도를 나타낸다.
💡 알아두면 좋은 배경 지식
- Content entirely created by artificial intelligence (AI) tools is commonly called 'AI slop' [S2]
- Snap, the parent company of Snapchat, said it would stop recommending 'wholly AI-generated videos' in its Spotlight feed in favor of 'authentic, human-made content' [S2]
- Snapchat offers its own AI tools to alter content, meaning 'AI enhanced or edited' content will still be part of recommendations [S2]
- Research shows that the more fake AI-generated content people see in a social media feed, the less likely they are to think any content shown online is genuine [S2]
- Research has found up to 40% of writing on social media is now fake or AI-generated [S2]
- LinkedIn introduced a button that allows users to report if a post or comment appears to be AI-generated [S2]
- YouTube updated its policies regarding which kind of content can be monetized, breaking down videos that will not be allowed to make money into three categories: generic, repetitive, or template-based [S2]
- === ALLOWED MEDIA OUTLETS (Writer may cite ONLY these) ===
- www.theguardian.com
- feeds.bbci.co.uk
- feeds.feedburner.com