IT 공룡들, 범람하는 ‘AI 슬롭’ 정리 나선다

생성형 인공지능이 빠르게 확산하면서 인터넷에는 정보 가치가 낮은 대량의 AI 생성 콘텐츠가 쏟아지고 있다. 이른바 ‘AI 슬롭’이라 불리는 이런 글과 이미지가 검색 품질을 떨어뜨리고 이용자 피로를 키우자, 주요 플랫폼 기업들이 이를 걸러내기 위한 대응에 나서고 있다.

문제의 핵심은 생성 속도에 비해 검증이 뒤따르지 않는다는 점이다. AI가 손쉽게 글을 만들어내는 만큼, 의미 없는 문장이나 사실 확인이 부족한 내용도 순식간에 퍼질 수 있다. 특히 검색 결과와 추천 피드가 이런 콘텐츠로 채워질 경우, 이용자는 원하는 정보를 찾기 어려워진다.

업계에서는 이 현상을 단순한 콘텐츠 과잉이 아니라 플랫폼 신뢰도와 직결된 문제로 보고 있다. 정보의 질이 낮아지면 이용자 체류 시간과 만족도에도 악영향이 생기고, 장기적으로는 서비스 전반의 품질 평가로 이어질 수 있기 때문이다. 결국 AI 활용 확대와 콘텐츠 생태계 보호 사이의 균형이 중요해지고 있다.

이에 따라 IT 기업들은 자동 감지 기술과 운영 정책을 함께 강화하는 분위기다. 반복적이고 의미가 희박한 문구를 탐지하거나, 생성형 도구로 대량 생산된 게시물을 판별해 노출을 줄이는 방식이 거론된다. 경우에 따라서는 출처 표시를 유도하거나, 품질 기준을 충족하지 못한 콘텐츠를 제한하는 조치도 활용된다.

이 같은 움직임은 검색 서비스와 소셜미디어, 커뮤니티 전반에서 공통적으로 나타난다. 이용자 입장에서는 정보의 신뢰성을 높일 수 있지만, 반대로 창작자와 운영자에게는 새로운 규칙을 요구하는 셈이다. 특히 자동화 도구를 활용한 콘텐츠 제작이 늘어날수록 관리 기준은 더 세밀해질 가능성이 크다.

AI 슬롭에 대한 우려는 이미 다양한 사례를 통해 확인돼 왔다. 표면적으로는 그럴듯해 보이지만 실제로는 내용이 빈약하거나 출처가 불분명한 게시물이 다수 등장하면서, 검색 엔진과 플랫폼 운영사들은 품질 관리의 필요성을 더욱 절감하고 있다. 단순히 양을 늘리는 전략이 더는 통하지 않는 시대가 된 것이다.

전문가들은 이 흐름이 결국 ‘좋은 콘텐츠’의 기준을 다시 세우는 과정이라고 본다. 생성형 AI 자체를 막기보다는, 사람이 검토하고 맥락을 더한 정보가 더 높은 평가를 받도록 구조를 바꾸는 방향이다. 기술의 편리함을 살리면서도 정보 오염을 줄여야 한다는 지적이 뒤따른다.

문제는 판별이 생각보다 쉽지 않다는 점이다. AI가 만든 글은 문법적으로 매끄러울 수 있어 표면만 보고는 품질을 가늠하기 어렵다. 그래서 플랫폼들은 내용의 반복성, 출처 신뢰도, 이용자 반응 같은 여러 신호를 함께 살피는 방식으로 대응 범위를 넓히고 있다.

이런 정책은 광고와도 연결된다. 저품질 콘텐츠가 늘어나면 광고주 입장에서는 브랜드 노출 환경을 우려할 수밖에 없다. 플랫폼이 AI 슬롭을 줄이려는 이유에는 이용자 보호뿐 아니라 광고 생태계의 신뢰를 지키려는 계산도 담겨 있다.

반면 일부에서는 과도한 정리 과정이 새로운 표현의 자유 논란을 부를 수 있다고 본다. 자동 판별이 잘못 적용되면 정상적인 콘텐츠까지 묶일 가능성이 있어서다. 따라서 기술적 필터링과 인간의 검토를 어떻게 조합하느냐가 향후 관건이 될 전망이다.

결국 AI가 만든 콘텐츠가 무조건 나쁘다고 볼 수는 없지만, 무분별한 대량 생산은 분명한 부작용을 낳고 있다. 플랫폼들이 AI 슬롭을 겨냥한 정비에 나선 것은 이런 변화에 대한 첫 대응으로 읽힌다. 정보의 양보다 질이 더 중요해지는 경쟁은 앞으로 더욱 치열해질 것으로 보인다.

부산대와 삼성중공업, 피지컬 AI 기반 조선산업 혁신 협력

서울대 공대서 AI 활용 부정행위 재차 적발…컴퓨터공학 과제 제출자 36명 확인

실적 개선에도 삼성전기 주가 급락…AI 수요 기대는 계속

반도체 주가 흔들려도 공급난 해소 판단은 이르다는 시각 확산

AI 반도체 열기 이후를 주목하는 증권가…다음 유망 업종은 어디일까