AI 스팸이 인터넷을 어떻게 망치고 있는지 알아보자

AI 스팸이 인터넷을 어떻게 망치고 있는지 알아보자

 

ChatGPT가 공개된 지 1년이 조금 지난 지금, 인터넷에 어떤 영향을 미칠지 예측했던 한 가지가 현실로 나타나기 시작했다: AI 스팸이 웹에 넘쳐나고 있다는 것이다.

 

최근에는 검색 엔진 최적화에 우호적인 스팸 사이트에 인공지능이 작성한 특종 기사가 게재되고 있으며, 심지어는 Google 검색 결과에서 실제 404 Media 기사보다 위에 표시되기도 한다는 사실을 발견했다. 물론 사기꾼들은 AI가 생성한 페이지에 광고를 게재하여 돈을 벌고 있다.

 

404 Media에서 물품 도난 코티지 산업에 대해 살펴본다:

 

지난 몇 주 동안 Jason은 사용자를 위해 기사를 '회전'시킬 수 있는 일련의 AI 도구를 연구하고 실험해 왔다. 그중 하나는 SpinRewriter로, 사용자는 클릭 한 번으로 동일한 글의 약간 다른 버전 1,000개를 만들고 유료 플러그인을 사용하여 원하는 만큼의 워드프레스 사이트에 자동으로 게시할 수 있다. 또한 사용자가 단일 대시보드에서 원하는 만큼의 웹사이트를 관리할 수 있는 도구도 제공한다.

 

Byword라는 회사는 이 이상한 트릭(경쟁사의 사이트맵을 내보내고 1,800개의 기사를 AI가 생성한 버전으로 만드는 것)을 통해 "경쟁사로부터 총 360만 트래픽을 훔쳤다"는 'SEO 강도'를 자랑스럽게 광고하고 있다.

 

이러한 인공지능이 생성한 기사 버전은 뉴스 비즈니스에 타격을 주며, 실제 시간과 비용을 들여 보도하는 언론사의 클릭 수(및 수익)를 효과적으로 빼앗아 간다.

 

또한, Wired는 2010년대 인기 인디 블로그인 The Hairpin이 인기 있는 기사 중 일부를 남기고 그 기사를 쓴 여성의 이름을 남성의 이름으로 바꾼 AI 클릭 파머에 의해 인수되었다고 보도했다.

 

마지막으로, AI 스팸의 가장 악랄한 것은 슬픔에 잠긴 가족에게 큰 고통을 주는 오류로 가득 찬 AI 생성 부고 기사가 있다. ChatGPT가 출시되기 훨씬 전인 2021년에 Wired는 '부고 기사 해적'이 장례식장 웹사이트를 스크랩하고 복사하고 있다고 보도한 바 있다. 이제 이들은 AI를 이용해 부고 기사로 유튜브 동영상과 스팸성 웹사이트를 만들어 최근 사망한 사람에 대한 정보를 찾는 사람들의 검색 트래픽을 확보하는 새롭고 수익성 있는 전략을 구사하고 있다.

 

최근 뉴욕 타임즈는 AI가 생성한 유튜브 동영상으로 인해 슬픔에 잠긴 유가족이 겪은 고통에 대해 보도했다. 한 대학생이 뉴욕 지하철 선로에 실수로 떨어져 사망한 후, 유튜브 동영상과 AI가 생성한 기사가 빠르게 등장했다.

 

이러한 부고는 사기꾼들이 이 청년의 이름과 "지하철"이라는 단어에 대한 검색 관심이 급증하는 것을 알아차린 데 따른 것이었다. 사기꾼들은 재빨리 이러한 핵심 용어를 입력한 후 AI에게 대화체로 부고 기사를 작성하도록 지시한 다음 웹사이트에 올렸다고 뉴욕타임스는 보도했다. (대부분의 세부 정보가 틀렸지만 그렇다고 해서 해당 사이트가 구글 검색에 표시되는 것을 막지는 못했다.)

 

404 미디어의 카피캣, 더 헤어핀의 스쿼터, 부고 기사 해적의 세 가지 사례는 모두 세부 사항에서 차이가 있다. 하지만 한 가지 공통점은 악의적인 행위자, 사기꾼, 스패머가 AI를 사용하여 대량의 콘텐츠를 쏟아내어 Google 검색 결과 상단에 노출시킴으로써 돈을 벌려고 한다는 점이다.

 

극적으로 이것은 콘텐츠를 도난당하는 언론인이나 디지털 도굴로 인해 슬픔에 잠긴 가족들만의 문제가 아니다. 이는 구글에게도 큰 문제다. AI 덕분에 점점 더 매력적인 다른 검색 옵션을 갖게 된 사용자들에게 쓰레기 같은 결과를 제공하게 된다.

 

구글은 뉴욕 타임즈와의 인터뷰에서 이러한 스팸성 부고를 인지하고 있으며 이를 해결하기 위해 노력하고 있다고 밝혔다(일부 부고는 정책을 위반했기 때문에 삭제했다).

 

그러나 지난주 X에서 확산된 테일러 스위프트의 음란물 이미지가 AI에 의해 생성된 것처럼, 악플러는 종종 플랫폼보다 한 발 앞서 있다.

 

AI는 좋든 나쁘든 인터넷을 근본적으로 변화시킬 것이다. 실제 피해를 최소화하는 것은 Google과 이러한 AI 도구를 만드는 회사에 달려 있다.

- 끝 -