루카스 놀란, 2023.9.3
유로폴의 최근 보고서는 2026년까지 온라인 콘텐츠의 90%가 인공지능에 의해 생성될 수 있다고 경고하고 있으며, 몇 년 안에 현재보다 훨씬 더 쓸모없는 쓰레기들로 웹이 꽉 찰 수도 있다는 우려를 낳고 있습니다.
퓨처리즘은 유로폴의 최근 연구가 2026년까지 온라인 콘텐츠의 최대 90%가 인공적으로 생성될 수 있음을 시사한다고 보고합니다. 이 놀라운 수치는 저널리즘과 예술에서부터 기술과 법 집행에 이르기까지 다양한 부문에 파문을 보냈습니다. 인공 지능을 사용하여 생성되거나 조작되는 콘텐츠를 지칭하는 합성 미디어는 새로운 현상이 아닙니다. 그러나 급속한 확산은 눈살을 찌푸리게 함과 동시에 우려를 자아냈습니다.
보고서는 “대부분의 경우 합성 미디어는 게임, 서비스 개선 또는 삶의 질 향상을 위해 생성된다.”라고 밝혔습니다. 인공지능이 만든 콘텐츠는 게임에 대한 사용자 경험을 강화하거나 고객 서비스를 효율화하는 등의 장점이 있지만 더 많은 악의적인 사용에 대한 문도 열어줍니다. “합성 미디어와 기술의 향상은 잘못된 정보의 가능성을 야기했다.“라고 보고서는 덧붙였습니다.
그 보고서는 “일상적으로, 사람들은 그들을 인도하면서 무엇이 진짜이고 무엇이 아닌지를 말하는 그들 자신의 인식을 신뢰한다. 어떤 사건에 대한 청각적이고 시각적인 기록은 종종 사건의 진실한 설명으로 취급된다. 그러나 만약 이 미디어들이 인위적으로 만들어져서 결코 일어나지 않았던 사건들을 보여주기 위해, 사건들을 잘못 전달하기 위해, 또는 진실을 왜곡하기 위해 적용될 수 있다면 어떻게 될 것인가?”라고 말합니다
이 보고서는 또한 예술가, 작가, 그리고 다른 콘텐츠 제작자들에게 실존적인 질문을 제기합니다. 인공지능이 만든 콘텐츠에 의해 점점 더 지배되는 세상에서, 인간 창의성의 역할은 무엇일까요? 예술가와 작가들은 이 새로운 환경에 적응할 것인지, 아니면 대규모로 콘텐츠를 생산할 수 있는 알고리즘에 의해 가려질 것인가요?
Decrypt는 제인 프리드먼 교수가 아마존에서 자신의 것이라고 여겨지지 않는 책들을 발견했을 때, 판매에서 가짜 제목들을 제거하기를 원하지 않았던 이 전자상거래 대기업으로부터 초기의 저항에 부딪혔다고 보고합니다. 프리드먼이 “쓰레기 책”이라고 언급한 그 제목들은 생성형 인공지능을 사용하여 만들어졌을 가능성이 높으며, “아마존에서 베스트셀러 전자책을 쓰는 안내서”, “퍼블리싱 파워: 아마존의 킨들 디렉트 출판 탐구”, 그리고 “성공 촉진: 아마존에서 전자책 판매를 급증시키는 전략들”과 같은 안내서들을 포함하고 있습니다.
프리드먼이 아마존에 제기한 불만은 처음에 그녀가 자신의 이름으로 상표를 소유하고 있다는 것을 증명할 수 없었기 때문에 목록을 삭제하는 것에 대한 거부에 부딪혔습니다. 프리드먼은 자신의 이름으로 상표의 소유권을 증명할 수 없다는 것을 인정한 후 아마존이 그 책들을 여전히 구매할 수 있을 것이라고 말했다고 주장했습니다.
