새로운 연구에 따르면, AI는 이제 두 시간 안에 당신의 성격, 가치 및 선호도를 복제할 수 있으며 사기꾼에게 문을 엽니다.
“만약 당신이 한 무리의 작은 ‘당신’들이 뛰어다니며 당신이 내렸을 결정을 실제로 내릴 수 있다면, 그것이 궁극적으로 미래라고 생각합니다.“고 선임 연구원은 말했습니다.
스탠포드와 구글 딥마인드(Google DeepMind)의 연구진이 발표한 새로운 논문에 따르면, AI 모델은 당신의 삶과 신념에 대한 다양한 주제를 다루는 2시간 동안의 인터뷰를 통해 당신의 성격과 행동에 대한 가상 복제본을 만들 수 있으며, AI가 합리적 범위 내에서 상당히 정확한 딥페이크 에이전트 또는 “디지털 트윈”을 만들어 개인의 명령에 따라 작업을 수행할 수 있음을 증명합니다. 그러나 이 연구는 이렇게 추출된 정보가 악의적인 의도로 얼마나 쉽게 사용될 수 있는지 보여줍니다.
연구팀은 연령, 성별, 혈연, 지역, 교육 및 정치적 성향에 따라 다른 1,052명의 참가자를 모집했습니다. 그들은 각각 최대 100달러를 받았습니다. 연구진은 AI 모델을 사용해 참가자들의 성격을 모방할 수 있었습니다. 참가자들과 새로 생성된 AI 에이전트는 2주 간격으로 두 번씩 여러 성격 테스트, 소셜 설문조사, 논리 게임을 완료했습니다.
AI 복제품은 실제 복제품에 비해 85%의 정확도를 보였습니다.
이 연구를 이끈 스탠포드 컴퓨터 과학 박사 과정 학생인 박준성은 다음과 같이 말했습니다:
“만약 여러분이 여러 명의 작은 ‘당신’들이 뛰어다니면서 여러분이 내렸을 결정을 실제로 내릴 수 있다면, 그것이 궁극적으로 미래라고 생각합니다.“
MIT Technology Review는 이러한 약제가 도움이 될 수 있는 몇 가지 다른 이유를 제공했습니다.
논문에서는 복제품을 시뮬레이션 에이전트(simulation agents)라고 부르며, 이를 만드는 원동력은 사회 과학 및 기타 분야의 연구자들이 실제 인간 피험자를 대상으로 하기에는 비용이 많이 들거나 비실용적이거나 비윤리적인 연구를 더 쉽게 수행할 수 있도록 하는 것입니다. 실제 사람처럼 행동하는 AI 모델을 만들 수 있다면 소셜 미디어에 대한 개입이 잘못된 정보에 얼마나 잘 대처하는지부터 교통 체증을 유발하는 행동에 이르기까지 모든 것을 테스트하는 데 사용할 수 있습니다.
이러한 시뮬레이션 에이전트는 오늘날 선도적인 AI 회사의 작업을 지배하고 있는 에이전트와 약간 다릅니다. 도구 기반 에이전트라고 하는 이러한 에이전트는 사용자와 대화하는 것이 아니라 사용자를 위해 작업을 수행하도록 구축된 모델입니다. 예를 들어, 데이타를 입력하거나, 어딘가에 저장된 정보를 검색하거나, 언젠가는 사용자를 위해 여행을 예약하고 약속을 잡을 수 있습니다. 블룸버그에 따르면 세일즈포스는 9월에 자체 도구 기반 에이전트를 발표했고, 10월에는 앤트로픽(Anthropic)이 그 뒤를 이었으며, 오픈AI는 1월에 일부를 출시할 계획이다.
두 가지 유형의 에이전트는 서로 다르지만 공통점을 공유합니다. AI 시뮬레이션 참가자를 사용하여 연구를 수행하는 회사를 설립한 MIT 슬론 경영대학원의 정보 기술 부교수인 존 호튼(John Horton)은 이 논문과 같은 시뮬레이션 에이전트에 대한 연구가 전반적으로 더 강력한 AI 에이전트로 이어질 것이라고 말합니다.
“이 논문은 일종의 하이브리드를 할 수 있는 방법을 보여주고 있습니다: 실제 인간을 사용하여 퍼소나를 생성한 다음 실제 인간으로는 할 수 없는 방식으로 프로그래밍 방식/시뮬레이션에서 사용할 수 있습니다.“라고 그는 MIT Technology Review에 이메일로 말했습니다.
그러나 이 연구는 또한 MIT와 Tech Radar에서 지적한 것처럼 사람들의 퍼소나를 훔치고 이 정보를 딥페이크 및 사기와 같은 수상한 목적으로 사용하는 것이 얼마나 쉬운지 보여줍니다.
프로젝트에 대한 자세한 내용은 여기를 참조하세요.
저자 해설
올해 5월, 저는 많은 기술 스타트업들이 사람들로부터 추출한 성격, 특성과 가치의 디지털 트윈을 만들기 시작한 다음 기업 작업 공간에서 판매되어 다양한 형태의 전통적인 작업들을 대체하는 방법에 대해 썼습니다. 예를 들어, AI로 복제된 사람들의 패션 및 의류 모델링을 대체하고, 설문 조사, 추세 분석, 의료 건강 저장소를 대체하여 질병을 추적하고 치료하는 데 도움이 되는 것 등이 있습니다. 참조: AI는 이제 당신의 성격과 습관에 대한 디지털 트윈을 만들어 이익을 위해 판매되고 근로자를 대체하고 있습니다.
더욱이, 저는 이 에뮬레이트된 정보가 실제로 토큰화되어 블락체인에서 거래 가능한 파생 자산으로 표현될 것이라는 데 의심의 여지가 없으며, 이는 국제결제은행(BIS), 블랙락, 국제통화기금(IMF), 세계은행 등과 같은 기관들이 원하고 서둘러 작업하고 있는 것입니다.
토큰화: 당신을 포함한 모든 자산과 자연을 디지털화하기 위한 신세계질서 화폐 시스템
(느 5:8) 그들에게 이르되, 우리는 우리의 힘을 다하여 이교도들에게 팔린 우리 형제 유대인들을 속량하였거늘 너희는 심지어 너희 형제를 팔고자 하느냐? 혹은 그들을 우리에게 팔아야 하겠느냐? 하매 그때에 그들이 잠잠하여 대답할 것을 찾지 못하기에
(계 13:14) 또 그 짐승의 눈앞에서 기적들을 행할 권능을 소유하여 그 기적들로 땅에 거하는 자들을 속이며 또 땅에 거하는 자들에게 말하여 그들이 칼로 상처를 입었다가 살아난 그 짐승을 위해 형상을 만들게 하더라.
(계 13:15) 또 그가 그 짐승의 형상에게 생명을 줄 권능을 소유하여 그 짐승의 형상이 말도 하게 하고 그 짐승의 형상에게 경배하려 하지 아니하는 자들은 다 죽이게 하더라.
짐승의 형상은 땅에서 올라온 짐승이 만드는 것이 아니고, 땅에 거하는 각 사람이 자기 손으로 짐승의 형상을 만듭니다. 사람들이 인스타그램의 AI 스튜디오 같은 앱을 이용하여 각각 자기의 디지털 트윈을 만들뿐만 아니라, 땅에서 올라온 또 다른 짐승(아바돈/아폴리온/멸망의 아들)의 AI를 통한 조종과 선동 하에, AI/사탄과 융합된 첫째 짐승의 디지털 트윈(아바타)을 만들어 경배하는 것으로 보입니다. 그러니까, 이름이 생명책에 기록되지 않은 자들은 자기들 몸에 받은 짐승의 표에 의해 AI에 연결되어 조종되어서, 칼로 상처를 입었다가 살아난 AI/사탄과 융합된 짐승을 찬양하며 그의 디지털 트윈(아바타)을 만들어 경배하는 것이니, 자기 손으로 자기가 만든 우상에게 경배하고 심판받게 되는 것입니다.
