미군과 긴밀한 관계를 맺고 있는 기술 임원은 ChatGPT가 대중의 감시와 국경 통제에 사용될 수 있다고 말합니다
제이콥 탐슨, 2023.7.1
“국경 경비대는 사람이 그들 앞에 서기 전에 그 사람에 대한 모든 것을 알고 싶어합니다. 우리가 몇 가지 새로운 기술에 초점을 맞추기 시작할 곳이 이 부분입니다.
다음은 더 트렌즈 저널의 보고서입니다:
[국경 경비대들이] 딥 러닝 신경망 AI를 사용하여 공공(그리고 확실히 다른) 데이타를 채굴하고 여행자들에 대한 정보를 ㅈㅂ 기관들에 보고합니까?
그것은 DHS[미 국토안보부]가 이민자들을 조사하는 것을 돕기 위한 “도구”로서 국경에서 시작될 것입니다.
미국 연방 ㅈㅂ에 시민 감시 소프트웨어를 제공하는 바벨 스트리트(Babel Street)의 한 임원은 국경 요원이 사용할 수 있는 위험 평가 프로필을 구축하기 위해 공개적으로 사용 가능한 데이타에 대해 훈련된 ChatGPT와 같은 AI를 사용할 것을 제안했습니다.
바벨의 글로벌 솔루션 담당 부사장인 데클란 트레자이스는 지난 주 웨비나에서 이 아이디어에 대해 논의했다고, 저널리스트 잭 폴슨이 그의 서브스택에 이 문제를 보도했습니다.
“저는 모델, 즉 위험 모델을 만들 수 있다는 생각을 좋아합니다. 대규모 데이타 위험 모델. 국경 GPT 말입니다.”라고 데클란 트레자이스가 그 전망에 대해 말했습니다.
데클란 트레자이스는 이러한 시스템이 개인에 대한 “생체 측정”이 불가능한 격차를 메울 것이라고 언급하면서, 이러한 시스템이 무엇을 포함할 것인지 자세히 설명했습니다:
[여행자의] 위험은 당신이 좋은 생체 인식을 가지고 있다면 꽤 빠르게 평가될 수 있습니다. 하지만 그런 것들이 없다면, 여러분은 공개적으로 이용 가능한 정보와 같은 것들을 하나로 묶고 싶을 것입니다. 가능한 한 빨리 정확하게 업데이트할 수 있는 감시 목록을 얻고자 합니다.
“국경 경비대는 사람이 그들 앞에 있기 전에 그 사람에 대한 모든 것을 알고 싶어합니다. 우리가 몇 가지 새로운 기술에 초점을 맞추기 시작할 곳이 이 부분입니다. 우리는 인공지능 측면에서 혁명의 첨단에 있습니다.”
(“감시 회사가 ‘Border GPT’를 제안하다”, 2023년 6월 21일)
강력한 AI 챗봇들의 사용은 이민자와 관련된 국경 사용 사례의 맥락에서만 웹 세미나에서 논의되었지만, 미국 정보 기관과 함께해온 바벨 스트리트의 역사는 이 기술의 사용이 국경에 머물지 않을 수 있음을 시사합니다.
더 트렌즈 저널은 이전에 소셜 미디어 게시물을 모니터링하고, 시민 “감정”을 측정하고, 주방위군을 선별하여 “올바른 사고”를 보장하기 위해 논란이 되고 있는 바벨 스트리트의 “Babel X” AI 기반 소프트웨어의 사용에 대해 자세히 설명했습니다. (“Watch THE SNARK: AI CAN Detect sarcasm on Social Media, 2021년 5월 11일 참조. 아래)
스나크를 조심하세요: 인공지능은 이제 소셜 미디어에서 풍자(빈정거림)를 감지할 수 있습니다.
소프트웨어 개발자들은 그것을 완곡하게 “감정 분석”이라고 부릅니다. 오웰[프리메이슨]은 그것에 대한 다른 용어를 썼습니다: “잘못된 생각”
센트럴 플로리다 대학은 최근 소셜 미디어와 다른 온라인 활동에서 빈정거림을 감지할 수 있는 인공지능 소프트웨어를 만드는 발전을 발표했습니다.
인공지능은 논리적 데이타 분석과 대응에서 빠른 발전을 보였지만, 특히 텍스트 내에서 감정적 의미와 단서를 구문 분석하는 데는 뒤처졌습니다.
이반 개리바이(Ivan Garibay) 공학 조교수가 보도 자료에서 설명했듯이:
“텍스트에 빈정거림이 있다는 것은 감정 분석을 수행하는 데 있어 주요 장애물입니다. 비아냥거림이 대화에서 항상 식별하기 쉬운 것은 아니기 때문에 컴퓨터 프로그램이 그것을 할 수 있고 잘 하는 것은 꽤 어려운 일이라고 상상할 수 있습니다.
우리는 다중 헤드 자기 주의(self-attention) 및 게이트 반복 단위를 사용하여 해석 가능한 딥 러닝 모델을 개발했습니다. 다중 헤드 자체 주의 모듈은 입력에서 중요한 비꼬는 키워드를 식별하는 데 도움이 되며, 반복 장치는 입력 텍스트를 더 잘 분류하기 위해 이러한 키워드 간의 장거리 의존성을 학습합니다.”
이 프로젝트는 국방고등연구계획국(DARPA)[로스ㅊㅇㄷ 수하] 보조금으로 일부 자금을 지원받았지만 센트럴 플로리다 대학(UCF)은 제품 마케팅 및 판매에 있어 기업을 지원하는 것이 목적이라고 주장했습니다.
현재 많은 사람들이 제품과 서비스에 대한 피드백과 커뮤니케이션을 모니터링하고 평가하기 위해 대기업에 고용되어 있습니다. 이 작업은 노동 집약적이며, 인간이 가장 잘 하는 일부 작업(지금까지는 뉘앙스와 정치적 조종)은 아마도 지금까지 수행했을 것입니다.
그렇다면, 무엇이 잘못될 수 있을까요?
최근 ㅈㅂ 당국이 정치적 이유로 시민들을 상대로 미국 정보 자산을 악용한 기록을 볼 때 상당히 많습니다. 바이스 뉴스에 따르면 FBI는 이미 “다크 웹” 및 다른 사이트뿐만 아니라 소셜 미디어를 통해 이동하는 “Babel X”라는 소프트웨어를 사용하여 컴파일되는 사용자 프로필의 감정을 수집하고 있습니다.
제조업체에 따르면, Babel X는 현재 프로덕션에서 사용 중인 가장 정교한 감정 분석 엔진을 포함하여 자체적으로 강력한 기능을 갖추고 있습니다:
“Babel X는 또한 딥 웹을 포함한 수백만 개의 URL을 감시할 수 있습니다. 이 소프트웨어는 200개 이상의 언어를 즉시 번역할 수 있으며, 특별한 관심 영역 주변에 지오펜스를 설정할 수 있고 해시태그, 이모티콘, 핸들, 이름 및 키워드를 포함한 사용자 지정 가능한 고도의 필터링 옵션을 갖추고 있습니다. 사용자는 신용카드나 주민등록번호와 같은 숫자 시퀀스를 필터링할 수도 있습니다…
바벨 X는 시장에서 가장 정교한 감정 분석 도구를 보유하고 있습니다. 최고의 대학 언어 프로그램과의 협업에서 파생된 바벨 스트리트(Babel Street)는 19개 언어로 감정을 평가할 수 있는 능력을 자랑합니다. 이는 다른 경쟁업체의 역량을 훨씬 능가하는 것입니다.”
바벨 X는 2020년 1월 6일 대규모, 대부분 평화적인 부정 선거 시위 이후 워싱턴 D.C.에 배치된 주 방위군 부대를 선별하는 데 사용되었습니다. 그리고 2021년 3월, 타미 덕워스 상원의원은 더 힐이 후원하는 “국방의 미래(Future of Defense)” 심포지엄에서 국방부가 군대 구성원들의 소셜 미디어 습관을 모니터링하기 위해 바벨 X와 같은 도구를 사용할 것을 권고했습니다:
“이것은 새로운 것은 아니지만, 저는 지난 20년 동안 군대 내에서 증가하는 급진화를 보아왔다는 것을 말씀드리겠습니다. 그리고 그 중 일부는 소셜 미디어 소비와도 관련이 있다고 생각합니다.”
센트럴 플로리다 대학(UCF) 프로젝트의 DARPA 자금과 문서화된 바벨 X의 정부 국내 사용을 고려할 때, 미국 시민들의 정치적 자유를 차별하고 남용하기 위해 “감정 분석”의 최신 발전이 활용될 것으로 보입니다.
또한 우리는 바벨 스트리트가 휴대 전화에서 시민 데이타를 빼돌려 연방 정부에 제공하는 “제3자” 데이타 브로커 공급자임을 확인했습니다. (“미국 정보부, ‘데이타 브로커’와 협력하여 미국인들 추적, 새로운 EFF 보고서 증명, 2022년 7월 12일)
연방 정보 기관들은 (아마도) 미국 시민들에 대한 다양한 종류의 감시 데이타를 직접 수집하는 것이 금지되어 있습니다.
그러나 그들은 휴대전화 추적 데이타 등을 포함하여 미국인들에 대한 특권 정보를 제공하는 민간 기업으로부터 데이타를 구입하기 위해 법의 허점을 이용했습니다.
트렌드포스트: 미국 정보기관들이 헌법으로 보장된 미국인들의 사생활 권리 정신을 회피하기 위한 주요 통로인 바벨 스트리트가 ChatGPT 스타일의 강력한 감시에 대해 이야기하고 있다는 사실은 의미심장합니다.
그들은 정교한 감시 소프트웨어를 제공한 전력이 있으며, 미국 인텔과 깊은 관계를 맺고 있습니다.
공공 및 정부 자원에서 막대한 양의 데이타를 소비하고 그 정보를 인간과 같은 AI “정보 제공자”의 대화 방식으로 즉시 전달할 수 있는 AI를 결합하는 것은 “감시 GPT”의 감질나는 전망입니다.
역사를 볼 때, 이것이 어디로 가고 있는지 쉽게 알 수 있습니다. 생성 AI는 미국을 포함한 ㅈㅂ에서 정권에 대한 이념적 위험에 따라 시민들을 식별하고 표시하고 선별하는 데 사용될 것입니다.
바벨 X는 2021년에 “반란주의자” 위협을 억제하기 위해 워싱턴 D.C.에 배치하기로 선택된 주 방위군의 이념적 적합성을 보장하기 위해 사용되었습니다.
폭력 시위 선동과 그 진압은 정치적 적들을 압도하고, 미국의 저항과 고충 처리권 구제를 약화시키고, 진정으로 음흉한 딥스테이트와 엘리트주의자들이 주도하는 선거 조작으로부터 관심을 돌리는데 사용된 연극이었습니다.
“러시아 공모”에서 우한 중국 바이러스 연구소에 대한 미국의 자금 지원, 2020년 “BLM의 여름” 동안 정치적 폭력과 위협에 대한 ㅈㅂ 지지, 투표 무결성을 훼손하기 위한 “Zuckerbucks”의 5억 달러[마크 저커버그 메타 CEO가 2020년 선거를 앞두고 지방 선거 부서에 기부한 돈], 헌터 바이든 노트북 정보 훼손에 대한 미국 인텔과 MSM의 탄압에 이르기까지, “폭력적인 반란주의자” 이야기를 지지하기 위해 1월 6일 시위에 대한 연방준비제도(Fed·연준)의 침투와 폭력 선동에는 개스라이팅과 방향 전환 작업이 많이 있었습니다.
하지만 그 모든 조작조차도 점점 더 정교해지는 인공지능의 디스토피아적 약속에 비하면 아무것도 아닙니다.
ChatGPT 스타일의 AI 감시 보고는 이념적 감시와 시민 여행 및 기타 권리 취소를 완전히 새로운 수준으로 끌어올릴 것으로 보입니다.
저자 해설
(애 4:17) 우리로 말하건대 우리가 헛되이 도움을 구하므로 우리 눈이 여전히 힘을 잃었나니 우리를 구원하지 못할 민족을 우리가 고대하고 고대하였도다.
(애 4:18) 그들이 우리의 발자취를 찾아다니므로 우리가 거리에서 다닐 수 없도다. 우리의 끝이 이르렀으므로 우리의 끝이 가깝고 우리의 날들이 이루어졌도다.
트럼프 대통령이 2016년 국경 위기를 위해 특별히 설계된 “생체인식 추적 시스템”을 만들기를 원한다며 이에 대해 캠페인을 벌였던 것을 주목하고 상기해야 합니다. 그것은 고전적인 문제반응해결책입니다. 이민이 통제 불능 상태가 되도록 허용하고, 대중이 이에 질릴 때까지 기다린 다음, 생체 인식 데이타베이스와 마이크로칩을 도입하여 이들을 감시하게 되면, 나머지 대중에게도 적용됩니다.
