2023-10-22(Sun) by Gerrit De Vynck
[Illustration by Elena Lacey/The Washington Post; iStock]
해당 스타트업은 미국이 중국과 경쟁하기 위해 실리콘밸리가 필요하다고 말하지만, 다른 이들은 치명적인 군비 경쟁을 우려한다
Alexandr Wang은 핵폭탄의 발상지인 로스 알라모스 국립연구소의 그늘에서 자랐다. 이제, 26세의 인공지능 회사 ScaleAI의 CEO인 그는 지정학적 갈등의 새로운 시대에 핵심적인 역할을 하려고 한다.
2016년 Alexandr가 다른 기업들이 데이터를 정리하고 레이블을 지정하여 AI 알고리즘을 훈련할 수 있도록 돕기 위해 공동 설립한 Scale은 미국이 중국과의 실존적 싸움에서 승리할 수 있도록 미 국방부가 매일 생성하는 수많은 정보에서 더 나은 인사이트를 도출하고, 더 나은 자율주행차를 만들고, 심지어 전투 중 군 지휘관에게 조언을 제공할 수 있는 챗봇을 만드는 데 도움을 줄 것이라고 공격적인 홍보를 해왔다.
이 회사는 작년에 국방부에 다양한 AI 기술을 제공하는 2억 4,900만 달러 규모의 계약을 체결했다. 또한 육군, 공군, 해병대 대학, 군용 트럭 제조업체인 Oshkosh도 개별 고객으로 보유하고 있다.
지난 5월, Scale은 육군 제13공수단과 계약을 체결한 후 ChatGPT와 같은 챗봇의 기반이 되는 기술인 '대규모 언어 모델'을 기밀 네트워크에 배포한 최초의 AI 기업이 되었다. '도노반'으로 알려진 Scale의 챗봇은 정보를 요약하여 지휘관이 더 빠르게 의사 결정을 내릴 수 있도록 도와준다.
자칭 '중국 수리매'라고 말하는 Alexandr에게 이 프로젝트는 매우 중요한 의미를 지닌다: 민간 기술 기업이 개발한 AI가 없다면 미국은 중국의 군사력 증강에 맞서 기술 우위를 유지할 수 없을 것.
"데이터는 궁극적으로 AI 전쟁의 탄약이다."
그는 최근 인터뷰에서 상기와 같이 말하며, 컨퍼런스와 7월 의회 청문회에서도 했던 말을 반복했다. 그리고 미국은 이미 그 탄약을 비축하는 데 뒤쳐져 있다고 말했다.
미군은 향후 수십 년 동안 AI를 전략의 핵심으로 삼아 자율 선박과 비행기를 배치하여 사람이 조종하는 기계를 백업하고, 알고리즘을 사용하여 특정 부품 교체 시기를 예측하여 물류를 개선하고, 이미지 인식 기술로 드론 영상을 스캔하여 인간 분석가를 대체할 계획을 세우고 있다.
Wang은 7월 18일 미 하원 의사당에서 열린 사이버, 정보 기술 및 혁신에 관한 하원 군사위원회 청문회에서 AI에 대해 증언했다
[Drew Angerer/Getty Images]
Scale은 작년에 OpenAI가 ChatGPT를 대중에게 공개하면서 촉발된 최신 AI 붐에서 앞서 나간 덕분에 혜택을 받았다. 포브스에 따르면 Scale은 수억 달러를 모금했으며 2021년에는 투자자들로부터 70억 달러 이상의 가치를 인정받아 당시 세계 최연소 자수성가형 억만장자가 되었다.
하지만 군수 계약을 따내기 위한 경쟁은 치열하다. Google, Microsoft, Amazon과 같은 빅 테크 기업들은 모두 적극적으로 미 국방부를 공략하고 있다. 2022년 12월, 이 세 회사와 비즈니스 소프트웨어 회사인 Oracle은 국방부 전체에서 90억 달러 규모의 클라우드 컴퓨팅 계약에 입찰할 수 있는 독점권을 부여받았으며, 이는 Scale이 경쟁하고자 하는 계약의 일부를 잠식할 수 있다. Shield AI, Helsing 등 점점 더 많은 스타트업이 상당한 금액을 모금하고 군에 기술을 판매하기 위해 노력하고 있다.
(* Amazon의 창립자 Jeff Bezos는 Washington Post의 소유주이며, 이 신문의 임시 CEO인 Patty Stonesifer는 Amazon의 이사회에 참여하고 있음을 밝힌다.)
Scale은 수천 명의 모더레이터를 고용하고 있는 소위 "디지털 작업장"인 개발도상국에서의 일로 평판에 타격을 입었다. 지난 1월, 기술 업계에 불어닥친 해고의 물결로 이 회사는 직원의 20%를 해고했는데, Washington Post 조사에 따르면 필리핀에 있는 수십 명의 직원들이 제때 임금을 받지 못했거나 일한 대가를 전혀 받지 못한 것으로 나타났다. 당시 Scale 대변인은 대금 지급 지연과 중단은 "극히 드문 일"이라고 말했다.
군비 통제 옹호론자들은 전장에서 누구를 또는 무엇을 공격할지 등 주요 결정에서 인간이 점차 배제될 것이라는 우려로 군의 AI 사용에 반대해 왔다. 일부 무기는 이미 수년 전부터 자율 기능을 갖추고 있으며, 인간의 최종 허가 없이도 자동으로 표적을 인식하고 폭격할 수 있는 드론은 이미 전 세계 군용 무기고에 배치되어 있다. 미군은 인간이 항상 "중추 일원으로 결정한다"고 말하지만, 연구에 따르면 사람들은 자신의 판단을 신뢰하기보다는 권위적으로 들리는 기계의 조언을 따를 가능성이 높다고 한다.
Wang은 처음부터 군수 계약을 하려고 한 것은 아니다. 그는 19살에 MIT를 중퇴한 후 질의응답 사이트인 Quora에서 동료 인턴으로 일하던 Lucy Guo와 함께 Scale을 설립했다. 당시 AI 연구의 획기적인 발전으로 이미지를 감지하고 언어를 원활하게 번역할 수 있는 알고리즘이 개발되고 있었다. 하지만 AI 연구실에서 학습을 위해 웹에서 가져오는 수많은 이미지와 동영상에는 알고리즘에 무엇을 보고 있는지 가르치는 데 도움이 되는 레이블이 지정되어야 했다. 그들은 이 문제를 해결하기 위해 전 세계의 계약업체를 고용하여 이미지에 라벨을 추가하고 서비스 비용을 청구하는 방식으로 Scale을 구축했다.
회사를 설립한 지 2년 후인 2018년, Wang은 급성장하는 중국의 AI 현장을 둘러보기 위해 중국을 방문했다. 그가 방문한 안면 인식 스타트업의 사무실에 들어서자 대형 스크린이 로비의 비디오 피드를 재생하여 들어온 모든 사람의 인구통계학적 정보를 식별하고, 중국인의 경우 얼굴과 함께 이름과 신상 정보를 표시했다.
Wang은 이런 노골적인 감시를 목격한 것에 대해 "기술을 시연하기 위한 것이었지만 끔찍하기도 했다."고 말했습니다. 상업적 기술이 정부 목적으로 어떻게 사용될 수 있는지를 보여주는 이 가벼운 프레젠테이션은 Wang에게 중국의 테크 기업과 군대 간의 긴밀한 관계가 어떻게 중국이 수십 년간 이어져 온 미국의 첨단 기술 우위를 넘어설 수 있는 이점을 제공하고 있는지를 강조했다.
동시에 미국 기업과 정부 사이의 격차는 점점 더 커지는 것처럼 보였다. Wang의 중국 방문은, 많은 Google 직원들의 반대로 군의 드론 영상 분석을 돕는 AI 제공 프로그램 'Project Maven' 재계약이 무산된 시점과 거의 같은 시기에 이루어졌다.
Wang은 "이런 분위기가 계속되면 중국이 미국에 대한 AI 군사적 우위를 점하게 될 것 같았다."고 말했다.
일부 테크 경영진과 투자자들은 군의 관료적인 조달 프로세스를 통과하는 것이 일반 상업 고객도 다루는 기업에게는 너무 복잡하고 시간이 많이 걸린다고 오랫동안 주장해 왔다. 많은 AI 연구자들은 미국 정부의 동기에 대해 깊은 회의감을 갖고 있으며, 강력한 군대의 손에 AI를 맡기면 감시가 강화될 수 있고, 심지어 AI가 인간의 통제를 벗어나 실제 피해를 입힐 가능성도 있다고 우려하고 있다.
군대에서 AI가 어떻게 사용되는지 연구 중인 영국 랭커스터 대학의 은퇴 교수인 Lucy Suchman은 "모든 군비 경쟁이 그러하듯, 양측의 무장은 상대방의 무장에 의해 정당화된다."고 말한다. "이것은 자기 영속적이고 자기 강화적인 사이클이다."
Wang은 첨단 AI를 전장에 서둘러 투입하는 것의 위험성을 인정하며, 새로운 기술을 배치하기 전에 항상 엄격한 테스트가 필요하다고 말했다.
Microsoft 대변인은 논평을 거부했고, Google과 Oracle의 대변인은 논평 요청에 응답하지 않았다.
중국이 대만을 침공할 것이라는 우려와 블라디미르 푸틴 러시아 대통령의 우크라이나 침공으로 인해 기술 업계가 다시 정부에 힘을 실어주고 있다고 국방 전문 벤처 캐피털 회사 Shield Capital의 파트너이자 기술 업계의 군대 대사관 역할을 하는 국방 혁신 부서의 전 책임자인 Michael Brown은 말한다.
2022년 Google, Facebook, Microsoft, Apple, Amazon은 연구 개발에 총 1,989억 달러를 지출한 반면, 미 국방부는 새로운 무기와 도구를 테스트하고 평가하는 데 1,320억 달러를 지출했다.
몇몇 군사 기술 기업에 투자한 벤처 캐피털 회사 Air Street Capital의 설립자 Nathan Benaich는 "국방 분야는 빅 테크와 신규 진입자 모두의 파괴적 혁신이 무르익은 시장이다."라고 말한다.
Scale은 자체 도구 제공에도 박차를 가하고 있습니다.
군용 ChatGPT 경쟁자인 Donovan은 이미 군부대와 해병대 대학 학생들이 테스트하고 있다. Scale은 다양한 출처의 인텔리전스 데이터를 분석하여 인간 장교에게 추천을 제공할 수 있는 'AI 기반 의사 결정 플랫폼'으로 이 봇을 홍보하고 있다.
Donovan 데모 버전에서는 챗봇이 대만 인근에서 의심스러운 중국 선박을 식별한 다음, 장교가 비행기를 파견하여 상공을 비행하거나 최근 위성 이미지를 가져오는 등 추가 정보를 찾을 수 있는 옵션을 제공한다. 이미지가 확보되면 이미지 인식 알고리즘이 다량의 방사선을 식별하여 장교에게 정보를 전달하고 드론을 파견하여 선박을 조사하도록 지시한다.
하지만 치열한 경쟁이 없더라도 군에 판매하는 것은 어렵다고 Benaich는 말한다: "국방부는 다른 어떤 고객과도 비교할 수 없는 고객이며, 성공하려면 깊은 제도적 전문성이 필요하다. 육군에 판매하는 것은 우버에 판매하는 것과는 다르다."
Wang은 Scale이 여전히 다양한 고객을 확보하고 있으며 성공하기 위해 군 자금이 필요한 것은 아니라고 말했다. 국방부와 협력하는 것은 21세기가 세계 질서에 더 많은 갈등과 복잡성을 야기하는 가운데서도 미국이 세계에서 힘을 유지하는 데 도움이 되고자 하는 회사의 열망에서 비롯된 것이라고 말했다:
"이 극도로 갑작스럽고 급격한 기술 전환기에 Scale이 미국으로 하여금 리더십을 유지하는 데 도움이 될 수 있다면, 이는 매우 실질적이고 가시적인 영향이 될 것이다."
[뉴스 출처] https://www.washingtonpost.com/technology/2023/10/22/scale-ai-us-military/
