원문링크(원문 작성 일자: 2021.08.23)
Unity Workers Question Company Ethics As It Expands From Video Games to War_By Patrick Klepek
오픈 소스도 늘어나고, GIT으로 공유도 많이 되는데 과연 개발자들은 자신이 만든 코드가 어떻게 어디에 쓰이는지 다 알 수 있을까? 온라인상에서 공개된 코드에 대해서는 알 수 없을 것 이라 생각한다. 그렇다면 회사 내에서는 내가 참여한 프로젝트의 코드가 어떻게 어디서 쓰이는지 알 수 있을까?
특정 프로젝트임을 알고 있으니 개발자들도 알고 있을 거라고 생각하기 쉽다. 나도 이전에는 그렇게 생각했다. 그러나 아래의 뉴스를 통해 그렇지 않다는 것을 알 수 있었다. 뉴스 요약은 다음과 같다.
게임 엔진으로 유명한 회사 Unity. Unity는 교통, 영화, 음악 등 여러 분야에서도 볼 수 있는데 미 국방부와도 협업을 하고는 한다. 그런데 이 때, 이 미 국방부와 일을 함에 있어서 게임을 만들기 위해 취업한 사람들이 전쟁을 목표로 한 군을 위한 프로그램을 본인들도 모르는 사이에 만들고 있다는 점이다. 회사는 그에 대한 설명을 하는 것에 있어 어려움을 겪지만, 정보원들에 따르면 은근하게 미 국방부와 협업하는 건에 대해서는 어떤 식으로 말을 해야 하고 하지 말아야 하는지 적힌 Note가 있었다고 한다.
만약 이런 상황이라면 사건이 발생했을 때 책임은 당연히 회사가 질 것이다. 그러나 개발자 입장에서는 내가 그 코드를 짰다는 것을 알게 되었을 때 사건에 대한 책임감을 갖지 않을 수 있을까? 어느 글에서 읽기로 미국에서는 자신이 맡은 분야가 아닌 다른 분야의 일을 하게 되면 인사팀에 항의를 하는 것이 일반적인 것으로 알고 있다. 그런데 내가 작업한 것이 어디에 쓰였는지 확실히 모른다면 그 항의조차도 할 수 없게 막히는 것이 아닐까?
기사에 적힌 것이 군과의 협업이다 보니, 여러모로 생명이나 윤리적인 문제도 고민하게 되고 저작권이나 출처는 어떻게 생각해야 하는 것인지 여러모로 생각할 점을 많이 주는 기사였다.
아래는 해당 뉴스 기사의 일부와 일부의 해석이다. 뉴스 기사 원문은 링크를 클릭하면 읽을 수 있으니 이어진 내용이 궁금한 사람들은 링크를 들어가는 것을 부탁드린다.
Unity Workers Question Company Ethics As It Expands From Video Games to War
비디오게임에서 전쟁으로 확장되는 기업의 윤리성에 질문을 던지는 유니티 직원들
Unity, the popular game making tool, has long been used in industries outside of video games. Unity's site celebrates this versatility, saying its technology offers "incredible possibilities" for film, engineering, architecture, automotive, transportation, and more.
게임 만드는 도구로 유명한 Unity는 비디오 게임 바깥 산업에서도 오랫동안 이용되고 있다. Unity의 사이트는 이러한 많은 재능을 축하하여 기술이 ““믿을 수 없을 만큼 놀라운 가능성”을 영화, 기술, 건설, 운송수간, 교통수단, 그리고 많은 것들에 제공한다고 말한다.
Unity's site also proudly lists its technology being used by the government and military, but internal Unity documents obtained by Waypoint show the company is struggling to explain why its employees, who supposedly signed up to create tools that empower game makers, are now directly or inadvertently developing technologies for militaries with the stated objectives of fighting wars.
Unity의 사이트는 또한 그들의 기술이 정부와 군에 의해 사용됨을 자랑스럽게 작성하지만 내부의 Unity 문서들-Waypoint에 의해 입수된- 은 회사가 게임 제작자들에게 힘을 실어주는 도구를 만들기로 사인한 그들의 직원들이 왜 직접적으로 또는 실수로 전쟁을 목표로 표시된 군을 위한 기술을 만드는지 설명하는 것에 어려움을 겪고 있음을 보여준다.
According to three sources Waypoint talked to, some Unity employees might develop technology that ends up with military clients without even realizing that's how their work would be used. These sources, a mixture of current and former Unity employees, were granted anonymity to avoid reprisal.
Waypoint가 말한 3명의 정보원에 따르면, 몇몇 Unity 직원들은 그들의 작업이 어떻게 이용되는지도 모른 채 그 작업이 결국은 군용 고객으로 마무리되는 기술을 작업할 수도 있다고 한다. 이 정보원들은 현재와 이전의 Unity 직원들이고 그들은 보복을 피하기 위해 익명을 보장받았다.
According to these sources, the part of Unity that's pursuing government and military contracts is sometimes nicknamed "GovTech," which the company described in a public presentation from March 2021 as intended to "develop technologies across our products that helps the government adapt AI and ML [machine learning]“
이 정보원들에 따르면, 정부와 군과의 계약을 추구하는 Unity의 일부는 때때로 “GovTech”라고 이름 지어지는데 회사는 이를 2021년 3월 공개 발표에서 “정부가 AI 와 ML(머신러닝)을 채택하는 것에 도움을 주는 기술을 우리 제품을 이용해서 개발하기 위함”이라는 의도로 설명했다.
One internal memo, titled "GovTech Projects - Communication Protocol," which was shared with Waypoint but not distributed widely within Unity itself, outlined how the company should talk about these contracts with "internal/external stakeholders," and makes clear Unity understands the delicate line it's walking.
Waypoint와 공유되었지만 Unity 자체 내에서 널리 배포되지 않은 "GovTech Projects - Communication Protocol"이라는 제목이 붙은 내부 메모는 회사가 이러한 계약에 대해 "내부/외부 이해관계자"와 어떻게 논의해야 하는지 간략하게 설명했으며 Unity가 나아가는 미묘한 선을 명확히 이해하도록 했다.
"We need to be sensitive to the various values & beliefs which people perceive our engagement with the Government, specifically DoD [Department of Defense]," reads the memo, which instructs managers to use the terms "government" or "defense" instead of "military.“
“우리는 사람들이 우리가 정부, 특히 DoD[국방부]와의 관계에서 인시하는 많은 가치들&믿음들에 민감할 필요가 있다.”라고.” 읽은 메모는 매니저들에게 “정부” 또는 “방어”를 “군” 대신 사용하도록 지시하고 있다.
The memo is listed as a draft, isn't dated, and Waypoint's sources were unaware of a final version meant for wider distribution. It includes a list of "Do's" and "Don'ts" for Unity employees when talking about GovTech projects. Under "Do's," the memo tells employees to point out that Unity is using AI to improve how the DoD runs simulations and trainings, and that "Nothing we are doing will be used in live warfighting." The memo also instructs employees to highlight that Unity's "current projects provide a service and or solution to DoD companies and we are not taking the lead on any single project.“
메모는 초안으로 작성이 되어있고, 날짜는 적혀있지 않으며 Waypoint의 정보원들은 넓은 배포를 위한 최종 버전을 알지 못했다. 이것은 Unity의 직원들이 GovTech 프로젝트에 대해 말할 때 “할 것들”과 ““하지 말 것들”에 대한 목록을 포함했다. “할 것들”에서 그 메모는 직원들이 Unity는 AI를 이용해 어떻게 국방부가 시뮬레이션과 훈련을 개선시킬지, 그리고 “실제 전투에는 우리가 하는 것이 하나도 사용되지 않는다”를 강조하라고 적혀있었다. 그 메모는 또한 직원들이 Unity의 “현재 프로젝트는 서비스 또는 솔루션을 국방부에 제공하고 있으며 우리는 그 어떤 단일 프로젝트를 이끌고 있지 않다.”라고.” 강조하도록 지시하고 있다.
Under "Don'ts," the memo instructs employees not to "discuss any projects that involves the use of simulated or virtual weapons or training to harm another person.“
“하지 말” 아래에 그 메모는 직원들에게 “다른 사람을 해치기 위해 시뮬레이션이 사용됐거나 또는 가상 무기를 사용하거나 훈련을 하는 어떠한 프로젝트도 논의하지 말라”고 지시했다.
A postscript on the memo also implies that Unity's work with the military is justified by the DoD's own ethical principles. "PS: It's important to note that DoD itself has published a set of AI principles that it has pledged to adhere to as it adopts AI at scale," the memo says, and links to a 2020 press release by the DoD that outlined its own "series of ethical principles" related to the research and use of military artificial intelligence. The memo highlights the following quote from the DoD press release: "The principles address these new challenges and ensure the responsible use of AI by the department.“
메모에 있는 추신은 또한 Unity의 군과 함께한 작업은 국방부 자체의 윤리적 원칙에 의해 정당화된다는 것도 암시하고 있다. “추신: 국방부 스스로가 규모에 맞게 AI를 채택하며 지키겠다고 한 일련의 AI원칙을 공표했음을 중요하게 생각하라”는 메모와 2020년 국방부의 국방부 자체 “윤리적 원칙의 나열” 보도 자료는 연결된다 그리고 군 인공지능의 사용과 연구에 연결된다. 그 메모는 다음의 국방부 보도 자료로의 인용구를 강조한다.: “그 원칙은 이러한 새로운 도전을 해결하고 부서의 AI 사용의 책임을 보장한다.”
...
