AI의 윤리적 이용, 원리는 알겠고... 실천은?

changsubchang·2021년 1월 9일
0

AI의 윤리적 이용은 매우 핫한 토픽입니다. 엊그제 인터넷에서 화제가 된 이루다 사건도 AI의 윤리적인 이용에 대한 관심을 환기한 사건이었죠.


(혹시 모르시는 분을 위해) 이루다 사건은...

국내 AI개발사 스캐터랩이 대화형 인공지능인 이루다를 개발했는데요. 20대 여대생이 페르소나인 이루다를, 남성들이 성적대상화하고 성희롱하는게 커뮤니티에서 큰 문제가 되었습니다. 개발사에서는 이러한 시행착오는 AI 대화형 모델의 개발을 위해 필수적이라는 입장이고, 이를 적대적 생성(학습) 모델로 활용하는 안을 제시하기도 했는데요. 그럼에도 불구하고 AI가 윤리적으로 사용되는 것을 막지 않으면 발생할 수 있는 문제를 보여주기도 합니다. 어떻게 될지는 조금 더 지켜봐야겠죠.


이루다 사건뿐 아니라 우리 주변에서, AI가 어떻게 윤리적으로 이용되어야 하는지에 대한 고민은 지난번 포스트에서도 공유드린 것처럼 국내외를 막론하고 활발하게 진행되고 있습니다. 이를 위해 다양한 국가기관, 국책연구소, 혹은 민간연구소 / 기업에서 AI 원칙, AI 가이드라인 등의 이름으로 다양한 원칙을 제시하고 있는데 현재 이렇게 제안된 원칙이 파악된 것만 전세계적으로 100개 이상이라고 하네요.

하지만 '좋은 말'을 써놓은, 마치 중고등학교 때 도덕교과서와 같은 말들만 써있다면, 윤리적으로 AI를 만들고자 하는 개발자, 연구자, 디자이너, 비즈니스 프로페셔널이 실제로 제품을 만들고 서비스하는 과정에서 어떻게 참고해야 하는지 모르는 경우가 대부분입니다. AI와 관련된 윤리적인 문제는 너무 복잡해서 한 부분을 윤리적으로 만들려는 노력이, 또다른 선의의 피해자를 만들어 낼 수 있기 때문에 특정 개발자, 연구자의 양심과 상식, 도덕률에 기대는 것은 충분하지 않습니다.

그렇다고, AI의 적용영역이 제각기 다르고 유저가 다르고, 제품과 서비스가 다른데 매우 상세한 **'AI 윤리적 체크리스트'**를 제공하고, 이것만 지키면_ "AI를 윤리적으로 활용했다고 인증합니다."_ 라고 하는 것은 가능할까요? 아마도 어려울 것입니다.

AI의 윤리적 이용을 위한 실천 방법으로, 흥미로운 기사를 찾아서 내용과 저의 생각을 여러분과 조금 공유해볼까 합니다. 기사는 ACM(Association for Computing Machinery)의 Communications 라는 저널에 게재된 Operationalizing AI Ethics Principles 입니다.

1. AI 윤리원칙은 너무 많다. 하지만 So What?


본 저널기사의 저자가 소속되어 있는 AI Ethics Lab 의 조사결과에 따르면, 전세계의 AI 윤리원칙은 100개 이상이고, 점차 늘어나고 이는 추세입니다. 많은 내용들이 수록되어 있지만, 실제로 개발자, 연구자, 디자이너들이 어떻게 사용하는 지 알려주는 경우는 매우 드뭅니다. 이를 지칭하여 Operationalize 라고 하는데요. 즉, 실제로 '운영' 하기 위해서 AI의 윤리적인 이용을 어떻게 접목해야 하는지 실질적인 솔루션을 주고 있지 않는다는 뜻입니다.

2. 추구하고자 하는 윤리적 가치를 나눠라. A) 핵심 원칙, B) 수단적 원칙

이러한 문제를 해결하기 위해서, 저자는 우선 원칙의 일람을 핵심 원칙과 수단적 원칙으로 나누어야 한다고 이야기 합니다. 핵심 원칙은 영어로 Core Principles 로 표현되는데, 내재적 가치를 지닌 원칙, 즉, 해당 원칙 추구가 그 자체로 목표가 될 수 있는 것을 의미합니다. 이에 반해 수단적 원칙은 Instrumental Principles 로 표현되고, 앞의 핵심 원칙을 지키기 위해 기능적인 역할을 수행하는 원칙을 의미합니다.

A) 핵심 원칙

핵심 원칙의 예시에는 아래와 같은 3개의 원칙이 있습니다:

  • 자율성 존중 (Respect for autonomy)
  • 피해를 줄이고 좋은 것을 하는 것 (Beneficence - avoiding harm and doing good)
  • 정의 (Justice)
    즉, 어떠한 상황에서도 지켜져야 하는 원칙이자 옳고 그른지를 판별하는 대상이 될 수 없고, 이의 기준이 될 수 있는 원칙들임을 확인할 수 있습니다. 아울러 AI Ethics Lab의 조사결과, 전세계의 100개의 원칙들 중 25%–30% 는 자율성 존중을 강조하고, 32%–36% 는 피해를 줄이고 좋은 것을 하는 것, 36%–42% 는 정의를 강조하고 있습니다.

B) 수단적 원칙

수단적 원칙에는 다양한 형태가 포함되어 있을 수 있습니다. 아래와 같은 예시를 통해 살펴보겠습니다.

  • 투명성 : 투명하다는 것은 그 자체로 추구해야 하는 절대적인 가치인 것은 아닙니다. 투명성이 있기 때문에 무엇인가가 가치있어지는 것이 아니라, 투명성을 통해 우리가 보다 더 잘 이해하고, 참여하고, 능동적으로 대처할 수 있기 때문에 가치있는 것입니다. 그런 의미에서, 보다 절대적인 가치를 수호하기 위한 수단으로써 투명성을 이해할 수 있습니다.
  • 책임감 : 책임을 진다는 것도, 그 자체를 추구해야 하는 것은 아닙니다. 다만 상황에 대해 책임을 질 수 있다는 것은 정의를 수호하는데 도움을 준다는 점에서 기능적인 효과가 있습니다.
  • 설명가능한 인공지능 : 설명가능한 인공지능도 마찬가지 입니다. 설명가능한 인공지능 자체가 절대적인 가치가 될 수는 없습니다. 판사의 의사결정에 도움을 주는 인공지능의 경우에는, 설명가능한 인공지능이 필수적으로 필요하고, 이를 통해 의사결정 과정의 정당성과 정의를 확보하는데 도움을 줄 수 있지만, 자동차의 안전운행을 위한 모든 의사결정마다 설명가능한 인공지능이 필요하지는 않습니다. (물론 안전과 직결되어 있는 경우를 제외하고 말입니다.)

3. 핵심 원칙의 충돌이 진정한 윤리적 딜레마다.

그렇다면, 원칙을 왜 분류한 것일까요? 가치체계의 우선순위를 정하는 것은, 가치가 충돌하는 상황에서 지혜로운 결정을 내릴 수 있도록 가이드를 제공합니다. 즉, 우리는 핵심 원칙에 해당하는 가치인, 자율성, 남을 해하지 않고 좋은 일을 도모함, 정의에 상대적으로 높은 비중을 두어야만 합니다. 오히려 상대적으로 수단적인 원칙은 그 자체를 추구하기보다, 추구하는 목적이 어떠한 핵심 원칙을 수호하거나 구현하기 위한 것인지 곰곰이 생각해보아야만 합니다. 이를 통해 보다 통합적인 AI의 윤리적인 이용이 가능할 것입니다.

윤리적 딜레마라고 불리우는 상황은, 핵심 원칙이 충돌할 때로만 국한됩니다. 특정 핵심 원칙을 추구하는 과정에서 다른 핵심 원칙의 추구가 침해받는 경우를 딜레마라고 볼 수 있는데요. 이외의 경우 - 핵심 원칙과 수단적인 원칙이 충돌하거나, 수단적인 원칙간 충돌하는 경우에는 각각 추구하는 핵심 원칙의 선후관계를 따져 최선의 선택을 할 수 있기 때문입니다.

4. 한 번에 될 수 없다. 지금은 좋은 시작점일 뿐

지루하지만 중요한 말입니다. One-size-fits-all 의 사례는 실제로 존재하기 어렵습니다. (혹은 존재한다고 하더라도, 그 효과는 좋지 않을 경우가 큽니다.) 오히려 최소한의 가이드라인을 Operationalize, 즉, 실천 가능하게 하는 것이 개발자, 연구자, 디자이너가 고객을 위한 AI 제품과 서비스를 만드는 과정에서 엇나가지 않을 수 있는 최소한의 안전장치로 작용할 것입니다.

AI, 아니 사실 AI뿐 아니라 일반적인 기술의 경우에도 새로운 기술이 가질 영향이나 임팩트에 대해 면밀하게 살펴보고 준비하는 것은 어려운 일입니다. 물론 그렇다고 기술이 가치중립적이라고 말할 수 없지만, 다만 사람이 할 수 있는 최선은 시행착오를 최대한 줄이면서, AI와 기술이 인간을 위협하거나 소외시키는 것이 아니라 인간을 위해 사용될 수 있도록 발전시켜 나가는 것입니다. AI를 무작정 막거나 반대하기보다, 이의 선용을 위한 토론에서 원칙들이 제정된 것이 그러한 운동의 시발점이고, 원칙을 그 목적과 효용에 따라 상세하게 나눔으로써 실제로 실천될 수 있도록 한 이와 같은 저널 기사가 앞으로 나아가게 할 도약장치가 될 것입니다.

5. ToolBox를 사용해보자.

위의 이미지는 AI Ethics Lab 에서 제공하는 Tool Box 를 가져온 것입니다. 저자는 각각의 항목에 대해 아래와 같은 질문을 제품 / 서비스 및 스스로에게 던지고 얼마나 윤리적으로 제품이 개발되고 사용될 것으로 판단되는 지를 가늠해보길 제안합니다.

이상입니다. 도움이 되었길 바랍니다!

profile
데린이임니다

0개의 댓글