[LG Aimers] Module 1. AI 윤리(2)

2. 인공지능 알고리즘과 윤리 이슈

AI 관련 윤리와 신뢰 문제

1) AI and creativity

- AI가 인간의 고유 영역인 창작을 할수 있을까?
- AI도 예술을 창조하는 시대가 도래
- AI가 창조한 첫 교향곡의 제목은? lamus-'Hello World'
- 자연언어처리 기술의 혁신
- 질의 응답(Q&A) 시스템에서 AI가 인간의 성능을 초월
- 일본 AI프로그램이 '호시 신이치' 문학상 SF부문에 1차 예선을 통과
- IBM의 토론자(Project Debater) 2019년 "대학생" 수준에 왔지만 여전히 인간에게 패배

2) AI Art in Action

- 인공지능이 만들어낸 작품의 가격은 $432,500 (AI 예술 작품은 학습데이터 기반인데 창작성(originality)이 있는가? 학습데이터, 프로그래머, 기획자 사이의 저작권 이슈가 존재
- NFT(non-fungible token)의 시대, 트위터 창업가의 첫 트윗 $2.9M, 로봇 소피아의 그림 $700,00
-8명 사람중 진짜 사람 사진은 어떤 것일까? -> 저작권은 누구에게?

3) Copyright issues

- AI 저작권 이슈
- 학습에 사용된 데이터를 제공한 사람에게도 혜택이 돌아가기 어렵다.
- 창작자인 AI는 법적 권리를 제공 할 수 있는 법적 제도가 없다.
- 현존하는 예술가의 스타일을 따라한 예술 작품을 만들 경우 상업적 피해를 준다.
- 창작된 작품이 인간의 윤리적 규범을 따르지 않을 수 있다.
- 범인의 범위
- 범인은 법적 권리와 의무에 대한 책임을 소지함
- 정부, NGO, 자연, 회사 등 자연인이 아닌 법인도 존재
- 법인의 권리와 의무가 일부만 부여될 수 있음
- 범인격의 장단점
- 찬성파
- 간단한 책임의 문제가 손쉽게 해결
- 혁신과 사회발전의 방향
- 법제도가 일관성 있게 유지
- 자연인이 아닌 법인이 이미 존재
- 반대파
- 법적 처벌의 도피로 악용
- 도구주의에 반함
- 인류에 대한 수치
- 처벌의 어려움

- 원숭이가 찍은 셀피, 사진기 주인이 이 사진의 소유권을 가질 수 있을까?

4) AI contributed harm

- 인간과 로봇의 대결
- 아시모프의 로봇 3원칙
- 1) 로봇은 인간을 다치게 해선 안 되며, 인간이 해를 입는 걸 방관해서도 안된다.
- 2) 법칙 1에 위배되지 않는 한 로봇은 인간의 명령에 복종한다.
- 3) 법칙 1과 2에 위배되지 않는 한 로봇은 스스로를 보호해야 한다.
딜레마 - 자율주행의 5단계
자율주행차량 사고 - 학습데이터에 없던 사고, 사고의 책임 
- MIT Moral Machine Experiment- 트롤리 문제 
Moral Machine 설문을 통해 알고리즘 선호도를 측정 Many vs few, Passengers vs pedestrians
사고의 가능성은 항상 존재. 누구를 보호할 것인가?
- action vs inaction, Pedestrians vs passengers, The young vs the elderly, Lower vs higher status
- 4000천만 응답에 기반한 설문결과

권리나 책임을 부여할수 있을까?
로봇의 인격화 - 로봇을 학대하지 않을 권리

결론 : 새로운 도전

• 인간의 창조적 활동 영역으로 들어온 인공지능

• Ai가 기술혁시노가 창작 도구로 활용이 점차 확대됨에 따라, 인간의 개입 없이 독자적 창작과 혁신활동이 가능한 수준으로 발전하리라 전망

• AI 시대 지식재산, 법인격, 처벌 그리고 윤리의 문제 부각

• AI에 의한 발명과 저작 등에 대한 법제 정비,
  미래 강한 AI가 등장했을 시 법인격을 부여할지 논의,
  오동작시 처벌과 윤리 규정을 마련 등이 필요하며,
  이러한 논의가 다양한 계층 시민의 수요와 요구를 반영하도록 유의해야 함.