(특강) 오혜연 - AI Ethics

강의 소개

AI는 우리에게 많은 도움을 줄 수 있는 중요한 기술이지만 동시에 개인적, 사회적, 인류에 여러 문제를 야기하기도 합니다.
개인에게는 민감한 정보의 유출 문제, 편향된 결정 등의 문제가 있고, 사회적으로는 가짜뉴스의 생산과 재생산이 더 빨라지고, 양극화가 더 심각해질 수 있다는 문제가 있습니다. 인류와 지구에 대해서는 지나친 개발에 인해 환경이 파괴되고 따라서 기후위기도 더 심해질 수 있습니다.
본 강의에서는 이러한 문제들과 더불어, 인공지능 기술이 사회적 가치를 위해 어떻게 쓰여질 수 있는지에 대한 얘기를 해 봅니다. AI 엔지니어 입장에서 어떻게 하면 이러한 이슈들을 고려하며 사회적으로 긍정적인 영향을 줄 수 있을 지 한번 고민해보는 시간이 되었으면 좋겠습니다.

AI & Individuals

• AI Model의 Bias가 존재
  • e.g.) COMPAS : 미국에서, 범죄자들의 재범 가능성을 예측하는 AI System이 있었는데, 이전에 상대적으로 경범죄를 저질렀음에도 높은 리스크를, 반면 무장강도같은 중범죄를 저질렀음에도 낮은 리스크를 예측한 문제가 있었음
    
  • bias에 대한 paper를 참고해보면
    • AI model의 bias
      • 알고리즘은 데이터 기반이므로, 기존 판결 bias가 영향을 미침
      • 사회적으로 가지고 있는 bias가 반영될 수 있음
      • 우리가 잘 모르지만, 숨겨진 패턴에 의해 특정 소수 대상에게 불리하게 작용할 수 있음
      • 결론적으로 의도하지 않게 이러한 문제가 발생하며, 어디서 이러한 문제가 발생한 지 알기가 어려움
    • 어떤 프로세스에서 bias source가 나타날 수 있음을 정리
      • Target Variable and Class Labels
      • Labeling Examples
      • data collection
      • Feature Selection
      • Proxies(Unintentional Discrimination)
• Privacy
  • COVID-19에 대한 싱가폴의 사례를 보면, bluetooth connection을 통하여 특정 대상이 접촉한 사람들에 대한 정보를 central server가 가지고 있으며, 이 때 개인 정보 보호를 위해 random-string으로 token을 지정
  • 개인정보 대신 temporary ids이기에, 특정 대상이 특정 지역 정보를 빼내도 안전하며, 서로 누구를 만난지 알 수 없음. 단, 정부는 모든 개인 정보를 볼 수 있기에, 어느 정도 privacy를 지켜주려고 했지만, privacy 문제가 여전히 있긴 함.

AI & Society

• AI는 중요한 결정에 대한 도움을 주지만, 인종, 학벌, 성별, 지역 등에 대한 bias를 지닐 수 있음(Social Inequality 발생)
• 따라서, AI에 대해 잘 아는 사람에 대해선 매우 유용하지만, 아닌 사람이거나, 소수민족, 약자들의 입장에서는 불리한 기술임
• e.g.) 단순 노동 업무가 AI로 대체됨으로 인한 인력감축
• Deepfake, GPT-3와 같은 생성된 image, text과 같이 manipulation된 것을 판단하기 어려운 문제도 있음

AI & Humanity

• Pros. : for Health, for Environment
  • 환경문제를 해결하기 위한 방안을 찾을 때 AI가 기여
  • e.g.) 물건 배송 시 보다 효율적인 경로로 연료 소비를 줄임
  • e.g.) 시간별 온수사용량을 예측하여 heating 시간을 축소
• Cons. : Environmental and financial cost
  • Transformer와 같은 model은 언어모델 하나를 학습시킬 때 284t의 이산화탄소 배출(사람 1명이 1년에 5t 배출)