#1. AI 윤리

💡 LG Aimers 4기 기록

• 강의 내용 정리
• 필요한 내용 추가

---

데이터 분석과 AI 학습에서 유의할 점

• 데이터 해석에 유의한다.

  • 상관관계와 인과관계
    • 상관관계: 2개의 변수에 선형관계가 있는지 확인 (증 or 감)
    • 인과관계: 원인과 결과의 관계

• 데이터의 전처리와 분석 방법의 적절성을 확인한다.

  • Error bar 추가하기

  • 적절한 통계 테스트 찾기

  • 아웃라이어 제거하기

  • 데이터 표준화

  • EDA(Exploratory Data Analysis, 탐색적 데이터 분석): 지속적으로 '데이터 자체'에 대한 이해와 모니터링

    c.f. Error bar란?
    : 데이터 가변성을 그래픽으로 표현한 것으로, 보고된 측정의 오차 또는 불확실성을 나타내기 위해 그래프에 사용
    

• 데이터의 양이 충분한지 확인한다.
  

  • Under-fitting: 너무 단순하여 구분조차 잘 못하는 경우
  • Over-fitting: 학습 데이터에 너무 치중하여 학습된 경우, 데이터가 달라지면 사용할 수 없는 무용지물 알고리즘
    
    ➡️ 데이터 변화에 유연하게 대처할 수 있는 Appropriate-fitting 알고리즘이 필요하다.
    
    

• Black Box Algorithm

  • AI가 '왜' 그러한 결정을 내렸는지는 보이지 않고 설명 가능하지 않다는 특성
  • 설명력도 정확도만큼이나 중요한 경우가 있다.
  • Post-hoc explainability (사후 설명력)

• 픽셀 하나만 바뀌어도 알고리즘의 학습 결과가 달라지는 경우가 종종 발생하니 모델이 얼마나 노이즈에 민감한지에 주의를 기울일 필요가 있다.
  
  

• Handling Web data

  • 인터넷 상의 의견이 대표성이 있는 의견이 아닐 수 있음을 인지
  • 오정보의 빠른 확산으로 인한 Infodemic 현상

• 알고리즘이 편향을 조장하지 않도록 유의한다.

---

AI Ethics

• 예술 및 창조성 영역에서의 AI

• AI 저작권 이슈

  • 학습에 사용된 데이터를 제공한 사람에게도 혜택이 돌아가기 어렵다.
  • 현존하는 예술가를 모방한 예술 작품을 만들 경우 상업적 피해를 일으킨다.
  • 창작된 작품이 인간의 윤리적 규범을 따르지 않을 수 있다.
  • AI에게 법적 권리를 제공할 수 있는 법적 제도가 없다.

• 아시모프의 로봇 3원칙

  1. 로봇은 인간을 다치게 해선 안 되며, 인간이 해를 입는 걸 방관해서도 안 된다.
  2. 법칙 1에 위배되지 않는 한 로봇은 인간의 명령에 복종한다.
  3. 법칙 1과 2에 위배되지 않는 한 로봇은 스스로를 보호해야 한다.

• 누구에게 법적 책임을 물을 것인가?

• Moral Machine Experiment
  

  • 트롤리 문제와 비슷
  • Many or Few? Passengers or Pedestrians?
  • 사고의 가능성은 항상 존재하는데, 누구를 보호하게끔 알고리즘을 설계할 것인가?

---

세계적인 데이터 과학자가 되는 방법

• 데이터에 대한 호기심

• 이종(heterogeneous) 데이터의 결합은 혁신을 가져온다.

• 가짜 정보와 진짜 정보의 구분법

  • 가짜: 점조직 형태의 네트워크 연결 구조로 퍼져 나간다.
  • 진짜: 서로 연결된 상태로 퍼져 나간다.

변화가 곧 생존이다.

• 데이터 사이언티스트는 빠르게 변화하는 데이터에 대처해야 하고, 트렌드에 민감하게 움직여야한다.

• 협업, 열린 마음, 호기심!

---

Wrap up

1강이어서 그런지 그렇게 어려운 내용은 아니라 가볍게 들었다.
지나칠 수도 있었던 AI 윤리에 관해서 들을 수 있어서 새로웠고, 중간에 신경경제학 수업 때 들었던 Moral machine이나 페이스북에서 뇌과학 연구도 진행한다는 이야기를 들었을 때 호오~ 했다.
또 귀가 팔랑팔랑했지만 일단!! 모듈 2부터.