데이터 윤리와 주의할 점, MLOps
- 데이터로부터 패턴을 찾아 학습
- 데이터의 품질과 크기가 중요
- 데이터로 인한 왜곡(bias) 발생 가능
- AI 윤리 - 산타크루즈 마을 예시(범죄자를 특정짓는 머신러닝을 만들었는데 흑인을 범죄자로 봐버림)
- 내부동작 설명 가능 여부도 중요
- 이러한 요구 조건을 ML Explainability 이라고 부름
- 예를 들어 의료 업계에서 특정 병에대해 진단했을때 왜 이런 병이 나왔는지 설명할 수 있어야 환자를 납득하게 할 수 있음.
- 이러한 요구 조건을 ML Explainability 이라고 부름
- 데이터 권리도 중요한 문제
- 데이터의 출처(상표권?)에 대해 모호함.
데이터 기반 AI는 완벽한가? - 1
- 트레이닝셋의 품질은 어떤가?
- 데이터의 양도 중요하지만 품질도 중요.
- 미국 EMR(환자 의료 진료 기록 디지털 시스템)이 빚좋은 개살구의 아주 좋은 예
- 시스템의 용도가 단순 환자의 기록이 아닌 법적인 제재를 받지 않기 위하여 진단한 내용을 기록한 것임. 즉, 그럴 듯 한 채널에서 데이터를 가져와도 무조건적으로 신뢰해서는 안된다. 내가 직접 판단할 수 있어야 됨.
- AI 도입시 문제들을 어떻게 해결할 것인지 파악해야 됨.
- 왜, 어떤 결과가 나왔는지 설명이 가능한가?
- 알고리즘 자체에 인종이나 특정 편향성이 있지는 않은가?
- 많은 시도와 실패가 필요 → 혁신을 만들어낼 생태계와 법률이 필요하다.
데이터 기반 AI는 완벽한가? - 2
결국 AI 관련 규제와 법률이 중요해짐.
- EU의 관련 법규는 많은 시사점을 줌
- 감독
- 감독없이 사기업에 AI발전을 맡기면 생길 수 있는 위험 변수가 많음.
- 견고성과 안전성
- 개인 정보 보호 및 데이터 거버넌스
- 투명성
- 어떻게 동작하는지 투명할 수록 좋다.
- 다양성과 비차별성과 공정성
- 사회/환경 친화적
- 문제 발생시 책임 소재
- 감독
잘못된 개인정보 보존 관련 법률
- 미국 HIPAA
- 개인 의료 정보 보호를 목적으로 함
- 개인을 식별할 수 있는 정보로 대략 18개가 존재
- 이름, 주소, 생년월일, 전화번호, 이메일 주소, 주민등록번호, 라이센스 번호, IP 주소 등
- 이를 조합하여 MRN 이라고 부름. 누출시 벌금
- 유럽의 GDPR/CCPA
- 온라인 상에서 개인정보 보호에 관한 법률
- 데이터 암호화
- 예를 들면 데이터 저장시 암호화, 데이터 송수신시 암호화
집단 이기주의로 인한 데이터 혁신의 수축 - 의료분야 예시
****내 밥벌이가 안된다는 이유로 발전을 늦춤.
- 한국에서는 왜 비디오 진료가 안 될까?
- 1999년에 이미 서울대 병원과 분당 KT가 원격 진료 연결 시범 사업을 했음. 하지만 돈이 덜 되기 때문에 의사들이 반발함.
- 코로나로 한시 허용된 원격의료, 의사 반발에 또 표류 : 의료법이 여전히 개정되지 못함.
- 미국은 50개주 모두 일정 부분 원격 진료 허용
- 원격진료는 정말 의사들에게 나쁜 영향을 줄까?
- AI 발전에 영향받는 분야의 교육 방향에 대한 시사점
- AI 시대에 의사의 역할은 무엇인가? 진료시간 확대와 공감 능력을 더 중요시?
- AI에게 맡길건 맡기며 진료 시간 감축을 통해 환자와 공감능력을 더 중요시 하는게 좋지 않을까?
- 기존 교육 시스템의 점검 뿐만 아니라 재교육 필요성 증대
- 일이 없어진다기 보다는 바뀐다는 점이 강조되어야 함.
- AI 시대에 의사의 역할은 무엇인가? 진료시간 확대와 공감 능력을 더 중요시?
- 세상의 변화를 거스르기 보다는 새로운 역할을 찾아보자~!
AI의 발전과 미래 직업의 변화 - 의사의 역할 예시
해당 챕터는 한기용 강사님의 개인적인 의사가 강하지만 나 또한 이렇게 될 수 있겠다고 생각한다.
- AI는 의사를 대체하기 보다는 의사의 효율성과 진단/치료의 정확성을 높이는 보조적 역할
- 현재 의사는 다른 잡무로 인해 환자와 충분한 시간을 보내지 못함
- 아무리 경험이 많은 의사라도 사람인지라 실수를 할 수 있음.
- AI는 진단 절차를 체계적으로 만들어 작업의 속도를 향상시킴.
- 일종의 의사결정트리
- AI는 진단 절차를 체계적으로 만들어 작업의 속도를 향상시킴.
- 중단기적으로 의사의 역할에 대해 재고가 필요
- 그에 따라 의사 교육 시스템도 변경이 필요해 보임
- 데이터 관련 교육이 절대적으로 필요
- 환자와의 진료/대화에 더 많은 시간을 쏟기.
- Compassionomics에 따르면 공감을 더 잘하는 의사에게 진료를 받은 환자의 경과가 더 좋다더라~
- 미래의 의사 모습은 어떨까?
- 현대 비행기의 기장 역할이 좋은 예
- 현대 비행기 조종사는 비행 소프트웨어가 보여주는 각종 정보를 대시보드를 통해 제공받음
- 조종사들은 소프트웨어가 주는 정보를 따라하는데 거부감이 없음.
- 또한 조종사들은 매번 비행마다 안전을 보장하기 위해 반드시 체크해야하는 리스트가 존재.
- 미래의 의사도 비슷할 것으로 예상
- 현대 비행기의 기장 역할이 좋은 예
LV. 1