안녕하세요~!
오늘은 요즘 많은 관심을 받고 있는 생성형 AI와 윤리적인 문제를 다룬 강의 내용을 함께 나누려고 해요.
학습내용 : [1부] 윤리학과 인공지능 윤리
🤖 인공지능의 정의와 본질
인공지능(AI)은 지능이 필요한 업무를 기계가 수행할 수 있게 하는 멋진 연구와 기술이에요!
AI를 쉽게 말하면 컴퓨터를 통해 지능적인 행동을 만들어내는 기술이라고 볼 수 있죠.
AI의 지능적 능력에 포함되는 것들 :
• 듣기
• 보기
• 이해하기
• 계획하기
• 추론하기
📊 알고리즘과 기계학습
알고리즘은 컴퓨터가 문제를 해결하는 데 사용되는 절차나 규칙이에요.
처음에는 사람이 직접 알고리즘을 만들었지만, 지금은 기계학습을 통해 데이터에서 스스로 학습하는 수준까지 발전했어요!
기계학습은 데이터 속 패턴을 배우고 이를 의사결정에 활용하는 멋진 방법론이에요.
🚀 지능형 에이전트의 발전
AI는 지능형 에이전트를 만드는 작업으로, 외부 환경에 영향을 미치는 놀라운 능력을 가지고 있어요.
지난 70년간 두 가지 접근법이 경쟁해 왔죠:
1. 사람처럼 지능을 구현하려는 접근
2. 가장 합리적인 방법으로 지능을 구현하려는 접근
🎨 생성형 인공지능의 출현
생성형 AI는 최근에 등장한 혁신적인 기술이에요.
기존 데이터 분석을 넘어 완전히 새로운 콘텐츠를 만들어낼 수 있어요!
생성 가능한 콘텐츠 :
• 대화
• 그림
• 음악
• 동영상
💬 CHATGPT와 그 기능
CHATGPT는 생성형 인공지능의 대표적인 예시예요.
다양한 질문에 답하고 콘텐츠를 생성하는 놀라운 능력을 보여줍니다.
방대한 양의 데이터를 사전 학습하고, 특정 목적에 맞게 세밀하게 조정되어 뛰어난 성능을 자랑해요.
🧠 창발현상과 AI의 한계
AI는 신경망의 크기가 커질수록 새로운 능력을 발휘하는 창발현상을 보여줘요.
하지만 여전히 한계도 존재해요
대표적인 한계점 :
• 잘못된 정보 제공 가능성
• 복잡한 문제 해결의 어려움
리뷰 : 💭내 생각
인공지능은 계속해서 발전하고 있고, 많은 기업들이 AI 기술을 활용해 더 큰 시스템을 개발하고 있어요.
AI의 발전은 컴퓨터 사용 방식을 혁신적으로 바꾸고, 우리에게 새로운 가능성을 열어주고 있답니다!
그래서 인공지능을 잘 활용하는 것은 좋지만, 제 생각에는 어디까지나 그것을 부수적으로 활용하는 마인드로 접근해야 할 것 같아요.
인공지능에 과하게 의존하다 보면, 잘못된 정보를 그대로 사용하거나, 자칫 복잡한 문제를 해결해야 하는 상황에서 스스로 생각하는 것을 힘들어하게 되는 불상사가 일어날 수도 있을 것 같아요.
이런 불상사를 사전에 방지하고 스스로 생각하는 능력이 퇴화되지 않으려면, 계속해서 자기 자신이 발전하기 위한 노력이 지속적으로 필요해 보여요.
학습 내용 : [2부] AI 본질적 이해와 올바른 활용
🤖 인공지능의 언어 모델과 한계
이번 강의에서는 인공지능의 언어 모델과 그 한계, 도덕적 추론의 가능성, 생성형 AI의 활용 및 사회적 문제를 재미있게 파헤쳐보았어요!
인공지능의 신뢰성과 윤리적 이슈에 대해 진지하게 고민해보는 시간이었어요.
🤔 본질적 질문에 대한 탐구
강의 내용 캡쳐 이미지
본질적 질문을 하자면, "과연 다음 문장을 확률적으로 생성하는 건 진짜 의미를 아는 걸까?" 라는 근본적인 의문을 던져보아요.
학자들의 접근을 보자면, 그들은 기린의 눈 개수를 묻는 간단한 질문에서조차 AI가 단순히 그럴듯한 문장을 만들어내는 수준이라고 지적해요.
💬 언어 구사 능력의 구성 요소
진정한 대화를 위해서는 다음과 같은 능력이 필요해요!
- 언어 이해 : 말을 제대로 알아듣고 표현할 수 있어야 해요.
- 기억 : 대화 내용을 머릿속에 잘 담아둬야 해요.
- 추론 : 숨은 의미를 파악하고 문제를 해결할 수 있어야 해요.
- 도덕 의식 : 나쁜 말은 절대 하지 않는 윤리의식이 필요해요!
🧭 오픈AI의 도덕적 접근
오픈AI의 학습 방법은 간단해요.
AI에게 도덕적 기준을 꼼꼼하게 가르치기 위해 수많은 예제로 학습시켰어요.
인스트럭트 GPT는 특정 방식으로 명령을 정확하게 수행하도록 훈련된 똑똑한 대화 친구예요.
🌈 생성형 AI의 장점과 단점
생성형 AI의 장점은 다음과 같아요.
- 대화형 인터페이스 제공 : 복잡한 정보를 쉽고 재미있게 전달할 수 있어요.
- 창의력 증진 : 때로는 잘못된 정보도 새로운 아이디어의 씨앗이 될 수 있어요.
- 가상 데이터 생성 : 기계 학습에 활용할 수 있는 데이터를 만들어낼 수 있어요.
생성형 AI의 단점은 다음과 같아요.
- 할루시네이션 : 근거 없는 허구적 정보를 만들어내는 경우가 있어요.
- 상식적 추론 부족 : 간단한 계산이나 상황 판단에서 실수할 때가 있어요.
🚨 AI의 할루시네이션 문제
할루시네이션이란 AI가 만들어내는 정보가 현실과 다를 수 있는 신기한 현상이에요.
이런 현상은 AI의 신뢰성을 떨어뜨리고 잘못된 정보를 퍼뜨릴 위험이 있어요.
⚖️ 인공지능의 윤리적 이슈
신뢰성, 설명 가능성, 공정성과 관련된 윤리적 이슈는 끊임없이 제기되고 있어요.
AI의 신뢰할 수 있는 판단과 투명한 설명, 공정한 처리가 중요해요.
통제 문제에 대한 논의도 중요한 문제예요.
AI를 누가, 어떻게 통제할 수 있을지 심도 있는 논의가 필요해요.
리뷰 : 🌟 결론
인공지능의 역할을 명확히 해야 해요.
AI는 강력한 도구지만, 그 한계를 정확히 이해하고 현명하게 활용해야 해요.
무작정 AI에게 의지하는 것이 아닌, AI와 인간이 서로 배우고 협력하는 환경을 만들어야 해요.
지속적인 연구와 투자도 중요합니다.
인류의 행복과 번영을 위해 끊임없이 연구하고 투자해야 해요!
최근 생성형 AI에 대해 알아가고, 이를 활용하는 방법을 다루는 강의를 수강하고 함께 그 내용들을 나눠봤는데요~!
공부하면서 AI의 윤리적인 문제에 대해 많이 생각하게 되었는데, 이 내용을 다루는 다른 강의도 함께 제공되고 있어서 유익한 공부 시간이었어요.
이번 강의 내용은 AI를 활용하는 방법에 대한 것보다 훨씬 중요한 내용이라고 생각해서, 꼭 나누고 싶었어요!
