AI가 급격하게 발전하면서 이를 안전하고 신뢰성있게 활용하기 위한 AI 기본법이
2026년 1월 22일부터 실행되었습니다.
그렇다면 AI 기본법은 무엇이며, 앞으로 AI 산업과 개발자에게 어떤 영향을 미칠까요?
AI 기본법이란?
AI 기본법의 정식 명칭은 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'입니다.
이 법은 AI 산업의 경쟁력을 높이는 동시에, 고영향 AI와 생성형 AI에 대해 투명성과 안전성을 확보하도록 요구하는 것을 핵심으로 합니다. 강한 규제보다는 산업 육성과 자율적인 책임 체계를 함께 지향하는 것이 특징입니다.
고영향 AI란 무엇일까요?
고영향 AI란 사람의 생명, 신체의 안전, 그리고 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템을 의미합니다.
의료, 금융, 범죄 수사, 채용, 에너지 공급 등 10개 핵심 영역이 해당되며, 위험관리 및 설명 의무 등 강화된 법적 책무가 부여됩니다.
왜 AI 기본법이 필요할까?
생성형 AI가 예상치 못한 속도로 발전하면서 다양한 사회적 문제가 함께 등장했습니다.
딥페이크, 허위 정보 생성, 개인정보 침해, AI 판단의 책임 문제, 공정성 문제까지
기존 법률만으로는 이러한 문제들을 충분히 해결하기 어려웠습니다.
이에 따라 AI 산업의 성장을 저해하지 않으면서도 안전성과 신뢰성을 확보할 수 있는 공통 기준이 필요해졌고, AI 기본법이 마련되었습니다.
적용 대상
AI에 대한 법이 제정되었다고 해서 '일반 이용자'까지 포함되는가? 라고 생각할 수 있지만 그렇지 않습니다.
AI 기본법은 일반 이용자보다 AI 제품이나 서비스를 제공하는 사업자를 주요 대상으로 합니다
- AI 개발사업자: AI를 직접 개발하여 제공하는 사업자
- AI 이용사업자: 다른 회사의 AI를 활용해 제품이나 서비스를 제공하는 사업자
현재 국내에서는 자체 초거대 AI 모델을 개발하는 기업은 일부에 불과하며, 많은 기업과 스타트업은 OpenAI, Anthropic, Google 등의 AI API를 활용해 서비스를 개발하는 AI 이용사업자에 해당합니다.
또한, 사업 특성에 따라 다음과 같이 분류되기도 합니다
- 생성형 AI 사업자: 텍스트, 이미지, 영상 등을 생성하는 AI 서비스를 제공하는 사업자
- 고영향 AI 사업자: 의료, 채용, 금융, 교육 등 사람의 생명·안전·기본권에 큰 영향을 미치는 분야의 AI 서비스를 제공하는 사업자
핵심 내용
1. AI 산업 육성
국가 차원의 AI 연구개발(R&D), 인재 양성, 인프라 구축 등을 지원하여 국내 AI 산업 경쟁력을 강화합니다.
2. 고영향 AI 안정성 확보
의료, 금융, 채용, 교육 등 국민의 생명·안전·기본권에 큰 영향을 미치는 AI는 위험관리, 안전성 확보 등 강화된 의무를 준수해야 합니다ㅏ.
3. 생성형 AI 투명성 강화
생성형 AI를 활용한 서비스는 AI가 생성한 결과물이라는 사실을 이용자에게 알리고, 필요한 경우 워터마크나 메타데이터 등을 활용해 AI 생성 여부를 표시해야 합니다.
4. 이용자 보호 및 신뢰성 확보
AI 사업자는 이용자의 권익을 보호하고, AI가 안전하고 신뢰성 있게 운영될 수 있도록 필요한 관리 체계를 마련해야 합니다.
5. 국가 AI 거버넌스 구축
정부가 AI 정책과 제도를 체계적으로 마련하고, 산업 육성과 안전한 AI 활용을 위한 국가 차원의 관리 체계를 구축합니다.
개발자 측면
AI 기본법은 서비스를 개발하고 제공하는 기업과 개발자에게도 중요한 의미를 가집니다. 앞으로는 AI 서비스를 기획하고 개발하는 과정에서 법적·윤리적 요소를 함께 고려해야 합니다.
1. 모델 성능뿐 아니라 신뢰성도 중요하다
기존에는 AI 모델의 정확도나 응답 품질을 높이는 것이 가장 중요한 목표였다면, 이제는 신뢰성과 안전성도 함께 고려해야 합니다.
2. 생성형 AI 서비스는 투명성을 고려해야 한다
최근에는 SNS나 온라인 서비스에서 AI가 생성한 콘텐츠인지 구분하기 어려운 사례가 많습니다.
앞으로는 AI 생성 이미지 표시, AI가 작성한 답변임을 안내하거나 생성형 AI 사용 여부를 고지하는 등 이용자가 AI 생성 결과임을 인식할 수 있는 방안을 고려해야 합니다.
3. 고영향 AI는 더 높은 수준의 책임이 요구된다
의료, 금융, 채용, 교육 등 사람의 생명이나 권리에 영향을 줄 수 있는 분야에서는 일반 AI보다 더 높은 수준의 안전성과 관리 체계가 요구됩니다.
4. 개발 프로세스도 변화할 가능성이 있다
앞으로 AI 프로젝트에서는 단순히 모델을 학습시키고 배포하는 것만으로는 충분하지 않을 수 있습니다.
기획 단계부터 AI 사용 목적, 데이터 출처, 위험 요소, 검증 방법, 운영 및 모니터링까지 함께 설계하는 개발 프로세스가 더욱 중요해질 것으로 보입니다.
