심층신경망 경량화 기술 및 활용 사례 소개
1) 어떤 문제를 해결하고 싶어하는 것인지
1.1)인공지능 기술의 발전으로 인해 발생할 수 있는 소프트웨어 재난
-> Green AI와 DNN 경량화에 대한 연구가 활발히 진행
보다 안전하고 신뢰성 높은 인공지능을 실현
1.2.)이들 모델을 구동시키기 위해서는 대량의 연산량 및 메모리 공간이 필요하다.
자원 사용량을 줄이고 친환경적인 방식을 추구하는 Green AI
-> 각 산업 분야를 활성화시키는 데 기여할 수 있을 것으로 기대
2) 왜 이 문제가 중요한지
보안, 실시간성 보장
이 문제가 중요한 이유는 인공지능 기술이 발전함에 따라 인공지능이 사용되는 분야가 더욱 다양해지고 있기 때문입니다. 따라서 피해 범위가 더욱 커져, 심각한 문제가 될 수 있습니다.
-> 보안성, 신뢰성이 더욱 중요해지고 있음.
이러한 문제를 예방하고, 보다 안전하고 신뢰성 높은 인공지능을 실현하기 위해 Green AI와 DNN 경량화에 대한 연구가 필요합니다.
또한, 자원 사용량을 줄이고 친환경적인 방식을 추구하는 Green AI를 통해 인공지능 시대의 소프트웨어 재난을 예방하고, 각 산업 분야를 활성화시키는 데 기여할 수 있을 것으로 기대됩니다
3) 어떻게 해결하고 싶어하는 것인지
Green AI와 DNN 경량화에 대한 연구를 통해 인공지능 시스템의 자원 사용량을 줄이고, 친환경적인 방식을 추구하며, 안전하고 신뢰성 높은 인공지능을 실현하고자 합니다. 또한, 안전 필수 시스템에서 외부 네트워크 통신에 따른 불확실성이 커다란 소프트웨어 재난을 발생시킬 수 있기 때문에, 경량화된 내부 리소스를 활용하여 소프트웨어를 수행시키는 것이 안전하다는 것을 강조하고 있습니다
모델 최적화
심층신경망 양자화
심층신경망 경량화 기술은 크게 3가지 방법으로 구현됩니다. 첫째, 모델 압축 기술을 이용하여 모델의 크기를 줄이는 방법입니다. 둘째, 모델 가지치기 기술을 이용하여 불필요한 가지를 제거하거나 가지의 가중치를 감소시켜 모델의 크기를 줄이는 방법입니다. 셋째, 모델 양자화 기술을 이용하여 모델의 가중치를 정수로 변환하여 모델의 크기를 줄이는 방법입니다. 이러한 경량화 기술을 이용하여 모델의 크기와 리소스 요구사항을 줄임으로써 다양한 재해 상황에서 유용할 수 있습니다.
Green AI는 인공지능 기술을 활용하여 자원 사용량을 줄이고 친환경적인 방식을 추구하는 기술입니다. 이를 통해 인공지능 시대의 소프트웨어 재난을 예방하고, 각 산업 분야를 활성화시키는 데 기여할 수 있습니다. ,
DNN 경량화는 딥러닝 모델의 추론 속도 향상과 메모리 사용량 감소를 위해 모델 구조를 최적화하거나 연산 가속화하는 기술입니다. 이를 위해 양자화와 프루닝 등의 기술이 사용됩니다
4) 해당 문제에 대한 느낌 등에 대하여 준비
경량화 인공지능 시스템은 저탄소 기조의 환경보호를 우선시하는 최근 국제적인 흐름에도 꼭 필요한 기술이고,
소형화된 디바이스에 들어가는 LLM 등 앞으로 활용도가 무궁무진할 것으로 기술적인 면에도 아주 필요할 것.
