인공지능

인공신경망(Artificial Neural Network-ANN) : 인공신경망은 인간의 뇌 구조를 모방한 계산 모델로 여러개의 뉴런이 연결되어 복잡한 문제를 해결할 수 있는 구조이다. ANN은 수많은 노드를 계층적으로 연결하여 특정 입력에 대한 출력을 학습한다. 특히

퍼셉트론:선형 분리가 가능한 데이터들을 분류하는 선형분리기이다\> 2차원 평면상의 데이터셋이 선으로 분리가 가능한 데이터 셋이라면 모두 처리가 가능하다.\> 퍼셉트론의 입력의 개수에 따라 퍼셉트론의 그래프의 입력의 개수가 달라진다. 퍼셉트론의 입력의 개수가 2개라는 것

퍼셉트론의 한계로 인해 다층신경망이 생겨났고 다층 신경망은 입력값과 여러 은닉층 그리고 출력층으로 이루어진 신경망이다. 이번 시간에는 이전까지 다뤘던 계단형태의 활성화 함수의 문제와 문제 해결방법으로 제시된 시그모이드 함수에 대해 알아볼 것이다. 퍼셉트론 모델계단

이전시간에 다층 신경망의 활성화 함수로 다뤘던 시그모이드 함수는 2가지 문제점이 있었다. 이번 글에는 이러한 문제점을 해결하기 위한 다양한 활성화 함수들을 소개할 것이다.\>> 기울기의 값이 0이 되는 지점에서는 입력값의 변화가 크더라도 출력값의 변화가 작아 좋은 예

주어진 손실함수에서 모델의 파라미터의 최적의 값을 찾는 머신러닝과 딥러닝의 최적화 알고리즘 중 하나이다. 손실함수 : 신경망 모델의 예측 값과 실제 값 간의 차이를 측정하는 함수모델 : 뉴럴 네트워크파라미터 : 인공신경망을 구성하는 연결 가중치와 편향MSE는 각 데이터

Attention이란?Attention : 딥러닝에서 입력 데이터의 특정 부분에 focus하여 해당 부분이 출력 생성에 얼마나 중요한지를 계산하는 메커니즘이다.Attention이 필요성순환신경만 RNN과 LSTM과 같은 모델은 긴 시퀀스 데이터를 처리할 때 모든 정보를

연구 목적TTA는 주로 메모리가 제한된 엣지 디바이스에서 수행되므로 메모리 사용량을 줄이는 것이 중요하다. 기존의 연구들은 이러한 부분을 간과하였다.기존의 문제점Long term adaption으로 인한 문제점 2가지1\. Catastrophic Forgetting(망

CTTA는 장기적인 적응을 추구하는 과정에서 2가지 문제점이 발생한다.1\. Catastrophc forgetting2\. Error acculmulation이러한 두가지 문제점을 해결하기 위해 최근 CTTA연구들은 1\. 모델의대부분의 파라미터를 업데이트2\. Sel

Semantic Segmentation의미론적 세분화는 컴퓨터 비전에서 핵심 과제로, 이미지의 각 픽셀을 특정 범주로 분류하는 작업이는 이미지 수준의 예측을 수행하는 이미지 분류(Image Classification)와 유사하지만, 픽셀 단위의 예측을 요구한다.ViT의

On-device learning : 엣지 디바이스에서 새 데이터에 AI모델을 지속적으로 적응시키는 기술로, 메모리 및 에너지 제한이 주요 도전과제입니다.메모리 제한 1\. 엣지 디바이스는 제한된 메모리를 가지고 있으며 훈련시 , 활성화 메모리(Activation M

📚 A Survey on Deep Neural Network Pruning Taxonomy, Comparison, Analysis, and Recommendations > IEEE Transactions on Pattern Analysis and Machine I