# Survey paper

devjo

Anomaly Detection for IOT Time-Series Data: A Survey 위 링크를 클릭하시면 논문원본을 보실 수 있습니다. -Introduction Anomaly Detection은 데이터 내의 예기치 않은 관측치 또는 시퀀스의 식별을 포함하며 현재 사용되는 기법들은 대부분 개별 도메인 지식에 지배적이라고 할 수밖에 없다. 이에 Internet of Things(이하 IOT라 지칭)는 sensor, actuator, computer 등을 통해 관측하며 관리자로 하여금 이상치 또는 정상치 해석을 유도하며 도메인 지식과의 상호작용을 도와주는 이점을 갖고 있어 활발한 개발이 이루어지고 있다. -Methods for defining anomaly Hawkins “어떤 메커니즘에 의해 생성된 것으로 의심될 정도로 다른 관측치와 크게 다른 관측치” Barne

sjinu

Paper:https://arxiv.org/abs/2107.06912 1. Introduction ~ 2. Visual Encoding [논문리뷰] From Show to Tell: A Survey on Deep Learning-based Image Captioning(1)(Visual Encoder Part를 중심으로 ) 3. Language Model 이미지 캡셔닝에서 언어 모델의 역할은 문장이 될 일련의 단어들이 나올 확률을 예측하는 것입니다. 일반적으로, $n$개의 words가 주어졌을 대, 언어 모델의 알고리즘은 확률 $P(y1, y2, ..., y_n |\bold{X})$를 아래와 같이 할당하게 됩니다. ![](https://images.velog.io

sjinu

Paper:From Show to Tell: A Survey on Deep Learning-based Image Captioning 0. Abstract 일반적으로 Image captioning model은 visual encoder와 language model로 구성됩니다. 가장 기본적으로는 CNN과 RNN(LSTM)을 사용했었으나, object regions에 대한 연구, attributes, multl-modal connections, fully-attentive approaches, 그리고 BERT같은 early-fusion 접근법 들로 인해 Image Captioning 모델도 다양해졌습니다. 본 서베이 논문은 image captioning 연구의 전반적인 개요를 다룹니다. visual encoding text generat

sjinu

Paper: https://www.redjournal.org/article/S0360-3016(21)00118-8/fulltext > 보다 domain-specific한 정보를 얻기 위해 방사선학 관련된 Clinical NLP를 다루는 서베이 페이퍼를 리뷰해봅시다. 0. Abstract NLP 알고리즘들은 주로 unstructured free text를 structured data로 바꿔 여러 인사이트를 도출하곤 합니다. 의학 분야에서도, 만약 풍부하고 표현력 있는 수 많은 데이터들을 사용할 수 있다면, 임상 목적에 맞게 빅데이터 연구의 잠재력을 터뜨릴 수 있을 것이다. 아무튼 최근에는 NLP 분야가 발전하면서 다양한 학계/산업계에서 정보 추출 혹은 임상 기록으로부터의 피노타이핑등 여러가지 툴들이 개발되어 왔습니다. > 피노타이핑 : DNA, 유전체, RNA, 단백질, 면역체, 미생물체,

sjinu

Paper: https://aclanthology.org/2021.naacl-main.201/ 0. Abstract Deep neural network, 그리고 huge language model은 점점 NLP 분야를 지배하고 있습니다. 하지만, 대부분의 모델이 많은 양의 데이터를 필요로 하는 문제가 있었으며, 이에 따라 필연적으로 low-resource 상황에서도 잘 작동할 수 있는 모델에 대한 연구도 많아졌습니다. 대표적으로 NLP 분야에서 쓰이는 방법은 large-scale에 pre-train시킨 다음 downstream-task에 fine-tune하는 방법들이 있는데, 본 서베이 논문도 마찬가지로 low-resource NLP 분야에서 쓸만한 좋은 접근법들을 다룹니다. 그 후, 사용 가능한 데이터의 규모에 따라 여러 관점을 제시하고, 학습 데이터가 적을 때 사용할 수 있는 학습 방법들에 대한 구조적인 틀을 제공합니다. 여기에는 다들 아는 transfer

sjinu

Paper: https://academic.oup.com/jamia/article/27/3/457/5651084?login=true 0. Abstract Objective 해당 서베이 페이퍼는 임상 분야에서 딥러닝 기반 NLP 연구들에 대해 체계적으로 리뷰합니다. 특히, methods, scope, context 3가지 체계를 위주로 정량적인 평가를 제공합니다. Materials and Methods 저자들은 주로 전자 의무 기록을 토대로 하는 여러 NLP 방법론들을 다뤘습니다. > MEDLINE, EMBASE, Scopus, ACMDL(Association for Computing Machinery Digital Library), ACLA(Association for Computational Linguistics Anthology) 등의 저널을 기반으로. Results 모델 관점에서는 RNN 계

sjinu

Paper: https://medinform.jmir.org/2021/10/e23898/ 0. Abstract 정보 관련 기술이 너무나 빠르게 발달하고 있기 때문에, 역시 상당히 많은 양의 health data도 처리할 필요가 있습니다. 특히, 진단 텍스트(diagnosis text), 퇴원 요약서(discharge summaries), 온라인 의학 토론, 임상 시험의 자격 기준 등 많은 양의 가치 있는 natrual text가 존재합니다. 현재는 NLP분야와 Health Care 분야 간 교집합에 해당하는 Health natural language processing이 방법론 개발 / 산업 응용 등에 중요한 역할을 하고 있습니다. 해당 서베이 페이퍼는 health-NLP와 의학 분야에서의 응용에 대해 최신 방법론들을 다룹니다. > JMIR Medical Informatics에 투고된 페이퍼들만 다루는 듯 합니다. Keyword: *health care;

sjinu

의학 분야에 쓰이는 NLP에 대해 다룬 서베이 페이퍼들을 서베이해봅시다. 1. A Survey on Recent Approaches for Natural Language Processing in Low-Resource Scenarios(Oct, 2020) Paper: https://arxiv.org/abs/2010.12309 Deep neural network, 그리고 huge language model은 점점 NLP 분야를 지배하고 있습니다. 하지만, 대부분의 모델이 많은 양의 데이터를 필요로 하고, 이에 따라 필연적으로 low-resource 상황에서도 잘 작동할 수 있는 모델에 대한 연구가 많아졌습니다. 대표적으로 NLP 분야에서 쓰이는 방법은 large-scale에 pre-train시킨 다음 downstream-task에 fine-tune하는 방법들이 있는데, 본 서베이 논문도 마찬가지로 **low-

sjinu

Paper: https://arxiv.org/pdf/1909.01860.pdf *This paper is accepted in Fifth IAPR International Conference on Computer Vision and Image Processing (CVIP), 2020* 0. Abstract VQA는 주어진 이미지를 토대로 질문에 대답하는 태스크입니다. Visual 정보와 Linkguistic(언어적) 정보를 통합해 이해해야 하기 때문에 쉽지만은 않은 태스크입니다. > 구체적으로는 이미지 내 요소들과 주어진 질문의 추론을 통해 올바른 답을 도출해야 합니다. 본 서베이 논문에서 다루고자 하는 바는 아래와 같습니다. 다양한 **VQA dataset

sjinu

Paper:arxiv.org 0. Abstract XAI는 고품질의 해석 가능하고, 직관적이고, 인간이 이해 가능한 AI 결정에 대한 설명을 생성하게끔 도구, 기법, 알고리즘들을 장려하는 한 분야이다. XAI에 대한 폭 넓게 살펴보고, 일부는 수학적 지식도 포함한다. 우선, 알고리즘의 이면에있는 설명, 방법론을 기반으로 XAI 기법들을 분류하고, 해석 가능하고, 스스로 설명 가능한 가치 있는 딥러닝 모델을 구축하는 데 도움이 될 설명 레벨과 쓰임새에 대해다뤄보자. 우리는 그리고 XAI 연구의 주된 원리를 기술하고, 역사적인 타임라인을 살펴볼 것이다(XAI의, 2007년부터 2020년). 전역적으로 살펴볼 것이냐, 지역적으로 살펴