Paper Review
1.[논문 리뷰]Explaining the black box model: A survey of local interpretation methods for deep neural networks
저널 Neurocomputing 419 (2021)Global interpretation : 모델의 로직에 관련된 이해를 바탕으로, 모델이 예측하는 모든 결과를 설명하는 모델모델의 구조로부터 모든 예측 결과에 대한 설명이 가능해야함(Decision Tree) -> 모델
2023년 11월 23일
2.[논문 리뷰]Dataset Augmentation in Feature Space
논문 링크 : https://arxiv.org/abs/1702.05538 ICLR 2017 / 23.11.30 기준 447회 인용 논문 선정 이유 자사의 제조 데이터의 경우 시계열 데이터이지만 시계열의 특성(t)이 많이 무너짐(Labcut 물성 데이터) 그러한
2023년 12월 26일
3.[논문 리뷰]Is Attention Interpretable?
논문 링크 : https://arxiv.org/abs/1906.03731 Summary Attention weight가 prediction에 얼마나 많은 영향을 줄까? Attention weight가 큰 순서로 ranking을 매긴 후, 큰 weight를 조정한 후에
2023년 11월 23일
4.[논문 리뷰]Sorting through the noise: Testing robustness of information processing in pre trained language models
주의를 분산시키는 구문을 집어넣어서 언어 모델이 문맥을 제대로 이해하는지 확인모델이 context를 파악하고 predict 할까? 아니며 겉으로 보여지는 표현(superficial cues)들을 보고 predict 할까?결론 : 언어 모델은 문맥을 이해하지 못하고 po
2024년 1월 30일