🧠 개념 요약: LIME이란?

LIME은 복잡한 모델(black-box)의 개별 예측값 하나하나에 대해, 그 주변의 국소적인 영역(local neighborhood)에서 선형 모델을 학습시켜 설명을 생성하는 방식입니다.

즉, “이 모델이 왜 이 예측을 했는가?”를 해당 샘플 하나 단위로 설명합니다.

• LIME = Local + Interpretable + Model-agnostic

---

💡 핵심 아이디어

1. 전체 모델을 해석하지 않는다.
   • 전역적인(global) 모델 해석이 아니라, 특정 인스턴스에 대한 지역(local) 모델을 학습해서 해석.
2. *모델 종류에 무관(model-agnostic)**하다.
   • 어떤 모델이든 사용할 수 있음 (딥러닝, 트리모델, 앙상블, etc.)
   • 이유: 모델의 예측값만 사용하고 내부 구조를 사용하지 않기 때문.
3. 입력을 조금씩 변형한 가짜 데이터(perturbed samples)를 생성하여, 원래 모델의 예측값을 받아오고, 그에 대한 선형 모델을 fitting해서 설명 생성.
4. 가중치를 준 거리 기반(locality-aware) 학습.
   • 원본 인스턴스에 가까울수록 더 높은 가중치를 부여.

---

📊 작동 방식 (Step by Step)

예: 어떤 리뷰가 “positive”라고 분류된 이유를 설명하고 싶다.

1. 해당 인스턴스를 중심으로 데이터를 무작위로 생성
   • 텍스트의 경우 단어를 랜덤하게 제거하거나 마스킹
   • 이미지의 경우 패치를 제거 (superpixel masking)
2. 이 가짜 데이터들에 대해 원래 모델로 예측 수행
3. 이 예측값과 가짜 데이터 샘플들을 이용해 선형 모델 학습
   • 이 선형 모델은 국소 영역 내에서 원래 모델의 작동을 근사
4. 선형 모델의 feature 가중치(weight)로 해석 제공

---

🧪 예시

원문: "This movie is absolutely fantastic and inspiring"
→ LIME이 생성한 설명:
- "fantastic": +0.8 (positive 영향)
- "inspiring": +0.6 (positive 영향)
- "absolutely": +0.1 (거의 영향 없음)

---

🧩 관련 보기형 표현 예시

시험에서 자주 등장할 수 있는 보기 유형을 다음과 같이 정리해 봅니다.

보기	옳은지 여부	설명
LIME은 입력값에 노이즈를 추가해 모델의 예측값을 분석한다	✅ 옳음	Perturbation 기반
LIME은 개별 feature의 영향력을 가중치로 설명한다	✅ 옳음	선형 모델의 weight
LIME은 전역적인(global) 모델 동작을 설명하는 데 사용된다	❌ 틀림	LIME은 지역적(local) 설명
LIME은 모델 내부의 gradient를 사용하여 설명을 생성한다	❌ 틀림	Gradient 기반은 SHAP, Integrated Gradients 등
LIME은 이미지 모델에는 적용할 수 없다	❌ 틀림	이미지에도 사용 가능 (superpixel masking)
LIME은 모델에 종속적인 방법으로 작동한다	❌ 틀림	Model-agnostic 특성

---

🔍 LIME vs SHAP 비교

항목	LIME	SHAP
해석 방식	선형 모델 근사	Shapley 값 (게임 이론)
대상	국소적(local)	국소 + 전역 가능
계산 비용	낮음	높음 (복잡)
모델 의존성	비의존 (agnostic)	model-agnostic or model-specific (TreeSHAP 등)
안정성	불안정할 수 있음	상대적으로 안정

---

🧠 한 줄 요약

LIME은 입력 데이터를 변형해 생성한 유사 샘플들에 대해 black-box 모델의 출력을 얻은 후, 해당 인스턴스 주변에서 선형 모델을 학습시켜 각 feature의 영향력을 해석하는, 모델 비종속적인 XAI 기법이다.

---