데이터셋

Input data: 범죄 사실
Output data: 법 조항($t_a$), 죄명($t_b$), 형량($t_c$) ($t_a, t_c, t_p \in T$)

베이스라인 모델

Token representation layer

• $D = \{x_1, x_2, ...x_{l_f}\}$: 범죄 사실을 토큰화 한 집합
• $H_f = \{h_1, h_2, ...h_{l_f}\}$: 피처 벡터

Generating context features

맥스풀링 레이어를 거쳐 context representation을 만든다.

Incorporating law article semantics

이렇게 생성된 문맥 표현 $\bar{h}$와 관련된 법조항 사이의 연관관계를 학습시켜야 한다.
따라서 법조항을 위와 동일한 방식으로 Legal-BERT에 통과시킨 뒤 맥스풀링을 하여 context representation으로 만든다.

• 법조항을 토큰화 한 집합 $D_a = \{x_1, x_2, ...x_{l_a}\}$
• 피처 벡터 $H_a = \{h_1, h_2, ...h_{l_a}\}$
  $c = \text{maxpooling}(h_1, h_2, ...h_{l_a})$

이후 범죄 사실 진술과 법조항 사이의 연관관계를 학습시키기 위해, 아래와 같은 과정을 진행한다.

• $c_j$: $j$번째 $c$
• $W_c$: 학습 가능한 파라미터

이렇게 얻어진 $\alpha_j$는 $\bar{h}$와 $c_j$ 간의 연관관계에 대한 가중치이다.

해당 범죄 사실에 대한 모든 법조항 사이의 연관관계를 구하여 가중치화한다.
이후 이들을 혼합하여, 해당 범죄 사실과 관련된 법조항의 정보를 통합한다.

• $\bar{h}$: 범죄 사실로부터 생성된 context representation
• $\bar{c}$: 관련된 법조항의 정보가 혼합된 context representation
• $W_t, b_t$: 학습 가능한 파라미터
• $\hat{y_t}$: 예측 결과