예를 들어, 가방에 0.8/0.1/0.1 의 비율로, 빨간/녹색/노랑 공이 들어가 있다고 하자, 하지만 직감에는 0.2/0.2/0.6의 비율로 들어가 있을 것 같다. 이 때, entropy 와 cross-entropy 는 아래와 같이 계산된다.
H(q)=−[0.8log(0.8)+0.1log(0.1)+0.1log(0.1)]=0.63
Hp(q)=−[0.8log(0.2)+0.1log(0.2)+0.1log(0.6)]=1.50
나영
예를 들어, 가방에 0.8/0.1/0.1 의 비율로, 빨간/녹색/노랑 공이 들어가 있다고 하자, 하지만 직감에는 0.2/0.2/0.6의 비율로 들어가 있을 것 같다. 이 때, entropy 와 cross-entropy 는 아래와 같이 계산된다.
H(q)=−[0.8log(0.8)+0.1log(0.1)+0.1log(0.1)]=0.63
Hp(q)=−[0.8log(0.2)+0.1log(0.2)+0.1log(0.6)]=1.50