파이토치 손실함수 Cross Entropy Loss

파이토치 손실함수 Cross Entropy Loss¶

step1: 크로스엔트로피 손실함수 객체 생성

In [1]:

import torch
import torch.nn as nn

loss = nn.CrossEntropyLoss()

step2: 정답 텐서 만들기 (0,1,2 중 0을 정답으로 하는 텐서)

In [2]:

y_true = torch.tensor([0])
y_true

Out[2]:

tensor([0])

step3: 예측이 잘된 텐서와 예측이 잘안된 텐서 생성(Softmax 함수 통과 하지 않은 텐서 생성)

In [3]:

y_pred_good = torch.tensor([[2, 1.2, 0.1]])
y_pred_bad = torch.tensor([[0.1, 1.1, 3]])

step4: 정답텐서와 예측이 잘된 텐서를 이용한 크로스엔트로피 손실 값 계산

In [5]:

out = loss(y_pred_good, y_true)
out.item()

Out[5]:

0.46931445598602295

step5: 정답텐서와 예측이 잘안된 텐서를 이용한 크로스엔트로피 손실 값 계산

In [6]:

out = loss(y_pred_bad, y_true)
out.item()

Out[6]:

3.0861408710479736