🙈Pytorch lightning이 뭐야🙉!!

🤔 Pytorch lightning이란 ?

Pytorch lightning도 저번에 리뷰한 ignite와 비슷한, 그래서 비교되는 오픈소스 라이브러리이다. ignite는 pytorch의 공식적인 라이브러리라고는 하지만, lightning이 한국어로 된 자료가 더욱 많은 것 같다. ignite의 핵심이 Engine이었던 것처럼 lightning의 핵심은 Trainer와 lightningmodule이다.

⚡Lightning module

lightning module은 대부분의 학습 알고리즘이 정의되는 클래스이다. lightning module을 구현하기 위해서는 LightningModule 클래스를 상속받아야한다.

class MyClass(pl.LightningModule):
	def __init__(self):
        super().__init__()
        self.model = 모델
    
    def forward(self, x):
        pass

    def training_step(self, batch, batch_idx):
        pass

    def validation_step(self, batch, batch_idx):
        pass

    def test_step(self, batch, batch_idx):
        pass
    
    def configure_optimizers(self):
        pass	

LightningModule자체가 pytorch의 nn.module을 상속받은 클래스이기 때문에 nn.module에서 사용할 수 있는 것들을 다 쓸 수 있다.

👤 Trainer

Trainer는 기본적으로 optimizer step, backward, logging, 분산학습등을 다루는 부분이다. 그래서 유저가 직접 수정해서 사용하지는 않고 구현된 부분을 Trainer에서 가져와 쓴다고 한다.

총 정리

유저들의 코드스타일이 비슷해진다는 장점이 굉장히 큰 것 같다. 아무래도 깃헙에서 다른 개발자의 코드를 봤을때 "이 부분은 어디있는거지?" "이게 뭐지?"이런 질문을 던졌던 나에게는 ignite나 lightning같은 오픈소스가 활성화 됬으면 좋겠다는 바램이 있다. 내가 진행하는 프로젝트에도 lightning을 적용해 보아야겠다.