The transformational role of GPU computing and deep learning in drug discovery

ph 1

• 2007 CUDA(Compute Unified Device Architecture) 를 Nvidia에서 내어놓음, C language의 extension이며 compiler와 debugger를 포함함.
• 이것은 연산 집약적 작업을 GPU accelerator에 porting하는 포문을 열었음
• FFT(fast Fourier Transform)과 BLAS(Basic Linear Algebra Subroutains, 선형대수를 지원하는 라이브러리) 도 발표됨
  
  

ph 2

• 2014, sep, NVIDIA는 cuDNN을 출시함, 이것은 DNN 연산을 위한 GPU 가속 라이브러리임(forward, backward conv, pooling, normalization, activation layers 등 지원)
  
  
• CUDA는 GPU programming framework인 반면, AMD의 ROCm은 보편적인 platform이었다. 대표적으로 Tensorflow, Pytorch 등.
• 또한 CUDA code를 AMD hardware에 porting하도록 지원함
• 현재 Nvidia A100 GPU architecture가 있다면 AMD는 MI200 series를 내고 있음

ph3

• 많은 분야에서 CADD(computer-aided drug discovery, 이게뭐지)로 GPU 상에서의 DL 가동의 이점을 얻고 있었음.
• CADD는 최적화 문제를 겪고 있고, ML은 이 문제를 해결하기에 효과적이었음
• 따라서 주요한 발전은 CADD에 DL을 적용하는 것에서 이루어짐 (virtual screening, de novo
  drug design, absorption, distribution, metabolism, excretion and
  toxicity (ADMET) properties prediction and so on)
  

ph4

• 여기서 저자는 GPU 병렬처리와 DL model의 발전, 그리고 "proteins, and protein-ligand complexes"의 시뮬레이션의 시간과 정확도 적용에 대해 논의할 것.
• 그리고 "structure determination in cryo-electron microscopy(cryo-EM)과 3D struction prediction o protein"의 예시를 보여줄 것

아 protein이 진짜 단백질이구나, 단백질 구조 예측 같은거를 예시로 보여주나보다

ph5: GPU computing and DL for molecular simulations

• GPU 가속은 데이터의 대량 병렬 처리로 이루어진다. 이것은 비슷한 별개의 동작을 데이터의 많은 요소에서 수행함으로서 발생한다.
• 예시로 그래픽은, 시점이 회전하면서 보이는 물체의 위치를 기술하기 위한 좌표계 간 회전 행렬을 사용하기 위해 병렬 연산을 한다.
• 분자 시뮬레이션에서는 원자 퍼텐셜 에너지를 독립적으로 계산하기 위해 데이터 병렬처리를 한다.
  비슷하게 DL 모델 학습은 행렬 변환으로 표현되는 forward/backward passing을 병렬처리를 통해 한다.

ph6: Accelerating molecular dynamics simulations on GPUs.

• GPU-centred molecular dynamics codes의 발전은 CPU에 비해 연산 비용을 100배 가량 감소시켰다.
• 점점 더 많은 molecular dynamics engines가 GPU 가속을 지원하고 있다.
• 그 결과로 molecular dynamics simulations는 biomolecular penomena에서 널리 확장되고 있다.
• 최근 알고리즘들은 2*10^9 개의 원자를 us나 ms 내로 시뮬레이션 한다.
  

ph7

• free-energy simulation에서도 GPU 사용중
• 상대적 묶임 자유에너지 계산,열역학 통합, 자유에너지 섭동(perturbation) 등에서 사용중...

ph8. Quantum mechanics and GPUs.

ph9. GPU acceleration of protein structure determination.

ph10. The emergence of DL in CADD

• CADD 연구자들이 neural network에 관심 갖기 시작했다.
• 2012년 Kaggle competition에서 승자는 Dahl의 DNN이었다.
• DNN은 drug discovery problem이 있음에 주목했다. 이 문제는 pharmacokinetic behavior(약동학, 약의 용량과 체내 약물 농도에 관한 학문)의 예측을 평가하는 것에서, 여러 화학적, 분자 구조적 구조-활동 관계 모델링에서의 문제를 포함...(그런가보다)

ph11

• 이러한 화학적 데이터를 다루는 GPU-enable DL architectures(ph10의)의 이멀전씨는 CADD-enable의 발견을 불러왔다.
  -그리고 AI-driven companies들이 성공적으로 drug discovery의 증대를 보고했다.
• 이러한 사례들이 최근들어 더더욱 GPU 연산 가속을 통한 AI 사용을을 새롭고 증명된 해결법임을 시사했다.

ph12. DL architectures for CADD

• 서로다른 neural network들이 drug design에서 어떻게 영감을 주었는지?
  -ph 13~22

• 후반부는 주로 약물 관련 내용이라 더이상 읽지 못함