profile
인공지능과 금융생활에 관심이 많은 개발자입니다 ;)
post-thumbnail

Distributed Learning

데이터를 병렬로 처리하는 방법에는 크게 두 가지가 있다. 동기 훈련: 모든 worker 가 입력 데이터를 나누어 갖고 동시에 훈련, 각 단계마다 gradient 를 모음.비동기 훈련: 모든 worker 가 독립적으로 입력 데이터를 사용해 훈련하고 비동기적으로 param

2021년 8월 1일
·
0개의 댓글