이식성 좋은 프로그램
여러 스레드가 실행 중이면 OS의 스레드 스케줄러가 어떤 스레드를 얼마나 오래 실행할 지를 결정한다. 정상적인 OS라면 이 작업을 공정하게 수행하지만 구체적인 스케줄링 정책은 OS마다 다를 수 있다. 따라서 잘 작성된 프로그램이라면 이 정책에 좌지우지돼서는 안 된다.
정확성이나 성능이 스레드 스케줄러에 따라서 달라지는 프로그램이라면 다른 플랫폼에 이식하기 어렵다.
이상적인 스레드
이식성 좋은 프로그램을 만드는 가장 좋은 방법은, 실행 가능한 스레드의 평균적인 수를 프로세서 수보다 많아지지 않도록 하는 것이다. 실행 준비가 된 스레드들은 맡은 작업을 완료할 때까지 계속 실행되도록 만들자.
실행 가능한 스레드 수와 전체 스레드의 수는 구분해야 한다. 전체 스레드 수는 훨씬 많을 수 있고, 대기 중인 스레드는 실행 가능하지 않다. 실행 가능한 스레드 수를 적게 유지하는 주요 기법은 각 스레드가 무언가 유용한 작업을 완료한 후에는 다음 일거리가 생길 때까지 대기하도록 하는 것이다. 스레드는 당장 처리해야 할 작업이 없다면 실행돼서는 안 된다.
실행자 프레임워크를 예로 들자면, 스레드 풀의 크기를 적절히 설정하고 작업은 짧게 유지하면 된다. 단, 너무 짧으면 작업을 분배하는 부담이 오히려 성능을 떨어뜨릴 수 있다. 스레드는 절대 바쁜 대기(busy waiting) 상태가 되면 안 된다. 바쁜 대기는 스레드 스케줄러의 변덕에 취약할 뿐 아니라, 프로세서에게 큰 부담을 주어 다른 유용한 작업이 실행될 기회를 박탈해버린다.
thread.yield
특정 스레드가 다른 스레드들과 비교해 CPU 시간을 충분히 얻지 못해서 간신히 돌아가는 프로그램을 보더라도 thread.yield를 써서 문제를 해결하려는 유혹은 떨쳐내자. 증상이 어느정도 호전될 수 있지만 이식성은 그렇지 않을 것이다.
