크롤링해서 원하는 배치 파일을 읽어서 가지고오는데
우선적으로
여러 업체에서 데이터를 각각 읽어오고싶었다
ex) 대한항공 , 아시아나
라면 JOB1 -> 대한항공
JOB2 ->아시아나
이렇게 한 후 각각의 JOB 안에서 STEP 별로
출발지 도착지를 멀티로하거나 , 싱글스레드로 구동을 하려고했다.
하지만.... JOB 두개가 멀티로 도는거 부터가 문제인거같다... 어렵다..
실행은 동시에 나오는거같으나...
이렇게 텀이 있다.
실제로 크롤링할때는 아마 저 시간이 더 늘어날것이다...
이걸 어떻게 풀어야할지 이제 고민을 해봐야할거같다..