섹션7: Custom 오퍼레이터 개발 실습

류홍규·2023년 8월 15일
0

airflow

목록 보기
10/18
post-thumbnail

1. Custom 오퍼레이터 만들기

airflow

  • operators
    + seoul_api_to_csv_operator.py

2. 데이터 수집

  • 서울시 전기차 충전소 정보(서울시 설치)
  • 서울시 전기차 급속충전기 정보 현황(서울시 설치)
  • 서울시 자동차 전용도로 위치 정보(좌표계: GS80)


(2023-08-15기준)
매일 오전 7시마다 수집


  • 서울시 전기차 충전소 정보(서울시 설치)

  • 서울시 전기차 급속충전기 정보 현황(서울시 설치)

  • 서울시 자동차 전용도로 위치 정보(좌표계: GS80)

추가사항
se:nu를 입력하면 행 번호를 알 수 있다.


Custom 오퍼레이터를 만들면 왜 좋을까?

  • 원하는대로 로직을 짤 수 있다.
  • 만약 custom 오퍼레이터를 만들지 않았다면?
    + 개발자마다 각자 서울 공공데이터 데이터셋 추출/저장하는 파이썬 파일을 만들어 PythonOperator를 이용해 개발했을 것이다.
    • 비슷한 동작을 하는 파이썬 파일이 관리되지 않은 채 수십개 만들어지면 그 자체로 비효율이 발생한다.
  • 특정 기능을 하는 모듈을 만들어 놓고, 상세 조건은 파라미터로 받게끔하여 모듈을 재사용할 수 있도록 유도
    + Custom 오퍼레이터 개발
profile
공대생의 코딩 정복기

0개의 댓글