https://yunleee.tistory.com/45
확인하시고 손해없으시길
현재 근무중인 회사의 데이터 분석 인프라에 지치고 데이터 핸들링 능력에 한계를 느껴 데이터 엔지니어링을 공부하면 이를 해소할 수 있지 않을까라는 생각이 들었다.
다만 혼자 공부하면 절대 안하니까 ^^....
같이 공부하면서 서로 어려움도 나누고 같은 분석가들끼리 데이터 엔지니어링을 통해 업무에 도움을 받고자 데잇걸즈 6기 내에서 스터디 모집을 진행했다.
데이터 분석가를 위한 데이터 엔지니어링 스터디였기에 데이터 엔지니어링이 무엇인지 감만 잡고 찍먹해보자!를 목표로 스터디를 진행했다.
- 데이터 엔지니어링 스터디를 모집했을 때 올렸던 공고
- 일정 : 2023년 11월 ~ 2024년 3월
- 진행 커리큘럼 : 데이터 엔지니어링 전반 + GCP를 통한 파이프라인 구축 실습
- 진행 방식 : 주차별 진도에 맞춰 같이 공부 후 매주 일요일마다 진행자의 발표 및 공부 내용 논의, 온오프라인 믹스
- 스터디 내에서 진행한 것 : 데이터 엔지니어링 전반 이론 공부, 교재 실습, 빅쿼리 실습, 데이터 파이프라인 실습 등
- 교재
빅데이터를 지탱하는 기술- 강의
-경쟁력 있는 분석가를 위한 데이터 엔지니어링 기초 : AWS, GCP 기반 클라우드 분석 환경 마스터
-T아카데미 빅쿼리 시작하기
-AWS & GCP & Azure 데이터 파이프라인 구축: 하이브리드 & 멀티 클라우드 연동과 활용- 스터디 내에서 배운 것 : 데이터 플로우, 데이터 마트 구축, 테이블과 데이터베이스의 정의와 종류, 파이프라인 구축 방식, 스트리밍vs배치 데이터 등이 기억에 남는다.
Keep
- 스터디원들의 열정이 가득해서 공부할 때 동기부여가 잘됨
- 스터디원 간 분위기가 좋음 ex.) 낙오자없이 스터디를 진행하기 위해 서로 다독여주면서 같이 완주
- 스터디 전반부는 기초 이론을 다지고 후반부는 실습 위주로 구성하여 좋은 커리큘럼이라는 평을 들었음
- 스터디를 통해 데이터 핸들링과 인프라 구축에 대한 감이 잡혔음
Problem
- 실습 위주로 구성했으나 프로젝트를 진행하지 않아 공부한 부분을 적용하고 액션까지 나아가지 않은 것
- 일요일 오전에 진행하여 일요일 새벽에 벼락치기로 공부한 적이 많았음
- 벼락치기로 공부하다보니 스터디 범위 이상의 수준을 공부하지 않고 넘어간 적이 많았음
- 현재 회사는 클라우드가 아닌 온프레미스 환경의 DB를 쓰고 있어 스터디에서 공부한 것을 적용하기 어려웠음
Try
- 추후 데이터 파이프라인 구축 프로젝트 등의 스터디 내용을 적용한 액션 진행
- 클라우드 외의 데이터베이스 프로그램을 이용한 실습 진행
- 스터디를 또 한다면 미리미리 공부하기...!
스터디 마지막에 진행한 회고
데이터 엔지니어링 스터디는 현재 다니는 회사의 데이터 환경을 어떻게 개선할 수 있을까로 시작해 데이터 엔지니어링 하나도 모르는 사람들끼리 DE에 대해 조각을 쌓는 시간이었다. 스터디를 통해 데이터 엔지니어링 입문이 성공적으로 마무리되었다고 생각되어서 보람차고 즐거운 시간이었다. 스터디를 하면서 "스터디를 따라갔을 뿐인데 갓생러가 된 것 같아서 뿌듯하다"는 피드백이 있었다. 나도 일요일 오전마다 새로운 분야를 공부하고 서로 논의하는 과정에서 동기부여도 많이 되었고 어떻게 현재 내 상황에 적용할 수 있을지 인사이트를 많이 얻었다.
데이터 엔지니어링 스터디를 진행하면서 현재 데이터 인프라를 어떻게 개선할 수 있을지 여러 고민을 하고 팀에 DB 구축을 제안했고, 내 제안이 받아들여져 현재 새로운 DB 구축을 위한 스터디와 프로젝트를 리딩하고 있다!!
스터디를 진행하지 않았다면 계속 불평만 하면서 내가 속한 환경을 개선할 수 없을 것이었기에 스터디 진행에 정말 의미가 깊다.
프로젝트를 마무리하면 스터디동안 진행하지 못했던, DE 내 다른 주제로 또 스터디를 진행하고 싶다.
저랑 스터디 그때도 같이 해줄거죠?🥺