[TIL] 39. SQL 5주차 학습

DaWol·2024년 12월 9일

TIL sql

TIL

목록 보기

38/39

01. Subquery, JOIN 복습하고, 이번 수업 내용 맛보기

✔️ SQL 문에서 가장 복잡한 관문이었던 Subquery 와 Join 을 잘 넘어오신 것을 축하드려요! 이번 수업 시잔 전에 잠깐 복습하고, 이번 시간에는 무엇을 배울지 알아봅시다

1) Subquery, Join 복습하기 👉 Subquery 1. Query 결과를 Query 에 다시 활용하는 것 2. 기본 형식 ```sql select column1, special_column from ( /* subquery */ select column1, column2 special_column from table1 ) a ``` 👉 JOIN 1. 두 개 이상의 테이블을 결합하여 사용하는 것 2. JOIN 의 형태에 따라 Left join, Inner join 등이 있음 3. 기본 형식 ```sql -- LEFT JOIN select 조회 할 컬럼 from 테이블1 a left join 테이블2 b on a.공통컬럼명=b.공통컬럼명 -- INNER JOIN select 조회 할 컬럼 from 테이블1 a inner join 테이블2 b on a.공통컬럼명=b.공통컬럼명 ```
2) 이번 수업에서 배울 내용 맛보기
1. 예상하지 못한 값이 Query 결과에 나올 때 어떻게 처리해야 할까?
2. 엑셀에서 해야하는 Pivot, SQL 로 한 번에 구현할 수 있을까?
3. SQL 로 이런 것까지 할 수 있었다니! 업무 시간이 엄청 줄어들 것 같은데!

02. 조회한 데이터에 아무 값이 없다면 어떻게 해야할까?

✔️ 분명 있어야 하는데, 데이터가 없어요! 이럴 때 처리할 수 있는 방법이 있을까요?

1) 데이터가 없을 때의 연산 결과 변화 케이스
- 테이블에 잘못된 값이 들어있을 수 있습니다.
- JOIN 을 했을 때 값이 없는 경우도 확인 했었죠.
- 사용할 수 없는 데이터가 들어있거나, 값이 없는 경우에 어떻게 처리해주는 것이 좋을까요?
  (데이터를 사용할 때 매우 흔한 경우입니다!)
2) [방법1] 없는 값을 제외해주기
- Mysql 에서는 사용할 수 없는 값일 때 해당 값을 연산에서 제외해줍니다. → 0으로 간주
- 즉 평균 rating 을 구하는 쿼리를 아래와 같이 작성했을 때 실제 연산에 사용되는 데이터는 다음과 같습니다.
```
select restaurant_name,
       avg(rating) average_of_rating,
       avg(if(rating<>'Not given', rating, null)) average_of_rating2
from food_orders
group by 1
```
- 따라서, 명확하게 연산을 지정해주기 위해 null 문법을 이용해봅시다.
  - [코드스니펫] 값의 제외
```
select a.order_id,
       a.customer_id,
       a.restaurant_name,
       a.price,
       b.name,
       b.age,
       b.gender
from food_orders a left join customers b on a.customer_id=b.customer_id
where b.customer_id is not null 
```
  - null 제거를 하지 않았을 때|
  - null 제거를 했을 때 (join 시에는 inner join 과 동일함)
3) [방법2] 다른 값을 대신 사용하기
- 사용할 수 없는 값 대신 다른 값을 대체해서 사용하는 방법이 있습니다.
- 데이터 분석 시에는 평균값 혹은 중앙값 등 대표값을 이용하여 대체해주기도 합니다.
- 다른 값으로 변경하고 싶을 때, 다음 두 개의 문법을 이용할 수 있습니다.
  - 다른 값이 있을 때 조건문 이용하기 : if(rating>=1, rating, 대체값)
  - null 값일 때 : coalesce(age, 대체값)
- null 을 다른 값으로 대체한 쿼리문을 실행하면 다음과 같습니다.
  customer 테이블에 없는 데이터 중에 age 만 20으로 채워진 것을 확인하실 수 있습니다.
- [코드스니펫] 값의 변경
```
```sql
  select a.order_id,
         a.customer_id,
         a.restaurant_name,
         a.price,
         b.name,
         b.age,
         coalesce(b.age, 20) "null 제거",
         b.gender
  from food_orders a left join customers b on a.customer_id=b.customer_id
  where b.age is null
```
```

03. 조회한 데이터가 상식적이지 않은 값을 가지고 있다면 어떻게 해야할까?

✔️ 분석을 하다보면 상식적이지 않은 데이터가 나올 때, 어떻게 해야할지 알아봅시다

1) 상식적이지 않은 데이터의 예시
- 데이터가 비어있는 경우도 있지만, 상식적이지 않은 경우도 있습니다.
- 케이스1 - 주문 고객의 나이
  - 보통 음식을 주문한 고객은 20세 이상인 성인인 경우가 많습니다. 하지만 데이터를 보면 2세와 같이 상식적이지 않은 값들을 확인할 수 있습니다.
- 케이스2 - 결제 일자
  - 결제의 경우, 비교적 최근인 일자가 있어야 상식적일 것입니다. 하지만, 데이터를 보면 1970년대와 같이 상식적이지 않은 값들을 확인할 수 있습니다.
2) [방법] 조건문으로 값의 범위를 지정하기
- 조건문으로 가장 큰 값, 가장 작은 값의 범위를 지정해 줄 수 있습니다.
  → 상식적인 수준 안에서 범위를 지정해줍니다.
- 위의 나이의 경우 아래와 같은 범위를 지정해 줄 수 있습니다.
```
select customer_id, name, email, gender, age,
       case when age<15 then 15
            when age>80 then 80
            else age end "범위를 지정해준 age"
from customers
```
- 범위를 지정해준 결과, 15세 미만이거나 80세 초과인 경우 15, 80으로 각각 대체된 것을 확인할 수 있습니다.

04. [실습] SQL 로 Pivot Table 만들어보기

✔️ 우리의 목적은 SQL 로 업무를 효율적으로 하는 것! 데이터를 뽑아서 엑셀로 가공하지 않고, 바로 Pivot table 을 만드는 방법을 알아봅시다

1) Pivot table 구조 소개
- Pivot table 이란? : 2개 이상의 기준으로 데이터를 집계할 때, 보기 쉽게 배열하여 보여주는 것을 의미합니다
- Pivot table 의 기본 구조
- Pivot table 의 예시
  - 집계 기준 : 일자, 시간

2) [실습] 음식점별 시간별 주문건수 Pivot Table 뷰 만들기 (15~20시 사이, 20시 주문건수 기준 내림차순)

음식점별, 시간별 주문건수 집계하기

정답

select a.restaurant_name,
       substring(b.time, 1, 2) hh,
       count(1) cnt_order
from food_orders a inner join payments b on a.order_id=b.order_id
where substring(b.time, 1, 2) between 15 and 20
group by 1, 2

Pivot view 구조 만들기

[코드스니펫] Pivot Table 예시

select restaurant_name,
       max(if(hh='15', cnt_order, 0)) "15",
       max(if(hh='16', cnt_order, 0)) "16",
       max(if(hh='17', cnt_order, 0)) "17",
       max(if(hh='18', cnt_order, 0)) "18",
       max(if(hh='19', cnt_order, 0)) "19",
       max(if(hh='20', cnt_order, 0)) "20"
from 
(
select a.restaurant_name,
       substring(b.time, 1, 2) hh,
       count(1) cnt_order
from food_orders a inner join payments b on a.order_id=b.order_id
where substring(b.time, 1, 2) between 15 and 20
group by 1, 2
) a
group by 1
order by 7 desc

스크린샷 2024-11-22 시간: 12.43.05.png

3) [실습] 성별, 연령별 주문건수 Pivot Table 뷰 만들기 (나이는 10~59세 사이, 연령 순으로 내림차순)

성별, 연령별 주문건수 집계하기

정답

select b.gender,
       case when age between 10 and 19 then 10
            when age between 20 and 29 then 20
            when age between 30 and 39 then 30
            when age between 40 and 49 then 40
            when age between 50 and 59 then 50 end age,
       count(1)
from food_orders a inner join customers b on a.customer_id=b.customer_id
where b.age between 10 and 59
group by 1, 2

Pivot view 구조 만들기

[코드스니펫] Pivot Table 실습

select age,
       max(if(gender='male', order_count, 0)) male,
       max(if(gender='female', order_count, 0)) female
from 
(
select b.gender,
       case when age between 10 and 19 then 10
            when age between 20 and 29 then 20
            when age between 30 and 39 then 30
            when age between 40 and 49 then 40
            when age between 50 and 59 then 50 end age,
       count(1) order_count
from food_orders a inner join customers b on a.customer_id=b.customer_id
where b.age between 10 and 59
group by 1, 2
) t
group by 1
order by age

05. 업무 시작을 단축시켜 주는 마법의 문법 (Window Function - RANK, SUM)

✔️

지금까지 배운 기본 구조 외에 SQL 은 여러가지 편리한 기능을 제공해주고 있어요!
업무 시간을 단축시켜 줄 수 있는, 여러가지 문법과 사례를 배워봅시다

1) Window Function 의 사례와 기본 구조
- Window Function 은 각 행의 관계를 정의하기 위한 함수로 그룹 내의 연산을 쉽게 만들어줍니다.
- 말만 들으면 매우 어렵게 느껴지는데요, 예를 들어 다음의 경우를 생각해봅시다.
  - 한식 식당 중에서 주문건수가 많은 순으로 순위를 매기고 싶은데요, 가능할까요?
  - 한식 식당 전체 주문건수 중에서 A 식당이 차지하는 비율을 알고 싶은데 가능할까요?
  - 2건 이상 주문을 한 소비자 중에, 처음 주문한 식당과 2번째로 주문한 식당을 같이 조회할 수 있을까요?
- 기본 SQL 구조로 해결하기 위해서는 복잡하게 Subquery 문을 이용하거나, 여러번의 연산을 수행해줘야 하지만, 자체적으로 제공해주는 기능을 이용하면 조금 더 편리합니다.
  → 바로 이 기능들이 Window function 으로 제공되고 있습니다.
- Window Function 의 기본 구조
```
window_function(argument) over (partition by 그룹 기준 컬럼 order by 정렬 기준)
```
  - window_function : 기능 명을 사용해줍니다. (sum, avg 와 같이 기능명이 있습니다)
  - argument : 함수에 따라 작성하거나 생략합니다.
  - partition by : 그룹을 나누기 위한 기준입니다. group by 절과 유사하다고 생각해주시면 됩니다.
  - order by : window function 을 적용할 때 정렬 할 컬럼 기준을 적어줍니다.

2) [실습1] N 번째까지의 대상을 조회하고 싶을 때, Rank

Rank 는 이름에서 유추할 수 있듯이 ‘특정 기준으로 순위를 매겨주는’ 기능입니다.
예를 들어, 주문 건수별 순위 매기기, 결제 시간이 빠른 순으로 순위 매기기 등이 가능합니다.

[실습] 음식 타입별로 주문 건수가 가장 많은 상점 3개씩 조회하기

음식 타입별, 음식점별 주문 건수 집계하기

정답

select cuisine_type, restaurant_name, count(1) order_count
from food_orders
group by 1, 2

Rank 함수 적용하기

정답

select cuisine_type,
       restaurant_name,
       rank() over (partition by cuisine_type order by order_count desc) rn,
       order_count
from
(
select cuisine_type, restaurant_name, count(1) order_count
from food_orders
group by 1, 2
) a

3위까지 조회하고, 음식 타입별, 순위별로 정렬하기

[코드스니펫] 5-5 실습1

select cuisine_type,
       restaurant_name,
       order_count,
       rn "순위"
from
(
select cuisine_type,
       restaurant_name,
       rank() over (partition by cuisine_type order by order_count desc) rn,
       order_count
from
(
select cuisine_type, restaurant_name, count(1) order_count
from food_orders
group by 1, 2
) a
) b
where rn<=3
order by 1, 4

3) [실습2] 전체에서 차지하는 비율, 누적합을 구할 때, Sum

Sum 은 앞서 배운 합계를 구하는 기능과 동일합니다.
다만, 누적합이 필요하거나 카테고리별 합계컬럼와 원본 컬럼을 함께 이용할 때 유용하게 사용할 수 있습니다.

[실습] 각 음식점의 주문건이 해당 음식 타입에서 차지하는 비율을 구하고, 주문건이 낮은 순으로 정렬했을 때 누적 합 구하기

음식 타입별, 음식점별 주문 건수 집계하기

정답

select cuisine_type, restaurant_name, count(1) order_count
from food_orders
group by 1, 2

카테고리별 합, 카테고리별 누적합 구하기
- 정답

    ```sql
    select cuisine_type,
           restaurant_name,
           cnt_order,
           sum(cnt_order) over (partition by cuisine_type) sum_cuisine,
           sum(cnt_order) over (partition by cuisine_type order by cnt_order) cum_cuisine
    from
    (
    select cuisine_type, 
    	restaurant_name, 
    	count(1) cnt_order
    from food_orders
    group by 1, 2
    ) a
    order by cuisine_type , cnt_order
    ```
    
    ![image.png](https://prod-files-secure.s3.us-west-2.amazonaws.com/83c75a39-3aba-4ba4-a792-7aefe4b07895/b9614dc3-9152-4ff6-b553-ecbdfe59a3ec/image.png)

+학습자료 추가 (24/08/21) : 누적합 고쳐보기

정답 위 정답에서 order_count가 동일한 값을 일괄로 더해 cum_sum으로 출력되는 문제가 있었어요.

문제 상황 이해

이 상황은 SQL에서 WINDOW 함수(SUM 등)를 사용할 때, SUM으로 동일한 cnt_order 값을 가진 여러 행이 있을 경우, SQL 엔진은 이 값을 한꺼번에 더하는 현상이 발생합니다. cnt_order의 순서를 결정할 명확한 기준이 없으므로 발생한 문제입니다.

해결 방법

이 문제를 해결하려면 `ORDER BY` 절에 `cnt_order` 외에 추가적인 열에 순서를 부여할 수 있는 `restaurant_name`을 포함시켜야 합니다. 이렇게 하면 동일한 `cnt_order` 값을 가진 행들이 명확하게 순서가 정해져 누적합이 정상적으로 처리됩니다.

누적합을 순서대로 표기하기 위해 order by에 cum_cuisine 을 추가해줍니다.

select cuisine_type,
       restaurant_name,
       cnt_order,
       sum(cnt_order) over (partition by cuisine_type) sum_cuisine,
       sum(cnt_order) over (partition by cuisine_type order by cnt_order) cum_cuisine
from
(
select cuisine_type, 
	restaurant_name, 
	count(1) cnt_order
from food_orders
group by 1, 2
) a
order by cuisine_type , cnt_order

이 외의 Window Function 을 알고 싶다면, 여러가지를 검색해서 사용해보는 것을 추천합니다

06. 날짜 포맷과 조건까지 SQL 로 한 번에 끝내기 (포맷 함수)

✔️ SQL 의 연산은 숫자, 문자 외에 날짜까지 가능하다는 것 알고 계셨나요? 데이터에 날짜를 지정하거나 조건에 날짜를 사용해야할 때 활용할 수 있는 기능을 알아봅시다

1) 날짜 데이터의 이해
- 문자타입, 숫자타입과 같이 날짜 데이터도 특정한 타입을 가지고 있습니다.
- 년, 월, 일, 시, 분, 초 등의 값을 모두 갖고 있으며 목적에 따라 ‘월’, ‘주’, ‘일’ 등으로 포맷을 변경할 수도 있습니다.
- 아래와 같은 형식의 데이터라면 날짜로 변경 가능합니다.

2) [실습1] 날짜 데이터의 여러 포맷

yyyy-mm-dd 형식의 컬럼을 date type 으로 변경하기

select date(date) date_type,
       date
from payments

스크린샷 2023-06-11 오후 10.59.32.png

date type 을 date_format 을 이용하여 년, 월, 일, 주 로 조회해보기

년 : Y (4자리), y(2자리)
월 : M, m
일 : d, e
요일 : w

[코드스니펫] 날짜 예시

select date(date) date_type,
       date_format(date(date), '%Y') "년",
       date_format(date(date), '%m') "월",
       date_format(date(date), '%d') "일",
       date_format(date(date), '%w') "요일"
from payments

스크린샷 2023-06-23 오전 5.08.36.png

4) [실습2]

년도, 월을 포함하여 데이터 가공하기

정답

select date_format(date(date), '%Y') y,
       date_format(date(date), '%m') m,
       order_id
from food_orders a inner join payments b on a.order_id=b.order_id

년도, 월별 주문건수 구하기

정답

select date_format(date(date), '%Y') y,
       date_format(date(date), '%m') m,
       count(1) order_count
from food_orders a inner join payments b on a.order_id=b.order_id
group by 1, 2

3월 조건으로 지정하고, 년도별로 정렬하기

[코드스니펫] 5-6 실습

select date_format(date(date), '%Y') "년",
       date_format(date(date), '%m') "월",
       date_format(date(data), 'Y%m') "년월",
       count(1) "주문건수"
from food_orders a inner join payments b on a.order_id=b.order_id
where date_format(date(date), '%m')='03'
group by 1, 2
order by 1

스크린샷 2024-11-22 시간: 12.39.30.png

DaWol

고양이 다월이

이전 포스트

[TIL]36. SQL 복습

다음 포스트