0. LOG TO ES 전환

brody·2020년 6월 12일
0
  • 기존 audit_log를 kafka message로 쏘고 cassandra로 넣고있는데, cassandra가 조회가 이런저런 요건에 맡게 조회 하기가 힘들고, 활용도가 낮아(카산드라도 물론 설계를 잘 하면 되겠지만 현재는 그렇지 않다.) ES로 전환하기로 했다.

  • 기존 레거시를 유지하며, 추가적으로 es로 넣는 방법은?

  1. db변경사항을 추적하여 logstash로 넣음

    -> 문제는 사용자 각 action을 알수있을까? 데이터변경으로 각 action을 특정할 수 있어야함.

    -> PAD편집, 히스토리 검색 등은.... 알수가없다. 단말구분, 생성시 copy인지 new인지 등 구분이 안됨.

  2. logstash 사용.

  3. flume sink 추가하여 es에 넣기

    일단 2번은 POC해보기로.

  • logstash vs flume?

logstash ->
1. es에 손쉽게 넣을수있다.
but 다만 우리처럼 db에서 추가정보를 가져와서 가공하고 업무요건이 복잡하게 많은 서비스에는 활용이 어렵다.
2. 뭐가좋은건지 정말 모르겠네

  • 데이터 활용은?

    데이터 활용 방안을 생각해보자.

    • 이상action감지
    • 사용량 예측
profile
일하며 하는 기록

0개의 댓글