기존 audit_log를 kafka message로 쏘고 cassandra로 넣고있는데, cassandra가 조회가 이런저런 요건에 맡게 조회 하기가 힘들고, 활용도가 낮아(카산드라도 물론 설계를 잘 하면 되겠지만 현재는 그렇지 않다.) ES로 전환하기로 했다.
기존 레거시를 유지하며, 추가적으로 es로 넣는 방법은?
db변경사항을 추적하여 logstash로 넣음
-> 문제는 사용자 각 action을 알수있을까? 데이터변경으로 각 action을 특정할 수 있어야함.
-> PAD편집, 히스토리 검색 등은.... 알수가없다. 단말구분, 생성시 copy인지 new인지 등 구분이 안됨.
logstash 사용.
flume sink 추가하여 es에 넣기
일단 2번은 POC해보기로.
logstash ->
1. es에 손쉽게 넣을수있다.
but 다만 우리처럼 db에서 추가정보를 가져와서 가공하고 업무요건이 복잡하게 많은 서비스에는 활용이 어렵다.
2. 뭐가좋은건지 정말 모르겠네
데이터 활용은?
데이터 활용 방안을 생각해보자.