Motivation
설상가상(雪上加霜)
To make matters worse
참 이상하게도 좋은 일과 나쁜 일은 한꺼번에 몰아서 오는 경향이 있는 것 같습니다. 우리의 시간은 언제나 동일하게 흘러가는데 말이죠. 그런데 꽤 많은 경우, 그 좋은 일과 나쁜 일은 과거의 어떤 사건의 영향을 받았음을 알 수 있습니다.
예를 들어, 사랑하는 사람과의 기념일을 챙기지 않음으로 비롯된 다툼 또는 어떤 배려심 깊은 행동 후에 찾아오는 호의가 있을 수 있겠죠.
이처럼 연속되는 시간 속에서, 어떤 사건들이(좋던 나쁘던) 특정 시간대에 집중적으로 발생하는 현상을 Point process 라는 방법으로 설명할 수 있습니다.
Counting Process
문제를 단순하게 만들기 위해, 모든 상황 2가지로 분류해 봅시다
- 사건이 일어났다.
- 사건이 일어나지 않았다.
따라서 이 때, 사건이 언제, 얼마나 발생했는지를 표현하는 방법으로 특정 시간(t)까지 사건이 몇 번(n) 발생했는지를 사용하면 좋을 것 같습니다.
그리고 이를 counting process 라고 합니다. N(t)
예를 들어, 100일 동안 7번을 싸웠다고 한다면 N(100일) = 7 이 됩니다.
Conditional Intensity Function
하지만 문제가 있습니다. 현재 시간 t까지 얼마나 많은 사건이 발생했는지는 알았지만, 현재를 기준으로 앞으로 얼마나 사건이 벌어질지에 대한 지표도 필요합니다.
따라서, 지금까지의 prior(H(t) = t까지 사건이 발생한 수)를 바탕으로 N(t)를 t에 대해 미분하면 N(t)의 순간 변화율을 구할 수 있습니다.
이를 Conditional Intensity라고 하고, 다음과 같은 함수로 표현할 수 있습니다.
이로써, 우리는 앞으로(아주 짧은 시간 후에) 사건이 얼마나 발생할지는 과거의 사건에 영향을 받는다는 사실을 알았습니다. 그렇다면, 과거의 사건들은 구체적으로 현재에 어떻게 영향을 미칠까요?
Hawkes process
과거의 사건이 현재 그리고 미래 사건을 증폭(self-exciting point process)시킨다고 생각해봅시다.
그리고 과거의 사건은 현재의 conditional intensity에 영향을 미치지만, 시간이 갈 수록 그 영향력이 exponentially decayed 된다고 해봅시다.
이를 Hawkes process라고 합니다.
그렇다면 Hawkes process에서의 intensity를 구해볼까요?
λ 는 모든 timeline에 존재하는 background intensity입니다.
그리고 t 시각 전의 모은 timeline인 t_i 에 대해 decayed intensity를 더하고 있습니다.
그렇다면, 연속되는 시간대에서는 어떻게 될까요?
decayed intensity로 영향을 준다해도, 기본적으로 과거 시점에서 사건이 발생해야 합니다. 따라서 dN(s)에 대해 적분을 진행할 수 있습니다.
Conclusion
Point process는 정말 많은 현상들을 설명할 수 있는 방법론 입니다.
하지만, 실제 세계는 과거의 사건이 현재 사건 발생 가능성에 무조건적으로 exponentially decayed 하게 영향을 주진 않을 겁니다.
다음시간에는 실제 세계에서 Intensity를 보다 잘 표현할 수 있는 방법에 대해 알아봅시다.
reference
- https://kowshikchilamkurthy.medium.com/understanding-point-processes-6e3d2f6c5480
- https://medium.com/point-processes/neural-hawkes-process-1a954136a078
- https://proceedings.neurips.cc/paper_files/paper/2017/file/6463c88460bd63bbe256e495c63aa40b-Paper.pdf
- http://www.stat.columbia.edu/~liam/teaching/neurostat-fall13/uri-eden-point-process-notes.pdf
