VSA(Value-Set Analysis) 원리

👀 논문읽고 혼자 공부한 내용 정리

리버싱 변수 탐색

소스코드 없이 리버싱을 통해 분석해야하는 파일은 리버싱을 위해 어셈블리 언어로 변환된다.
-> 이 어셈블리 파일에서는 소스코드에 있던 변수 정보가 사라지는데, 메모리 접근 연산을 단서로 변수의 위치와 구조를 유추한다.

근데! 이러한 메모리 접근 연산에서 메모리 주소는 절대적 위치가 아니라, 스택 포인터 (ESP or EBP)를 기준으로 하는 상대적 주소를 가진다. (ex. [ESP+4])

SI와 Value-Set

이러한 리버싱 환경에서, 상대적 주소에 있는 변수의 위치와 구조를 유추하기 위해 제안된 방법이 VSA. 이는 SI라는 형태로 기본값을 표현한다.

SI의 기본 구조는 (숫자간격)[(최소값, 최대값)] 으로 표현되는데
예를 들어 0, 4, 8, 12는 SI형식으로 4[0, 12]로 표현할 수 있다.
이는 배열과 같이 정해진 범위 내에서 일정한 간격마다 변수가 존재하는 메모리 주소를 표현하는데 효과적이다!

=> VSA는 여러개의 SI를 포함하는 Value-Set 구조를 사용한다.

VSA 동작 원리

VSA는 각 함수가 자신만의 지역 스택을 가지고, 이를 이용한 상대 주소를 사용한다는 점에 기인한다.

• 각 함수의 지역 스택을 하나의 독립적인 영역으로 가정
• 각 함수의 지역 스택마다 주소를 가리키는 독립적 값이 존재
  한다고 했을때
  Value set 은 이러한 독립적인 값들의 집합이다.
  global영역의 SI를 기본으로 함수 개수 만큼의 SI를 가진다.

정의되지 않은 영역은?

SI는 모든 값 1[- ∞, ∞] (전체 영역, 간격은 1)을 의미하는 T로 초기화한다.

EX) 3개의 함수로 구성된 프로그램에서

• 일반 상수 3 : gobal영역에서 정의, 다른 함수에 속하지 않음
  -> (0[3,3] , T, T,T)로 나타남 (SI를 4개 가지는 value set)
• 첫 번째 함수 스택의 기준점 (EBP)에서 8만큼 떨어진 주소
  -> (T, 0[8,8], T, T)