int[] array = new int[3];

array[0] = 0;

array[1] = 10;

String[] array = new String[5]; # integer array가 가비지가 된다.

GC는 Garbage 객체를 판별하기 위해 reachability라는 개념을 사용한다. 어떤 객체에 유효한 참조의 여부에 따라 reachable/unreachable로 구별하고 unreachable 객체를 가비지로 간주한다. 이때 JAVA 대부분의 객체는 금방 unreachable 상태가 된다고 가정하고 객체를 저장하는 메모리 공간을 Yong generation과 Old generation으로 나눈다.

• Yong generation: 새롭게 생성한 객체의 대부분이 young generation에 위치한다. 대부분의 객체가 금방 unreachable 상태가 되기 때문에 매우 많은 객체가 young generation에 생성되었다가 GC를 통해 사라진다. (유효한 참조가 있는 객체는 남는다.)이 영역에서 객체가 사라질때 Minor GC가 발생한다고 말한다.
• Old generation: 접근 불가능 상태로 되지 않아 young generation에서 살아남은 객체가 old generation으로 복사된다. Minor GC만으로 확보한 메모리 공간이 부족할 때, old generation에서 GC가 실행된다. 이 영역에서 객체가 사라질 때 Major GC가 발생한다고 말한다.

GC가 동작할 때 ‘Stop-the-world’ 명령이 실행되는데 이는 GC를 실행하는 스레드를 제외한 모든 스레드들이 작업을 멈추는 것을 말한다. 그런데 실시간으로 통신이 필요한 어플리케이션임에도 GC가 수 초 동안 여러번 실행되어 어플리케이션이 멈춘다면 큰 문제가 된다. 그렇기 때문에 GC를 최소한으로 발생시켜 최대한의 효과를 내는 것이 중요하다.

Reference Counting

Python의 주요 garbage collection mechanism은 reference counts 방식이다. Python은 모든 변수와 함수를 객체로 생성하며 만들 때마다 유형 (list, dict 또는 function)과 reference count가 생성된다.

객체의 reference count는 객체가 참조될 때 증가하고 객체의 참조가 해제될 때 감소한다. 객체의 reference count가 0이 되면 객체의 메모리가 해제된다. 순환 참조 객체의 메모리 해제를 위해 garbage collector도 함께 사용한다.

Pointer 변수

어떠한 변수의 주소는 해당 변수가 저장된 컴퓨터 메모리상의 주소를 의미한다. 즉, 변수 x에는 integer 값 10이 저장되어 있다면, 포인터 변수 *p x에는 변수 x의 메모리 주소 값이 저장된다.

Call-by-value, Call-by-reference, Call-by-assignment

1. call-by-value: cbv에 의한 호출 방식은 함수 호출 시 변수의 값을 복사하여 함수의 인자로 전달한다. 복사된 인자는 함수 내에서만 사용되는 local variable의 특성을 가진다. 즉, 함수 안에서 인자의 값이 변경되어도 외부의 변수의 값은 변경되지 않는다.
2. call-by-reference: cbr에 의한 호출 방식은 함수 호출 시 변수의 주소값을 복사하여 함수의 인자로 전달한다. 따라서 함수 안에서 값이 인자의 값이 변경된다면 전체 코드에서 해당 변수의 값이 변경된다.
3. call-by-assignment (python): cba에 의한 호출 방식은 전달받는 객체에 따라 참조 방식이 결정된다. immutable object (int, float, tuple)이 함수의 인자로 넘어갈 땐 call-by-value로 전달된다. mutable object (list, dic, set)이 함수의 인자로 넘어갈 땐 call-by-reference로 전달된다. (list, dic, set이 mutable object 인 이유는 이 객체의 크기가 아주 큰 경우 복사 참조만 된다면 메모리 공간이 낭비되기 때문이다.)

가상 메모리와 페이지 폴트

1. 가상 메모리: 프로그램 실행에 필요한 메모리 용량 전체를 ram에서 할당받는 것이 아니라, 최소한의 메모리를 ram에서 할당받아 저장하고 나머지는 HDD (가상 메모리 공간)에 저장하는 것이다.
2. 페이지 폴트: 가상 메모리를 사용하게 된다면 프로그램이 사용하는 페이지는 물리 메모리인 ram과 가상 메모리인 hdd에 나뉘어 저장된다. 이때, 프로그램이 필요로 하는 페이지가 물리 메모리에 없을 경우 페이지 폴트라 한다.
3. 요구 페이징: 페이지 폴트가 발생하면 운영 체제가 가상 메모리에서 해당 페이지를 찾아 물리 메모리의 불필요한 페이지와의 교체를 요구한다. 그리고 이 과정 동안은 모든 스레드가 대기한다.

페이지 교체 알고리즘

요구 페이징이 발생했을 때 교체할 물리 메모리의 페이지를 선정하는 알고리즘이다.

• FIFO (First In First Out): 물리 메모리에 적재된지 가장 오래된 페이지를 교체한다. 페이지의 사용 빈도를 무시하기 때문에 활발하게 사용하는 페이지가 교체될 수 있다는 문제점이 있다. 페이지가 적재된 순서를 Queue에 저장하는 방식을 사용한다.
• LRU (Least Recently Used): 가장 오랜 기간 사용되지 않은 페이지를 교체한다. 많은 운영체제가 사용하는 알고리즘이다.
• LFU (Least Frequently Used): 참조 횟수가 가장 적은 페이지를 교체한다. 만약 교체 대상이 여러 개일 경우에 LRU를 사용한다. LFU는 초기에 한 페이지를 집중적으로 참조하다가, 이후에 참조하지 않는 경우에 메모리에 계속 남아있을 수 있다는 문제점이 있다.
• MFU (Most Frequently Used): LFU와 반대로 참조 횟수가 가장 많은 페이지를 교체하는 알고리즘이다.

메모리 단편화 (Memory Fragmentation)

• 내부 단편화: 교체된 페이지의 크기가 할당된 공간의 크기보다 작은 경우 내부 단편화가 발생한다. 이는 저장 공간 낭비로 이어진다.
• 외부 단편화: 메모리가 할당되고 해제되는 작업이 반복될 때 작은 메모리가 중간중간 존재하게 되는데, 이 때 총 메모리 공간은 충분하지만 교체된 페이지의 크기가 할당된 공간의 크기보다 큰 경우 외부 단편화가 발생한다.

페이징과 세그먼테이션

메모리 단편화를 해결할 수 있는 기법이다.

• 페이징: 페이지가 연속적인 물리 메모리 공간에 들어가야하는 제약을 해결하기 위한 방법이다. 가상 메모리는 페이지, 물리 메모리는 프레임이라는 고정 크기의 블록으로 나눈 후, 페이지 테이블의 매핑을 통해 1:1 대응 시킨다. 이는 외부 단편화를 해결할 수 있다. 페이지 단위를 작게하면 내부 단편화(Internal fragmentation) 역시 해결할 수 있지만 페이지에 공간을 할당한 후, 남는 공간이 적어지기 때문에 그 만큼 page mapping 과정이 증가할 수 있다.
• 세그멘테이션: method, function, object, variables 등 프로그램의 논리적 단위를 바탕으로 서로 다른 크기의 블록으로 나누는 방법이다. 세그먼트들의 크기가 서로 다르기 때문에 메모리를 페이징 기법처럼 미리 분할해 둘 수 없고, 메모리에 적재될 때 빈 공간을 찾아 할당하는 사용자 관점의 가상 메모리 관리 기법이다. 각 세그먼트 별로 길이 값을 가지고 있어 내부 단편화를 해결할 수 있다.

프로세스와 스레드

• 프로세스: 운영체제로부터 프로세서, 주소 공간, 메모리과 같은 시스템 자원을 할당받는 작업의 단위로 실행된 프로그램을 의미한다. 프로세스는 실행될 때 운영 체제로부터 독립된 메모리 영역 (Code, Data, Stack, Heap)을 할당받으며 다른 프로세스의 자원에는 접근할 수 없다.
• 스레드: 프로세스 내에서 동작되는 실행의 단위로서 Stack 외에 프로세스가 할당받은 자원 (Code, Data, Heap)을 스레드끼리 공유, 이용하면서 실행된다. 하나의 프로세스가 실행되면 기본적으로 하나의 메인 스레드가 생성된다.

• 멀티 프로세스: 하나의 프로그램을 프로세스 여러 개로 구성하여 Context switching을 통해 실행하는 것을 말한다. 하나의 프로세스에 문제가 생기더라도 다른 프로세스에 영향을 미치지 않는다.
• 멀티 스레드: 하나의 프로그램을 한 프로세스 내에 여러 개의 스레드로 구성하여 실행하는 것을 말한다. 멀티 프로세스보단 멀티 스레드가 더 효율적인데 그 이유는 스레드 간의 통신 비용이 훨씬 적기 때문이다. 하지만 스레드 간의 자원 공유는 전역 변수를 이용하기에 동기화를 신경써야한다.

ThreadLocal

말 그대로 스레드 내부에서 사용되는 지역변수를 말한다. 각각의 thread scope 내에서 공유되어 사용될 수 있는 값으로 다른 스레드에서 공유 변수에 접근할 시 발생할 수 있는 동시성 문제의 예방을 위해 만들어졌다.

Context Switching

프로세서가 멀티 프로세싱을 구성하여 어떤 하나의 프로세스를 실행하고 있는 상태에서 인터럽트 요청에 의해 다음 우선 순위의 프로세스가 실행되어야 할 때, 기존 프로세스의 상태 또는 레지스터 값 (context)을 저장하고 다음 프로세스를 수행하도록 새로운 프로세스의 상태 또는 레지스터 값을 교체하는 작업을 Context switching이라 한다.

멀티 프로세싱을 Computer multitasking을 통해 빠른 속도로 Task를 바꿔 가며 실행하여 실시간 처리에 근사하도록 하는 기술이다.

교착 상태 (Deadlock) 발생 4가지 조건

교착 상태란 서로 다른 프로세스가 서로의 자원을 요구하며 무한정 기다리는 현상을 말하며, 아래의 4가지 조건 중 하나라도 만족하지 않으면 교착 상태는 발생하지 않는다.

1. 상호배제 (Mutual exclusion): 한번에 한 프로세스만이 자원을 점유할 수 있다.
2. 점유대기 (Hold and wait): 프로세스가 이미 자원을 점유하는 상태에서 다른 자원을 무한정 기다린다.
3. 비선점 (No preemption): 프로세스가 어떤 자원의 점유를 끝낼 때까지 그 자원을 뺏을 수 없다.
4. 순환대기 (Circular wait): 각 프로세스들이 원형으로 구성되어 순환적으로 자원을 요구한다.

뮤텍스와 세마포어

이 둘의 궁극적인 목표는 ‘다수의 프로세스나 스레드가 공유 자원에 동시에 접근하는 것을 제어하는 것’이다.

• 뮤텍스: 한 스레드, 프로세스에 의해 소유될 수 있는 Key를 기반으로 한 상호배제 기법이다. 한 스레드가 임계 영역에 들어갈 때 lock을 걸어 다른 스레드가 접근하지 못하도록 하고, 임계 영역에서 나올 때 unlock한다.
• 세마포어: 현재 공유 자원에 접근할 수 있는 스레드, 프로세스의 수를 나타내는 값을 두는 상호 배제 기법이다. 그 값만큼 동시에 스레드가 해당 공유 자원에 접근할 수 있다.

RISC와 CISC

프로세서가 가진 명령어 세트를 기준으로 RISC와 CISC로 나누니다.

• RISC (Reduce Instruction Set Computer): 핵심적인 명령어를 기반으로 최소한의 명령어 세트를 구성한 프로세서다. 고정적인 길이와 간단한 명령어로 빠른 동작 속도를 자랑하한다. 적은 명령어 세트를 가지고 있으므로 프로그램을 구성하는 명령어가 단순하지만 다수의 명령어를 필요로 한다.
• CISC (Complex Instruction Set Computer): 연산을 처리하는 복잡한 명령어들을 수백개 이상 탑재하고 있는 프로세서다. 명령어 길이가 다양하며 개수가 많아 프로그램의 구성이 복잡해지지만 소수의 명령어로 구현할 수 있다.

OSI 7 Layer

네트워크에서 통신이 일어나는 과정을 7단계로 캡슐화하여 서로 다른 동작을 각 layer에서 담당하는 것을 말한다. 이로서 통신이 일어나는 과정을 단계적으로 파악할 수 있으며 layer 별로 각기 다른 동작을 수행하기에 오류 탐지가 용이하다.

1. Physical layer: 전기적, 기계적 특성을 바탕으로 비트 흐름을 전송한다. 이 계층은 데이터를 전달만 할 뿐, 데이터가 무엇인지 전혀 신경쓰지 않는다. (케이블, 리피터, 허브 등)
2. DataLink layer: 안전한 정보 전달을 보장한다. 물리 계층에서 전달 받은 프레임의 오류를 찾고 필요시 재전송을 요청한다.
3. Network layer: 오류 없는 패킷을 목적지까지 안전하고 빠르게 전달하는 경로 (라우팅)를 찾는 계층이다.
4. Transport layer: 전송을 통해 통신을 활성화하는 계층이다. 패킷의 전송이 유효한지 확인하고 실패한 패킷을 재전송한다. end-to-end 통신의 신뢰성을 보장하고, 오류 검출, 흐름제어, 중복 검사를 수행한다.
5. Session layer: 그 전까진 물리적 측면의 통신이었다면 포트를 연결하여 논리적인 통신을 가능케하는 계층이다.
6. Presentation layer: 응용 프로그램을 위해 형식상 차이를 갖는 데이터를 인코딩하여 일관된 형태의 데이터를 표현하는 계층이다.
7. Application layer: 사용자와 직접 상호작용하는 계층이다. 크롬, 파이어폭스가 대표적 예시이다.

TCP와 UDP

이 둘은 전송 계층에서 패킷을 보내기 위한 프로토콜이다.

• TCP (Transmission Control Protocol): 연결형 서비스로 3-way handshaking 과정을 통해 연결을 설정하고, 4-way handshaking을 통해 해제한다. 그렇기에 높은 신뢰성과 전송 순서를 보장한다. 1:1 통신에서 사용된다. UDP보다는 속도가 느리다.
• UDP (User Datagram Protocol): 비연결형 서비스로 패킷을 주고 받을 때 신호 절차를 거치지 않는다. 그렇기에 신뢰성이 낮으며 전송 순서가 바뀔 수 있다. 1:N 이나 N:N 통신에서 사용된다. TCP보다 속도가 빠르다.

3-way handshaking과 4-way handshaking (TCP)

• 3-way handshaking: 장치들 사이의 접속을 성립하기 위한 절차로 양 장치 모두 데이터 통신 준비가 되었다는 것을 보장한다.

과정: SYN (Client) → SYN + ACK (Server) → ACK (Client)

• 4-way handshaking: 장치들 사이의 통신을 종료하기 위한 절차이다.

과정: FIN (Client) → ACK (Server) → FIN (Server) → ACK(Client)