[백엔드 기술 세미나] Garbage Collector

📰 우리 FIS 아카데미 3기에 다니며 백엔드 기술 세미나를 하게 되었습니다.
저는 Garbage Collector를 주제로 선택했고, 열심히 준비한 만큼 블로그 포스팅으로 남겨두려고 합니다~

 

📑 Garbage Collector(GC)란?

프로그램을 개발하다 보면,

유효하지 않은 메모리. 즉, 더 이상 사용하지 않는 객체의 메모리인 Garbage(쓰레기)가 발생하게 됩니다.

 

용어 그대로 사용하지 않으니, 쓰레기 값이라는 뜻입니다.

 

이 가비지를 자바는 JVM의 가비지 컬렉터가 주기적으로 검사해서 청소해 주며,

이 가비지 컬렉터에 의해 수행되는 프로세스를 Garbage Collection이라고 합니다.

 

그럼 모든 언어가 이 가비지 컬렉터를 통해 메모리를 관리할까요?

 

그것은 아닙니다.

 

우선, 메모리 관리 방식의 차이에 따라 프로그래밍 언어는

Unmanaged Language와 Managed Language로 구분할 수 있습니다.

Unmanaged Language인 C와 C++에서는

malloc과 free와 같은 함수를 사용해서 프로그래머가 직접 메모리를 할당하고 해제해야 합니다.

 

이런 번거로운 일을 Managed Language인 Java에서는 프로그래머가 직접 메모리 해제를 하지 않고,

가비지 컬렉터와 같은 메모리 관리 메커니즘이 자동으로 관리해 줍니다.

 

자바 개발자는 JVM의 가비지 컬렉터 덕에 메모리 할당과 해제를 직접 코딩하지 않아도,

메모리 누수나 오버플로우 문제를 거의 겪지 않습니다.

 

📑 왜 우리가 Garbage Collector에 대해 알아야 할까?

이처럼 가비지 컬렉터가 자동으로 메모리 관리를 해주는데,

그럼에도 우리가 이 내부를 이해해야 하는 이유는 무엇일까요?

 

메모리 관리에 대한 통제권을 위임했기 때문에

메모리 오버플로우와 누수문제가 한 번 터지면

가상 머신의 메모리 관리 방식을 이해하지 못하는 한 해결하기가 상당히 어렵습니다.

 

또한 더 높은 동시성을 달성하는 데 가비지 컬렉터가 방해가 되는 상황이 오면,

이를 적절히 모니터링하고 조율할 수 있어야 합니다.

 

때문에 저는 여러분들께 가비지 컬렉터가 어떻게 동작하는지에 대해 설명드리고자 합니다.

 

📑 객체 생사 판단 - 대상이 죽었는가?

자바에서는 거의 모든 인스턴스가 Heap이라는 메모리 영역에 저장됩니다.

 

가비지 컬렉터가 Heap을 청소하려면

가장 먼저 어떤 객체가 살아있고, 또 어떤 객체가 죽었는지 판단해야 합니다.

(객체가 살아있다는 것은, 해당 객체를 어딘가에서 참조하고 있다는 것. 즉, 아직 필요한 객체라는 뜻입니다.)

 

이를 판단하기 위한 알고리즘 두 가지를 설명드리겠습니다.

 

👉 참조 카운팅 알고리즘

먼저 참조 카운팅 알고리즘입니다.

 

이 알고리즘을 간단히 설명하면 다음과 같습니다.

객체를 가리키는 참조 카운터를 추가하고

 

참조하는 곳이 하나 늘어날 때마다 카운터 값을 1 씩 증가시킵니다.

 

마찬가지로 참조하는 곳이 하나 사라질 때마다 카운터 값을 1 씩 감소시킵니다.

 

카운터 값이 0이 된 객체는 더 이상 접근할 수 없다는 것이므로

 

메모리를 해제하는 방식으로 동작합니다.

 

참조 카운팅 알고리즘은

횟수를 세기 위해 약간의 메모리를 추가로 사용하지만

원리가 간단하고 판단에 드는 에너지도 적습니다.

 

그래서 대다수 상황에서 좋은 알고리즘이며 실제로도 많이 쓰입니다.

 

하지만 적어도 자바의 JVM에서는 참조 카운팅을 쓰지 않습니다.

 

이 간결한 알고리즘에도 고려해야 할 특이 상황이 적지 않고,

모든 상황에서 문제없이 동작하게 하려면 계산할 게 상당히 늘어나기 때문입니다.

 

예를 들어 간단한 참조 카운팅만으로는 순환 참조 문제를 풀기 어렵습니다.

해당 코드를 보면, A와 B 객체에는 모두 instance라는 필드가 있고,

필드들에 서로의 값을 할당한 다음 두 객체의 참조를 해제했습니다.

 

이 시점부터 외부에서 두 객체에 접근할 길이 사라집니다.

 

하지만 각자의 instance에서 서로를 참조하고 있기 때문에 참조 카운터는 아직 0이 아닙니다.

 

따라서 참조 카운팅 알고리즘으로는 더 이상 두 객체에 접근할 수 없음에도 둘을 회수하지 못합니다.

 

👉 도달 가능성 분석 알고리즘

다음 설명드릴 알고리즘은 도달 가능성 분석 알고리즘입니다.

 

오늘날의 주류 프로그래밍 언어들은 모두 이 알고리즘을 사용합니다.

 

도달 가능성 분석 알고리즘의 기본 아이디어는

GC 루트라고 하는 루트 객체들을 시작 노드 집합으로 쓰는 것입니다.

GC 루트로부터 도달 불가능한 객체는 더 이상 사용할 수 없는 객체인 걸 알게 되고,

회수 대상이 됩니다.

 

이 경우 GC 루트 1, 2번부터 시작해서

객체 1, 2, 6, 7번은 도달할 수 있으니 살아남고

 

도달 불가능한 객체인 3, 4, 5번은 회수 대상이 됩니다.

 

📑 Garbage Collection 알고리즘

어떤 객체가 회수 대상이 되는지 알아봤으니,

이제 어떤 방식으로 회수되는지에 대해 알아봅시다.

 

👉 Mark-sweep 알고리즘

먼저 Mark-sweep 알고리즘입니다.

 

이름처럼 이 알고리즘은 작업을 표시와 쓸기라는 두 단계로 나눠 진행합니다.

 

먼저 회수할 객체들을 모두 표시한 다음,

 

표시된 객체들을 쓸어 담는 식입니다.

 

뒤이어 나올 컬렉션 알고리즘들이 Mark-sweep 알고리즘을 기초로

그 단점을 보완하는 식으로 발전했기 때문에 Mark-sweep의 큰 단점 두 가지를 짚고 넘어가도록 하겠습니다.

첫째, 실행 효율이 일정하지 않습니다.

 

자바 Heap이 다량의 객체로 가득 차 있고 대부분이 회수 대상이라면,

표시하는 일도 회수하는 일도 모두 커집니다.

 

즉, 객체가 많아질수록 표시하고 쓸어 담는 효율이 떨어지는 구조입니다.

 

둘째, 메모리 파편화가 심합니다.

 

가비지 컬렉터가 쓸고 간 자리에는 불연속적인 메모리 파편이 만들어집니다.

 

파편화가 너무 심하면 프로그램이 큰 객체를 만들려 할 때

충분한 크기의 연속된 메모리를 찾기가 점점 어려워지고,

그 결과 또 다른 가비지 컬렉션을 유발합니다.

 

👉 Mark-copy 알고리즘

Marp-sweep 알고리즘의 첫 번째 단점이었던

회수할 객체가 많아질수록 효율이 떨어지는 문제를 해결하기 위해 등장한 것이 Mark-copy 알고리즘입니다.

 

이 알고리즘은, 가용 메모리를 똑같은 크기의 두 블록으로 나눠 한 번에 한 블록만 사용합니다.

 

그러다 한쪽 블록이 꽉 차면

살아남은 객체들만 다른 블록에 복사하고 기존 블록을 한 번에 청소합니다.

 

대다수 객체가 살아남는다면 메모리 복사에 상당한 시간을 허비하는 반면,

대다수가 회수된다면 생존한 소수의 객체만 복사하면 됩니다.

 

더욱이 복사 과정에서 객체들이 메모리의 한쪽 끝에서부터 차곡차곡 쌓이기 때문에

골치 아픈 메모리 파편화 문제로부터 해방됩니다.

 

이 알고리즘은 구현하기도 쉽고 실행 효율도 좋습니다.

 

하지만 가용 메모리를 절반으로 줄여 낭비가 심하다는 단점도 있습니다.

 

(이 단점을 보완하여 디벨롭한 알고리즘이 나오긴 했지만, 여기선 넘어가도록 하겠습니다.)

 

👉 Mark-compact 알고리즘

이번에는 Mark-sweep의 두 번째 단점이었던

메모리 파편화 문제를 해결하기 위해 등장한 Mark-compact 알고리즘입니다.

 

표시 단계는 Mark-sweep과 같고

 

compact 단계에서 생존한 모든 객체를 메모리 영역의 한쪽 끝으로 모은 다음,

나머지 공간을 한꺼번에 비웁니다.

 

Mark-sweep과의 핵심적인 차이는 메모리 이동이 일어난다는 점입니다.

 

📑 Garbage Collection은 언제 일어날까?

어떤 객체를, 어떤 알고리즘으로 회수하는지 알아봤으니

마지막으로 언제 이 가비지 컬렉션이 일어나는지에 대해 알아보겠습니다.

 

이를 알아보기 전에 한 가지 이론 먼저 보고 넘어가겠습니다.

 

👉 세대 단위 컬렉션 이론

현재 가비지 컬렉터는 대부분 세대 단위 컬렉션 이론에 기초해 설계되었습니다.

 

세대 단위 컬렉션 이론의 본질은

기본적으로 다음 두 가지 가정이 뿌리를 이룹니다.

첫 번째, 대다수 객체는 일찍 죽는다.

두 번째, 가비지 컬렉션 과정에서 살아남은 횟수가 늘어날수록 더 오래 살 가능성이 커진다.

 

이 이론에 따라 자바 Heap을 몇 개의 영역으로 나누고,

객체들을 나이에 따라 각기 다른 영역에 할당하는 것입니다.

(여기서 나이란, 가비지 컬렉션에서 살아남은 횟수를 말합니다.)

 

영역 안의 객체 대부분이 곧바로 죽을 운명이라면

그 객체들을 한데 몰아놓고 관리하며

 

살아남는 소수의 객체를 유지하는 방법에 집중하는 편이 유리할 것입니다.

 

또한, 한 번 살아남은 객체는 통계적으로 잘 죽지 않으니 다른 영역에 따로 모아두고,

가상 머신이 그 영역을 회수하는 빈도를 줄이는 것입니다.

 

이렇게 하면 가비지 컬렉션에 드는 전체 시간도 줄이고 메모리 공간도 효율적으로 이용할 수 있습니다.

 

세대 단위 컬렉션 이론을 가상 머신에 적용하기 위해 자바 Heap을 최소 두 개의 영역으로 나눕니다.

 

👉 New Generation과 Old Generation

바로 New Generation과 Old Generation입니다.

 

이름에서 알 수 있듯이

New Generation에서는 가비지 컬렉션 때마다 다수의 객체가 죽고

살아남은 소수만이 Old Generation으로 승격됩니다.

 

이 New Generation은 또다시

Eden, Survival 0, Survival 1 영역으로 나뉩니다.

 

그리고, 새로운 객체는 Eden 영역에 할당됩니다.

 

새로운 객체가 생기면 모두 Eden 영역에 할당되고,

 

이 Eden이라는 영역이 꽉 차면 가비지 컬렉션이 발생합니다.

 

이때 일어난 가비지 컬렉션을 Minor GC라고 합니다.

 

이번 가비지 컬렉션에서 살아남은 객체는 Survival 0으로 옮겨지고,

살아남지 못한 객체는 메모리에서 해제됩니다.

 

이 과정이 계속해서 반복되고,

(중간 생략...)

Survival 0 영역이 꽉 차는 순간이 옵니다.

그럼 이때 또다시 가비지 컬렉션이 일어납니다.

 

이번 가비지 컬렉션에서 살아남은 객체들은 Survival 1 영역으로 이동하면서 Age 값이 증가합니다.

 

그리고 다시 Eden 영역에 메모리가 쌓이고,

 

가비지 컬렉션이 일어납니다.

 

이번에는 Survival 0이 아닌, 메모리가 쌓여있는 Survival 1 영역에 살아남은 객체들이 옮겨집니다.

 

지금 Survival 0과 Survival 1 구조를 보면,

앞에서 살펴봤던 Mark-copy 알고리즘을 사용하고 있다는 것을 알 수 있습니다.

 

이 Survival 1 영역이 또다시 차게 되면,

 

여기서 살아남은 객체들이

또다시 Age 값이 증가하여 Survival 0 영역으로 이동합니다.

 

이렇게 가비지 컬렉션이 계속 일어나며 Age 값이 증가하다가

특정 Age를 넘어서면

 

그때 Old Generation으로 승격됩니다.

 

Old Generation 또한 다 차게 되면 가비지 컬렉션이 일어나는데,

이때 발생한 가비지 컬렉션은 Major GC라고 합니다.

 

Major GC에서는 Mark-compact 알고리즘을 사용합니다.

 

하지만 Mark-compact 알고리즘은 메모리 이동이 일어난다고 했습니다.

 

오래 산 객체들을 관리하는 공간이므로,

Marjor GC에서는 회수 때마다 살아남는 객체가 상당히 많을 것인데

이렇게 많은 객체를 이동시키기에는 부담될 것입니다.

 

따라서 대부분의 경우에는 메모리 파편화를 감내하면서 Mark-sweep을 사용하다가

객체 할당에 영향을 줄 만큼 파편화가 심해지면 Mark-compact를 돌려 연속된 공간을 확보하게 됩니다.

 

📑 마무리

가비지 컬렉션은 이러한 방법으로, 이러한 과정이 반복되면서 메모리를 관리합니다.

 

📑 참고

유튜브 <던의 JVM의 Garbage Collector> - https://www.youtube.com/watch?v=vZRmCbl871I&t=480s

도서 <JVM 밑바닥까지 파헤치기> - https://product.kyobobook.co.kr/detail/S000213057051