답변.

스택 오버플로우는 프로그램이 시스템에 의해 할당된 스택 메모리보다 더 많은 스택 메모리를 소모할 때 발생하는 상황입니다. 역사적으로 스택은 로컬 변수, 반환 주소 및 함수 호출 시의 임시 데이터를 저장하는 데 사용되었습니다. 초기 C 구현에서는 스택이 상당히 작고 경계 넘어가기 위한 보호 장치가 없었습니다.

문제는 함수 또는 함수 호출 체인이 너무 많은 로컬 변수를 사용하거나 종료 조건 없이 재귀 함수를 호출할 때 발생하며, 이로 인해 프로그램이 할당된 스택 메모리의 범위를 넘어 데이터를 기록하게 되어 오류, 크래시 및 취약점이 발생하게 됩니다.

해결책은 메모리를 적게 사용하는 함수를 설계하고, 깊거나 무한한 재귀를 피하며, 큰 객체를 스택에 배치하지 않는 것입니다. 운영 체제는 메모리 세그먼트 보호(guard pages)를 통해 오버플로우를 방지할 수 있지만, 개발자는 오버플로우를 유발하지 않는 코드를 작성할 책임이 있습니다.

무한 재귀로 인해 스택 오버플로우를 유발하는 코드 예시:

void foo() {
    int arr[1000]; // 큰 로컬 배열은 문제를 악화시키는 데 기여
    foo(); // 종료 조건 없이 재귀 호출
}

int main() {
    foo();
    return 0;
}

주요 특징:

스택은 크기 제한이 있으며, 이를 초과하면 오류나 크래시가 발생합니다.
깊거나 제어되지 않은 재귀가 오버플로우의 주요 원인입니다.
스택에 큰 데이터를 배치하는 것은 개발자의 책임입니다.

낚시 질문.

함수 내부에서 매우 큰 로컬 배열(예: int arr[1000000])을 선언하면 어떻게 됩니까?

답: 큰 로컬 배열은 즉시 스택을 다 사용할 수 있습니다. 운영 체제 및 컴파일러에 따라, 이는 함수 실행 중에 크래시를 발생시키거나 프로그램이 충돌하는 결과를 초래할 수 있습니다.

코드 예시:

void func() {
    int arr[1000000]; // 매우 많은 메모리 사용
    arr[0] = 1;
}

재귀는 항상 스택 오버플로우를 초래합니까?

답: 아닙니다, 재귀는 깊이가 제한될 경우 유용합니다. 오버플로우는 재귀 깊이가 깊거나 무제한일 때만 발생합니다.

메모리 절약을 위해 함수 내부에서 큰 정적 배열을 사용할 수 있습니까?

답: 아닙니다, 큰 정적 배열은 여전히 메모리를 차지하지만, 스택이 아니라 정적 데이터 세그먼트에서 차지됩니다. 이는 특히 임시 로컬 메모리가 필요할 때 항상 경제적이지 않습니다.

코드 예시:

void func() {
    static int arr[1000000]; // 스택이 아니지만 정적 영역이 영구적으로 사용됨
}

일반적인 실수 및 안티 패턴

스택에 큰 배열/구조체 배치.
제어되지 않는 재귀 사용.
함수에서 재귀 깊이 검사를 무시하기.

실제 사례

부정적인 케이스

프로그래머는 깊이 제한 없이 큰 배열을 정렬하기 위해 재귀를 사용하여 퀵 정렬을 구현했으며, 이로 인해 실제 데이터 처리 시 스택 오버플로우가 발생했습니다.

장점:

간결하고 아름다운 재귀적 구현.

단점:

큰 데이터에 대한 알고리즘의 실제 사용 불가, 빈번한 크래시.
실전에서 프로그램 거부.

긍정적인 케이스

다른 프로그래머는 힙에 자신의 작은 스택을 사용하여 반복적 구현을 적용하고, 재귀 깊이를 제어하며, 큰 임시 배열은 malloc을 사용하여 할당했습니다.