폰 노이만 구조(Von Neumann Architecture)

폰 노이만 병목과 완화 기법

명령어와 데이터가 같은 메모리에 있으므로 둘 다 하나의 버스를 통해 CPU로 이동해야 한다. CPU가 아무리 빨라도 메모리에서 명령어와 데이터를 가져오는 속도가 따라오지 못하면 CPU는 기다릴 수밖에 없는데, 이 구조적 한계를 폰 노이만 병목(Von Neumann Bottleneck)이라고 부른다. CPU 연산 속도와 메모리 접근 속도의 격차는 시간이 갈수록 벌어졌기 때문에 현대 컴퓨터는 여러 완화 장치를 쌓아 올렸다.

• 캐시 메모리(Cache Memory): CPU와 메인 메모리 사이에 작고 빠른 저장 공간을 두고, 자주 쓰는 명령어와 데이터를 미리 담아 메모리 접근 횟수를 줄인다. 지역성(Locality) 원리에 기대어 동작한다.
• 파이프라이닝(Pipelining): 인출, 해석, 실행 단계를 공장 조립 라인처럼 겹쳐서 여러 명령어를 동시에 다른 단계에서 처리한다.
• 분기 예측(Branch Prediction)과 비순차 실행(Out-of-Order Execution): 다음에 실행될 명령어를 미리 추측해 파이프라인이 멈추지 않게 한다.
• 멀티코어(Multi-core): 코어를 여러 개 두어 병렬로 작업을 처리한다. 다만 코어들이 메모리를 공유하므로 병목 자체가 사라지는 것은 아니다.

하버드 구조와의 비교

하버드 구조(Harvard Architecture)는 명령어 메모리와 데이터 메모리를 물리적으로 분리하고 각각 별도의 버스로 CPU에 연결하는 방식이다. 명령어 인출과 데이터 접근이 동시에 일어날 수 있어 병목이 완화되지만, 메모리를 두 벌 관리해야 하므로 구조가 복잡해지고 유연성이 떨어진다. 임베디드 시스템의 마이크로컨트롤러(Microcontroller)나 디지털 신호 처리기(DSP, Digital Signal Processor)에서 주로 쓰인다. 흥미로운 점은 현대 CPU가 두 구조의 절충이라는 것이다. 메인 메모리 수준에서는 폰 노이만 구조를 따르지만, CPU에 가장 가까운 1차 캐시는 명령어 캐시와 데이터 캐시로 분리되어 있어 내부적으로는 하버드 구조처럼 동작한다. 이를 수정된 하버드 구조(Modified Harvard Architecture)라고 부르기도 한다.

면접에서 이렇게 물어본다

• 폰 노이만 구조의 핵심 아이디어인 내장 프로그램 방식이 이전 방식과 무엇이 달랐는지 설명해 보라는 질문이 나온다.
• 폰 노이만 병목이 왜 생기는지, 캐시와 파이프라이닝이 각각 어떻게 완화하는지 묻는다.
• 하버드 구조와의 차이를 설명하고, 현대 CPU가 어느 쪽에 해당하는지 캐시 구조와 연결해 답하라고 한다.
• 명령어 사이클의 각 단계에서 프로그램 카운터와 레지스터가 어떤 역할을 하는지 질문한다.
• 명령어와 데이터를 같은 메모리에 두는 설계가 보안 관점에서 어떤 위험(예: 데이터 영역의 코드 실행)을 만들 수 있는지 묻기도 한다.