메모리 계층 구조에 대하여

메모리 계층 구조 (출처: https://velog.io/@ticoba/%EB%A9%94%EB%AA%A8%EB%A6%AC-%EA%B3%84%EC%B8%B5)

 

📌 메모리 계층 구조란?

메모리 계층 구조는 컴퓨터가 성능을 최적화하기 위해 속도, 비용, 용량이 다른 여러 저장 장치를 계층적으로 구성한 구조를 의미한다. CPU가 데이터를 빠르게 처리하려면 저장 장치에 대한 접근 속도가 중요한데, 빠른 저장 장치는 비용이 높고 용량이 작다. 따라서, 빠르고 작은 메모리는 최소한으로 사용하고, 느리고 큰 메모리는 최대한 활용하는 방식으로 설계된다. 이러한 메모리 계층 구조를 통해 각 저장 장치는 역할과 특징에 따라 적절히 배치되며, 시스템이 최적의 성능을 유지할 수 있도록 동작한다. CPU는 빠른 메모리에 우선적으로 접근하고, 필요하면 느린 저장 장치에서 데이터를 가져오는 방식으로 동작한다.

✅ 메모리 계층 구조의 구성

• 레지스터(Register)
• 캐시 메모리(Cache Memory)
• 주기억장치(RAM, Random Access Memory)
• 가상 메모리(Virtual Memory)
• 보조기억장치(HDD, SSD)

 

그렇다면 이러한 의문이 들 수 있다. 아무리 캐시 메모리의 속도가 빠르다고 해도, 어차피 메인 메모리(RAM)에서 데이터를 가져와야 하며, 오히려 한 단계를 더 거치는 구조인데 어떻게 성능이 향상될 수 있을까? 이는 지역성(Locality) 때문이다. 지역성이란, 프로그램이 데이터를 접근할 때 특정 데이터가 한 번 사용되면, 그 주변 데이터도 곧 사용될 가능성이 높다는 원리를 의미한다. 메모리 계층 구조는 이러한 지역성을 활용하여 성능을 최적화한다. 즉, 캐시를 거치는 과정이 추가되더라도, RAM보다 훨씬 빠른 캐시에서 데이터를 대부분 제공받기 때문에 오히려 전체적인 속도가 향상되는 것이다. 이러한 이유로 메모리 계층 구조는 지역성을 기반으로 설계되며, 최적의 성능을 유지할 수 있도록 동작한다.

 

✅ 지역성 종류

• 시간 지역성(Temporal Locality / 최근 사용된 데이터가 다시 사용될 확률이 높음)
• 공간 지역성(Spatial Locality / 사용된 데이터 근처의 데이터도 곧 사용될 확률이 높음)
• 순차 지역성(Sequential Locality / 데이터가 연속적으로 접근되는 경우가 많음)

 

📌 레지스터(Register)란?

레지스터는 CPU 내부에 존재하는 초고속 메모리로, CPU가 연산할 데이터를 임시로 저장하는 역할을 한다. 일반적으로 몇 바이트(Byte) ~ 킬로바이트(KB) 수준의 매우 작은 용량을 가지며, 전원이 꺼지면 데이터가 사라지는 휘발성 메모리다. 데이터 저장 시간이 거의 0에 가깝고, 나노초(ns) 단위로 작동할 정도로 빠른 속도를 자랑한다.

 

✅ 레지스터 종류

• 범용 레지스터 (연산, 데이터 저장 등 다양한 용도로 사용)
• 특수 레지스터 (특정 기능을 수행하는 레지스터 / 예시: EIP(명령어 포인터), ESP(스택 포인터))
• 명령어 레지스터 (현재 실행 중인 명령어를 저장)
• 메모리 주소 레지스터 (CPU가 접근할 메모리 주소를 저장)
• 메모리 버퍼 레지스터 (RAM에서 읽어온 데이터를 임시 저장)

 

📌 캐시 메모리(Cache Memory)란?

캐시 메모리는 CPU 내부 또는 CPU와 RAM 사이에 위치한 초고속 메모리로, 자주 사용하는 데이터를 임시 저장하는 역할을 한다. 일반적으로 몇 메가바이트(MB) 수준의 작은 용량을 가지며, 전원이 꺼지면 데이터가 사라지는 휘발성 메모리다. CPU가 연산을 수행할 때 매번 RAM에서 데이터를 가져오면 속도가 느려지므로, 자주 사용하는 데이터를 캐시에 저장하여 RAM 접근 횟수를 줄이고 성능을 향상시킨다.

 

✅ 캐시 메모리 계층 구조 (L1 -> L2 -> L3 순서로 속도는 느려지지만, 용량은 증가)

• L1 Cache (가장 빠르고, CPU 코어 내부에 존재 / CPU가 즉시 사용할 데이터 저장) 
• L2 Cache (L1 Cache보다 느리지만 여전히 빠름 / L1 Cache를 보조)
• L3 Cache (L2 Cache보다 느리지만 용량이 큼 / 멀티코어 CPU에서 성능 향상)

 

📌 주기억장치(RAM, Random Access Memory)란?

주기억장치는 CPU 외부에 위치한 고속 메모리로, 실행 중인 프로그램과 데이터를 임시로 저장하는 역할을 한다. 일반적으로 몇 기가바이트(GB) ~ 수십 기가바이트(GB) 수준의 큰 용량을 가지며, 전원이 꺼지면 데이터가 사라지는 휘발성 메모리다. CPU가 프로그램을 실행할 때, 해당 프로그램의 명령어와 데이터를 RAM에서 불러와 처리하며, 실행 결과도 RAM에 저장된다. 이후, 필요하면 보조기억장치(HDD/SSD)로 데이터를 옮겨 저장한다.

 

✅ RAM 종류

 • SRAM (Static RAM)

  ~> 전원이 공급되는 동안 데이터가 유지되며, 재충전이 필요 없음

  ~> 접근 속도가 빠르지만 가격이 비싸고, 용량이 제한적임

  ~> 주로 CPU 캐시 메모리(L1, L2, L3) 및 레지스터에서 사용됨

 • DRAM (Dynamic RAM)

 ~> 전원이 공급되더라도 일정 주기로 데이터를 재충전해야 유지됨

 ~> 저렴하고 대용량 저장이 가능하며, 일반적인 RAM으로 사용됨

 ~> "RAM"이라고 하면 대부분 DRAM을 의미

 

+ 추가 지식

ROM(Read-Only Memory)

 ~> ROM은 읽기 전용 메모리로, 데이터를 읽을 수만 있고 수정할 수는 없는 메모리

 ~> ROM에 저장된 데이터는 제조 과정에서 기록되며, 일반적으로 사용자가 변경 불가

     (하지만 EPROM, EEPROM, Flash Memory와 같은 일부 ROM은 데이터를 지우고 다시 기록 가능)

 ~> ROM에 저장된 데이터는 영구적으로 보존되므로, 전원이 꺼져도 데이터가 손실되지 않는 비휘발성 메모리

 ~> ROM은 부팅 과정(BIOS, UEFI) 등과 관련된 기본적인 시스템 데이터 저장 용도로 사용되며, 프로그램 실행 중에는 거의 사용되지 않음

 ~> ROM 역시 주기억장치에 포함되지만, 실질적으로 프로그램 실행과 관련된 메모리는 RAM (따라서 일반적으로 "주기억장치"라고 하면 "RAM"을 의미)

 

📌 가상 메모리(Virtual Memory)란?

가상 메모리는 RAM이 부족할 때, HDD/SSD의 일부를 RAM처럼 사용하는 기술이다. 즉, 물리적 메모리(RAM)가 부족할 경우, HDD/SSD의 일부 공간을 임시로 활용하여 실행 중인 프로그램을 유지하는 기능을 한다. 하지만 가상 메모리는 HDD/SSD를 사용하므로 RAM보다 훨씬 느리며, 자주 사용되면 Swapping 문제가 발생하여 성능이 급격히 저하될 수 있다. 따라서 가상 메모리는 RAM이 부족할 때만 보조적으로 사용해야 하며, 최적의 성능을 위해 RAM을 충분히 확보하는 것이 중요하다.

 

✅ 동작 원리

 • Paging

  ~> 고정 크기 단위로 메모리를 나누는 방식

  ~> 페이지 단위로 메모리를 할당하므로 단편화(메모리 낭비)가 적지만, 한 프로세스가 여러 페이지로 나뉘어 저장될 수 있어 관리 오버헤드 발생 가능

 • Segment 

  ~> 가변 크기 단위로 메모리를 나누는 방식

  ~> 프로세스가 사용하는 크기만큼만 메모리를 할당하므로 효율적이지만, 단편화(메모리 낭비) 발생 가능

 

+ 추가 지식

Swapping 문제

 ~> OS가 RAM의 부족을 해결하기 위해 사용하지 않는 데이터를 HDD/SSD로 이동시키는 과정

 ~> 즉, RAM이 가득 차면 일부 데이터를 HDD/SSD의 가상 메모리로 이동시키고, 다시 필요해지면 RAM으로 가져오는 과정이 발생

 

📌 보조기억장치(HDD, SSD)란?

보조기억장치는 CPU 외부에 위치한 대용량 저장 장치로, 데이터를 영구적으로 저장하는 역할을 한다. 일반적으로 수백 기가바이트(GB) ~ 테라바이트(TB) 수준의 매우 큰 용량을 가지며, 전원이 꺼져도 데이터가 유지되는 비휘발성 메모리다. 컴퓨터는 OS, SW, 문서, 사진, 동영상 등 모든 데이터를 보조기억장치에 저장하며, 필요할 때 데이터를 불러와 사용한다. CPU가 데이터를 처리할 때, 보조기억장치(HDD/SSD)에 저장된 데이터를 RAM으로 불러와 연산을 수행하며, 연산 결과도 RAM을 거쳐 다시 보조기억장치 (HDD/SSD)에 저장된다. 즉, CPU는 RAM을 통해서만 HDD/SSD의 데이터를 처리할 수 있다.

 

✅ 보조기억장치 종류

 • HDD (자기 디스크 방식)

  ~> 내부에 자기 디스크(플래터)가 고속 회전하면서 데이터를 읽고 씀

  ~> 기계적 움직임이 필요하므로 속도가 상대적으로 느리고, 충격에 약함

  ~> 가격이 저렴하며, 대용량 데이터 저장에 적합

 • SSD (반도체 메모리 방식)

  ~> 반도체를 사용하여 데이터를 저장

  ~> 기계적 움직임이 없으므로 속도가 빠르고, 내구성이 뛰어남

  ~> 가격이 비싸고, OS 및 고속 작업에 적합

 

📌 CPU와 메모리 계층의 관계

✅ Register

 ~> CPU 내부에 위치하므로, 즉시 접근 가능

✅ Cache

 ~>  L1, L2 Cache는 CPU 내부에 위치하므로 즉시 접근 가능하며, L3 Cache는 CPU 내부 또는 외부(칩셋)에 위치할 수 있음

✅ 주기억장치(RAM, Random Access Memory)

 ~> CPU 외부에 위치하므로, 접근 가능하지만 Register와 Cache보다 느림

✅ 가상 메모리(Virtual Memory)

 ~> CPU가 직접 접근할 수 없으며, 운영체제가 관리

✅ 보조기억장치(HDD, SSD)

 ~> CPU가 직접 접근할 수 없으며, 필요한 데이터를 RAM으로 로드한 후 접근

 

 

+ 출처

https://velog.io/@ajm0718/%EB%A9%94%EB%AA%A8%EB%A6%AC-%EA%B5%AC%EC%A1%B0