운영체제란 무엇인가 (Operating System)

운영체제가 관리하는 것들

운영체제의 기능은 과목 목차와 거의 일치한다. 프로세스 관리에서는 프로세스 생성과 종료, 스케줄링, 동기화, 프로세스 간 통신(IPC)을 다룬다. 메모리 관리에서는 가상 메모리, 페이징, 페이지 교체를 다룬다. 저장 장치 관리에서는 파일 시스템과 디스크 스케줄링을, 입출력 관리에서는 장치 드라이버와 인터럽트 처리를 다룬다. 여기에 사용자 인증과 접근 제어 같은 보호와 보안, 그리고 네트워크 프로토콜 스택 운영이 더해진다. 각 기능은 독립적이지 않고 맞물려 있다. 예를 들어 페이지 폴트 처리는 메모리 관리이지만 디스크 입출력과 스케줄링을 함께 일으킨다.

쓰임새에 따라 운영체제의 형태도 달라진다. 데스크톱과 서버용 범용 운영체제는 처리량과 공정성을 추구하고, 자동차와 공장 설비에 들어가는 실시간 운영체제(RTOS, Real-Time Operating System)는 정해진 시간 안의 응답을 보장하는 것을 최우선으로 한다. 모바일 운영체제는 배터리와 터치 환경에 맞춰 백그라운드 실행을 강하게 제한한다. 한편 가상 머신(virtual machine)은 하이퍼바이저(hypervisor) 위에 운영체제 전체를 여러 개 올리는 기술이고, 컨테이너(container)는 하나의 커널을 공유하면서 네임스페이스와 cgroup으로 프로세스 그룹을 격리하는 기술이다. 컨테이너가 가벼운 이유가 커널을 새로 띄우지 않기 때문이라는 점은 운영체제 이해와 바로 연결되는 실무 지식이다.

부팅 과정 개요

전원이 켜지면 펌웨어(UEFI 또는 예전의 BIOS)가 하드웨어를 점검하고 부트로더(bootloader)를 찾아 실행한다. 부트로더는 디스크에서 커널 이미지를 메모리에 적재하고 제어를 넘긴다. 커널은 메모리 관리자와 스케줄러 등 핵심 구조를 초기화하고 장치를 인식한 뒤 최초의 사용자 프로세스(리눅스의 init 또는 systemd)를 만든다. 이후의 모든 프로세스는 이 최초 프로세스로부터 fork로 파생되며, 로그인 화면과 셸이 뜨는 것도 그 결과다. 부팅 과정은 운영체제가 스스로를 어떻게 세우는지를 보여 주는 좋은 그림이다. 커널이 가장 먼저 실행되지만 일단 초기화가 끝나면 커널은 스스로 도는 프로그램이 아니라, 시스템 콜과 인터럽트가 있을 때만 깨어나 일하는 수동적 존재가 된다는 점도 함께 기억해 둘 만하다.

면접에서 이렇게 물어본다

• 운영체제를 자원 관리자와 추상화 제공자라는 두 관점에서 설명해 보라.
• 커널 모드와 사용자 모드를 나누는 이유는 무엇이고 모드 전환은 언제 일어나는가.
• 모놀리식 커널과 마이크로커널의 차이와 각각의 장단점을 비교해 보라.
• 시스템 콜이 일반 함수 호출과 다른 점은 무엇인가.
• 전원이 켜진 뒤 로그인 화면이 나오기까지의 과정을 큰 흐름으로 설명해 보라.