OSI 7계층 이해하기 — 개념, 프로토콜, 트러블슈팅, 보안 체크리스트, 퀴즈까지
한 문장 요약: OSI 7계층은 데이터를 안전하고 신뢰성 있게 전달하기 위한 역할 분담 표준입니다. 이 구조를 이해하면 **문제 원인(어느 계층에서 깨지는지)**을 빠르게 좁힐 수 있어요.
목차
왜 OSI 7계층인가?
-
표준화: 벤더/장비/소프트웨어가 다 달라도 같은 규칙으로 통신 가능.
-
디버깅: 장애 시 Top→Down 또는 Bottom→Up으로 계층별 원인 압축.
-
학습/시험: 실무는 TCP/IP로 말하더라도, OSI 프레임으로 해석하면 빠진 포인트가 잘 보여요.
택배 비유
1층(도로/신호) → 2층(상자/주소라벨) → 3층(경로/허브) → 4층(차량/안전운송) → 5층(상담/대화 지속) → 6층(언어/암호/압축) → 7층(앱 화면)
TCP/IP 모델과의 매핑
| OSI(7) | TCP/IP(4) | 대표 |
|---|---|---|
| 7 응용 | 응용 | HTTP, DNS, SMTP |
| 6 표현 | 응용 | TLS/SSL, JSON/JPEG |
| 5 세션 | 응용 | 세션/쿠키, RPC |
| 4 전송 | 전송 | TCP, UDP, QUIC(UDP 기반) |
| 3 네트워크 | 인터넷 | IP, ICMP, 라우팅 |
| 2 데이터링크 | 네트워크 접속 | Ethernet, ARP, VLAN |
| 1 물리 | 네트워크 접속 | 케이블, 무선 |
계층별 상세 설명
7. 응용(Application)
-
역할: 사용자가 직접 쓰는 서비스 인터페이스(HTTP/HTTPS, DNS, 메일 등).
-
문제 예시: 404/403, CORS, API 인증 실패.
-
도구:
curl -I,dig, 브라우저 DevTools(네트워크 탭).
6. 표현(Presentation)
-
역할: 암호화(TLS/SSL), 압축, 문자셋/포맷 변환(JSON/XML).
-
문제 예시: 인증서 만료/체인 오류, 암호스위트 미스매치, 한글 깨짐.
-
도구: 브라우저 인증서 뷰어,
openssl s_client,iconv.
5. 세션(Session)
-
역할: 대화(세션) 생성/유지/종료, 재동기화/체크포인트.
-
문제 예시: 로그인 유지 안 됨, 다중 서버 세션 공유 실패, 타임아웃.
-
도구: 세션 스토어 상태, 쿠키 속성(Secure/HttpOnly/SameSite), LB의 세션 지속성.
4. 전송(Transport)
-
역할: TCP/UDP, 포트, 흐름/혼잡/오류 제어, 재전송.
-
문제 예시: 특정 포트 차단, 패킷 유실로 재전송 증가, 지연 급등.
-
도구:
ss -tulpn,tcpdump/wireshark,mtr. -
팁: MSS/MTU/윈도우스케일 불일치가 느린 전송의 주범!
3. 네트워크(Network)
-
역할: IP 주소, 라우팅, 경로 선택, 단편화.
-
문제 예시: 잘못된 게이트웨이/서브넷, 라우팅 루프, Path MTU 문제.
-
도구:
ip addr,ip route,ping,traceroute,ipcalc.
2. 데이터링크(Data Link)
-
역할: MAC 주소, 프레이밍, 스위칭, 오류검출(FCS). VLAN/STP/LACP.
-
문제 예시: ARP 충돌/스푸핑, VLAN 태깅 오류, 포트 보안 차단.
-
도구:
ip neigh, 스위치 설정,ethtool, 포트 미러링.
1. 물리(Physical)
-
역할: 케이블/신호/전원/속도(10M/100M/1G/10G/40G).
-
문제 예시: 케이블 불량/길이, 링크 다운, 듀플렉스 미스매치.
-
도구: 케이블 테스터, NIC 링크 LED,
ethtool.
상세 프로토콜 표
| OSI | 핵심 역할 | PDU | 대표 장비/기술 | 주요 프로토콜/기술 | 대표 포트/포맷 | 보안 포인트 |
|---|---|---|---|---|---|---|
| 7 응용 | 앱 서비스 | Data | 프록시, L7 LB, WAF | HTTP/HTTPS, DNS, SMTP/IMAP/POP3, FTP/SFTP, DHCP, SNMP, NTP, MQTT/AMQP, WebSocket | 80/443, 25/587/465, 53, 123, 161/162 | 입력검증, 인증/인가, 레이트리밋, WAF 룰 |
| 6 표현 | 포맷/암호화/압축 | Data | TLS 종료, CDN | TLS/SSL, JSON/XML, MIME, Base64, JPEG/PNG/WebP | TLS 버전/스위트 | 인증서 체인, HSTS, 약한 스위트 비활성 |
| 5 세션 | 세션 생성/유지 | Data | LB(세션 지속성), 세션 스토어 | RPC, NetBIOS, gRPC(응용 혼재) | 쿠키/JWT | 세션 고정 방지, 타임아웃 |
| 4 전송 | TCP/UDP | Segment | L4 스위치/LB | TCP/UDP, SCTP, QUIC | 22, 80, 443 등 | 포트 필터링, SYN 보호 |
| 3 네트워크 | IP/라우팅 | Packet | 라우터, L3 스위치 | IPv4/IPv6, ICMP, OSPF, BGP, RIP, GRE, IPsec | (프로토콜 번호) | 서브넷팅, 라우팅 ACL, VPN/IPsec |
| 2 링크 | MAC/프레이밍 | Frame | 스위치, NIC | Ethernet(802.3), ARP*, 802.1Q(VLAN), STP/RSTP, LACP, PPP, Wi-Fi | MAC, VLAN ID | 포트보안, ARP 보호, STP 가드 |
| 1 물리 | 매체/신호 | Bit | 케이블/허브/광모듈 | UTP/STP, 광(SM/MM), 동축, 무선, SFP | Cat5e/6/6a, 10GBASE-SR | 링크 품질, 전원/접지 |
* ARP는 2~3계층 경계 개념(실무·시험에서 모두 등장)
실무용 트러블슈팅 플레이북
Top→Down(응용부터)
-
URL/상태코드/헤더(7) → 2) TLS/인증서(6) → 3) 포트/세션(4·5) → 4) IP/라우팅(3) → 5) ARP/VLAN(2) → 6) 케이블/전원(1)
Bottom→Up(물리부터)
-
링크(속도/듀플렉스/에러) → 2) VLAN/스위칭 → 3) 게이트웨이/라우팅 → 4) 포트/방화벽 → 5) TLS/세션 → 6) 앱 로직
증상별 빠른 힌트
-
DNS는 되는데 접속 불가 → L4 포트/방화벽/LB 정책
-
특정 리소스만 실패 → CDN/캐시, CORS(7), 경로 재작성
-
느린 다운로드 → MSS/MTU/윈도우스케일(4), 혼잡제어
-
VLAN 간 통신 불가 → 인터-VLAN 라우팅(3), 트렁크/태깅(2)
보안 체크리스트(계층별)
-
7 응용: 입력검증, 인증/인가, CSRF/XSS, 레이트리밋, 로그/알림
-
6 표현: 최신 TLS, 강한 스위트, HSTS, 인증서 자동갱신
-
5 세션: Secure/HttpOnly/SameSite, 세션고정 방지, 짧은 TTL
-
4 전송: 불필요 포트 차단, SYN 보호, 재전송 모니터링
-
3 네트워크: 서브넷 분리, 라우팅 ACL, VPN/IPsec
-
2 링크: ARP 보호(DAI), 포트보안, STP 가드
-
1 물리: 장비 잠금/출입통제, 포트 봉인, 케이블 관리
패킷 캡처·명령어 치트시트
# (L7) HTTP 헤더만
curl -I https://example.com
# (L6) TLS 체인·스위트
openssl s_client -connect host:443 -servername host
# (L4) 포트/리스닝
ss -tulpn | column -t
# (L3) 라우팅/게이트웨이
ip addr; ip route; traceroute 1.1.1.1
# (L2) ARP/이웃 테이블
ip neigh
# (pcap) HTTPS 트래픽 캡처
sudo tcpdump -i any 'tcp port 443' -nn -c 100 -w capture.pcap
FAQ와 오해 바로잡기
-
HTTPS는 어느 계층? — 응용(HTTP) + 표현(TLS)이 결합되어 동작.
-
ARP는 2계층인가 3계층인가? — 구현은 2계층 프레임, 기능은 IP↔MAC 매핑(경계 개념).
-
스위치는 2계층만? — 기본은 2계층, L3/L4 기능 포함 장비도 많음.
퀴즈/연습문제
객관식 (12문항)
-
TLS 종료(TLS termination)가 주로 동작하는 계층은?
A. 7 B. 6 C. 4 D. 2 -
연결지향·혼잡제어 제공 프로토콜은?
A. UDP B. TCP C. ICMP D. IP -
서로 다른 서브넷 통신 불가 시 가장 먼저 확인할 항목은?
A. 세션 쿠키 B. 기본 게이트웨이 C. 파일 권한 D. DNS -
MAC 주소로 프레임 전달하는 장비는? → 스위치
-
DNS는 보통 몇 계층? → 7
-
세션 하이재킹 방어와 가장 관련된 것? → 세션 타임아웃/재생방지
-
ICMP 에코는 어느 계층 기능 보조? → 3
-
동일 VLAN 내 통신 이유? → 스위칭/브로드캐스트 도메인
-
포트번호 개념이 존재하는 계층? → 4
-
SYN Flood 대응 기술? → TCP SYN cookies
-
HTTPS 정확한 설명? → 응용(HTTP)+표현(TLS)
-
라우팅 프로토콜이 아닌 것? → PPPoE
단답형 (10문항)
-
ARP의 역할 한 문장 → IP↔MAC 매핑
-
NAT 목적 두 가지 → 주소 절약, 경계 보안/정책
-
TCP 3-way → SYN → SYN/ACK → ACK
-
MTU와 단편화 관계 → MTU 초과 시 단편화/드롭, Path MTU 불일치로 지연
-
VLAN 장점 2가지 → 도메인 분리, 보안/성능/관리성 향상
-
DNS A/AAAA 의미 → IPv4/IPv6 주소
-
TLS 체인 깨짐 시 사용자 오류 → 인증서 경고
-
UDP가 선호되는 사례 2가지 → 스트리밍/VoIP, 게임
-
LB의 세션 지속성이 필요한 이유 → 상태 유지
-
ICMP 차단 시 ping 증상 → 응답 없음/타임아웃
요약 암기표
7 응용: HTTP/DNS/메일 — 로그·헤더
6 표현: TLS/인코딩/압축 — 인증서·스위트
5 세션: 상태 유지 — 쿠키/JWT, LB 지속성
4 전송: TCP/UDP — 포트, MSS/윈도우
3 네트워크: IP/라우팅 — 게이트웨이
2 링크: MAC/VLAN/ARP — 태깅/스위칭
1 물리: 케이블/전원/속도 — 링크상태
