Linux on Yarang's Tech Lair

하드웨어의 한계를 넘어: 마이크로벤치마킹으로 디스크 물리적 구조 파헤치기

Mon, 04 May 2026 20:49:16 +0900

하드웨어의 한계를 넘어: 마이크로벤치마킹으로 디스크 물리적 구조 파헤치기

최근 Hacker News를 통해 흥미로운 2019년도의 글이 다시 조명을 받았습니다: “Discovering hard disk physical geometry through microbenchmarking"입니다. 고성능 SSD가 대중화된 시대에 회전형 매체(HDD)의 물리적 구조를 파악하는 일이 왜 중요할까요?

사실 이 글의 핵심은 단순한 하드디스크의 구조를 넘어, ‘관찰 가능한 성능(Observable Performance)‘을 통해 하드웨어의 내부 동작을 추론하는 방법론에 있습니다. 이는 최신 NVMe SSD의 ZNS(Zoned Namespace) 스토리지나 최근 논의되고 있는 LoRa 기반의 BYOMesh 같은 저전력 네트워크 장비의 성능 특성을 분석할 때도 적용 가능한 원리입니다.

이번 포스트에서는 직접 간단한 코드를 작성하여, 하드웨어의 ‘숨겨진 신체 측정(Physical Geometry)‘을 알아내는 마이크로벤치마킹 기법을 실습해 보겠습니다.

왜 마이크로벤치마킹인가?

소프트웨어 개발자는 OS와 하드웨어 사이의 추상화 계층 덕분에 복잡한 하드웨어 세부 사항을 몰라도 개발할 수 있습니다. 하지만 고성능을 요구하는 시스템, 예를 들어 고주문량을 처리하는 전자상거래 플랫폼이나 대용량 데이터를 처리하는 분석 시스템을 개발할 때는 이야기가 달라집니다.

운영체제가 제공하는 fstat나 lsblk 명령어만으로는 실제 섹터 배치나 캐시 메모리 크기, 회전 지연 시간 등을 정확히 알기 어렵습니다. 이때 직접 읽기/쓰기 작업을 수행하며 그 소요 시간을 측정하는 마이크로벤치마킹이 가장 강력한 도구가 됩니다.

벤치마킹의 기본 원리

하드디스크(HDD)의 데이터 접근 속도는 다음 세 가지 요소로 결정됩니다.

탐색 시간(Seek Time): 헤드가 해당 트랙으로 이동하는 시간 (물리적 이동)
회전 지연(Rotational Latency): 데이터가 있는 섹터가 헤드 아래로 회전해 올 때까지의 시간
전송 시간(Transfer Time): 실제 데이터를 읽는 시간

우리는 이 중 **‘탐색 시간’**에 집중할 것입니다. 헤드가 이동해야 하는 거리가 멀수록 시간이 오래 걸리므로, 인접한 섹터를 읽을 때와 멀리 떨어진 섹터를 읽을 때의 시간 차이를 측정하면 디스크의 물리적 배치(트랙과 실린더 구조)를 유추할 수 있습니다.

실습: Python으로 디스크 구조 탐색

이제 파이썬을 사용하여 랜덤 액세스와 순차 액세스의 성능 차이를 측정해 보겠습니다. 이 코드는 디스크의 ‘외곽(Outer Zone)‘과 ‘내곽(Innter Zone)’ 사이의 이동 비용을 측정하는 간단한 예제입니다.

주의: 이 스크립트는 실제 디스크 장치(/dev/sdX 등)에 접근하므로, 반드시 데이터가 없는 테스트용 디스크나 VM 환경에서 진행하세요. 잘못된 장치에 접근하면 데이터가 손상될 수 있습니다.

import os
import time
import sys

# 테스트할 디스크 경로 (VM이나 별도 테스트 디스크로 변경 필요)
# 예: Linux의 경우 '/dev/sdb', macOS의 경우 '/dev/rdisk2'
DISK_PATH = '/dev/sdb' 
# 읽기 블록 크기 (4KB)
BLOCK_SIZE = 4096 
# 측정 횟수
ITERATIONS = 1000 

def benchmark_random_access(fd, size):
 """랜덤한 위치에 접근할 때의 성능 측정"""
 total_bytes = os.path.getsize(DISK_PATH) if os.path.exists(DISK_PATH) else size
 
 start_time = time.time()
 for _ in range(ITERATIONS):
 # 랜덤한 오프셋 계산 (블록 단위 정렬 유지)
 offset = os.urandom(8)
 offset_int = int.from_bytes(offset, 'big') % (total_bytes - BLOCK_SIZE)
 aligned_offset = (offset_int // BLOCK_SIZE) * BLOCK_SIZE
 
 os.lseek(fd, aligned_offset, os.SEEK_SET)
 os.read(fd, BLOCK_SIZE)
 
 end_time = time.time()
 return (end_time - start_time) * 1000 # ms 변환

def benchmark_sequential_access(fd):
 """순차적인 위치에 접근할 때의 성능 측정"""
 start_time = time.time()
 for _ in range(ITERATIONS):
 os.read(fd, BLOCK_SIZE)
 
 end_time = time.time()
 return (end_time - start_time) * 1000 # ms 변환

if __name__ == "__main__":
 if not os.path.exists(DISK_PATH):
 print(f"Error: {DISK_PATH} not found. Please update DISK_PATH.")
 sys.exit(1)

 print(f"Benchmarking {DISK_PATH}...")
 
 try:
 # 파일을 열되 버퍼링을 최소화하기 위해 O_DIRECT 플래그 사용 권장 (Linux)
 # 여기서는 호환성을 위해 기본 모드로 진행하나 실제 하드웨어 접근 시에는 O_DIRECT가 필요함.
 fd = os.open(DISK_PATH, os.O_RDONLY | os.O_SYNC)

 print("1. Measuring Random Access (Simulating Head Seek)..." )
 # 랜덤 액세스는 헤드가 계속 움직이므로 느림
 random_time = benchmark_random_access(fd, 1024*1024*1024) # 1GB 가정
 print(f" Random Access Time: {random_time:.2f} ms")

 print("2. Measuring Sequential Access (Minimal Head Movement)...")
 # 파일 포인터를 다시 처음으로
 os.lseek(fd, 0, os.SEEK_SET)
 sequential_time = benchmark_sequential_access(fd)
 print(f" Sequential Access Time: {sequential_time:.2f} ms")

 print("\n--- Analysis ---")
 print(f"Performance Gap (Seek Cost): {random_time - sequential_time:.2f} ms")
 print("The gap represents the time spent moving the disk head physically.")

 os.close(fd)
 except PermissionError:
 print("Error: Permission denied. Try running with 'sudo'.")
 except Exception as e:
 print(f"Error: {e}")

결과 해석 및 활용

위 코드를 실행하면 랜덤 액세스가 순차 액세스보다 훨씬 느린 것을 확인할 수 있습니다. 이 ‘차이(Gap)‘가 바로 물리적 탐색(Seek)과 회전(Rotation)에 소요된 시간입니다.

만약 이 측정을 디스크의 시작 부분(외곽 트랙)과 끝 부분(내곽 트랙)에서 나누어 진행한다면, 디스크의 Zone Bit Recording(ZBR) 구조 때문에 외곽이 내곽보다 전송 속도가 빠르다는 것을 발견할 수도 있습니다. 과거에는 이를 이용해 데이터를 디스크의 앞부분에 배치하는 튜닝을 하기도 했습니다.

현대적 의의: SSD와 클라우드 시대에서의 교훈

비록 회전판 디스크가 예전 기술이 되어가고 있지만, **‘성능 측정을 통해 시스템의 내부를 이해한다’**는 원칙은 변하지 않습니다.

SSD의 내부 병렬성: SSD는 내부적으로 여러 채널과 플레인(Plane)을 병렬로 운용합니다. 우리가 멀티스레드로 순차 읽기를 유도했을 때 성능이 급격히 상승한다면, 이는 내부 컨트롤러의 병렬 처리 능력을 추론할 수 있는 신호가 됩니다.
Cloud Storage I/O: AWS나 Azure의 디스크 I/O 성능이 ‘Burst’ 후에 ‘Baseline’으로 떨어지는 현상을 마이크로벤치마킹으로 포착하여 비용 효율적인 아키텍처를 설계할 수 있습니다.

결론

Hacker News에서 다시 주목받은 ‘디스크 물리적 구조 발견’ 글은 우리에게 단순한 호기심을 넘어, 시스템의 성능 병목을 진단하는 가장 기본적인 자세를 일깨워 줍니다.

막연한 느낌으로 “디스크가 느린가 보다"라고 단정 짓기보다, 직접 간단한 스크립트를 돌려보며 **“어디서 왜 느린지”**를 데이터로 증명해 보는 것. 이것이 진정한 성능 튜닝의 첫걸음입니다.

오늘 포스트에서 작성해 본 벤치마킹 코드를 여러분의 개발 환경에서 한번 돌려보시기 바랍니다. 예상치 못한 하드웨어의 특성을 발견하고, 그것이 시스템 성능에 미치는 영향을 직접 관찰하는 것은 매우 흥미로운 경험이 될 것입니다.

참고 자료

블로그 AI 자동 댓글 시스템 구축기 (3/3) — 배포와 트러블슈팅

Sun, 03 May 2026 01:20:00 +0900

개요

1부에서 아키텍처와 구현을, 2부에서 보안 강화를 다뤘습니다. 이번 3부에서는 실제 OCI ARM 서버에 배포하고 겪은 트러블슈팅 과정을 기록합니다.

특히 GITHUB_TOKEN이 로드되지 않는 문제를 4단계에 걸쳐 추적하고 해결한 실제 디버깅 과정을 상세히 공유합니다. “설정했는데 왜 안 되지?“라는 상황에서 어떻게 원인을 좁혀나갔는지가 이 글의 핵심입니다.

인프라 구성

서버 구성

서버	역할	스펙
ec1 (x86)	웹 서버 (nginx, Hugo 블로그)	OCI
arm1 (ARM)	워커 서버 (Flask, Claude Code)	OCI ARM

블로그는 ec1에서 Hugo로 빌드·서빙하고, AI 댓글 워커는 arm1에서 실행합니다. GitHub Webhook은 arm1으로 직접 전달됩니다.

워커 서버 디렉토리 구조

/var/www/auto-comment-worker/ # 애플리케이션
├── scripts/
│ └── auto-comment-worker.py
├── deploy/
│ └── auto-comment-worker.service
├── venv/ # Python 가상환경
└── logs/

/etc/auto-comment-worker/ # 인증 정보
├── github-token # 640, ubuntu:ubuntu
└── credentials/
 └── webhook-secret # 600, ubuntu:ubuntu

/home/ubuntu/.local/bin/claude # Claude Code CLI

systemd 서비스 구성

서비스 파일

[Unit]
Description=Auto Comment Worker for Blog
After=network.target

[Service]
Type=simple
User=ubuntu
WorkingDirectory=/var/www/auto-comment-worker
Environment=PORT=8081
Environment=CLAUDE_CODE_PATH=/home/ubuntu/.local/bin/claude
Environment=BLOG_OWNERS=yarang
Environment=GITHUB_TOKEN_FILE=/etc/auto-comment-worker/github-token
Environment=GITHUB_WEBHOOK_SECRET_FILE=/etc/auto-comment-worker/credentials/webhook-secret
ExecStart=/var/www/auto-comment-worker/venv/bin/python /var/www/auto-comment-worker/scripts/auto-comment-worker.py
Restart=always
RestartSec=10

# Logging
StandardOutput=journal
StandardError=journal
SyslogIdentifier=auto-comment-worker

# Security
NoNewPrivileges=true
PrivateTmp=true
ProtectSystem=strict
ProtectHome=false
ReadWritePaths=/var/www/auto-comment-worker /var/log/auto-comment-worker
ReadOnlyPaths=

# 리소스 제한
MemoryMax=512M
CPUQuota=50%
TasksMax=100

[Install]
WantedBy=multi-user.target

주요 설정 해설

Type=simple: Flask 워커는 포그라운드에서 실행되므로 simple이 적합합니다. forking은 데몬화하는 프로세스에 사용합니다.

User=ubuntu: 전용 서비스 계정을 만들 수도 있지만, Claude Code CLI가 ubuntu 사용자의 홈 디렉토리 설정에 의존하므로 ubuntu로 실행합니다.

ProtectHome=false: 보통은 true로 설정하지만, Claude Code가 ~/.agent_forge_for_zai.json 설정 파일을 필요로 하므로 홈 디렉토리 접근을 허용합니다.

ReadOnlyPaths= (빈 값): 초기에 /etc/auto-comment-worker를 지정했지만, ProtectSystem=strict와 충돌하여 비워두었습니다.

서비스 관리 명령어

# 서비스 파일 복사
sudo cp deploy/auto-comment-worker.service /etc/systemd/system/

# 서비스 등록 및 시작
sudo systemctl daemon-reload
sudo systemctl enable auto-comment-worker
sudo systemctl start auto-comment-worker

# 상태 확인
sudo systemctl status auto-comment-worker

# 로그 확인 (실시간)
sudo journalctl -u auto-comment-worker -f

# 최근 로그 확인
sudo journalctl -u auto-comment-worker --since "10 minutes ago"

nginx 리버스 프록시

Webhook 엔드포인트 설정

server {
 listen 443 ssl;
 server_name your-domain.com;

 # SSL 설정
 ssl_certificate /etc/letsencrypt/live/your-domain.com/fullchain.pem;
 ssl_certificate_key /etc/letsencrypt/live/your-domain.com/privkey.pem;

 # Webhook 프록시
 location /webhook {
 proxy_pass http://localhost:8081;
 proxy_set_header Host $host;
 proxy_set_header X-Real-IP $remote_addr;
 proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
 proxy_set_header X-Forwarded-Proto $scheme;

 # GitHub Webhook 시그니처 헤더 포워딩 (필수!)
 proxy_set_header X-Hub-Signature-256 $http_x_hub_signature_256;

 # 타임아웃 (Claude Code 응답 대기)
 proxy_read_timeout 120s;
 proxy_connect_timeout 10s;
 }

 # Health check
 location /health {
 proxy_pass http://localhost:8081;
 }
}

proxy_read_timeout 120s는 Claude Code CLI가 AI 응답을 생성하는 데 최대 60초가 걸릴 수 있으므로 여유 있게 설정합니다. GitHub Webhook의 기본 타임아웃은 10초이므로, 실제로는 비동기 처리를 고려할 수 있습니다.

배포 과정

수동 배포 (rsync 실패 후)

초기에는 rsync로 배포를 시도했지만, 서버에 대상 디렉토리가 없어 실패했습니다:

rsync: [Receiver] mkdir "/var/www/auto-comment-worker/scripts" failed:
No such file or directory

대안으로 scp 기반 수동 배포를 진행했습니다:

# 1. 서버에 디렉토리 생성
ssh ubuntu@arm1 "sudo mkdir -p /var/www/auto-comment-worker/scripts"
ssh ubuntu@arm1 "sudo chown -R ubuntu:ubuntu /var/www/auto-comment-worker"

# 2. 파일 전송
scp scripts/auto-comment-worker.py ubuntu@arm1:/var/www/auto-comment-worker/scripts/
scp deploy/auto-comment-worker.service ubuntu@arm1:/tmp/

# 3. 서비스 파일 설치
ssh ubuntu@arm1 "sudo cp /tmp/auto-comment-worker.service /etc/systemd/system/"

# 4. Python 가상환경 설정
ssh ubuntu@arm1 "cd /var/www/auto-comment-worker && python3 -m venv venv"
ssh ubuntu@arm1 "cd /var/www/auto-comment-worker && venv/bin/pip install flask flask-limiter marshmallow requests"

# 5. 인증 파일 설정
ssh ubuntu@arm1 "sudo mkdir -p /etc/auto-comment-worker/credentials"
# 토큰 파일은 서버에서 직접 생성 (scp로 전송하지 않음)

# 6. 서비스 시작
ssh ubuntu@arm1 "sudo systemctl daemon-reload && sudo systemctl enable --now auto-comment-worker"

heredoc 변수 확장 함정

설치 스크립트를 heredoc으로 작성할 때 흔한 실수:

# 작은따옴표: 변수가 확장되지 않음!
ssh ubuntu@arm1 << 'ENDSSH'
echo $CREDENTIALS_DIR # 빈 문자열 출력
ENDSSH

# 큰따옴표 없음: 변수가 로컬에서 확장됨
ssh ubuntu@arm1 << ENDSSH
echo $CREDENTIALS_DIR # 로컬 변수값으로 확장
ENDSSH

이 문제를 피하기 위해 스크립트 대신 명령어를 개별 실행하는 방식으로 전환했습니다.

트러블슈팅: GITHUB_TOKEN 로드 실패

이 시스템을 배포하면서 가장 많은 시간을 소비한 문제입니다. 댓글 Webhook이 도착하면 다음 에러가 반복되었습니다:

INFO:__main__:GITHUB_TOKEN configured: False
INFO:__main__:GitHub API response status: 401
ERROR:__main__:Failed to get Discussion GraphQL ID

원인을 추적하는 과정을 단계별로 기록합니다.

1단계: LoadCredential 경로 문제

처음에는 systemd의 LoadCredential 디렉티브를 사용했습니다:

LoadCredential=github-token:/etc/auto-comment-worker/github-token
Environment=GITHUB_TOKEN_FILE=%d/github-token

%d는 credentials 디렉토리 경로로 대체되는 systemd 특수 변수입니다. 하지만 이 변수가 의도대로 해석되지 않아 토큰 파일 경로가 잘못 설정되었습니다.

해결: LoadCredential 대신 절대 경로를 직접 지정했습니다.

Environment=GITHUB_TOKEN_FILE=/etc/auto-comment-worker/github-token

2단계: 파일 소유권 문제

GITHUB_TOKEN configured: False가 여전히 나타났습니다. 파일을 확인해보니:

$ ls -la /etc/auto-comment-worker/github-token
-rw------- 1 root root 93 May 3 01:10 github-token

파일 소유자가 root이고 권한이 600이므로, ubuntu 사용자로 실행되는 서비스는 이 파일을 읽을 수 없습니다.

해결:

sudo chown ubuntu:ubuntu /etc/auto-comment-worker/github-token
sudo chmod 640 /etc/auto-comment-worker/github-token

3단계: ReadOnlyPaths 충돌

소유권을 변경한 후에도 GITHUB_TOKEN configured: False가 계속되었습니다. systemd 서비스 파일에 있던 ReadOnlyPaths 설정이 원인이었습니다:

# 이 설정이 파일 읽기를 차단함
ReadOnlyPaths=/etc/auto-comment-worker

ProtectSystem=strict가 이미 전체 파일시스템을 읽기 전용으로 마운트합니다. 여기에 ReadOnlyPaths를 추가하면 일부 환경에서 마운트 네임스페이스 충돌이 발생할 수 있습니다.

해결: ReadOnlyPaths를 빈 값으로 변경했습니다.

ReadOnlyPaths=

4단계: Python 파일 권한 검증 코드 (근본 원인)

이전 3단계를 모두 해결한 후에도 토큰이 로드되지 않았습니다. 마지막 원인은 Python 코드의 지나치게 엄격한 파일 권한 검증이었습니다:

# 파일 권한 640 → 그룹 읽기 비트(0o040)가 설정됨 → 거부!
if st.st_mode & (stat.S_IRWXO | stat.S_IRWXG):
 raise PermissionError("Token file must be 600 or 400")

2단계에서 chmod 640으로 변경했기 때문에, 그룹 읽기 비트가 설정되어 이 검증에 걸렸습니다. 하지만 에러 메시지가 로그에 나타나지 않아 발견이 늦었습니다 — PermissionError가 모듈 임포트 시점에 발생하여 서비스 시작 자체를 방해했기 때문입니다.

해결: 2부에서 설명한 것처럼 stat.S_IWOTH만 검사하도록 수정했습니다.

디버깅 로그의 중요성

이 문제를 추적하기 위해 추가한 디버깅 로그:

logger.info(f"GITHUB_TOKEN configured: {bool(GITHUB_TOKEN)}")
logger.info(f"GitHub API response status: {response.status_code}")
logger.info(f"GitHub API response body: {response.text[:500]}")

이 로그들이 없었다면 원인을 파악하는 데 훨씬 더 오래 걸렸을 것입니다. 인증 관련 코드에는 항상 토큰 로드 성공/실패 여부와 API 응답 상태를 로깅해야 합니다.

디버깅 흐름 요약

[1] LoadCredential %d 미해석 → 절대 경로로 변경
 ↓ (여전히 실패)
[2] 파일 소유자 root:root → ubuntu:ubuntu로 변경
 ↓ (여전히 실패)
[3] ReadOnlyPaths 충돌 → 제거
 ↓ (여전히 실패)
[4] Python 권한 검증 S_IRWXG → S_IWOTH로 완화
 ↓
 [해결!]

4단계에 걸친 이 디버깅에서 얻은 교훈:

한 번에 하나씩 변경하고 확인: 여러 설정을 동시에 바꾸면 어떤 것이 원인인지 알 수 없음
로그를 믿되, 로그가 없는 곳을 의심: 모듈 로드 시점의 예외는 일반 로그에 안 나타날 수 있음
보안 검증 코드도 버그의 원인: 보안 코드가 정상 동작을 차단하는 경우 — 보안과 운영의 균형

헬스 체크

서비스가 정상 동작하는지 확인하는 헬스 체크 엔드포인트:

@app.route('/health', methods=['GET'])
def health():
 """헬스 체크"""
 return jsonify({'status': 'healthy'})

모니터링 시스템에서 주기적으로 /health를 호출하여 서비스 상태를 확인합니다:

curl -s http://localhost:8081/health
# {"status": "healthy"}

향후 개선 사항

비동기 처리: GitHub Webhook 타임아웃(10초) 내에 응답하기 위해 Celery나 Redis Queue로 AI 응답 생성을 비동기화
재시도 로직: GitHub API 호출 실패 시 지수 백오프 재시도
모니터링 대시보드: Prometheus + Grafana로 응답 시간, 성공률, 에러율 모니터링
자동 배포: GitHub Actions로 코드 변경 시 자동 배포 파이프라인 구축
테스트: Webhook 페이로드 모킹으로 통합 테스트 작성

마무리

3부에 걸쳐 블로그 AI 자동 댓글 시스템의 전체 구축 과정을 기록했습니다:

1부: giscus → GitHub Webhook → Flask → Claude Code → GraphQL의 전체 아키텍처
2부: 파일 기반 인증, HMAC 검증, 입력 sanitization, systemd 보안
3부: 실제 배포, nginx 프록시, 4단계 디버깅 과정

이 시스템의 가장 큰 가치는 블로그 독자와의 소통을 자동화한다는 점입니다. 블로그 운영자가 모든 댓글에 즉시 응답하기 어렵지만, AI 어시스턴트가 1차 응답을 제공하여 독자 경험을 개선할 수 있습니다.

코드 전체는 GitHub 리포지토리에서 확인할 수 있습니다.

이 글은 AgentForge 블로그 자동 댓글 시스템 시리즈의 3부(마지막)입니다.