솔루션

웹 스크래핑 및 데이터 수집용 VPS

Cutter 8 · $34/moCutter 16 · $62/mo
간단한 답변

스크래핑은 CPU가 아닌 메모리에 의존합니다: 헤드리스 Chromium 탭 하나가 대략 300MB를 소모하므로 동시성에 맞춰 계획하세요. 4코어와 8GB면 약 20개의 병렬 브라우저 컨텍스트를 실행합니다. 성공을 결정짓는 것은 IP 다양성과 관할권입니다 — 깨끗한 주소 공간, 여러 개의 IPv4 주소, 그리고 단일 크롤링 속도 불만으로 계정을 종료하지 않는 제공업체를 원합니다.

필요한 것

웹 스크래핑 및 데이터 수집의 사양 최소 요건
리소스실제로 필요한 것
CPU약 20개의 동시 헤드리스 브라우저용 4코어
RAM최소 8GB; 대규모로 JavaScript를 렌더링하면 16GB
磁盘캐시 및 아티팩트용 160GB NVMe
IP패널에서 인스턴스당 추가할 수 있는 추가 IPv4 주소
전송량10TB — 렌더링된 페이지는 보기보다 무겁습니다

추천 요금제

Cutter

Cutter 8

$ 32.3 /month

총 US$96.90 · 5% 할인

vCPU
4 × 전용
RAM
8 GB
저장 공간
160 GB NVMe SSD
전송량
10 TB
IPv4 / IPv6
1 / /64 routed
구성
Cutter

Cutter 16

$ 58.9 /month

총 US$176.70 · 5% 할인

vCPU
6 × 전용
RAM
16 GB
저장 공간
320 GB NVMe SSD
전송량
15 TB
IPv4 / IPv6
1 / /64 routed
구성
Clipper

Clipper 16

$ 87.4 /month

총 US$262.20 · 5% 할인

vCPU
8 × 전용
RAM
16 GB
저장 공간
400 GB NVMe Gen4 SSD
전송량
30 TB
IPv4 / IPv6
1 / /64 routed
구성

추천 위치

이 워크로드에서 가장 중요한 결정은 일반적으로 위치입니다 — 대기 시간이 지배적이거나, 관할권이 중요하기 때문입니다.

이용 이유: OnionVPS

  • 추가 IPv4 주소는 월 $3이며, 사유 양식이 필요 없습니다.
  • 아웃바운드 HTTP를 속도 제한하거나 크롤러가 요청하는 내용을 검사하지 않습니다.
  • 역외 관할권은 추측성 민사 증거 개시 범위 밖에 프로젝트를 유지합니다.
  • 깨끗하고 재사용되지 않은 주소 공간 — 스팸 목록에 한 번도 오른 적 없는 IP로 시작하는 것이 유리합니다.

설정 방법

  1. Cutter 8에 Ubuntu 24.04 배포

    전용 코어 4개와 8GB RAM이 현실적인 시작점입니다.

  2. 헤드리스 브라우저 스택 설치

    번들된 Chromium과 함께 Playwright 또는 Puppeteer를 Docker 안에서 실행하여 깔끔하게 정리합니다.

  3. IP 주소 추가 및 아웃바운드 로테이션

    SO_BINDTODEVICE 또는 아웃바운드 프록시로 각 워커를 서로 다른 소스 주소에 바인딩합니다.

  4. robots.txt 및 속도 제한 준수

    예의 있는 지연은 블랙리스트를 피하고 프로젝트를 지속 가능하게 만듭니다.

  5. 결과를 서버 밖으로 전송

    객체 스토리지 또는 Hold 인스턴스로 스트리밍하면 재구축 비용이 들지 않습니다.

자주 묻는 질문

서버에서 웹 스크래핑이 허용되나요?

예, 합법적으로 접근 가능한 공개 데이터에 대해, 대상 서비스를 저하시키지 않는 속도로 허용합니다. 자격 증명 스터핑, 페이월 또는 인증 우회, 무단 접근을 구성하는 스크래핑은 허용하지 않습니다.

VPS 하나에 IP를 몇 개 추가할 수 있나요?

패널에서 인스턴스당 최대 8개의 추가 IPv4 주소와 라우팅된 IPv6 /64를 추가할 수 있습니다.

스크래핑에 가장 적합한 위치는 어디인가요?

법적 분리를 위해 대상 관할권 밖, 그리고 지연 시간을 위해 대상과 가까운 곳입니다. 유럽 대상에게는 암스테르담, 몰도바, 소피아가 일반적인 절충안입니다.