V2Ray 시스템 프록시 설정 가이드: 전역·중국 본토 우회·규칙 기반 모드 비교

1. 시스템 프록시와 트래픽 분할: 두 설정의 차이

“전역 모드를 선택했는데 왜 일부 앱은 여전히 직접 연결될까요?” 보통 노드 프로토콜 문제가 아니라 연결이 커널에 전달되지 않은 것이 원인입니다. v2rayN은 설정을 관리하고 커널을 실행하며 시스템 프록시를 제어하는 그래픽 클라이언트입니다. V2Ray 또는 Xray 커널은 로컬 연결을 받아 라우팅을 판단하고 외부로 연결합니다. 구독에 포함된 VMess, VLESS 등의 연결 설정은 원격 서버에 연결하는 방식을 설명할 뿐, 시스템의 모든 앱이 자동으로 해당 설정을 사용한다는 뜻은 아닙니다.

예를 들어 브라우저가 시스템 프록시를 따르면 요청이 로컬 진입점으로 전달되고, 커널은 도메인, 대상 IP 또는 진입점 태그에 따라 출구를 선택합니다. 반면 자체 네트워크 방식을 사용해 시스템 프록시를 무시하는 앱은 인터넷에 직접 연결될 수 있습니다. 이 경우 전역 모드와 중국 본토 우회 모드를 번갈아 선택해도 해당 앱의 진입 방식은 달라지지 않습니다.

2. 전역·중국 본토 우회·규칙 기반: 세 가지 방식 비교

모드 이름은 클라이언트 화면과 라우팅 템플릿에 따라 다를 수 있습니다. ‘전역’과 ‘중국 본토 우회’는 미리 설정된 옵션에서 자주 볼 수 있습니다. 여기서 ‘규칙 기반’은 사용자 지정 규칙을 하나씩 적용하는 방식을 뜻하며, 모든 클라이언트에 같은 이름의 버튼이 있는 것은 아닙니다. 모드 이름뿐 아니라 실제 규칙 순서, 리소스 파일, 기본 출구도 확인해야 합니다.

전역 모드가 반드시 더 빠른 것은 아니며 노드의 대역폭이나 네트워크 경로를 자동으로 개선하지도 않습니다. 중국 본토 서비스의 트래픽이 원격 서버를 거쳐 돌아오면 연결 지연이 늘거나 서비스에서 해외 로그인으로 감지될 수 있습니다. 중국 본토 우회도 지리적 위치를 완벽하게 판별하지는 못합니다. 한 도메인이 여러 지역의 CDN을 사용할 수 있고, 도메인 분류와 DNS 조회로 얻은 IP의 분류가 다를 수도 있습니다.

3. v2rayN 일상 설정: 먼저 진입점을 켠 다음 라우팅 선택

아래 설명은 v2rayN에서 흔히 볼 수 있는 중국어 인터페이스를 기준으로 합니다. 데스크톱 버전이나 클래식 인터페이스에서는 메뉴 위치가 다를 수 있으니 메뉴 이름으로 찾아보세요. 같은 이름의 라우팅 옵션이 없다면 라우팅 설정에서 규칙을 확인하고, 비슷해 보이는 이름의 옵션으로 대신하지 마세요. 처음 테스트할 때는 여러 변수를 동시에 바꾸지 않도록 TUN을 함께 사용하지 않는 것이 좋습니다.

1. 현재 설정 확인

   메인 화면의 서버 목록에서 가져온 설정을 선택하고 마우스 오른쪽 버튼을 눌러 ‘활성 서버로 설정’을 선택합니다. 구독 업데이트에 성공했다는 것은 설정을 가져왔다는 뜻일 뿐, 원격 연결까지 성공했다는 의미는 아닙니다. 먼저 커널이 정상적으로 시작되는지, 로그에 즉시 종료되는 오류가 없는지 확인하세요.

2. 시스템 프록시 켜기

   메인 화면 하단에서 ‘시스템 프록시’ → ‘시스템 프록시 자동 설정’을 선택합니다. 그런 다음 시스템에 등록된 프록시 주소와 클라이언트 진입점이 일치하는지 확인하세요. 예: 127.0.0.1:10808. 예시 포트는 현재 실제 수신 중인 포트로 바꿔야 합니다.

3. 트래픽 분할 모드 선택

   메인 화면 하단의 ‘라우팅’에서 중국 본토 우회에 해당하는 미리 설정된 옵션을 선택합니다. 흔한 이름은 ‘중국 본토 우회’ 또는 ‘중국 본토 우회(Whitelist)’입니다. 사용자 지정 항목만 있다면 중국 본토 도메인과 IP의 직접 연결 규칙, 프록시 기본 출구가 있는지 먼저 확인하세요.

4. 대상별로 확인

   같은 브라우저에서 새 연결을 만들어 평소 이용하는 중국 본토 서비스, 프록시가 필요한 대상, 실제로 사용하는 로컬 네트워크 서비스에 각각 접속합니다. 로그에서 출구를 확인하세요. 브라우저에 페이지가 표시된다는 사실만으로 연결이 프록시를 거쳤다고 볼 수는 없습니다.

5. 설정 저장 및 종료

   정상 작동하는 시스템 프록시, 라우팅, DNS 조합을 기록해 두세요. 사용을 마칠 때는 ‘시스템 프록시’ → ‘시스템 프록시 지우기’를 선택한 뒤 종료합니다. 앱에서 프록시를 직접 설정했다면 해당 앱에서도 별도로 원래 설정으로 되돌려야 합니다. 그렇지 않으면 종료된 로컬 포트에 계속 연결하려고 할 수 있습니다.

Android에서는 v2rayNG가 Xray 커널과, v2flyNG가 V2Fly 커널과 함께 사용됩니다. 일반적으로 시스템 VPN 권한을 허용해 트래픽을 클라이언트로 전달하며, 데스크톱에서 시스템 HTTP 프록시를 변경하는 방식과는 다릅니다. 앱이 트래픽 가로채기 대상에 포함되어 있는지 확인한 뒤 라우팅 규칙을 살펴보세요. 특히 앱별 제외 설정을 확인해야 합니다. 데스크톱의 ‘시스템 프록시 자동 설정’ 절차를 그대로 적용하지 마세요.

4. 규칙 순서와 DNS: 트래픽 분할 결과가 달라지는 이유

V2Ray와 Xray의 일반적인 라우팅 필드는 규칙 순서대로 판단하며, 먼저 일치한 규칙이 출구를 결정합니다. 따라서 더 구체적인 서비스별 예외는 대체로 범위가 넓은 분류보다 앞에 두어야 합니다. 특정 중국 본토 도메인을 프록시로 보내고 싶은데 중국 본토 직접 연결 규칙 뒤에 넣으면, 앞의 규칙이 먼저 일치해 예외 규칙이 적용되지 않을 수 있습니다.

• 먼저 구체적인 예외를 확인하세요: 프록시로 연결할 특정 도메인은 해당 도메인을 포함할 수 있는 직접 연결 분류보다 앞에 두세요. 직접 연결 예외도 같은 원칙을 따릅니다.
• 다음으로 규칙 리소스를 확인하세요: geosite:cn은 해당 도메인 리소스가 필요하며, geoip:cn과 geoip:private는 해당 IP 리소스가 필요합니다. 리소스가 없으면 분류가 부정확해지는 데 그치지 않고 설정을 불러오지 못할 수도 있습니다.
• 마지막 출구를 명확히 하세요: ‘일치하는 규칙 없음’이 ‘자동으로 직접 연결’을 뜻하지는 않습니다. 커널은 보통 기본 출구를 사용하며, 클라이언트가 명시적인 기본 규칙을 생성하기도 합니다. 실제 설정을 확인해야 합니다.
• DNS 경로를 구분하세요: 앱이 직접 도메인을 조회한 뒤 대상 IP를 프록시에 전달할 수도 있고, 도메인 자체를 진입점에 전달할 수도 있습니다. 커널이 받는 정보에 따라 도메인 조건으로 일치시킬 수 있는 범위가 달라집니다.

예를 들어 앱이 도메인을 로컬에서 먼저 조회한 다음 SOCKS로 대상 IP에 연결하면, 커널이 원래 도메인을 기준으로 트래픽을 분할한다고 단정할 수 없습니다. 일부 트래픽에서는 스니핑으로 도메인 정보를 보완할 수 있지만 모든 프로토콜을 식별할 수 있는 것은 아닙니다. 브라우저의 보안 DNS, 시스템 DNS 조회, 커널 DNS도 서로 다른 설정입니다. 하나를 변경한 뒤에는 로그와 실제 요청을 확인해 효과를 판단하세요.

5. 모드 전환으로 확인하기: 한 번에 하나만 변경

‘중국 본토 우회에서는 열리지 않지만 전역에서는 열린다’면 같은 활성 설정, 앱, 대상을 유지하고 라우팅 모드만 바꿔 보세요. 전역 모드에서 성공한다면 원래 모드에서 해당 대상이 직접 연결되었는지, 잘못된 분류 규칙에 걸렸는지, 직접 연결과 프록시의 DNS 조회 결과가 달랐는지 먼저 확인할 수 있습니다. 이는 원인을 좁히는 방법일 뿐, 한 번 성공했다고 규칙 문제라고 단정할 수는 없습니다.

1. 기준 상태 기록: 현재 시스템 프록시 상태, 활성 설정, 라우팅 이름을 기록하고 로그에 포트 바인딩 오류가 없는지 확인합니다.
2. 새 연결 만들기: 대상 페이지를 닫았다가 다시 엽니다. 필요한 경우 테스트 앱을 다시 시작하세요. 이미 연결된 장시간 세션은 모드를 바꿔도 출구가 바로 바뀌지 않을 수 있습니다.
3. 출구 비교: 로그에 출구 태그가 표시되면 직접 연결과 프록시를 구분해 확인하세요. 태그 이름은 설정에 따라 다르므로 특정 단어 하나만으로 판단하면 안 됩니다.
4. 원래 모드로 돌아가 예외 추가: 기존 라우팅 모드로 돌아간 뒤, 잘못된 출구를 사용한 것으로 확인된 도메인에 더 구체적인 규칙을 추가하고 새 연결로 다시 테스트합니다.

두 모드에서 모두 실패한다면 진입점과 원격 연결부터 점검하세요. 로그의 connection refused는 오류 대상 주소와 함께 판단해야 합니다. 대상이 127.0.0.1:10808이라면 로컬 프로그램이 포트를 수신하지 않거나 포트를 잘못 입력했을 가능성이 큽니다. 대상이 원격 주소라면 해당 원격 서비스와 네트워크 연결을 확인하세요. 오류 문구 하나만 보고 포트, 프로토콜, DNS, 라우팅을 한꺼번에 변경하지 마세요.

6. 시스템 프록시와 모드 전환 관련 자주 묻는 질문