V2Ray DNS 분리 설정

v2rayN DNS 설정 항목을 살펴보고, 중국 도메인은 로컬 DNS로, 해외 도메인은 원격 DNS로 분리 조회하는 방법과 DoH·FakeDNS 선택 기준을 안내합니다.

이 글의 핵심 내용

v2rayN으로 노드에 연결할 수 있고, 이제 DNS 조회 오류를 해결하려는 사용자를 위한 안내입니다. Xray 코어를 기준으로 먼저 쿼리가 코어에 전달되는지 확인한 다음, 중국 도메인과 그 밖의 도메인에 서로 다른 업스트림을 지정합니다. 마지막으로 로그에서 DNS 쿼리와 웹사이트 연결이 각각 어떤 경로를 이용하는지 확인합니다.

먼저 도메인을 어느 계층에서 조회하는지 확인

v2rayN의 DNS를 바꿨는데도 브라우저 결과가 그대로라면, 먼저 업스트림을 바꾸지 마세요. 시스템 프록시는 해당 설정을 따르는 앱에만 프록시 연결을 제공하며, 시스템 전체의 DNS를 가로채지는 않습니다. 브라우저가 자체적으로 보안 DNS를 사용할 수도 있고, 앱이 시스템에서 IP를 받은 뒤 연결을 시작할 수도 있습니다. 반대로 코어가 대상 도메인을 받더라도 도메인 자체를 프록시 아웃바운드로 넘겨 원격에서 조회할 수 있습니다. 아래 규칙에 따라 업스트림을 선택하는 것은 코어가 직접 시작한 내장 DNS 쿼리뿐입니다.

앱의 도메인 요청코어에서 쿼리 시작도메인 규칙 일치 확인업스트림에서 주소 반환

이 흐름은 내장 DNS가 실제로 작동하는 경우에만 해당합니다. 웹사이트 연결이 분리 라우팅된다는 뜻은 아닙니다. DNS 규칙은 'IP를 어디에 요청할지'를 정하고, 라우팅 규칙은 '이 연결을 어떤 아웃바운드로 보낼지'를 정합니다. 도메인을 로컬 DNS로 조회해도 연결은 프록시를 통할 수 있으며, 원격 DoH를 사용해도 웹 트래픽이 프록시를 통한다는 보장은 없습니다.

중국 도메인과 그 밖의 도메인을 분리하는 설정

지정한 도메인의 우선 업스트림으로 로컬 DNS를 설정하고, 일치하는 규칙이 없는 도메인의 기본 후보로 원격 DoH를 지정합니다. 여기서 '중국 도메인'은 규칙 세트에 포함된 도메인을 뜻하며, IP를 조회한 뒤 IP의 소재지를 기준으로 거꾸로 판단하는 것이 아닙니다. 사내망, 라우터 관리 페이지 또는 현재 네트워크에서만 조회되는 호스트 이름은 지역 규칙이 자동으로 처리하기를 기대하지 말고 도메인 일치 규칙을 명시적으로 추가하세요.

로컬 조회

업스트림
localhost
도메인 일치 규칙
geosite:cn 및 필요에 따라 추가한 내부망 도메인
일반 대체 업스트림
skipFallback: true

시스템 리졸버를 사용합니다. 현재 네트워크에서 필요한 로컬 도메인을 시스템이 실제로 조회할 수 있는지 먼저 확인하세요.

그 밖의 도메인 조회

업스트림
https://1.1.1.1/dns-query
도메인 일치 규칙
domains를 지정하지 않고, 규칙에 일치하지 않는 경우의 후보로 사용
연결 경로
코어의 라우팅 설정에 따라 결정되며, 주소 접두사만으로는 판단할 수 없습니다.

먼저 DoH 엔드포인트에 연결할 수 있는지 확인한 다음, 반환된 주소가 예상과 일치하는지 살펴보세요.

아래는 Xray 전체 설정 중 dns 부분이며, 바로 실행할 수 있는 전체 설정 파일이 아닙니다. 사용자 지정 편집 창이 DNS 객체만 받는다면 바깥쪽 dns 키에 해당하는 객체를 입력하세요. 코어 설정 전체를 편집한다면 최상위 항목에 병합합니다. 이 내용으로 기존 인바운드, 아웃바운드 또는 라우팅 설정을 덮어쓰지 마세요.

{
  "dns": {
    "disableFallbackIfMatch": true,
    "servers": [
      {
        "address": "localhost",
        "domains": ["geosite:cn", "domain:home.arpa"],
        "skipFallback": true
      },
      {
        "address": "https://1.1.1.1/dns-query"
      }
    ]
  }
}

skipFallback은 로컬 업스트림을 일반 대체 후보에서 제외하지만, 명시적으로 일치하는 도메인을 처리하는 기능에는 영향을 주지 않습니다. disableFallbackIfMatch는 도메인 규칙과 일치하는 업스트림이 있으면 일반 대체 업스트림을 추가하지 않도록 합니다. 이 예시에서는 중국 도메인의 조회가 실패해도 원격 DoH로 자동 전환되지 않습니다. 일치하는 내부망 도메인을 공용 리졸버에 보내지 않는 데에도 도움이 됩니다.

DoH와 FakeDNS 중 무엇을 선택할까?

DoH는 HTTPS를 통해 리졸버에 DNS 쿼리를 보내는 방식입니다. 전송 구간에서 평문 쿼리가 변조될 가능성을 줄여 주지만, 앱에 잘못된 결과가 이미 캐시된 경우 이를 바로잡지는 못하며 리졸버의 응답이 항상 정확하다고 보장하지도 않습니다. 예시에서는 IP 주소 형식의 DoH 엔드포인트를 사용해 리졸버 호스트 이름을 다시 조회해야 하는 과정을 생략합니다. HTTPS 인증서는 계속 검증해야 하며, 핸드셰이크 오류를 해결하기 위해 인증서 검증을 끄지 마세요.

53
일반 DNS에서 흔히 사용하는 포트로 UDP와 TCP를 지원합니다.
443
HTTPS 기본 포트이며, 예시의 DoH 주소도 이 포트를 사용합니다.

FakeDNS는 암호화된 DNS 조회 기능이 아닙니다. 코어가 먼저 도메인에 가상 IP를 할당하고, 앱이 해당 주소로 연결하면 매핑을 통해 원래 도메인을 찾습니다. 앱 트래픽을 가로챈 뒤 대상 IP만 남아 라우팅을 위해 도메인을 복원해야 하는 경우에 사용할 수 있습니다. 단, DNS 쿼리와 가상 주소에 대한 앱의 후속 연결이 모두 매핑을 처리하는 코어에 전달되어야 합니다. 그렇지 않으면 앱이 받은 주소를 정상적으로 사용할 수 없습니다.

먼저 실제 DNS 조회를 확인하고, 그다음 가상 주소를 검토하세요.

특정 도메인의 응답만 잘못된 경우라면 FakeDNS를 끈 상태에서 먼저 DoH를 확인하세요. TUN이 트래픽을 가로채는지 확인했고, 로그에도 라우팅에 필요한 도메인을 코어가 받지 못한 것으로 나타날 때만 FakeDNS를 별도로 테스트합니다. 다른 컴퓨터에서 가상 주소에 접속되는지로 작동 여부를 판단하지 마세요.

저장 후 확인 및 설정 복구

시스템 조회 결과, 코어 DNS 로그, 연결 아웃바운드의 세 단계로 문제를 확인하세요. 테스트에는 로컬 규칙과 확실히 일치하는 도메인 하나와 일치하지 않는 공개 도메인 하나를 준비합니다. 두 테스트는 가능한 한 같은 브라우저 설정과 노드로 진행하세요. 웹페이지가 열리는지만 볼 것이 아니라 업스트림, 응답 상태, 아웃바운드를 비교해야 합니다.

  1. Windows PowerShell에서 아래 두 명령을 실행하고 시스템이 반환한 IPv4 및 IPv6 결과를 기록합니다. 각각 A 및 AAAA 레코드를 조회하는 명령이며, 시스템 조회 경로만 확인할 수 있습니다. 이 결과만으로 v2rayN이 원격 DoH를 사용한다고 증명할 수는 없습니다. 특정 사이트에 AAAA 레코드가 없더라도 조회 실패를 뜻하지는 않습니다.
  2. 설정을 저장하고 코어를 다시 불러온 다음, 앞서 정한 브라우저에서 테스트 도메인에 접속합니다. 로그에서 도메인을 찾아 코어 DNS 쿼리가 기록되었는지 확인하세요. 기록이 없다면 먼저 로그 수준을 확인하고, 브라우저가 자체적으로 조회하거나 캐시를 사용했는지, 또는 원격에서 도메인을 조회했는지 살펴봅니다.
  3. 로그에 조회 성공이 표시되는데도 페이지가 로드되지 않는다면 코어가 선택한 연결 아웃바운드와 연결 오류를 추가로 확인하세요. 리졸버마다 다른 CDN 주소를 반환할 수 있으므로 응답이 서로 다르다는 이유만으로 DNS 오염이라고 판단할 수는 없습니다.
  4. 변경 후 코어가 시작되지 않거나 두 테스트 도메인 모두 시간 초과가 발생하면 먼저 기존 DNS 설정을 복구하고 코어를 다시 불러오세요. 이번에 라우팅도 변경했다면 해당 라우팅 규칙도 되돌립니다. 네트워크가 복구된 것을 확인한 뒤 변경 사항을 한 번에 하나씩 다시 적용하세요.
Resolve-DnsName -Name example.com -Type A -DnsOnly -NoHostsFile
Resolve-DnsName -Name example.com -Type AAAA -DnsOnly -NoHostsFile

자주 발생하는 DNS 조회 문제

중국 도메인 규칙을 추가했는데도 내부망 호스트에 접속할 수 없는 이유는?

먼저 시스템 리졸버로 내부망 호스트의 전체 도메인 이름을 조회하세요. 검색 접미사에 의존하는 짧은 호스트 이름은 사용하지 않는 것이 좋습니다. 시스템에서는 조회되는데 코어가 로컬 업스트림을 사용하지 않는다면 도메인이 full: 또는 domain: 규칙과 일치하는지 확인하세요. 올바른 주소를 받았는데도 연결되지 않는다면 내부망 연결의 아웃바운드 규칙을 확인합니다.

원격 DoH가 계속 시간 초과되면 주소부터 바꿔야 할까?

먼저 코어에서 리졸버까지의 연결을 확인하세요. 443 포트에 연결하지 못하는 것인지, 연결은 됐지만 TLS 핸드셰이크가 실패하는 것인지 구분해야 합니다. 전자라면 아웃바운드와 노드의 정상 작동 여부를 먼저 확인하고, 후자라면 시스템 시간, 엔드포인트 주소, 인증서 오류를 확인하세요. 오류 유형에 따라 점검 방법이 다릅니다.

저장했는데도 예전 IP가 반환되는 이유는?

이전 연결을 재사용하지 않도록 오래된 페이지를 닫고 브라우저를 다시 시작하세요. Windows 시스템 리졸버를 통해 조회하는 것이 확인되면 ipconfig /flushdns를 실행한 뒤 다시 시도할 수 있습니다. 이 명령은 시스템 캐시만 지우며 브라우저나 코어 자체의 캐시는 삭제하지 않습니다. 마지막으로 이전에 방문하지 않은 다른 도메인으로 비교해 보세요.

FakeDNS를 껐는데도 앱이 가상 주소에 계속 접속하는 이유는?

코어가 다시 불러와졌는지, TUN이 이전 가로채기 설정을 계속 사용하는지 확인하세요. 그런 다음 해당 앱을 완전히 종료하고 다시 실행해 연결과 DNS 조회를 새로 시작하게 합니다. 앱이 실제 주소를 받은 것을 확인한 뒤 테스트하세요. 이전 가상 주소를 정적 매핑에 넣지 마세요.

v2rayN 다운로드