Как обойти Cloudflare

В этой статье вы узнаете, как обойти страницу Cloudflare "Verifying you are human" в NodeJS с помощью автоматизации браузера Playwright.

Сначала кратко разберёмся, как работает Cloudflare. Без Cloudflare администраторы сайтов размещают свои страницы на сервере с публичным IP-адресом. Их доменные имена разрешаются в этот IP-адрес, и ваш браузер подключается к серверу напрямую.

Когда они используют Cloudflare, они делегируют управление DNS сервису Cloudflare, который начинает разрешать доменные имена в свои собственные IP-адреса. На этих IP-адресах работают специальные прокси-серверы, фильтрующие входящие HTTP и HTTPS-запросы.

Новые посетители видят известную страницу с текстом: "Verifying you are human. This may take a few seconds." Во время этой проверки может потребоваться решение капчи. Ранее использовалась reCAPTCHA, но теперь используется собственная капча Turnstile.

После успешной проверки капчи браузер получает уникальный токен в cookie с именем cf_clearance. Ваш браузер использует этот токен для запроса страниц сайта через прокси Cloudflare. Если срок действия токена истекает или Cloudflare решает, что токен ведёт себя как бот, он аннулируется, и вы снова увидите капчу.

Наш метод поможет вам получить этот токен с помощью автоматизированной сессии браузера. Обратите внимание, что данный способ не раскрывает настоящий IP-адрес сайта — эта информация известна только Cloudflare и администраторам сайта. И это хорошо!

Вот как это сделать на NodeJS и Playwright:

// Install packages
// npx install playwright @antiadmin/anticaptchaofficial
import { chromium } from "playwright";
import ac from "@antiadmin/anticaptchaofficial";

// Specify the target website address
const websiteBehindCloudFlare = 'https://yourwebsite.com';

// Set your Anti-Captcha API key here:
ac.setAPIKey('API_KEY_HERE');
ac.setSoftId(0);

let browser = null;
let page = null;


(async () => {

    // Opening the browser
    try {
        console.log('Opening browser ..');
        browser = await chromium.launch({ headless: false });
        console.log('Creating new page ..');
        page = await browser.newPage();
    } catch (e) {
        console.log("Could not open browser: "+e.toString());
        return;
    }


    let params = null;

    try {

        // Doing several attempts to inject our code
        while (!params) {

            console.log('Navigating to the page')
            await page.goto(websiteBehindCloudFlare);

            console.log('Injecting our proxy code to replace window.turnstile');
            await page.evaluate(() => {
                window.turnstile = new Proxy(window.turnstile, {
                  get(target, prop) {
                    if (prop === "render") {
                      return function (a, b) {
                        const p = {
                          websiteURL: window.location.href,
                          websiteKey: b.sitekey,
                          action: b.action,
                          cData: b.cData,
                          chlPageData: b.chlPageData,
                          userAgent: navigator.userAgent,
                        };

                        // saving params in window.params
                        window.params = p;

                        // assigning callback to a variable
                        window.cfCallback = b.callback

                        // calling original render function
                        return target.render.apply(this, arguments);
                      };
                    }
                    return target[prop];
                  },
                });
            });

          console.log('Getting params');
          params = await page.evaluate(() => {
            return new Promise((resolve) => {
              setTimeout(() => resolve(window.params || null), 5000);
            });
          });

          if (!params) {
            console.log('Retrying..');
            await delay(3000);
          }
        }

        console.log("Extracted Turnstile Params:", params);

        console.log('Solving Turnstile captcha with Anti-Captcha')
        const token = await ac.solveTurnstileProxyless(websiteBehindCloudFlare, params.websiteKey, params.action, params.cData, params.chlPageData);

        // Running Cloudflare's callback function we previously assigned to window.cfCallback
        await page.evaluate((token) => {
            window.cfCallback(token)
        }, token);

        console.log('Waiting for redirects to finish')
        await delay(5000);

        // Get all cookies for current page
        const cookies = await page.context().cookies();
        // Find cf_clearance
        const cf_clearance = cookies.filter(c => c.name === 'cf_clearance');

        // Output cookies
        console.log('Cookies:', cookies);
        console.log('cf_clearance:', cf_clearance);



    } catch (e) {
      console.error('Could not inject proxy code:', e);
    }

    // close browser when needed
    // await browser.close();


})();

function delay(time) {
   return new Promise(function(resolve) {
       setTimeout(resolve, time)
   });
}

Что делает наш код:

1. Открывает окно браузера и переходит на страницу проверки Cloudflare.
2. Заменяет функцию render капчи Turnstile нашей прокси-функцией, в которой мы перехватываем параметры и колбэк завершения капчи.
3. Отправляет параметры инициализации в API Anti-Captcha. Люди-работники решают капчу за вас и возвращают токен.
4. Мы вызываем ранее сохранённый колбэк с токеном Turnstile в качестве параметра.
5. Cloudflare проверяет токен, устанавливает cookie в браузере и перезагружает страницу.
6. С этим cf_clearance браузер загружает содержимое сайта через прокси Cloudflare.