Jak ominąć Cloudflare

W tym artykule dowiesz się, jak ominąć stronę Cloudflare "Verifying you are human" za pomocą NodeJS i automatyzacji przeglądarki Playwright.

Najpierw krótko wyjaśnijmy, jak działa Cloudflare. Bez Cloudflare administratorzy stron internetowych hostują swoje witryny na serwerze z publicznym adresem IP. Ich domeny są rozwiązywane do tego adresu IP, a Twoja przeglądarka łączy się bezpośrednio z serwerem.

Gdy korzystają z Cloudflare, delegują zarządzanie DNS do Cloudflare, które zaczyna rozwiązywać nazwy domen na własne adresy IP. Na tych adresach IP działają specjalne serwery proxy, które filtrują przychodzące żądania HTTP i HTTPS.

Nowi użytkownicy widzą dobrze znaną stronę z komunikatem: „Verifying you are human. This may take a few seconds.”. Podczas tej weryfikacji może być wymagane rozwiązanie captchy. Wcześniej używano reCAPTCHA, ale obecnie stosowany jest własny system captchy o nazwie Turnstile.

Po pomyślnej weryfikacji captchy przeglądarka otrzymuje unikalny token w ciasteczku o nazwie cf_clearance. Twoja przeglądarka używa tego tokena do żądania stron witryny przez proxy Cloudflare. Jeśli token wygaśnie lub Cloudflare uzna, że zachowuje się on jak bot, zostanie unieważniony i ponownie zobaczysz stronę z captcha.

Nasza metoda pomoże Ci uzyskać ten token za pomocą zautomatyzowanej sesji przeglądarki. Zwróć uwagę, że ta metoda nie ujawnia prawdziwego adresu IP witryny — ta informacja jest znana tylko Cloudflare i administratorom strony. I to dobrze!

Oto jak to zrobić przy użyciu NodeJS i Playwright:

// Install packages
// npx install playwright @antiadmin/anticaptchaofficial
import { chromium } from "playwright";
import ac from "@antiadmin/anticaptchaofficial";

// Specify the target website address
const websiteBehindCloudFlare = 'https://yourwebsite.com';

// Set your Anti-Captcha API key here:
ac.setAPIKey('API_KEY_HERE');
ac.setSoftId(0);

let browser = null;
let page = null;


(async () => {

    // Opening the browser
    try {
        console.log('Opening browser ..');
        browser = await chromium.launch({ headless: false });
        console.log('Creating new page ..');
        page = await browser.newPage();
    } catch (e) {
        console.log("Could not open browser: "+e.toString());
        return;
    }


    let params = null;

    try {

        // Doing several attempts to inject our code
        while (!params) {

            console.log('Navigating to the page')
            await page.goto(websiteBehindCloudFlare);

            console.log('Injecting our proxy code to replace window.turnstile');
            await page.evaluate(() => {
                window.turnstile = new Proxy(window.turnstile, {
                  get(target, prop) {
                    if (prop === "render") {
                      return function (a, b) {
                        const p = {
                          websiteURL: window.location.href,
                          websiteKey: b.sitekey,
                          action: b.action,
                          cData: b.cData,
                          chlPageData: b.chlPageData,
                          userAgent: navigator.userAgent,
                        };

                        // saving params in window.params
                        window.params = p;

                        // assigning callback to a variable
                        window.cfCallback = b.callback

                        // calling original render function
                        return target.render.apply(this, arguments);
                      };
                    }
                    return target[prop];
                  },
                });
            });

          console.log('Getting params');
          params = await page.evaluate(() => {
            return new Promise((resolve) => {
              setTimeout(() => resolve(window.params || null), 5000);
            });
          });

          if (!params) {
            console.log('Retrying..');
            await delay(3000);
          }
        }

        console.log("Extracted Turnstile Params:", params);

        console.log('Solving Turnstile captcha with Anti-Captcha')
        const token = await ac.solveTurnstileProxyless(websiteBehindCloudFlare, params.websiteKey, params.action, params.cData, params.chlPageData);

        // Running Cloudflare's callback function we previously assigned to window.cfCallback
        await page.evaluate((token) => {
            window.cfCallback(token)
        }, token);

        console.log('Waiting for redirects to finish')
        await delay(5000);

        // Get all cookies for current page
        const cookies = await page.context().cookies();
        // Find cf_clearance
        const cf_clearance = cookies.filter(c => c.name === 'cf_clearance');

        // Output cookies
        console.log('Cookies:', cookies);
        console.log('cf_clearance:', cf_clearance);



    } catch (e) {
      console.error('Could not inject proxy code:', e);
    }

    // close browser when needed
    // await browser.close();


})();

function delay(time) {
   return new Promise(function(resolve) {
       setTimeout(resolve, time)
   });
}

Co robi nasz kod:

1. Otwiera okno przeglądarki i przechodzi do strony weryfikacji Cloudflare.
2. Zastępuje funkcję renderowania Turnstile naszą funkcją proxy, która przechwytuje parametry inicjalizacji oraz callback po rozwiązaniu captchy.
3. Wysyła parametry inicjalizacji do API Anti-Captcha. Pracownicy ludzie rozwiązują captchę za Ciebie i zwracają token.
4. Wywołuje wcześniej zapisaną funkcję callback, przekazując jej token Turnstile jako parametr.
5. Cloudflare wewnętrznie weryfikuje ten token, ustawia ciasteczko w przeglądarce i przeładowuje stronę.
6. Z tym cf_clearance przeglądarka pobiera zawartość strony przez proxy Cloudflare.