The OpenNET Project / Index page

[ новости/++ | форум | wiki | теги ]

Подмена параметров браузера для входа в закрытые области новостных сайтов
Для обеспечения индексации поисковыми системами большинство сайтов с платным
новостным контентом предоставляют обходной путь для беспрепятственного входа
поискового бота Google. Бот проверяется по содержимому заголовков Referer и
User-Agent, что позволяет любому желающему просмотреть закрытые области заменив
идентификатор браузера и указав в качестве адреса предыдущей страницы google.com.

Более того, некоторые платные ресурсы на основе значения Referer открывают
полный текст статьи для посетителей пришедших с поисковых систем, но при
попытке прямого обращения, требуют регистрации для просмотра платного контента.
Такое поведение выглядит как дискриминация различных категорий пользователей.

Для автоматизации беспрепятственного доступа к таким ресурсам как Wall Street
Journal предлагается  небольшое дополнение к браузеру Chrome.

Создаём файл manifest.json, перечислив сайты для которых следует притвориться поисковым ботом:

   {
     "name": "Innocuous Chrome Extension",
     "version": "0.1",
     "description": "This is an innocuous chrome extension.",
     "permissions": ["webRequest", "webRequestBlocking",
                  "http://www.ft.com/*",
                  "http://www.wsj.com/*",
                  "https://www.wsj.com/*",
                  "http://www.economist.com/*",
                  "http://www.nytimes.com/*",
                  "https://hbr.org/*",
                  "http://www.newyorker.com/*",
                  "http://www.forbes.com/*",
                  "http://online.barrons.com/*",
                  "http://www.barrons.com/*",
                  "http://www.investingdaily.com/*",
                  "http://realmoney.thestreet.com/*",
                  "http://www.washingtonpost.com/*"
                  ],
     "background": {
       "scripts": ["background.js"]
     },
     "manifest_version": 2
   }

Создаём скрипт background.js:

   var ALLOW_COOKIES = ["nytimes", "ft.com"]

   function changeRefer(details) {
     foundReferer = false;
     foundUA = false

     var reqHeaders = details.requestHeaders.filter(function(header) {
       // block cookies by default
       if (header.name !== "Cookie") {
         return header;
       } 

       allowHeader = ALLOW_COOKIES.map(function(url) {
         if (details.url.includes(url)) {
           return true;
         }
       });
       if (allowHeader.filter(Boolean)==true) return header; 

     }).map(function(header) {
    
       if (header.name === "Referer") {
         header.value = "https://www.google.com/";
         foundReferer = true;
       }
       if (header.name === "User-Agent") {
         header.value = "Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)";
         foundUA = true;
       }
       return header;
     })
  
     // append referer
     if (!foundReferer) {
       reqHeaders.push({
         "name": "Referer",
         "value": "https://www.google.com/"
       })
     }
     if (!foundUA) {
       reqHeaders.push({
         "name": "User-Agent",
         "value": "Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)"
       })
     }
     console.log(reqHeaders);
     return {requestHeaders: reqHeaders};
   }

   function blockCookies(details) {
     for (var i = 0; i < details.responseHeaders.length; ++i) {
       if (details.responseHeaders[i].name === "Set-Cookie") {
         details.responseHeaders.splice(i, 1);
       }
     }
     return {responseHeaders: details.responseHeaders};
   }
   
   chrome.webRequest.onBeforeSendHeaders.addListener(changeRefer, {
     urls: ["<all_urls>"],
     types: ["main_frame"],
   }, ["requestHeaders", "blocking"]);

   chrome.webRequest.onHeadersReceived.addListener(blockCookies, {
     urls: ["<all_urls>"],
     types: ["main_frame"],
   }, ["responseHeaders", "blocking"]);



Размещаем manifest.json и background.js в отдельной директории, открываем в
Chrome страницу chrome://extensions/, включаем режим разработчика (Developer
Mode), выбираем пункт "Click Load unpacked extension..." и указываем в
открывшемся диалоге путь к директории с файлами.
 
20.02.2016 , Источник: http://elaineou.com/2016/02/19/how-...
Ключи: chrome, extension, block, javascript, bot / Лицензия: CC-BY
Раздел:    Корень / Пользователю / Работа с Web и Ftp

Обсуждение [ RSS ]
 
  • 1.1, count0krsk, 10:41, 22/02/2016 [ответить] [смотреть все]
  • –1 +/
    Да как-то неудобно. В фаерфоксе (через плагин) и Опере можно на лету такую подмену включать-выключать.
     
  • 1.2, nur, 08:06, 24/02/2016 [ответить] [смотреть все]
  • +/
    но прикольно
     
  • 1.3, x0r, 10:06, 24/02/2016 [ответить] [смотреть все]
  • +/
    на lwn.net не работает :-)
     
     
  • 2.4, foxy_ant, 10:21, 26/02/2016 [^] [ответить] [смотреть все]
  • +/
    надо lwn.net добавить в manifest, тогда открывается возможность читать новости за 3 дня до их появления :-)
     
  • 1.5, про, 13:57, 26/02/2016 [ответить] [смотреть все]
  • +/
    а для slon и xaker сработает?
     
     
  • 2.6, про, 14:07, 26/02/2016 [^] [ответить] [смотреть все]  
  • +/
    сам попробовал - не работает метод. а жаль.
     
  • 2.7, Киров, 19:32, 28/02/2016 [^] [ответить] [смотреть все]  
  • +/
    Могу отдать свой слон на месяц за пол мульёна сатошей.
     
  • 1.8, Полли, 17:20, 25/03/2016 [ответить] [смотреть все]  
  • +/
    Локализация используется, однако в манифесте не указан атрибут default_locale
     

    Ваш комментарий
    Имя:         
    E-Mail:      
    Заголовок:
    Текст:



      Закладки на сайте
      Проследить за страницей
    Created 1996-2017 by Maxim Chirkov  
    ДобавитьРекламаВебмастеруГИД  
    Hosting by Ihor