Pull to refresh
0

Кто индексировал мой сайт?

Reading time2 min
Views5.7K
Создавая сайт на Biggo, есть возможность воспользоваться еще одним преимуществом SaaS — учет индексации сайта поисковыми роботами. Обычные JS-счетчики или счетчики на основе картинки, конечно, не дают такой возможности. В liveinternet есть возможность учитывать запросы поисковых ботов, но она там дается «в догонку», в разделе экспресс-аудит. К тому же, для того, чтобы этот отчет заработал необходимо установить предлагаемый PHP-код.

Наша система независимо собирает данные для создания этого нужного для вебмастеров и оптимизаторов отчета и отображает результаты в виде красивых интерактивных графиков
image
Круговая диаграмма, отражающая доли разных поисковых роботов

image
График индексации роботами за последний месяц

image
График индексации выбранного робота за последний месяц и страницы, проиндексированные сегодня. Попасть в этот отчет можно кликнув на нужную часть круговой диаграммы.

Данные статистики мы давно собираем, но отчеты начали делать недавно, первым решили сделать именно этот, т.к. он прекрасно дополнит информацию, которую можно получить с помощью публичных счетчиков.

Технические особенности



Сбор данных идет в коллекции MongoDB, затем они обрабатываются раз в час и преобразуются в удобный для построения графиков вид:
{ "_id" : ObjectId("4c4ec447e555c04d1e002fbf"), "bots" : [
{
"num" : 2,
"bot_name" : "Google"
},
{
"num" : 1,
"bot_name" : "Nigma"
}
], "bdate" : "2010-07-15", "site_id" : 178 }
{ "_id" : ObjectId("4c4ec448e555c04d1e002fc2"), "bots" : [ { "num" : 10, "bot_name" : "Yandex" } ], "bdate" : "2010-07-15", "site_id" : 250 }
{ "_id" : ObjectId("4c4ec448e555c04d1e002fc4"), "bots" : [ { "num" : 3, "bot_name" : "Twiceler" } ], "bdate" : "2010-07-15", "site_id" : 107 }
{ "_id" : ObjectId("4c4ec446e555c04d1e002fa4"), "bots" : [
{
"num" : 6,
"bot_name" : "Google"
},
{
"num" : 10,
"bot_name" : "Yahoo!"
},
{
"num" : 9,
"bot_name" : "Yandex"
},
{
"num" : 5,
"bot_name" : "MSN"
},
{
"num" : 2,
"bot_name" : "Twiceler"
},
{
"num" : 1,
"bot_name" : "Rambler"
}
], "bdate" : "2010-07-15", "site_id" : 133 }

В таком формате уже дело техники построить график по дням — это эффективно и удобно.

MongoDB идеально подходит для этой задачи хотя бы по 3-м причинам:
  • Позволяет хранить вложенные объекты
  • Позволяет установить параметр capped для коллекции, таким образом старые данные не нужно удалять, они будут перезаписываться новыми
  • Не грузит основную базу постгрес, у которой и своих дел много


Клиентская библиотека для построения графиков — Open Flash Chart 2
Tags:
Hubs:
+5
Comments17

Articles

Information

Website
cms.biggo.ru
Registered
Founded
2008
Employees
2–10 employees
Location
Россия