войти зарегистрироваться

Оверсан-Меркурий

Оверсан-Меркурий
хабраиндекс
45,41

Войти в IT, или как мы решили построить дата-центр и построили его. Часть первая

image

При всем сегодняшнем обилии предлагаемых товаров и услуг, казалось бы, найти что-то достойное, полностью соответствующее потребностям, должно быть легко. Но на практике даже в «богатой» Москве ситуация отнюдь не такая радужная. В частности, в области дата-центров.

Список требований к дата-центру у средних и крупных клиентов часто занимает несколько страниц. Но в силу разных факторов удовлетворить их полностью практически никогда не получается. Чаще всего приходится идти на компромиссы, ужиматься и ухищряться.

Наша компания занимается предоставлением услуг дата-центра и различных IT-сервисов, от проектирования кабельных систем до организации крупных закупок оборудования. Неотъемлемой частью бизнес-модели является наличие надежного дата-центра, собственного или арендованного. Основным театром наших действий выступает Москва, и здесь, казалось бы, недостатка в хороших ЦОДах быть не должно. Однако в реальности дела обстоят несколько иначе.



Мы пользовались услугами нескольких коммерческих ЦОДов, и нигде не могли получить необходимого уровня обслуживания. В одном дата-центре заявленная «железно» пропускная способность каналов скачет чуть ли не в зависимости от температуры воздуха за окном. Во втором стойки охлаждаются бытовыми напольными кондиционерами (душераздирающее зрелище). В третьем для того, чтобы внести или вынести оборудование, требуется подписать пачку бумаг и пробежать несколько километров между кабинетами, ухитрившись попасть в хаотичный рабочий график ответственных лиц. При этом еще и требуется быть вежливым с последней милей в лице сонного охранника на входе, обожающего демонстрировать свою крохотную власть над ситуацией, если вдруг ему инженеры чем-то не приглянутся.

И в таких, прямо сказать, неблагоприятных условиях мы должны выполнять обязательства уже перед собственными клиентами. А им и дела нет до того, что где-то нетрезвый энергетик перепутал рубильники, а эксплуатационники проморгали плановую замену батарей в заслуженном UPS выпуска прошлого века. И это правильно – у клиента не должна болеть голова по поводу условий работы его дорогостоящего оборудования или непрерывности предоставления сервиса — для этого он и обратился к нам.

Решение, позволяющее одним махом, пусть и очень недешевым, решить все проблемы, лежит на поверхности. Это, конечно, строительство собственного дата-центра. Отважиться на этот важный шаг довольно сложно, и дело отнюдь не только в деньгах. С первого же момента возникает масса самых серьезных вопросов, требующих однозначного выбора из нескольких вариантов. Строить самим или привлечь подрядчика? На какой уровень надежности рассчитывать? Строить только для себя, или планировать продавать площади и мощности сторонним клиентам? Покупать оборудование напрямую у вендора или через дистрибьютора? Какие выбрать стойки, фальшпол, освещение, вентиляцию, систему мониторинга, систему резервного питания и пожаротушения? Какой потребуется персонал? И, наконец, сколько на всю эту роскошь нужно денег?

Сейчас, когда мы уже закончили строительство, многие вопросы и проблемы кажутся банальными, а ответы и решения – очевидными. Но, не набив шишек, сложно получить полное понимание архитектуры современного дата-центра, а это именно то, к чему мы стремились. Построить достойный современный ДЦ только собственными силами практически невозможно, если, конечно, вы не компания, профессионально занятая проектированием и строительством ДЦ. В любом случае на каком-то этапе придется привлекать профессионалов, главное только решить, в какой форме. Можно нанять сотрудника, хорошо знакомого со спецификой, и поручить ему организацию процесса. В этом случае, если он, конечно, не гений документирования и педант до мозга костей, есть риск оказаться намертво привязанным к этому человеку — случись что, без него не разобраться. К тому же, люди, способные организовать строительство современного дата-центра, ценятся буквально на вес золота и пересчитать их можно по пальцам одной руки. Поэтому такую схему лучше заранее отмести как почти невыполнимую.

Если талантливого организатора не найти, можно привлечь компанию-подрядчика. Серьезная контора с несколькими удачно завершенными проектами за спиной наверняка озвучит близкие к реальным сроки и цены, возьмет все вопросы на себя. Правда, заплатить за это придется процентов на тридцать больше. И нужно быть морально готовым к тому, что примерно половину из того, что будет сделано, прямо в процессе так или иначе придется переделывать. Хотя бы из-за разного понимания, казалось бы, простых и очевидных вещей. Ну и отличия в менталитете заказчика и исполнителя, особенно если к строительным работам в основном привлекаются «мастера широкого профиля» из южных республик, могут дать о себе знать. Еще одним фактором в пользу отказа от этого варианта может послужить тот факт, что ваш собственный персонал, способный взять на себя некоторые из направлений, возможно, будет простаивать.

Проанализировав все возможные варианты, мы решили остановиться на гибридном решении. Чтобы успешно воплотить его в жизнь, нужно попытаться максимально подробно просчитать баланс и выбрать направления, на которых нужно будет привлекать подрядную организацию, и те, где можно справиться собственными силами. Этот вариант представляется оптимальным.

Там, где этом действительно необходимо, можно, сделав над собой усилие, отдать бразды правления в руки подрядчика. На остальных фронтах работ пригодятся уже имеющиеся людские ресурсы, способные в дальнейшем составить костяк персонала будущего дата-центра. Подобное решение выглядит оптимальным, и мы решили придерживаться его.

Сейчас, по прошествии года с начала строительства, мы решили рассказать о том, как строили дата-центр, какие при этом обнаружили подводные камни, и как избежали столкновения с ними. Мы накопили немало нетривиальных проблем и получили неоценимый опыт взаимодействия с вендорами. Обо всем этом мы планируем рассказать в серии статей, появляющихся в этом блоге. Следите за Хабром!

комментарии (34)

  • Ну и ссылка на обзор от Boomburum'а…
    habrahabr.ru/blogs/telecom/83155/ (Трафик!)

    Ведь это этот дата-центр?
    • да, именно этот.
      • Выглядит как космический корабль. Денег наверное сказочно много пошло.
        хотелось бы чтоб автор озвучил цифру
        • Суммарный бюджет проекта — 400млн рублей.
          Комментарий на этот счёт Boomburumа habrahabr.ru/blogs/telecom/83155/#comment_2473787
          • Относительно недорого.
          • Не совсем верно судить об этом именно в рамках одного лишь дата-центра, тут и цена за каналы на М9 и М10, и маркетинг и офисы и ЗП и многое, многое другое.
  • В последнее время что-то модно стало дата-центры строить. Видимо кризис сказыватся.
    С постройкой, чего уж.: Р
    • спасибо. есть мнение, основную массу новых дата-центров начали строить до кризиса, а отстроились как раз сейчас.

      • в смысле кризис кончился(чается)?
        • Да не в этом дело. Есть теория, что в кризис просто дешевле строить.
          • Верно! Вендоры более сговорчивы.
    • ну будем надется что благодаря сложившейся конкуренции снизятся цены на выделенные сервера и колокейшн… а там и на хостинг…
    • Скорее всего это можно назвать «трендом» =)) Наша мотивация была проста, надоело бороться с плохим сервисом в других ДЦ
  • А я надеялся увидеть описание каких-нибудь интересных технических приемов и решений… ну что ж… будем ждать следующую статью!
    • описание обязательно будет, это пока вводная статья.
  • Больше ДЦ хороших и разных!

    Чего не хватает в таких обзорах, обычно, — это сравнение насколько различны подходы у нас и «уних». Ведь технологии одни и те же, оборудование схожее или даже идентичное. Но в конце имеем у нас задорого и плохо то что «уних» забесплатно.

    Почему Facebook стал строить свой датацентр только на четверти лямов, а у нас получается выгоднее намного раньше?
    • >Больше ДЦ хороших и разных!

      согласен всецело!

      сравнение провести обязательно постараемся. вот только насчет того, что «имеем у нас задорого и плохо то что «уних» забесплатно» не согласен. может, раньше так и было, но сейчас все стараются оптимизировать затраты по максимуму и технологии используют соответствующие.

      по поводу Фэйсбука интересно, но я не очень понял смысл фразы? может, разовьете?
      • Сравнивая причины строительства ДЦ
        — Facebook — чисто экономические — для возросшего количества пользователей выгоднее стало иметь свой ДЦ.
        — Оверсан — чисто политические — нужна своя надежность и контроль.
        У нас настолько плохой сервис что свой ДЦ становиться необходим на много меньших размерах?
        • свой дата-центр — это бизнес. качественное размещение необходимо и нашим крупным проектам (и не очень) проектам. вот яркий пример: небольшая компания, буквально из пяти человек, выпускает успешное приложение и продает его. им нужен сайт, способный выдержать большие нагрузки, всплеск посещаемости, «хабраэффект», если хотите. сайт должен работать всегда и раздавать файлы по широким каналам.

          для подобного проекта типичный недорогой дата-центр не подходит уже в силу предъявляемых требований. мы реагируем на их рост и предоставляем соответствующий сервис, можно назвать его «премиум». к сожалению, он пока не доступен всем желающим в силу высоких затрат на организацию, но главное ведь начать — как только качество «пойдет в народ», цена снизится, и дата-центры (включая наши) просто перейдут на новый уровень сервиса «по умолчанию».
          • для такого проекта подходит CDN :)
  • Все очень классно, но цен на сайте нет… И сдают, как я понимаю, только стойки целиком. А значит небольшие проекты по прежнему вынуждены будут, как сказано в четвертом абзаце "… пользоваться услугами нескольких коммерческих ЦОДов, и нигде не могли получить необходимого уровня обслуживания". Печально.
    • базовые цены на размещение colo и dedicated появятся на сайте в ближайшее время, буквально в течение пары дней.

      действительно, первое время дата-центр сдавался «от стойки» и относительно небольшим проектам оставалось надеяться на сторонних хостеров, которые эти стойки арендуют, а потом перепродают. но с дата-центрами высокого класса такая схема работает не всегда, ибо себестоимость получается высокой.

      в общем, теперь мы работаем более гибко.

  • после событий с torrents.ru нет никакого желания иметь дел с рунетовскими хостингами и регистраторами.
  • Писали бы уж побольше сразу. Мне кажется, не нужно дробить текст настолько мелко. А то когда выйдет 5-я часть (а пока что кажется, что их будет минимум 5), все уже забудут про первую. Ну разве что вы все 5 сегодня опубликуете ;)
    • предметные материалы, конечно же, дробить не будем. а вводный текст большим и не должен быть. но за совет спасибо.
  • >Можно нанять сотрудника, хорошо знакомого со спецификой, и поручить ему организацию процесса. В этом случае, если он, конечно, не гений документирования и педант до мозга костей, есть риск оказаться намертво привязанным к этому человеку — случись что, без него не разобраться.
    ___

    Хотелось бы узнать побольше про документацию на ваш дата-центр. В частности, как ведется учет оборудования (сетевое оборудование, стойки, сервера) и описание СКС. Каким образом отмечаются изменения (переткнули патчкорд, заменили сервер и т.д.), какие программы для этого используете?
    • учтем обязательно. в работе тексты по теплоотведению и энергоснабжению, созданию эксплуатационной службы. добавим туда и вашу заявку ))
  • Текст не так интересен, как фотографии тракторов и руин на этапе постройки :)
    • да, не догадались зафиксировать для истории ((. было, на что посмотреть.
    • поступила информация, что фото остались. подверстаем их в будущие посты ).
  • НЛО прилетело и опубликовало эту надпись здесь.
    • мясо — впереди. это вводный пост. да, все плохие — мы хорошие. странно было бы, если бы мы писали у себя в блоге наоборот.
  • Интересны цены, так сказать, для кругозора…
  • НЛО прилетело и опубликовало эту надпись здесь.
Только зарегистрированные пользователи могут оставлять комментарии. Войдите, пожалуйста.