Pull to refresh
27
0
Владимир Колобаев @vkolobaev

Пользователь

Send message

Мы планируем добрать в команду разработчика, после чего у нас появятся ресурсы на то чтобы начать активно опенсорсить наши решения, в том числе и детектор аномалий. Как скоро это произойдет я к сожалению сказать не могу.

> собирать все возможные метрики и хранить их как можно дольше?
Мы действительно ставили перед собой цель собирать все возможные метрики в единое место, так как это открывает широкие возможности для анализа происходящих событий в режиме реального времени. Что касается «хранить как можно дольше», то такую цель, первоначально, мы перед собой не ставили. Мы думали о промежутке год-два, но в результате получилось так, что исторические данные занимают на порядок меньше места, чем те что мы получаем сейчас, и потому их хранение не является какой-то серьезной проблемой. В будущем мы планируем «отцеплять» исторические партиции, и отправлять их в архив, таким образом мы будем иметь возможность обратиться к ним при необходимости, но место в основном кластере они занимать не будут.
Есть тестовый стенд нашего решения завернутый в docker-compose:
github.com/kolobaev/graphite-clickhouse-tldr
Мы знаем о существовании вашего решения. Но у нас есть ряд подвисших вопросов по нему:
— Реализована ли репликация данных?
— Можно ли мигрировать N лет данных в него?
— Можно ли писать данные в историю?
— Поддерживает ли роллап метрик, с разными типами агрегации данных
— Поддерживает ли запись/чтение данных в краткосрочное/долгосрочное хранилище. В случае с КХ, это одна база с 2 таблицами. А как подобное организовать в ВМ?
Привет! В graphite-clickhouse(master), за последний год, было добавлено много всего:
— MaterializedView с горячими данными
— Таблица с именами метрик за последние N дней
— Реверсивные хитрости
— и кое что ещёюю
Жди новую статью, я в ней постараюсь осветить то, как мы живем с Графитом в почти 2019
Писать теги carbon-clickhouse уже может :: Да
carbonapi читать их еще не может :: официальный не может
graphite-web — умеет читать теги, умеет работать с graphite-clickhouse, может быть заменой carbonapi
Grafana — общается с графитом через API(graphite-web/carbonapi) — то есть она поддерживает теги, да.
graphouse(Java) — это аналог carbon-clickhouse(GoLang), carbon-clickhouse умеет теги(запись)
graphite-web(Python) — это аналог carbonapi(GoLang), и он значительно медленнее обрабатывает запросы, но в нем реализованы теги. В carbonapi, пока, теги мы реализовали только в своем форке, в мастере они пока не поддерживаются.
Это предагрегированные (кроме персентилей), секундные семплы. Они разлетаются на все ноды кластера, лидер тут не учитывается. Все обмениваются со всеми, пришедшими в них метриками. Задача лидера, через интервал агрегации указанный в конфиге (у нас он 30сек), доагрегировать все метрки из семплов, после чего, отправить агрегаты в Графит. Слейвы же, ждут когда мастер им сообщит о факте успешной отправки метрик, после чего удаляют свои семплы.
На сколько мне известно, КХ поддерживает работу только с Zookeeper — мы бы с радостью ушли на какой нить Консул, но увы.
1. Скрипт был в контейнерах с виспером, и их больше нет с нами =(. Там все очень просто — вычитываем с помощью whisper-dump файлы .wsp и полученный результат, через сокет отправляем на порт carbon-clickhouse одной из нод. На bash, думаю, подобное можно за 5 минут написать.
2. graphouse — это java — а мы любим Go
Обновились до 54318 — полет нормальный!
Можете задать этот вопрос в «Telegram», в канале «Церковь метрик», вам обязательно ответят!
Наша «облачная» команда, знает о существовании этого проекта. Я им передал вашу заинтересованность во взаимодействии.
Я, к сожалению не уверен что корректно понимаю вопрос, если мы говорим о каком то верхоуровневом обобщении, то в своей прошлой статье я рассказывал как у нас утроена схема хранения метрик и каким образом мы её используем.
54236, хотели обновиться до 54310: подняли тестовую среду — проверили не поломается ли репликация при постепенном обновлении (каждой ноды отдельно), все ок, проблем не обнаружили, но нас остановило это:
github.com/yandex/ClickHouse/issues/1510#issuecomment-345839291
как только решат — сразу обновимся.
Да будем, в самое ближайшее время.

Information

Rating
Does not participate
Location
Москва, Москва и Московская обл., Россия
Works in
Date of birth
Registered
Activity