Как я написал распределенный Cron на C с P2P-репликацией и зачем это нужно админам Greenplum
Представьте себе классический кошмар системного администратора или SRE: три часа ночи, в управлении огромный кластер Greenplum на сотню сегмент-хостов, и вам нужно запустить тяжелый ETL-процесс или проверить доступность gpfdist строго одновременно на всех узлах.Вы начинаете перебирать инструменты. Стандартный Cron? ...
Представьте себе классический кошмар системного администратора или SRE: три часа ночи, в управлении огромный кластер Greenplum на сотню сегмент-хостов, и вам нужно запустить тяжелый ETL-процесс или проверить доступность gpfdist строго одновременно на всех узлах.Вы начинаете перебирать инструменты. Стандартный Cron? Он локальный, замучаешься синхронизировать конфиги. Ansible или SaltStack? Хороши, но требуют центрального «мастера» и стабильного SSH-соединения в момент старта. А если в дата-центре «моргнула» сеть и часть сегментов оказалась изолирована? Команда просто не дойдет.Я решил, что миру нужен инструмент, который ведет себя как «умный почтовый ящик»: вы закидываете в него зашифрованную команду, а она сама расползается по всей сети и ждет своего часа, чтобы «выстрелить» точно в срок. Так появилась Gorgona.В этой статье я расскажу о тернистом пути создания распределенной системы на чистом C, о том, как я боролся с «сетевым эхо» и почему это решение заставляет админов больших баз данных спать спокойнее.
Связанные теги
Компании и люди
Линия сюжета
ETL
Последние материалы и связанные ссылки по теме ETL.
ETL
Последние материалы и связанный контекст по теме ETL.
Habr
Последние материалы и связанные ссылки по теме Habr.
Habr
Последние материалы и связанный контекст по теме Habr.
P2P
Последние материалы и связанный контекст по теме P2P.
P2P
Последние материалы и связанные ссылки по теме P2P.
Продолжить следить за темой
Переходите к связанным материалам, страницам сущностей и активным линиям сюжета.
Сделаем сами ретроавто в масштабе 1:5?
После моего первого двигателя, в голове стали роиться мысли о создании масштабной модели транспортного средства с настоящим функциональным мотором внутреннего сгорания. Сначала ...
GuardDo Pixel против GrapheneOS: российское решение против «правильного» ответа
Если прошлая статья о российских разработках для уничтожения данных была слишком «корпоративная» (про «кнопку стирания» для серверов, ноутбуков и ПК), то в этом случае речь пойд...
[Перевод] Зачем нужна специализация варпов. Разбор сложных случаев
Апдейт: идеи, изложенные в этой статье, позволили сформулировать оптимальные стратегии warp-специализации, описанные в научной публикации, которую можно посмотреть здесь.Недавно...
Почему одинаковая надпись H.264 или H.265 на IP-камерах не делает их одинаковыми
На рынке видеонаблюдения есть удивительно живучий миф: если на двух IP-камерах написано H.264 или H.265, значит, и вести себя они должны примерно одинаково. Нагрузка на сеть буд...
Техдолг как невидимый налог: почему бизнес платит за него дважды, но не знает об этом
Разработчик приходит к руководству и говорит: «Нам нужен рефакторинг». Руководство слышит: «Мы хотим потратить деньги и ничего не выпустить». Дальше — тишина, новый спринт с нов...
Почему NGFW перестаёт быть центром архитектуры безопасности
За последние годы NGFW не исчез и не стал второстепенным элементом защиты, но его архитектурная роль заметно изменилась. Безопасность всё меньше строится вокруг единственного се...
Рекламный слот
Встроенный блок в статье
Зарезервированный партнерский слот для релевантных инструментов, сервисов и аккуратных редакционных интеграций.
Похожие статьи
Еще материалы, которые пересекаются по тегам, источнику или категории.
Сделаем сами ретроавто в масштабе 1:5?
После моего первого двигателя, в голове стали роиться мысли о создании масштабной модели транспортного средства с настоящим функциональным мотором внутреннего сгорания. Сначала ...
GuardDo Pixel против GrapheneOS: российское решение против «правильного» ответа
Если прошлая статья о российских разработках для уничтожения данных была слишком «корпоративная» (про «кнопку стирания» для серверов, ноутбуков и ПК), то в этом случае речь пойд...
[Перевод] Зачем нужна специализация варпов. Разбор сложных случаев
Апдейт: идеи, изложенные в этой статье, позволили сформулировать оптимальные стратегии warp-специализации, описанные в научной публикации, которую можно посмотреть здесь.Недавно...
Почему одинаковая надпись H.264 или H.265 на IP-камерах не делает их одинаковыми
На рынке видеонаблюдения есть удивительно живучий миф: если на двух IP-камерах написано H.264 или H.265, значит, и вести себя они должны примерно одинаково. Нагрузка на сеть буд...
Еще материалы от Habr
Свежие публикации и продолжение темы от той же редакции.
Сделаем сами ретроавто в масштабе 1:5?
После моего первого двигателя, в голове стали роиться мысли о создании масштабной модели транспортного средства с настоящим функциональным мотором внутреннего сгорания. Сначала ...
GuardDo Pixel против GrapheneOS: российское решение против «правильного» ответа
Если прошлая статья о российских разработках для уничтожения данных была слишком «корпоративная» (про «кнопку стирания» для серверов, ноутбуков и ПК), то в этом случае речь пойд...
[Перевод] Зачем нужна специализация варпов. Разбор сложных случаев
Апдейт: идеи, изложенные в этой статье, позволили сформулировать оптимальные стратегии warp-специализации, описанные в научной публикации, которую можно посмотреть здесь.Недавно...
Почему одинаковая надпись H.264 или H.265 на IP-камерах не делает их одинаковыми
На рынке видеонаблюдения есть удивительно живучий миф: если на двух IP-камерах написано H.264 или H.265, значит, и вести себя они должны примерно одинаково. Нагрузка на сеть буд...