Конференция для инженеров и всех, кто должен понимать инженеров

Динозавр в магазине: опыт публикации YTsaurus в YC.Marketplace

Жизнь в облаках и без

Эффективное использование облаков
Хранилища
Обработка данных
Облака
DevOps / Кубер

Доклад принят в программу конференции

Мнение Программного комитета о докладе

В случае, если вы думаете, как опубликовать свое приложение в YC.Marketplace и что вам для этого потребуется сделать со своим непростым приложением, то этот доклад для вас.

Целевая аудитория

1. Разработчики, data-инженеры и девопсы, интересующиеся технологией YTsaurus (как в облачных, так и в on-premise-инсталляциях), тем, как устроены кластеры и как их разворачивать; 2. разработчики, подумывающие о том, чтобы опубликовать свой продукт в YC.Marketplace.

Тезисы

YTsaurus — BigData-платформа с открытым исходным кодом от Яндекса. Кластер YTsaurus представляет собой сложную stateful-систему: в зависимости от настроек он содержит от 8 до 15 компонентов различного типа. Для упрощения развёртывания и управления кластерами YTsaurus мы разработали K8s-оператор, но даже при этом составление разумного yaml-манифеста и установка базовой инсталляции — кропотливая и непростая задача.

Чтобы привлекать пользователей, нужно снижать порог входа. Что может быть проще, чем вместо yaml-программирования заполнить несколько полей в интерфейсе Yandex. Cloud и получить кластер по кнопке? YC. Marketplace позволяет сделать именно это. Но как упихнуть трёхстраничный манифест в форму из нескольких полей? Какие грабли подложил нам helm? И чем примечательна константа 93Gb? Об этом вы сможете узнать из моего доклада.

Занимается разработкой системы YTsaurus с 2010 года. Принимает участие в разработке архитектуры системы, в разные годы занимался форматами хранения данных, подсистемой Map-Reduce-операций, запуском и изоляцией джобов, интеграцией с системами контейнеризации. Сейчас отвечает за эксплуатацию кластеров.

Яндекс

Яндекс — технологическая компания, создающая инновационные продукты на основе машинного обучения и нейронных сетей. Команда талантливых математиков и программистов разрабатывает одну из самых популярных поисковых систем и другие сервисы, которые помогают людям в их повседневной жизни. Среди его направлений деятельности: поиск, реклама, онлайн-заказ такси и еды, электронная коммерция, видео/аудио и потоковое вещание, автономное вождение и облачные сервисы. Яндекс активно развивает проекты с открытым исходным кодом, такие как CatBoost, DivKit, YDB, userver, YaLM, YTsaurus.

Видео