От DevOps к EvalOps (или как мы трансформируем функцию OPS/SRE, в связи с внедрением GenAI)
Программный комитет ещё не принял решения по этому докладу
Целевая аудитория
Тезисы
При массовом внедрении GenAI в ИТ-ландшафт, Крупные организации (СБЕР точно) сталкивается с новыми вызовами:
- GenAI-системы недетерминированы по своей природе. Классические метрики (uptime, latency) не отражают их реальное качество и надежность.
- Появляются новые классы инцидентов: «галлюцинации», дрейф качества, промпт-инжекты — требуют новых подходов к мониторингу и реагированию.
Что требует перестроения работы команды SRE/OPS.
В докладе мы поговорим о том, как меняются функции сопровождения, что такое EvalOPS. Рассмотрим конкретные примеры как управлять инфраструктурой, в которой большую часть бизнес-процессов обсаливают ИИ-агенты, какие компетенции нужно растить уже сейчас
Исполнительный директор ситуационного центра, ответственный за надежность систем сегмента B2C (розница) в Сбере. Развивает сообщества архитекторов и инженеров сопровождения, спикер конференций.
Видео
Другие доклады секции
Эксплуатация LLM
