Продакт сообщает: «На старте ожидаем 10 000 запросов в секунду». Какие характеристики нагрузки нужно выяснить до выбора архитектуры и почему одного значения RPS недостаточно?

Question

Accepted Answer

Нужно уточнить профиль нагрузки: среднее и пиковое значение, длительность пиков, распределение запросов во времени, соотношение чтений и записей, размеры данных, допустимую задержку и ожидаемый рост. Важно выяснить, равномерна ли нагрузка между клиентами, регионами и сущностями: один «горячий» объект может стать узким местом даже при приемлемом общем RPS. Также нужно отделить синхронные пользовательские запросы от фоновых задач и массовых операций. Один RPS не показывает ни требуемую пропускную способность хранилища, ни необходимость очередей, кэширования, шардирования или защиты от всплесков. Следствие — архитектуру следует рассчитывать по худшему реалистичному профилю нагрузки и явно зафиксированным SLO, а не по усредненной цифре.