База Hintsage

Архитектура данных

Модели хранения, транзакционные и аналитические системы, потоки данных и управление схемами.

Практика

Вопросы: Архитектура данных

Поток событий содержит сообщения с разным временем доставки. Как механизм должен определить момент закрытия временного окна, чтобы учесть опоздавшие события?

events:
  - id: A
    event_time: "10:00"
    arrival_time: "10:01"
  - id: B
    event_time: "09:58"
    arrival_time: "10:05"
window: "09:55-10:00"
allowed_lateness: "5 minutes"
АрхитектураАрхитектура данныхИнженер по потоковой обработке данных

В аналитической витрине таблица партиционирована по дате загрузки, но отчёты фильтруют дату события. Разберите, какой побочный эффект даст такой выбор ключа.

CREATE TABLE events (
  event_id       BIGINT,
  event_time     TIMESTAMP,
  ingestion_date DATE,
  payload        JSON
) PARTITION BY RANGE (ingestion_date);

SELECT count(*)
FROM events
WHERE event_time >= TIMESTAMP '2025-01-01'
  AND event_time <  TIMESTAMP '2025-02-01';

Показано 1–20 из 50