Data Science и Machine LearningNLPОценка NLP-моделей
Готовим следующую карточку…
Редкий фактПродвинутая
Вопрос

Сравните оценку двух языковых моделей на одних и тех же текстах: у модели A BPE-токенизация, у модели B символьная. Какую ошибку делает код и как корректно сопоставить модели, если требуется метрика, независимая от размера токена?

import math

texts = ["модель отвечает", "данные важны"]
nll_a = [7.2, 5.4]       # суммарный negative log-likelihood по документам
tokens_a = [4, 3]        # BPE-токены
nll_b = [10.1, 7.8]
tokens_b = [14, 12]      # символы

ppl_a = math.exp(sum(nll_a) / sum(tokens_a))
ppl_b = math.exp(sum(nll_b) / sum(tokens_b))
print(ppl_a, ppl_b)

Смахните карточку влево, чтобы повысить рейтинг, или вправо, чтобы понизить.

Восстановление доступа