Data Science и Machine LearningNLPLLM
Готовим следующую карточку…
СобеседованиеСредняя
Вопрос

В сервере есть KV-кэш для уже обработанного промпта «Инструкция → документ». Можно ли безопасно использовать его для запроса, где перед той же инструкцией добавили новое системное сообщение? Объясните механизм и практическое следствие для ключа кэша.

Смахните карточку влево, чтобы повысить рейтинг, или вправо, чтобы понизить.

Восстановление доступа