Как ИИ понимает контекст длинного разговора
Короткий ответ
Языковая модель обрабатывает разговор в пределах своего "окна контекста" — максимального объёма текста, который она может учесть одновременно. Современные модели справляются с большинством телефонных разговоров целиком, но чем длиннее звонок и чем больше критериев оценивается одновременно, тем выше риск, что модель упустит деталь из начала или середины разговора при формировании финального вывода.
Практическое значение для звонков
Большинство телефонных разговоров (5-20 минут) укладываются в контекст современных моделей без проблем. Риск начинает расти для действительно длинных звонков — 40 минут и дольше, особенно если оценивается сразу много критериев в одном запросе.
Как снизить риск потери деталей
Оценивать длинные звонки по частям — разбить разговор на смысловые отрезки (например, по этапам) и анализировать их отдельно, вместо одного запроса на весь текст сразу. Ограничивать число критериев в одном запросе к модели — меньше критериев на запрос снижает риск, что модель "потеряет" какой-то из них при обработке длинного текста.
Как проверить, не теряет ли модель детали
Для длинных звонков в выборке для ручной проверки (см. «ИИ ошибается: как проверять выводы нейросети по звонкам») стоит специально включать детали из начала разговора и проверять, учла ли их модель в финальной оценке.
Частые вопросы
Стоит ли ограничивать длительность звонков ради качества анализа? Нет, это неправильное решение проблемы — лучше адаптировать способ анализа (разбивка на части) под реальную длительность разговоров вашего бизнеса.
Растёт ли риск ошибок линейно с длиной звонка? Не строго линейно, но общая тенденция такова — чем длиннее и сложнее разговор, тем больше требуется внимания к проверке качества автоматической оценки.
Автор: редакция Auditka AI. Экспертная проверка: Александр Аничкин, основатель Auditka AI.