Какие значения Top-K, Top-P и температуры выставлять в нейронках для арбитражных задач. Часть 3
В первых двух частях (1, 2) я разобрал, как работают ползунки температура, Top-P и Top-K.
Теперь, когда есть это понимание, перейду конкретно к практическим примерам, когда какие значения выставлять в ллм в зависимости от задачи.
1) Обработчик лидов в мессенджерах
Бот должен общаться живо, сочувствовать клиенту, но строго придерживаться логики продаж и не придумывать лишнего.
настройки:
Температура: 0.4 - 0.5 - даем легкую гибкость в общении, чтобы бот не звучал как автоответчик.
Top-P: 0.80 - 0.85 - отсекаем рискованные или глупые слова, сужая коридор выбора.
Top-K: 40.
2) Рерайт прокл, написание крео и генерация эмоциональных хуков
Тут нужен цепляющий, эмоциональный текст, метафоры, истории и байтящие заголовки, пробивающие баннерную слепоту.
настройки:
температура: 0.8 - 0.9 - чтобы нейронка могла выбирать неожиданные речевые обороты.
Top-P: 0.95 - расширяем забор практически до максимума, позволяя гемини использовать редкие слова.
Top-K: 60 - 80.
3) Технические ноды в n8n (Парсинг, JSON, логика)
В таком сценарии нейронка должна разобрать ответ клиента, вытащить оттуда его индекс/телефон или распределить диалог на нужную ветку. Тут креатив противопоказан, нужна максимальная точность в ответах.
Настройки:
температура: 0 - выбор только самого вероятного слова.
Top-P: 0.1 максимально узкий коридор, гемини видит только очевидные варианты.
Top-K: 1.
Обнял❤️
1x Личный блог Тимлида канал по Facebook
Google 1x ТимЛид канал по Google
ROI-Craft Agency - FB/Moloco агентские аккаунты для мастштаба , без танцев с бубном
White.expert - приватный генератор вайтов (регистрация только при наличии инвайта)
🚀 Магазин расходников для арбитража (Фб, Гугл, ТТ) - shopi3.store
Google 1x
Ещё кейсы
- That’s a wrap on TOKEN2049 Singapore 🇸🇬 Two days, a packed booth and more conversations
- The B2B buyer journey has grown from 211 to 272 days Most of that time is spent
- Кейс Hybrid Metaverse и «Дикси»: как запустить новый брендированный мир в «Майнкрафте»
- Кейс «Авито» и Soloway: как динамический ретаргетинг работает с разными сценариями
- Обновленный пак информации google ads🔥 без воды и паблика. Актуальный опыт на
- 💸 Как снизить финансовые риски в арбитраже и не слить бюджет? Даже прибыльная связка
Комментарий