Аналитика кампаний в Mindbox: как читать отчеты по сценариям и не принять шум за результат

Разбираем отчеты Mindbox по сценариям: где искать uplift, как работает калькулятор A/B-тестов и почему красные стрелки в канале — еще не повод все переделывать.

Лупа над графиком с восходящей стрелкой, смятый лист с зигзагами, конверт и календарь. 3D-иллюстрация

Понедельник, утро. Открываете отчет по сценариям в Mindbox — и половина стрелок красные. CTR просел, конверсия из клика ниже, чем на прошлой неделе, по welcome-цепочке вообще грустно. Первая реакция — все остановить и пересобирать. Вторая, более редкая, — разобраться, что именно показывает платформа.

Спойлер: красные стрелки в отчете часто означают шум, а не провал. Сегмент стал шире, сместилась сезонность, к email добавились пуши — и метрики канала просели, хотя кампания в деньгах работает как работала. Бывает и наоборот: канал зеленый, а инкрементальной выручки ноль.

ЧИТАЙТЕ ТАКЖЕ

«SMS дорожают, приложение стоит миллионы, а браузерные пуши собираются прямо с сайта. Разбираем механику канала в Mindbox, экономику против SMS и сценарии, где пуш выигрывает.»

Mindbox веб-пуши: как запустить канал без приложения и когда он заменяет SMS

Как отличить одно от другого — показывает Дарья Касаткина, CRM-маркетолог ClientCore. Она каждую неделю разбирает mindbox аналитику кампаний у клиентов агентства и знает, где платформа говорит правду, а где — удобную для себя интерпретацию.

Что Mindbox вообще считает результатом сценария

Отчет по сценарию показывает воронку: сколько сообщений отправлено, доставлено, открыто, сколько было кликов, конверсий и какая выручка за этим стоит. Если сценарий многошаговый — письмо, потом пуш, потом еще одно письмо — воронку можно развернуть по шагам и увидеть, на каком именно люди выходят из цепочки.

Ключевой момент — логика атрибуции. Конверсия здесь означает: человек кликнул или открыл сообщение и в течение окна атрибуции оформил заказ. Платформа честно записывает этот заказ на кампанию. Даже если клиент и так шел покупать, а письмо просто попалось по пути в корзину. Конверсия из клика красивая, отчет зеленый, а реальный вклад сценария — около нуля.

Второй момент — само окно атрибуции. Чем оно длиннее, тем больше заказов прилипает к кампании, включая те, что случились бы без нее. На окне в 7 дней цифры всегда симпатичнее, чем на окне в сутки. Сравнивать отчеты с разными окнами — все равно что сравнивать вес в килограммах и фунтах: числа есть, смысла нет.

Uplift: цифра, которая показывает реальный вклад сценария

Чтобы понять, что сценарий дает на самом деле, нужна контрольная группа — часть аудитории, которой коммуникация не уходит вовсе. Разница между конверсией тех, кто получил письмо, и тех, кто не получил, — это и есть uplift. В Mindbox контрольную группу задают глобально на проект (обычно 5–10% базы) или внутри конкретной кампании. Дальше смотрите отчет по эксперименту: конверсия тестовой группы, конверсия контрольной, разница в процентах и в деньгах.

Контроль действительно не должен получать ничего. Если «контрольная» группа ловит пуши из соседнего сценария или массовые рассылки, измерение грязное — и разница между группами ничего не значит.

Классика: welcome-цепочка с конверсией из клика 11–12% — клиент доволен, отчет красивый. Ставим контрольную группу, и uplift оказывается 2,5 п.п. Остальные 9% — люди, которые купили бы и без писем. При этом 2,5 п.п. с каждого нового подписчика — приличные деньги в масштабе базы, так что выключать цепочку точно не надо. Но и называть ее машиной по печатанию денег — перебор».
Дарья Касаткина

Дарья Касаткина

CRM-маркетолог, ClientCore

Откуда берется шум в канале

«Красное» в отчете имеет свойство появляться по причинам, которые к качеству кампании отношения не имеют:

  • Расширился сегмент. Раньше письмо уходило 20 тысячам теплых подписчиков, теперь — 60 тысячам с холодным хвостом. CTR упал вдвое, а выручка выросла, потому что охват больше.
  • Сезонность. Сравнение недели к неделе в апреле для товаров с новогодним пиком бессмысленно по определению.
  • Каннибализация каналов. Добавили пуши — клики в email просели, потому что часть людей теперь приходит из пушей. Канал покраснел, сценарий в деньгах вырос.
  • Смена времени отправки или темы. Метрики прыгают пару недель, потом стабилизируются на новом уровне.

Проверка простая: сравнивать с тем же периодом прошлого года или со скользящим средним, смотреть выручку на подписчика и на отправку, разворачивать воронку и искать, где именно обрыв.

Норма
  • сравнение идет с тем же периодом прошлого года или со средним за 4–8 недель
  • выручка на подписчика держится или растет, даже если CTR просел
  • просадка объясняется понятным событием: расширение сегмента, запуск нового канала, праздники
Red flag
  • конверсия из клика падает при стабильном сегменте и без внешних причин
  • отписки и жалобы на спам растут быстрее базы
  • uplift против контрольной группы около нуля несколько недель подряд

Мы через это проходили сами. У MINIDINO рассылки уходили всей базе без сегментов — охваты большие, метрики канала приличные. Мы пересобрали логику: сегменты, точность вместо охвата. Отправок стало меньше, охват ниже — по канальным отчетам «просадка». По деньгам — +110% к эффективности email за квартал (кейс). Смотри только на стрелки в канале — и остановишь рабочую перестройку на середине.

Отчет красный, а причина неясна?

Разберем ваши сценарии в Mindbox и покажем, где реальная просадка, а где шум

🇷🇺

Отчеты по выручке: какие метрики смотреть вместо CTR

Mindbox отчеты по выручке — это динамика выручки от кампаний, вклад отдельных сценариев, срезы по сегментам. Для управленческого вывода хватает четырех цифр: выручка на отправленное сообщение по каждому сценарию, доля CRM-выручки в общей, выручка на активного подписчика в динамике и вклад сценария против контрольной группы там, где контроль настроен.

Доля CRM-выручки — метрика, которую понимает и коммерческий директор, не влезая в воронки. Когда мы внедряли Mindbox в «Браво-Оптике», итоговой метрикой проекта стала именно она: +14,62% к выручке от CRM-направления за 10 месяцев (кейс). CTR отдельных рассылок за это время и падал, и рос — на итог это не влияло.

Если хочется глубже, полезны RFM-отчеты: они показывают миграцию клиентов между сегментами. Кампания может не давать мгновенных заказов, но перетягивать людей из «спящих» в активные — в отчете по сценарию этого не видно, а в динамике сегментов видно.

Когда клиент приходит с вопросом „почему упал CTR“, я почти всегда отвечаю встречным: а что с выручкой на подписчика? В восьми случаях из десяти с ней все в порядке, и разговор переключается с „чиним канал“ на „не трогаем то, что работает“».
Дарья Касаткина

Дарья Касаткина

CRM-маркетолог, ClientCore

A/B-тесты: калькулятор против интуиции

В Mindbox есть встроенный калькулятор АБ-тестов: он считает, сколько человек нужно в каждой группе, чтобы разница между вариантами была статистически значимой. Логика такая: чем меньше эффект, который вы хотите поймать, тем больше нужна выборка. Для конверсии 2% и желаемого прироста в 10% относительных речь идет о десятках тысяч получателей на вариант — а не о трех тысячах, как часто запускают.

Ошибки повторяются из проекта в проект: тест останавливают на второй день, потому что «вариант Б явно выигрывает»; победителя выбирают по open rate, когда цель — выручка; в одном тесте меняют тему, время и оффер, а потом гадают, что сработало.

Норма
  • гипотеза и метрика успеха зафиксированы до старта
  • размер выборки посчитан в калькуляторе, тест идет до набора объема
  • победителя выбирают по деньгам или конверсии в заказ
Red flag
  • тест останавливают, как только один вариант вырвался вперед
  • разница между вариантами меньше погрешности, а выводы уже в презентации
  • в тесте одновременно меняются тема, оффер и время отправки
Чаще всего спорим про „почти значимые“ результаты. Вариант Б впереди на 8%, значимости нет, а соблазн докатить его на всю базу огромный. Один раз такой тест докатили — через месяц разница исчезла, а пересобирать шаблоны обратно стоило две недели работы. С тех пор правило железное: нет значимости — нет вывода».
Дарья Касаткина

Дарья Касаткина

CRM-маркетолог, ClientCore

Как читать отчеты без паники: рабочий ритуал

Порядок, который мы используем в ClientCore, умещается в два уровня.

Еженедельно, 15 минут — гигиена: доставляемость, отписки, жалобы на спам, технические ошибки, аномалии по отправкам. Здесь красное действительно требует реакции, и быстрой.

Ежемесячно, час-полтора — деньги: выручка по сценариям, доля CRM-выручки, выручка на подписчика, uplift там, где есть контрольная группа. Решения о переделке сценариев принимаются только на этом уровне.

Правило одно: сначала деньги, потом воронка, потом канальные метрики. Растущая выручка при просевшем CTR — повод разобраться в причинах, а останавливать сценарий точно рано.

ЧИТАЙТЕ ТАКЖЕ

«Рекламный кабинет видит клики, CRM — выручку, возвраты и повторные покупки. Разбираем, как выгружать сегменты из Mindbox в Директ и VK Рекламу, строить look-alike на лучших клиентах и резать показы…»

Персонализация рекламы в Mindbox: как CRM-сегменты усиливают платный трафик

Некогда разбирать отчеты каждую неделю?

Возьмем аналитику Mindbox на себя: ежемесячный разбор сценариев, uplift и план действий

🇷🇺

Часто задаваемые вопросы

Чем конверсия из клика отличается от uplift?

Конверсия из клика — доля заказов среди кликнувших в окне атрибуции. Она не отвечает на вопрос, купил бы человек без письма. Uplift — разница между конверсией группы, получившей коммуникацию, и контрольной группы, которая ее не получала. Реальный вклад сценария показывает только вторая цифра.

Какое окно атрибуции ставить в Mindbox?

Зависит от цикла сделки. Для импульсных покупок и короткого цикла хватает 1–3 дней, для длинного — до 7. Главное — не менять окно задним числом и сравнивать периоды с одинаковыми настройками, иначе сравнение теряет смысл.

Когда сценарий пора отключать, а не чинить?

Когда uplift против контрольной группы держится около нуля несколько недель, а гигиенические метрики в порядке: письма доставляются, отписки не растут. Сначала пробуют заменить оффер и сегмент. Если инкремента по-прежнему нет — сценарий выключают, а ресурс перекидывают на то, что дает прирост.

Почему выручка в отчете Mindbox не совпадает с выручкой в BI?

Mindbox показывает атрибутированную выручку — заказы, которые платформа связала с кампаниями в окне атрибуции. BI считает все заказы подряд. Расхождение в 10–20% — норма. Сверять имеет смысл долю CRM-выручки и динамику по месяцам, а не абсолютные цифры до копейки.

Над проектом работали

Дарья Касаткина

Дарья Касаткина

CRM-маркетолог, ClientCore