Mixpanel, ручное тестирование, CSS, JavaScript
Количественное исследование

Сколько стоит отсутствие тёмной темы сайта?

Если нет тёмной темы, сайт у всех будет отображаться одинаково светлым. Или нет?

Контекст

Директор по маркетингу site.pro случайно открыла сайт в режиме forced dark mode и увидела искажения в интерфейсе:

  • белый текст на белом фоне в hero-хэдере на главной;
  • инвертированные иллюстрации и инфографики;
  • искажение брендовых цветов.

Передо мной были поставлены такие вопросы: «Почему мы это раньше не замечали? Мы теряем деньги? Что с этим делать?».

Воспроизведя проблему на своих устройствах, я выяснила, что этот эффект возникает в браузерах, которые поддерживают принудительное перекрашивание «светлых» сайтов, у которых нет своей тёмной темы, в «ночной» режим.

Принудительная тёмная тема site.pro.

Задача

Визуально проблема выглядела критично, но было неизвестно, насколько она масштабна с точки зрения бизнеса. Я поставила перед собой такие задачи:

  1. Понять, влияет ли forced dark mode на конверсию и выручку.
  2. Если влияет — оценить масштаб потерь.
  3. Если нет — оценить риски: при каких условиях потери возникнут?
  4. Сформировать стратегию действий.

Гипотеза

Я предположила, что:

  1. пользователь, столкнувшись с сайтом, часть контента которого недоступна и выглядит «сломанной», с высокой вероятностью откажется от пользования представленным на сайте продуктом и/или от покупки платного тарифа, и это может найти отражение в конверсиях;
  2. те, кто уже пользуются продуктом и достаточно лояльны, чтобы вносить ежемесячные платежи, вероятно, обратятся в поддержку.
Главный дашборд в Mixpanel.

Анализ

Техподдержка не зафиксировала обращений, связанных с искажениями интерфейса, так что часть б) моей гипотезы была опровергнута.

Для проверки первой части гипотезы я обратилась к аналитике по сайту, собираемой при помощи Mixpanel. Я собрала доску со следующими данными:

  • доля пользователей forced-dark браузеров;
  • воронка page view → complete payment (first time only);
  • воронка page view → publish website (метрика полярной звезды);
  • сумма впервые совершенных платежей.

Сегментация:

  • Not in Forced Dark Browsers (Control)
  • Forced Dark Browsers

Доля пользователей, просматривающих сайт с помощью браузеров, способных принудительно перекрашивать сайт, составила всего 0,46%. Но в количественном выражении это почти 27 тысяч уникальных пользователей.

За последние 12 месяцев в группе Forced Dark Browsers было всего 2 оплаты, конверсия составила 0,007% против конверсии 0,01% в контрольной группе.

Таким образом, конверсия действительно оказалась ниже, но статистической значимости у таких данных, на самом деле, нет. Потому что при таком размере сегмента даже 1–2 конверсии меняют процент кратно.

Предварительный вывод такой: доказать наличие финансовых потерь невозможно, потому что данные статистически нерепрезентативны.

Но отсутствие значимого эффекта сейчас не означает отсутствия риска в будущем, потому что доля dark-mode пользователей растёт (сейчас она составляет 60% — 80%), и предугадать, когда возможность принудительного затемнения появится в популярных браузерах невозможно.

И я перешла от анализа имеющихся данных к моделированию.

Моделирование

Исходные данные. Вот, что есть сейчас:

Общая конверсия оплат: 0.01% = 0.0001
Конверсия оплат в forced dark: 0.007% = 0.00007
Дельта конверсий (потенциально упущенные оплаты): 0.0001 − 0.00007 = 0.00003
ARPPU (средний доход с первой оплаты): 11700 / 580 ≈ 20.17€ ≈ 20€.

Реалистичный сценарий. Допустим, доля forced dark вырастает до 10% трафика, а разница конверсий остаётся на текущем уровне. Тогда:

Потенциально затронутая аудитория: 10% от 5.78 млн = 578 000 пользователей.
Потерянные оплаты: 578 000 × 0.00003 = 17.34 ≈ 17 оплат
Потерянная выручка: 17 × 20€ = 340€ в год

Пессимистичный сценарий.Увеличим долю forced dark до 20% трафика, а дельту конверсий до 0.00005.

20% от 5.78 млн = 1 156 000 пользователей
Потерянные оплаты: 1 156 000 × 0.00005 = 57.8 ≈ 58
Потерянная выручка: 58 × 20€ = 1160€ в год

Таким образом, относительно общего дохода потери составят ≈0.056% в реалистичном сценарии и ≈0.19% в пессимистичном сценарии.

Решение

При текущей доле пользователей браузеров с принудительной тёмной темой финансовый риск минимален, но при росте доли до 15–20% потери могут достигнуть ~1 000 € в год. Вкладываться в срочную разработку тёмной темы для сайта в данный момент нецелесообразно. Поэтому я предложила следующий план действий:

  • Аналитика:
    • отслеживание патчноутов популярных браузеров;
    • добавление флага prefers-color-scheme в аналитику Mixpanel;
    • регулярная проверка доли пользователей браузеров с принудительной тёмной темой.
  • Фронтенд:
    • запрет авто-перекрашивания через color-scheme;
    • явно заданные background-color и color для ключевых контейнеров и контейнеров с графикой;
    • фиксы для SVG-анимаций в хедере.
  • Дизайн:
    • учёт выявленных forced dark кейсов в редизайне;
    • включение проверок контрастности и доступности в дизайн-процесс.

Исправления во фронтенде необходимы уже сейчас для подготовки предстоящего редизайна сайта, потому что при редизайне нужно будет обеспечить корректное отображение накопленного за годы контента, а эти небольшие фиксы — это шанс обкатать решения.