SYSTEM, а также четырёхбуквенные команды (4LW) в Keeper.
Если вы хотите включить сэмплирование и профилирование выделений памяти в jemalloc, необходимо запустить ClickHouse/Keeper с включенным профилированием, используя переменную окружения MALLOC_CONF:
jemalloc будет выборочно сэмплировать выделения памяти и хранить эту информацию внутри.
Вы можете указать jemalloc сбросить текущий профиль, выполнив:
- ClickHouse
- Keeper
/tmp/jemalloc_clickhouse._pid_._seqnum_.heap, где _pid_ — PID процесса ClickHouse, а _seqnum_ — глобальный порядковый номер текущего профиля кучи.
Для Keeper по умолчанию используется файл /tmp/jemalloc_keeper._pid_._seqnum_.heap; для него действуют те же правила.
Другое расположение можно задать, добавив к переменной окружения MALLOC_CONF параметр prof_prefix.
Например, если вы хотите создавать профили в папке /data, где префикс имени файла будет my_current_profile, вы можете запустить ClickHouse/Keeper со следующей переменной окружения:
jemalloc под названием jeprof. Установить его можно несколькими способами:
- С помощью системного менеджера пакетов
- Клонировать репозиторий jemalloc и запустить
autogen.shиз корневого каталога. В результате в каталогеbinпоявится скриптjeprof
jeprof использует addr2line для генерации трассировок стека, что может быть довольно медленно.
В этом случае рекомендуется установить альтернативную реализацию этого инструмента.jeprof из профиля кучи можно получить данные во многих разных форматах.
Чтобы узнать о способе использования и доступных параметрах, рекомендуется выполнить jeprof --help.
В общем случае команда jeprof выглядит так:
base:
- если вы хотите создать текстовый файл, где каждая процедура записана в отдельной строке:
- если вы хотите сгенерировать PDF-файл с графом вызовов:
jeprof позволяет генерировать свёрнутые стеки для построения флеймграфов.
Для этого нужно использовать аргумент --collapsed:
flamegraph.pl:
- ClickHouse
- Keeper
- ClickHouse
- Keeper
prof_active, который по умолчанию включен.
Например, если вы не хотите выполнять выборку выделений памяти во время запуска, а только после него, можно включить профилировщик позже. Вы можете запустить ClickHouse/Keeper со следующей переменной окружения:
jemalloc есть множество параметров, относящихся к профилировщику. Ими можно управлять, изменяя переменную окружения MALLOC_CONF.
Например, интервал между выборками выделения памяти можно задать с помощью lg_prof_sample.
Если вы хотите выгружать профиль кучи каждые N байт, включите это с помощью lg_prof_interval.
Чтобы получить полный список параметров, рекомендуется обратиться к странице справки jemalloc.
ClickHouse/Keeper предоставляют метрики, связанные с jemalloc, различными способами.
jemalloc, из asynchronous_metrics также экспортируются через конечную точку Prometheus как в ClickHouse, так и в Keeper.
Справочник
Keeper поддерживает команду 4LW jmst, которая возвращает базовую статистику аллокатора памяти: