Как оптимизировать Kafka?

Как оптимизировать Kafka?
Как оптимизировать Kafka?
Anonim

Вот десять конкретных советов, которые помогут оптимизировать развертывание Kafka и упростить управление:

  1. Установите параметры конфигурации журнала, чтобы журналы оставались управляемыми.
  2. Знать Кафки (низкие) требования к оборудованию.
  3. Используйте Apache ZooKeeper в полной мере.
  4. Правильно настройте репликацию и избыточность.
  5. Позаботьтесь о конфигурациях тем.

Точно так же, как работает ребалансировка Кафки?

Ребалансировка - это процесс, в котором группа экземпляров-потребителей (принадлежащих к одной группе) координирует владение взаимоисключающим набором разделов тем, на которые подписана группа.

Во-вторых, сколько данных может обработать Kafka? Если вы привыкли к произвольному доступу данные системы, такие как база данных или хранилище ключей, вы буду обычно ожидают максимальной пропускной способности от 5 000 до 50 000 запросов в секунду, так как это близко к скорости, необходимой для хорошего уровня RPC. жестяная банка делать удаленные запросы.

Люди также спрашивают, как вы масштабируете потребителей Kafka?

Есть 2 вещи, которые вы можете шкала вверх: Кафка , или потребители . Если ваши продюсеры создают больше сообщений по одной теме, вы можете увеличить количество потребители чтобы они могли выполнять больше работы одновременно, вы собираетесь шкала по горизонтали.

Насколько большими могут быть сообщения Kafka?

Кафка не предназначен для обработки большие сообщения и вот почему сообщение максимальный размер - 1 МБ (настройка в ваших брокерах называется сообщение.