Коннекторы

Коннекторы — это встроенные в Managed Service for Apache Kafka® компоненты инструмента Kafka Connect для передачи информации между Apache Kafka® и другими хранилищами данных. Коннектор можно использовать для непрерывной миграции данных в кластер Managed Service for Apache Kafka® или из него. Работа с данными в коннекторе выполняется в отдельных потоках процесса-исполнителя Kafka Connect (worker). Подробнее о Kafka Connect см. в документации Apache Kafka®.

Коннектор выполняет следующие функции:

• Подключение к кластеру Managed Service for Apache Kafka® и другим хранилищам данных.
• Чтение и запись данных.
• Управление процессом работы с данными.

Для любого типа коннекторов можно указать:

• Лимит задач. Определяет количество одновременно запущенных процессов-исполнителей.
• Дополнительные свойства.

Пошаговые инструкции по работе с коннекторами см. в разделе Управление коннекторами.

Поддерживаемые коннекторы

MirrorMaker

Коннектор MirrorMaker используется для межкластерной репликации топиков Apache Kafka®.

Процесс-исполнитель обращается к хостам-брокерам кластера Managed Service for Apache Kafka® и реплицирует топики, указанные в шаблоне фильтрации коннектора. В зависимости от фактора репликации коннектора, подключение происходит к одному или нескольким брокерам.

Названия топиков в кластере-приемнике совпадают с их названиями в кластере-источнике.

Подробнее о том, как MirrorMaker выполняет перенос данных, см. в документации Apache Kafka®.

S3 Sink

Коннектор S3 Sink используется только в качестве приемника для экспорта данных из топиков Apache Kafka® в хранилище S3.

Коннектор периодически запрашивает данные из Apache Kafka® и загружает их в хранилище S3. Данные разделяются на куски (chunks), которые представляют собой файл-объекты S3. Размер каждого такого куска данных зависит от заданного максимального количества записей в нем.

Подробнее о том, как S3 Sink выполняет перенос данных, см. в документации коннектора.