Оглавление:

Какие основные параметры конфигурации необходимо указать пользователю для запуска задания MapReduce?
Какие основные параметры конфигурации необходимо указать пользователю для запуска задания MapReduce?

Видео: Какие основные параметры конфигурации необходимо указать пользователю для запуска задания MapReduce?

Видео: Какие основные параметры конфигурации необходимо указать пользователю для запуска задания MapReduce?
Видео: Машинное обучение для больших данных, семинар 3, группа 171 – Hadoop MapReduce 2024, Май
Anonim

Основными параметрами конфигурации, которые необходимо указать пользователям в фреймворке «MapReduce», являются:

  • Иова места ввода в распределенной файловой системе.
  • Иова расположение вывода в распределенной файловой системе.
  • Формат ввода данных.
  • Формат вывода данных.
  • Класс, содержащий функцию карты.
  • Класс, содержащий функцию уменьшения.

Каковы здесь основные параметры конфигурации в программе MapReduce?

Основные параметры конфигурации в фреймворке «MapReduce»:

  • Местоположение ввода заданий в распределенной файловой системе.
  • Расположение вывода заданий в распределенной файловой системе.
  • Формат ввода данных.
  • Формат вывода данных.
  • Класс, содержащий функцию карты.
  • Класс, содержащий функцию уменьшения.

Также можно спросить, а каковы параметры мапперов и редукторов? Четыре параметра для картографов:

  • LongWritable (ввод)
  • ввод текста)
  • текст (промежуточный вывод)
  • IntWritable (промежуточный вывод)

Также вопрос в том, каковы основные компоненты работы MapReduce?

  • Основной класс драйвера, который предоставляет параметры конфигурации задания.
  • Класс Mapper, который должен расширять org. апач. хадуп. уменьшение карты. Mapper и предоставить реализацию для метода map ().
  • Класс reducer, который должен расширять org. апач. хадуп. уменьшение карты. Класс редуктора.

Что такое разделитель и как он помогает в процессе работы MapReduce?

Разделитель в Работа MapReduce Execution управляет разделением ключей промежуточных выходов карты. С помощь хеш-функции, ключ (или подмножество ключа) выводит перегородка . Записи, имеющие одинаковое значение ключа, входят в одно и то же перегородка (в каждом картографе).

Рекомендуемые: