5
ответов

Hadoop put vs copyFromLocal [дубликат]

Тем не менее, я смущен, какая разница между put и copyFromLocal. Много форум и блог сообщают, что оба они одинаковы и ничего не имеют. Может быть, у вас есть лучшая идея и какая точка зрения ...
вопрос задан: 18 October 2011 18:29
1
ответ

Как передать List [String] для выбора или selectExpr в искре, когда строка также содержит UDF

У меня есть List [String] как ниже val colList = List (verifyLength ($ "col1", горит (0), горит (0), горит ("RJ"), горит (9)). As ("col1") verifyLength ($ "col2", горит (0), горит (0), горит ("RJ"), горит (16)). as ("col2")) Когда я ...
вопрос задан: 19 March 2019 16:38
1
ответ

задание mapreduce для пряжи, завершенной с помощью exitCode: -1000 из-за изменения ресурса в файловой системе src

Приложение application_1552978163044_0016 не удалось 5 раз из-за AM-контейнера для appattempt_1552978163044_0016_000005, завершенного с exitCode: -1000 Диагностика: java.io.IOException: Resource ...
вопрос задан: 19 March 2019 08:38
1
ответ

Команда для перечисления количества картографов и редукторов в HADOOP 2.x

Существуют ли какие-либо команды hadoop / yarn для отображения количества картографических / редукторных / слотов, используемых заданием динамически
вопрос задан: 19 February 2019 13:35
1
ответ

Запустите MapReduce Jar в облачных данных Spring

Мне нужно запустить весеннее загрузочное приложение mapreduce в облачном потоке данных Spring. Обычно приложения, зарегистрированные в scdf, выполняются с помощью команды "java -jar jar-name". Но моя программа это mapreduce и ...
вопрос задан: 18 January 2019 04:53
1
ответ

Несколько картографов записывают вывод в один файл

я новичок в hadoop, и меня поразила проблема. У меня есть случай использования, когда я хочу запустить задание только на карте для файла размером около 2 ГБ. Я создал 4 разделения размером 512 МБ, используя CombineHiveInputFormat и ...
вопрос задан: 17 January 2019 04:18
0
ответов

ОШИБКА сжатия Hadoop: java.lang.UnsatisfiedLinkError: org.apache.hadoop.util.NativeCodeLoader.buildSupportsSnappy () Z

Когда я запускаю Apache Kylin в Hadoop, я встретил следующую ошибку, связанную с Hadoop MapReduce: 2019-03-20 08: 06: 00,193 ОШИБКА [main] org.apache.kylin.engine.mr.KylinMapper: java.lang. ...
вопрос задан: 20 March 2019 08:51
0
ответов

Извлечение данных из улья и загрузка в таблицу postgres

Я установил сервер ambari для запуска hadoop и hive. Теперь я загрузил таблицы кустов из CSV-файла. Я хочу загрузить данные из улья в базу данных postgres. Postgres db действует как промежуточная база данных. Правильно ...
вопрос задан: 19 March 2019 06:56
0
ответов

Ошибка при запуске команды hadoop copyFromLocalFile в Java

Я новичок в кластерном узле Hadoop. Я пытаюсь запустить команду Hadoop в Java. Следующий код для копирования файла с локального на HDFS. Когда я использую командную оболочку, она работает: hadoop fs -copyFromLocal / home / ...
вопрос задан: 17 January 2019 14:54
0
ответов

hbase скрипт сторожевого сервера

Помогите, пожалуйста, у нас более старая версия hadoop (2.0.0-cdh4.3.0), и наш экономный сервер довольно часто умирает с OOM. Я также читал об этом же здесь: Возможные проблемы с hbase thrift и был ...
вопрос задан: 16 January 2019 23:07
0
ответов

Путаница между кучей контейнера и кучей jvm в Apache Hadoop 2.7.x

Я настроил Apache Hadoop 2.7.x с 3 рабочими. Я столкнулся с некоторым исключением, таким как java.lang.OutOfMemoryError: Превышен лимит накладных расходов GC После некоторого поиска я обнаружил, что должен увеличить ...
вопрос задан: 16 January 2019 05:27
0
ответов

разница между командами запуска и выполнения утилиты в pig

Команда Apache Pig Utility дает два одинаковых типа команд run и exec для запуска pig-сценария в grunt shell, я смотрю, разница только в том, что run дает гибкость разработчику при взаимодействии
вопрос задан: 15 January 2019 18:51
0
ответов

Hadoop namenode: одна точка of failure

Namenode в архитектуре Hadoop - это единственная точка отказа. Как люди, у которых есть большие кластеры Hadoop, справляются с этой проблемой? Есть ли принятое в отрасли решение, которое сработало ...
вопрос задан: 1 February 2016 13:37
0
ответов

Как выполнить кусок кода в узлах кластера hadoop?

Я создал многоузловой кластер hadoop, и моя цель - узнать информацию о процессоре всех узлов кластера, запустив файл jar в master.У меня есть код, чтобы узнать информацию о процессоре в узле. Как я могу ...
вопрос задан: 27 February 2015 03:05