Я пытаюсь запустить работу spark2-submit в hdfs, за исключением того, что он продолжает предоставлять ошибку java.lang.ClassNotFoundException: ca.Main at java.net.URLClassLoader.findClass (URLClassLoader.java:381) ...
Я пытаюсь экспортировать параметр оболочки $ FLAGS в сценарий предварительной сборки Yarn, а затем использовать параметр в последующем скрипте сборки. Однако $ FLAGS не отображается. Если бы это было так, я бы ...
Приложение application_1552978163044_0016 не удалось 5 раз из-за AM-контейнера для appattempt_1552978163044_0016_000005, завершенного с exitCode: -1000 Диагностика: java.io.IOException: Resource ...
Согласно документу Yarn, YarnApplicationState - это состояние приложения, о котором сообщает ResourceManager, а FinalStatus - это окончательный статус приложения, о котором сообщает сам ApplicationMaster. ...
это мой первый вопрос о переполнении стека. Я настроил свой кластер с одним узлом hadoop (2.9.2) в псевдораспределенном режиме. Когда я пытаюсь запустить Jadoop Jar C: /MapReduceClient.jar wordcount / input_dir / ...
Когда я запускаю Apache Kylin в Hadoop, я встретил следующую ошибку, связанную с Hadoop MapReduce: 2019-03-20 08: 06: 00,193 ОШИБКА [main] org.apache.kylin.engine.mr.KylinMapper: java.lang. ...
Я пытаюсь настроить кластер с Hadoop (позже я буду использовать Yarn с Spark), но я получаю сообщение об ошибке; user1: masterPC: /opt/hadoop-3.1.2/etc$ jps 25777 Jps user1: masterPC: / opt / hadoop -...
Не могли бы вы мне помочь пожалуйста ? После настройки интерпретатора spark для работы в кластере пряжи и установки минимальной и максимальной памяти в yarn-site.xml при попытке прочитать файлы CSV появляется следующая ошибка: org ....
Мне удалось запутать свою программу Word Count, и теперь я хочу получить максимальное количество случаев. Мой вывод для моего WordCount выглядит следующим образом: File1: Word1: x File1: Word2: x Where File ...
Я установил Hadoop версии 2.8.3 в моей среде Windows 10 (псевдо-распределенный режим), и она работает нормально. После этого я пытаюсь установить спарк 2.3.2 поверх него. Я пишу искровую работу в pyspark. ...
Я получаю неизвестное исключение для хоста, службы имен правильно поддерживаются в hdfs-site.xml и core-site.xml. 019-01-14 03: 46: 48,564 FATAL [main] org.apache.hadoop.mapreduce.v2.app ....
Я пытаюсь отправить JAR с заданием Spark в кластер YARN из кода Java. Я использую SparkLauncher для отправки примера SparkPi: Process spark = new SparkLauncher () .setAppResource ("C: \\ spark -...
Namenode в архитектуре Hadoop - это единственная точка отказа. Как люди, у которых есть большие кластеры Hadoop, справляются с этой проблемой? Есть ли принятое в отрасли решение, которое сработало ...
После установки hadoop 2.2 и попытки запуска конвейера example ive получил следующую ошибку (та же самая ошибка появляется после попытки запустить hadoop jar hadoop-mapreduce-examples-2.2.0.jar wordcount ...