Есть ли способ получить текущую дату -1 в Hive всегда означает вчерашнюю дату? И в этом формате -20120805? Я могу запустить свой запрос таким образом, чтобы получить данные для вчерашней даты, так как сегодня 6 августа -...
У меня есть запрос ниже в файле test1.hql. Я пытаюсь передать дату (dt )в качестве аргумента командной строки. выберите *из губ _данные _качество, где dt = '${hiveconf :start _date}'; Поэтому всякий раз, когда я пытаюсь бежать...
Как я могу эффективно хранить данные в Hive, а также хранить и извлекать сжатые данные в Hive? В настоящее время я храню его как TextFile. Я просматривал статью Bejoy и обнаружил, что LZO...
В чем разница и смысл этих двух утверждений, с которыми я столкнулся во время лекции здесь :1. Традиционные базы данных применяют схему во время загрузки. и 2. Hive применяет схему во время...
Если у меня есть несколько элементов, перечисленных в предложении where, как можно ограничить результаты до N для каждого элемента в списке? EX :выберите a _id,b,c, count (*), как sumrequests из таблицы _имя куда а _идентификатор...
Я новичок в хаупе здесь. Непонятно, зачем нам нужна возможность сортировки по ключам при использовании hadoop mapreduce? После этапа карты нам нужно распределить данные, соответствующие каждому уникальному ключу, на некоторые...
Проблема в hduser @ saket-K53SM: / usr / local / hadoop $ jps. Программу 'jps' можно найти в следующих пакетах: * openjdk-6-jdk * openjdk-7-jdk Попробуйте: sudo apt-get install < выбрано ...
Я совершенно новичок в Hadoop и только что закончил установку, которая заняла у меня 2 дня... Я сейчас пытаюсь с помощью команды hadoop dfs, но я просто не мог понять это, хотя я просматривал в течение нескольких дней, я...
Я пытаюсь собрать Hadoop локально, и когда я делаю $ mvn -U clean install -Pdist -Dtar -Ptest -patch, как уже упоминалось -http://wiki.apache.org/hadoop/HowToSetupYourDevelopmentEnvironment[ERROR] Ошибка...
Я пытаюсь понять, как установить путь к классу, который ссылается на HDFS? Я не могу найти никакой ссылки. java -cp "как ссылаться на HDFS?" com.MyProgram Если я не могу сослаться на файловую систему hadoop,...
В чем реальная разница между запуском скриптов PIG локально и на mapreduce? Я понимаю, что режим mapreduce — это когда вы запускаете его на кластере с установленным hdfs. Означает ли это, что локальный режим действительно...
Я попытался запустить простую программу в Hadoop с помощью Windows-Cygwin. Я могу запустить namenode. Однако запуск джобтрекера завершается с ошибкой :FATAL mapred.JobTracker:java.lang....
У меня следующая ситуация: у меня есть кластер из 3 машин со следующей конфигурацией. Основное использование / :91,4% от 74,41 ГБ MemTotal :16557308 кБ MemFree :723736 КБ Ведомый 01...
Есть ли команда hdfs для просмотра свободного места в hdfs. Мы можем видеть это через браузер по адресу master :hdfsport в браузере, но по какой-то причине я не могу получить к нему доступ, и мне нужна какая-то команда. Я вижу...
Это, вероятно, свидетельствует о том, что я не понимаю Java, но мне интересно, почему в большинстве программ MapReduce классы картографа и редуктора объявлены как статические?
Я потерялся в :Hadoop, Hbase, Lucene, Carrot2, Cloudera, Tika, ZooKeeper, Solr, Katta, Cascading, POI... Когда вы читаете об одном, вы часто можете быть уверены, что каждый из других инструментов будет...
P.S :Пожалуйста, не отмечайте это как дубликат. Привет, я пытался настроить и запустить Hadoop в псевдораспределенном режиме. Когда я запускаю скрипт start -all.sh, я получаю этот вывод :start namenode,...
У меня проблема с попыткой «загрузить» файл из файловой системы HDFS в мою локальную систему. (хотя обратная операция работает без проблем ). *Примечание :Файл существует в файловой системе HDFS на...
Я установил Hadoop (1.0.2 )для одного узла в Windows 7 с Cygwin, и он работает. Однако я не могу заставить PIG (0.10.0 )увидеть Hadoop. 1 )«Ошибка :JAVA _ГЛАВНАЯ не установлена». Я добавил эту строку в...
Я пишу задание mapreduce. Вход представляет собой таблицу в hbase. При выполнении задания произошла ошибка :org.apache.hadoop.hbase.client.ScannerTimeoutException :88557 мс с момента последнего вызова, время ожидания...
Недавно я установил Hadoop и могу запускать простые программы. Однако я хотел бы просмотреть документацию по классам Hadoop в браузере Javadoc в Eclipse. Пожалуйста, дайте мне знать, как включить это...
Я хочу автоматически уничтожать все свои задания хаупа, когда мой код сталкивается с необработанным исключением. Мне интересно, как лучше всего это сделать? Спасибо
Я пишу функцию карты, используя mrjob. Мой ввод будет поступать из файлов в каталоге на HDFS. Имена файлов содержат небольшую, но важную информацию, которой нет в самих файлах. Есть...
Я любитель с хаупом и прочим. Теперь я пытаюсь получить доступ к кластеру Hadoop (HDFS )и получить список файлов из клиентского eclipse. Я могу выполнять следующие операции после настройки...
Таким образом, обычно для кластера из 20 узлов отправка задания на обработку 3 ГБ (200 разбиений )данных занимает около 30 секунд, а фактическое выполнение — около 1 минуты. Я хочу понять, что является узким местом в процессе отправки вакансий...
У меня есть настройка кластера Hadoop, и я работаю под общим именем пользователя по умолчанию «user1». Я хочу поместить файлы в hadoop с удаленного компьютера, который не является частью кластера hadoop. Я настроил хауп...