Вообще говоря, передача всех данных в драйвер выглядит довольно плохой идеей, и большую часть времени там есть лучшее решение, но если вы действительно хотите это сделать, вы можете использовать метод toLocalIterator
для RDD:
val df: org.apache.spark.sql.DataFrame = ???
df.cache // Optional, to avoid repeated computation, see docs for details
val iter: Iterator[org.apache.spark.sql.Row] = df.rdd.toLocalIterator
У людей по DimeCasts.net есть хорошее учебное руководство .
TeamCityОбратите внимание, что TeamCity может также использовать MSBuild, который может запустить Visual Studio .sln файлы. Это - великолепное место для запуска, когда намочить ноги - просто имеет сервер сборки, выполняет сценарий сборки, который использует MSBuild для вызова .sln файла.
Мы регистрируемся в нашем сценарии сборки в Каталоге сборки, и мы, несомненно, будем использовать относительные пути, таким образом, любой может выполнить сборку. У нас есть приблизительно 140 проектов (и управляемый и неуправляемый) плюс хост других операций (автоматическая генерация классов и объектов от метаданных, например).
кроме того, при установке сервера CI впервые, готовятся становиться очень знакомым со сборкой. В течение первых нескольких недель, когда что-то повреждает людей, может возложить ответственность за него на сервер CI вместо того, чтобы регистрироваться в поврежденном коде. Понимание Вашей сборки и хранение ее максимально простой помогут целой команде сфокусироваться на интеграции лучше.
, nunit является хорошим местом для запуска, потому что это работает хорошо с teamcity.
teamcity действительно хорош установить, для регистрации назад его у Вас есть любые проблемы с ним
, вот некоторые ссылки для помощи
Я нашел статью в "Pete W. 's Книжным блогом" Идеи, который был неоценим для установки TeamCity и Визуального SVN для меня. VisualSVN + TeamCity + NAnt + SQL Server
Даже говорит о получении SQL Server 2005, работающий с TeamCity (хотя, я полагаю, что это работает из поля с TeamCity 4.x). Интеграция с NAnt, которому помогают, также.
Это - хорошее введение и учебная статья.
Я написал довольно длинный пост о том, как это сделать с помощью ASP.Net и проектов веб-развертывания - звучит прямо у вас на пути (не знаю, разрешено ли мне публиковать это - моды?):