Какую версию Python использует Spark?
Какую версию Python использует Spark?

Видео: Какую версию Python использует Spark?

Видео: Какую версию Python использует Spark?
Видео: DATALEARN | DE - 101 | МОДУЛЬ 7-2-1 САМЫЙ МИНИМУМ PYTHON ДЛЯ SPARK (JUST ENOUGH PYTHON FOR SPARK) 2024, Май
Anonim

Искра работает на Java 8+, Python 2.7 + / 3.4 + и R 3.1+. Для Scala API Искра 2.3. 0 использует Scala 2.11. Вам нужно будет использовать совместимая Scala версия (2.11.

Соответственно, работает ли spark с Python 3?

Apache Искра - это инфраструктура кластерных вычислений, которая в настоящее время является одной из наиболее активно разрабатываемых на арене больших данных с открытым исходным кодом. Начиная с последней версии 1.4 (июнь 2015 г.), Искра поддерживает R и Python 3 (в дополнение к ранее доступной поддержке Java, Scala и Python 2).

Кроме того, как мне изменить искровую версию Python? Если вы хотите только изменение в версия python для текущей задачи вы можете использовать следующую команду запуска pyspark: PYSPARK_DRIVER_PYTHON = / home / user1 / anaconda2 / bin / питон PYSPARK_PYTHON = / usr / local / anaconda2 / bin / питон pyspark --master..

Кроме того, какая последняя версия Spark?

Apache Spark

Автор (ы) оригинала Матей Захария
Первый выпуск 26 мая 2014 г.
Стабильный выпуск 2.4.5 / 8 февраля 2020 г.
Репозиторий Репозиторий Spark
Написано в Scala

Что такое искровой питон?

Укрощение больших данных с помощью Apache Искра а также Python Py4J - это популярная библиотека, интегрированная в PySpark это позволяет питон динамически взаимодействовать с объектами JVM (RDD). Apache Искра поставляется с интерактивной оболочкой для питон как и для Scala. Оболочка для питон известен как PySpark ”.

Рекомендуемые: