欢迎来到代码驿站!

Python代码

当前位置:首页 > 软件编程 > Python代码

pyspark 读取csv文件创建DataFrame的两种方法

时间:2021-06-09 08:07:28|栏目:Python代码|点击:

方法一:用pandas辅助

from pyspark import SparkContext 
from pyspark.sql import SQLContext 
import pandas as pd 
sc = SparkContext()
sqlContext=SQLContext(sc) 
df=pd.read_csv(r'game-clicks.csv') 
sdf=sqlc.createDataFrame(df) 

方法二:纯spark

from pyspark import SparkContext 
from pyspark.sql import SQLContext
sc = SparkContext()
sqlContext = SQLContext(sc)
sqlContext.read.format('com.databricks.spark.csv').options(header='true', inferschema='true').load('game-clicks.csv')

上一篇:python 弧度与角度互转实例

栏    目:Python代码

下一篇:python多进程重复加载的解决方式

本文标题:pyspark 读取csv文件创建DataFrame的两种方法

本文地址:http://www.codeinn.net/misctech/138439.html

推荐教程

广告投放 | 联系我们 | 版权申明

重要申明:本站所有的文章、图片、评论等,均由网友发表或上传并维护或收集自网络,属个人行为,与本站立场无关。

如果侵犯了您的权利,请与我们联系,我们将在24小时内进行处理、任何非本站因素导致的法律后果,本站均不负任何责任。

联系QQ:914707363 | 邮箱:codeinn#126.com(#换成@)

Copyright © 2020 代码驿站 版权所有