博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Spark读取Json类型的数据与读取Hive中的数据
阅读量:3937 次
发布时间:2019-05-23

本文共 444 字,大约阅读时间需要 1 分钟。

1.spark读取json类型的数据

val df = spark.read.json("examples/src/main/resources/vertex")df.show(5,false)

2.spark读取hive中的数据

val spark = SparkSession.builder().master("yarn").appName("hive2nebula").enableHiveSupport().getOrCreate()val sql: String ="select id_no as id_no_nebula,id_no,name,id_type,ecif_no from ccpd_zf1_ods_safe.tm_apply_info_zaps_dcn where ds='20380614' "val df:  DataFrame = spark.sql(sql).toDF()df.show(5,false)

在这里插入图片描述

俩种读取方式得到的df的schema一样 。

转载地址:http://ckuwi.baihongyu.com/

你可能感兴趣的文章
Python中os与sys两模块的区别
查看>>
nohup详解
查看>>
idea .gitignore对.idea不起作用解决
查看>>
深度学习中的注意力机制(2017版)-易理解
查看>>
Transformer解析-易理解
查看>>
多维数组[:,0]和[:0:1]获取的区别
查看>>
复原Ip地址
查看>>
重建二叉树
查看>>
二叉树根节点到叶子节点的路径数字之和
查看>>
根节点到叶子节点的节点值之和等于 sum的路径
查看>>
判断二叉树是否有从根节点到叶子节点的节点值之和等于sum的路径
查看>>
反转字符串
查看>>
环形链表
查看>>
删除链表的倒数第N个节点
查看>>
回文链表
查看>>
容器盛水问题
查看>>
滑动窗口最大值
查看>>
win7 文件删除后要刷新后才会消失
查看>>
用ffmpeg转多音轨的mkv文件
查看>>
ubuntu12.04 安装VLC,在root用户下不能使用的问题
查看>>