阿里云数仓Dataworks数据导出到文件step by step

背景

假设你在阿里云上dataworks的空间space下有一个表table_a,想要把它的数据导出到文件以供后续使用,但是数据量又很多,从浏览器复制不太现实。阿里云提供了java和python版本的sdk,用来完成这个操作。
为了帮助业务取数,我之前搜了很多文档包括官方文档,但都没有完整讲清楚具体怎么做的,信息很碎片化。经过个人的实践总算摸清楚其中每一步的细节,分享出来。
其实阿里内部是有一套自有的数仓导出&文件分发平台的,希望能尽早开放出来给用户使用。

“空间”所在位置(已打码):

【注意】使用sdk访问数仓表也会按流量计费,因此不要进行一些非必要的操作!

环境准备

  1. 安装python,建议用python3

    brew install python3
    
  2. 安装pip

    easy_install pip
    
  3. 安装pyodps

    pip install pyodps
    

获取accesskey

按图中的步骤,获取accesskeyidaccesskeysecret注意:accesskeysecret创建后在阿里云上是无法再次查看的,需要自行保存。

编写取数脚本

基本用法

先写一个简单的脚本,将数仓中所有的行的id列取出来,输出到文件中,请自行替换以下代码中带有”【】”的参数。
注意数据分片是必须的,请自行替换成你的表的分片字段名(默认一般是ds,格式为20210611)

from odps import odps
file_handle=open('export.txt',mode='w')
o = odps('【accesskeyid】', '【accesskeysecret】', '【space】','http://service.odps.aliyun.com/api')
for record in o.read_table('【table_a】', partition='ds=【数据分片】'):
	file_handle.write(record.id + '\n')
file_handle.close()

条件查询

此时使用execute_sql+reader来读取即可

from odps import odps
file_handle=open('export.txt',mode='w')
o = odps('【accesskeyid】', '【accesskeysecret】', '【space】','http://service.odps.aliyun.com/api')
with o.execute_sql("select * from 【table_a】 where id = '【***】' and ds='【数据分片】'").open_reader() as reader:
	for record in reader:
		file_handle.write(record.id + '\n')
file_handle.close()

参考文档

pyods官方文档:https://pyodps.readthedocs.io/zh_cn/latest/

(0)
上一篇 2022年3月21日
下一篇 2022年3月21日

相关推荐