首页 > 编程知识 正文

大数据分析平台工程师和算法工程师岗位职责一样吗,大数据 数据分析工程师

时间:2023-05-04 12:27:32 阅读:225985 作者:747

参与大数据平台的搭建和优化,包括Hadoop,spark,Kafka,ELK等软件的配置和系统优化。计算学习基础算法,使用Java语言和python语言实现数据处理,熟悉spark和MapReduce。了解AMOS,DEA,Frontier,统计分析的基本步骤

数据科学工程流程:

数据产品规范流程一般有以下开发流程
CRISP——DM (数据挖掘建模标准)
数据科学到产品设计过程中的操作:
1.理解业务核心
2.理解数据关系
3.数据准备
4.建立模型
5.评价优化
6。具体实施
数据科学的生命周期理论上将其工程化
1.数据采集工程
2.数据准备工程(降噪与清洗)
3.假设与模型
4.评价与解释
5.系统部署与模型框架搭建
6 具体操作
7.循环设计和优化周期
在PhilipGuo的博士论文《DataScienceWorkflow:OverviewandChallenges》他简化的操作为:
数据准备——数据分析——结果反馈——方法的传播

数据产品的中心应该是数据不是软件工程所以不能随便转移,如果转移到软件工程成本即将倍增。

推荐一个算法————智能算法:醉汉算法模型

数据分析一般使用的软件:stata ,SAS,Matlab,Mintab,Excel,DEAP,Frontier4.1,SPSS,EViews ,Amos,AigGis,MapGis;Clementine,SASEM
需要方向:数据统计信息挖掘,数据图表制作,计量经济模型,数据模型构建,调查问卷设计,金融模型分析,神经网络,DEA模型分析。

hinton设计的deep learning目前比较突出

在数据工作中需要的知识储备:
商学,社会学,统计学,信息管理,情报学,

版权声明:该文观点仅代表作者本人。处理文章:请发送邮件至 三1五14八八95#扣扣.com 举报,一经查实,本站将立刻删除。