《大数据架构师的基本职责(通用33篇)》

大数据架构师的基本职责（精选33篇）

大数据架构师的基本职责 篇1

职责：

1、负责大数据平台的技术选型，基于Spark、Hadoop大数据平台建设和开发;

2、完成包括数据模型设计、数据采集、数据存储等方面的大数据系统架构的设计和数据层架构设计;

3、构建数据中台，为多种行业应用提供主数据(画像标签/关系图谱)、数据模型、人工智能业务算法及数据服务。

4、对海量数据处理的业务需求进行评估和方案设计、拆分任务并指导工程师完成开发;

5、带领大数据技术团队提供并实现大数据平台上各项数据分析和数据可视化的架构设计，支撑解决方案实施。

任职要求：

1、本科及以上学历，具有5年及以上大数据架构设计和开发经验;2年及以上带领团队经验;沟通能力强。在大型互联网企业从事大数据架构设计者优先考虑;有分布式大型商业软件系统设计经验、主导过大型商业软件的架构设计并取得过市场商业成功者优先考虑;

2、熟悉整个大数据的完整处理流程，包括数据的采集、清洗、预处理、存储、分析挖据、机器学习和数据可视化;

3、精通Oracle/MySQL/PostgreSQL/Greenplum/MongoDB等其中至少一种主流数据库的使用，并能进行性能调优;

4、具备优秀的团队意识和沟通能力，学习能力和主动性强，具有钻研精神，充满激情，乐于接受挑战。

大数据架构师的基本职责 篇2

1)负责大数据平台系统架构设计、核心开发工作(Hadoop&Spark技术方向)，基于业务场景设计最优的系统解决方案。

2)构架支持大数量级的数据的大数据平台系统，及相关监控，拓展系统设计及实现。

3)利用Hadoop、Spark等大数据技术对海量数据进行处理，支持BI和数据科学(建模)的应用实现。

4)对现有系统的进行架构深入分析及系统优化，进一步提升系统的性能及数据处理能力。

大数据架构师的基本职责 篇3

职责：

1. 深刻理解政府行业业务模式，构建政府行业的数据模型，制定公司大数据技术发展路线;

2. 对接业务研究和技术部门，主动搜集和转化需求，组织数据中心业务开发，进行数据相关产品需求分析和设计;

3. 搭建数据仓库，研发数据库管理系统，搜集、提取、处理业务积累的海量数据，开展数据分析和挖掘;

4. 根据公司战略和发展需要，规划数据中心重点工作和任务;落实部门人员、事务管理，开展跨部门、跨地区协作，协助对外交流与合作。

职位要求：

1. 5年以上相关工作经验，有团队管理和项目管理经验者优先;

2.了解政府运作机制，掌握财政行业知识，有电子政务行业经验者优先;

3. 熟练掌握使用Java或Python,精通数据库查询语言如SQL，Oracle等,在机器学习模型和算法方向有应用经验者优先;

4. 具备数据中心产品策划整体思维，有大数据处理、分析、挖掘经验者优先;

5. 逻辑思维严密，具备业务抽象、分解和标准化的能力，口头和书面表达优秀;

6. 有较强的大局意识和良好的团队合作意识，富有领导力，具备优秀的人际交往和沟通能力。

大数据架构师的基本职责 篇4

职责:

1、 负责大数据仓库、数据集市的规划及实现，负责大数据中台的设计和核心开发工作;

2、 负责数据基础架构和数据处理体系的升级和优化，不断提升系统的稳定性和效率，为公司的业务提供大数据底层平台的支持和保证;

3、 大数据平台的数据采集、处理、存储以及挖掘分析的架构实现;

4、 研究未来数据模型和计算框架的创新与落地，包括但不限于以下领域：大规模数据实时化、研发模式敏捷化、数据计算框架轻量化、数据模型组织方式业务化等方面,参与制定并实践团队的技术发展路线

任职资格:

1、 精通数据建模、数据标准管理、元数据管理、数据质量管理;

2、 有作为技术负责人系统化解决问题的成功案例;有海量数据实践经验优先;

3、 熟悉目前正在发展的大数据分布式平台前沿技术的应用;包括但不仅仅限于：hadoop、flink、spark等;

4、 性格积极乐观，诚信，能自我驱动，有较强的语言表达能力;具备强烈的进取心、求知欲及团队合作精神;具有良好的沟通、团队协作、计划和创新的能力; 在数据业界有一定的影响力优先，具有风控经验背景的人优先;

5、 具备独立的深度思考能力，给出结合实际情况的较为理想的技术解决方案。

大数据架构师的基本职责 篇5

职责：

负责公司大数据产品架构的设计与实现;

配合大数据产品经理完成产品的快速研发与交付;

负责大数据产品架构的持续优化设计;

负责大数据产品核心组件设计;

负责大数据相关数据架构规划、数据建模、数据库设计以及大数据产品研发工作;

为应用开发团队提供技术支撑。

任职要求：

本科及以上学历，3年以上的大数据开发经验、

2年以上大数据架构设计经验;

丰富的JAVA研发经验，精通JAVA，熟悉Python Scala等编程语言;具备深厚的分布式系统或数据库系统的理论基础，熟悉分布式计算系统的工作机制，具有分布式文件系统、分布式数据库系统、集群存储系统等架构设计经验;

熟悉整个大数据的完整处理流程(数据的采集、清洗、预处理、存储、分析挖掘、机器学习和数据可视化);

精通各种大数据相关技术体系：Hadoop、Spark、Storm、ElasticSearch、Kafka;

有数据挖掘、机器学习相关应用或研究背景;

沟通能力较好，积极主动意识较强，责任心较强。

大数据架构师的基本职责 篇6

职责:

1、从事电信行业大数据项目相关业务调研、产品标准建设、核心模型设计和优化、系统测试等相关工作

2、与数据专业委员会一起研究数据建模方案和建模工具，负责产品线产品的数据架构、数据模型设计

3、参与研究数据库之间的数据转换方式，参与项目中的数据移植工作，收集在项目中的数据移植经验，优化产品的数据模型

4、负责培训本部门队伍的数据模型基础理论工作，建立数据模型团队

岗位要求：

1、统招本科学历，3年以上主流数据上(DB2、Oracle、SQLServer、Mysql等)ETL设计、开发经验，具备大型数据仓库逻辑模型和物理模型设计经验，精通SQL，有较好的SQL性能调优经验;

2、拥有Python，R等数学建模工具的使用经验，并具备一定的数据处理和建模经验，可以输出相应的模型分析结果、模型比较、模型效率以及对模型的理论和判断依据方法并对其进行完整的解释和说明;

3、熟悉统计学基本原理，做过实战的数据建模项目;

4、有分布式数据仓库建设相关经验者优先，具备电信行业数据仓库建设相关经验者优先;

大数据架构师的基本职责 篇7

职责：

1、大数据平台架构规划与设计;

2、负责大数据平台技术框架的选型与技术难点攻关;

3、能够独立进行行业大数据应用的整体技术框架、业务框架和系统架构设计和调优等工作，根据系统的业务需求，能够指导开发团队完成实施工作;

4、负责数据基础架构和数据处理体系的升级和优化，不断提升系统的稳定性和效率，为相关的业务提供大数据底层平台的支持和保证;

5、培养和建立大数据团队，对团队进行技术指导。

任职要求：

1、计算机相关专业的背景专业一类院校毕业本科、硕士学位，8年(硕士5年)以上工作经验(至少拥有3年以上大数据项目或产品架构经验);

2、精通Java，J2EE 相关技术，精通常见开源框架的架构，精通关系数据库系统(Oracle MySQL等)和noSQL数据存储系统的原理和架构;

3、精通SQL和Mapreduce、Spark处理方法;

4、精通大数据系统架构，熟悉业界数据仓库建模方法及新的建模方法的发展，有DW，BI架构体系的专项建设经验;

5、对大数据体系有深入认识，熟悉Kafka、Hadoop、Hive、HBase、Spark、Storm、greenplum、ES、Redis等大数据技术，并能设计相关数据模型;

6、很强的学习、分析和解决问题能力，可以迅速掌握业务逻辑并转化为技术方案，能独立撰写项目解决方案、项目技术文档;

7、具有较强的内外沟通能力，良好的团队意识和协作精神;

8、机器学习技术、数据挖掘、人工智能经验丰富者优先考虑;

9、 具有能源电力行业工作经验者优先。

大数据架构师的基本职责 篇8

1、负责大数据平台的架构设计、核心代码开发等任务；根据项目要求编写相关技术文档；

2、负责大数据平台的架构评审，代码评审，上线评审；参与数据应用需求、设计、审核和评审；

3、负责核心模块研发，负责大数据平台的搭建，完成系统调试、集成与实施；

4、负责建立和维护大数据平台技术标准规范，指导开发人员编写代码；

大数据架构师的基本职责 篇9

职责：

1、负责公司的大数据处理框架的研发设计工作，梳理可实现方案和技术规范;

2、开发、完善公司大数据平台;参与公司离线、实时大数据处理系统的设计、开发、测试及多个业务模块的自动化集成;

3、负责业务平台数据统计分析模块的设计与规划;

4、负责公司产品研发过程中的数据及存储设计;

5、带领和培养团队完成组织分解的目标;

任职要求：

1、统招本科及以上学历，计算机、软件工程相关专业，至少8年以上工作经验，5年以上大数据开发经验;

2、熟悉Java、Hadoop、HDFS、Hive、HBase、Spark、Storm、Flume等相关技术的基础架构

3、熟悉数据仓库，数据算法，分布式计算技术理论，具有大数据整体系统架构设计经验;

4、熟悉Linux系统，熟练使用shell/perl/python脚本处理问题;

5、对深度学习框架(Tensorflow)和机器学习(svm 随机深林贝叶斯等)有一定了解的优先;

6、能够组织项目开发组协同工作，包括团队沟通、计划、开发环境管理等

大数据架构师的基本职责 篇10

职责：

1.负责数据仓库建设，基于数据驱动构建企业级数据模型，根据架构设计进行各层数据模型开发。

2.面向PB级别超大规模数据处理和查询需求，设计适合业务变化的合理的多维数据分析系统架构，满足多样性需求。

3.构建设计良好的数据流、调度系统、查询引擎、监控系统，保证系统稳定高效运行，以实现数据的最大价值。

4.指导团队成员开展数据仓库建设。

5.参与重点项目的评审，参与企业数据管理体系建设。

任职要求：

1.统招本科及以上学历。

2.从事数据仓库领域至少5年以上，熟悉数据仓库模型设计与ETL开发经验 ，掌握Kimball的维度建模设计方法，具备海量数据加工处理(ETL)相关经验 。

3.具有一定数据模型和数据架构基础，熟悉hadoop\hive和常用数据库。

4. 精通SQL，有一定的SQL性能调优经验，熟悉hive sql的开发。

5.具有管理团队开发经验，具备良好的组织能力、协调能力及项目管理能力。

6.具有较好的文字功底及语言表达能力，能够快速、准确地理解需求。

7.具有专研、快速学习和创新精神，具备独立分析问题和解决问题的能力。

8.具有责任心，时间观念强，工作独立性强，有良好的团队合作精神。

9.全日制普通本科毕业。

大数据架构师的基本职责 篇11

职责：

1、负责公司的大数据平台的数仓架构、系统架构设计;

2、负责带领团队完成舆情分析相关的挖掘方案设计;

3、负责大数据研发组团队管理;

4、负责带领团队完成舆情平台的方案文档撰写、迭代开发;

5、负责研发规范制定，研究行业前沿技术;

6、参与产品规划及设计讨论。

任职要求：

1、本科五年工作经验及以上，有至少五年的大数据技术实践经验，有NLP或AI相关经验;

2、有很强的架构设计能力和良好的表达能力;

3、有一定的项目管理及团队管理能力;

4、精通Hadoop、Spark生态圈中的常用组件原理及应用;

6、理解媒体业务，精通数据仓库的规划和设计;

5、精通掌握Java或Python编程，有性能调优能力;

4、熟悉NLP算法原理及应用;

6、对新生事物或者新技术有浓厚兴趣，学习能力强。

大数据架构师的基本职责 篇12

1.负责大数据平台的基础技术规划，编制相关规范文档。

2.负责大数据平台的数据采集，处理，存储以及挖掘分析的架构实现。

3.负责大数据平台的实际规划建设，包括环境和框架的规划搭建以及部分核心编码工作。

4.负责大数据相关技术发展方向的预研。

5.参与业务需求调研，根据需求及行业特点设计大数据解决方案并跟进具体实施项目。

6.制定大数据平台中数据质量，业务质量监控及管理办法。

大数据架构师的基本职责 篇13

职责：

1)负责大数据平台系统架构设计、核心开发工作(Hadoop&Spark技术方向)，基于业务场景设计最优的系统解决方案。

2)构架支持大数量级的数据的大数据平台系统，及相关监控，拓展系统设计及实现。

3)利用Hadoop、Spark等大数据技术对海量数据进行处理，支持BI和数据科学(建模)的应用实现。

4)对现有系统的进行架构深入分析及系统优化，进一步提升系统的性能及数据处理能力。

任职资格

1)统招本科或以上学历，计算机相关专业， 5年以上软件开发经验、3年以上大数据项目经验。

2)具备较丰富的大数据平台相关构建，维护及调优经验，有大数据量级下的大数据集市相关经验。

3)具备较丰富的基于Hadoop或Hive或Spark等大数据处理项目经验，具备一定的数据挖掘经验。

4) 具有阿里云的EMR(emapreduce)的经验者优先考虑。

5)具有良好的业务理解、沟通和协作能力，具有较强的学习和总结能力。

6)优秀的团队合作精神、诚实、勤奋、严谨，敢于接受挑战。

7)机器学习技术、数据挖掘经验丰富者优先考虑。

大数据架构师的基本职责 篇14

职责：

1. 负责大数据基础平台、海量数据存储/处理分布式平台、数据分析系统架构设计和研发;

2. 负责实时计算平台基础架构设计、部署、监控、优化升级;

3. 制定项目/数据仓库设计及实现规范，指导设计研发和部署;

4. 协助策略和算法团队工作，保障数据挖掘建模和工程化;

5. 深入研究大数据相关技术和产品，跟进业界先进技术;

任职要求：

1. 全日制本科及以上学历，5年以上软件和分布式系统研发经验，3年以上大数据系统架构经验;

2. 精通Hadoop/HBase/Spark/Storm/Redis技术及其生态圈;

3. 具备良好的系统分析能力、故障诊断能力;

4 有大数据策略、算法、可视化经验优先。

大数据架构师的基本职责 篇15

职责：

1.负责整个大数据平台架构的设计和构建;

2.负责构建大数据平台的数据交换、任务调度等通用平台;

3.制定开发、测试、实施、维护的标准和规范，指导和培训工程师，不断提升团队能力。

4.参与系统需求分析、架构设计、技术选型、应用设计与开发以及测试与部署，负责编写核心部分代码。

5.持续挑战新的技术方向，攻克大数据量、高并发、高可用、可扩展等技术难点。

任职要求：

1.3年以上大数据架构经验，丰富的数据仓库、数据挖掘、机器学习项目经验

2.大规模数据处理的架构和设计实战经验

3.精通Spark、MR，熟练HDFS、Yarn、Hbase、Hive、MongoDB，熟悉Kafka、Redis、Storm、Mahout、Flume、ElasticSearch、GraphDB(NEO4J或其他)等，并具有丰富的大型数据平台工程经验

4.深刻理解大数据处理(流计算，分布式计算，分布式文件系统，分布式存储等)相关技术和实现方法

5.熟悉主数据、元数据、数据质量等企业数据管理相关的体系和方法，熟练Linux/Unix平台上的开发环境

6.本科或以上学历，计算机软件或相关专业，丰富的java开发经验和互联网背景优先。

7.具有比较强的问题分析和处理能力，有比较优秀的动手能力，热衷技术，精益求精

大数据架构师的基本职责 篇16

职责

1、参与打造数据中内容的规划、设计、开发和优化工作，实现高质量数据的互通与共享;

2、参与数据模型体系构建及数据主题设计和开发，搭建离线、实时数据公共层;

3、参与数据产品与应用的数据研发，发掘数据商业价值，打造极致体验的数据产品;

4、深入理解数据产品的使用场景，为业务方在可用性、成本上做更好的设计做参考;

5、团队成员的搭建与培养，任务划分，进度监控，代码规范，质量保证。

任职要求

1、熟悉数据仓库建模理论，3年以上相关领域实践经验;

2、Hadoop、Hive、Hbase、Storm、Spark等技术框架;

3、精通Java、Python、Scala、go等开发语言中的1到2种;

4、熟练使用Python/Java/scala或其他语言进行复杂业务逻辑的数据处理工作，具备海量数据处理以及性能优化的能力;

5、对MySQL、Redis、HBase等数据库有一定的了解和使用经验;

6、对olap，多维分析及kylin熟悉的更好;

7、思路清晰，具备良好的沟通能力和理解能力，较强的学习能力以及快速解决问题的能力;

8、对新技术，新事物有很好的探索和求知欲;

9、熟悉常规的机器学习算法：降维(PCA、SVD)、SVM、逻辑回归(LogisticsRegression)、决策树(GBDT、RandomForest)、关联规则(Apriori、FP-Growth)、聚类(K-Means)等优先。

大数据架构师的基本职责 篇17

职责：

1.负责公司大数据底层框架的整体架构设计，结合公司实际业务情况进行技术选型及大数据战略规划;

2.负责统一数据平台项目的整体评估、设计、架构及关键模块的开发，不断提升系统的稳定性和效率;

3.负责架构优化及系统关键模块的设计开发，协助团队解决开发过程中的技术难题;

4.建立良好的公司内外的业界技术影响力;有效辅导团队，提升数据研发能力;

任职要求：

1.从事大数据项目相关开发和设计2年以上经验;有作为技术负责人系统化解决问题的成功案例;有海量数据实践经验优先;

2.拥有一定的算法和数据结构基础;有很强的数据设计抽象能力，善于从复杂的数据问题中找到关键路径;

3.熟悉目前正在发展的大数据分布式平台前沿技术的应用;包括但不仅仅限于：hadoop、storm、spark、等;

4. 良好的逻辑思维能力，良好的业务解读能力，懂电力或通信业务优先;

5.具有钻研精神，乐于接受挑战;

大数据架构师的基本职责 篇18

1、正确理解业务需求，对需求进行工作量评估；

2、参与项目相关的需求、设计、投产手册等文档的编写；

3、根据进度计划，完成所承担功能模块的`设计、开发、单元测试、联调测试；

4、配合测试组修复代码缺陷，确保功能实现与代码质量；

5、负责所承担功能模块投产、部署，及上线后的日常维护；

6、完成项目经理或者架构师安排的其他工作；

大数据架构师的基本职责 篇19

1、负责公司大数据处理框架研发工作，设计与开发分布式存储、数据处理与分析架构。

2、负责大数据平台与产品和相关技术的追踪及研究。

3、负责大数据的处理工作，以及业务数据提取、加载、转换处理流程的开发和优化。

4、利用大数据平台工具对数据维护。

5、负责相关项目的技术支持和服务。

6、持续对系统的技术架构进行改进和优化。

大数据架构师的基本职责 篇20

职责

1、负责公司大数据平台的整体架构设计，包含数据收集、数据存储、数据挖掘、数据输出;

2、负责规划从数据源到数据应用的整体流程，并参与用户产品和数据产品的决策;

3、负责海量数据分析、用户行为分析，构建用户数据模型;

4、负责解决核心技术问题，对技术方案进行决策;

5、技术团队管理。

6、熟悉手机IOS、安卓系统APP开发

任职资格

1、计算机相关专业毕业，本科以上学历;

2、5年以上相关工作经验，具备软件产品架构设计经验，熟练掌握高性能、高扩展性架构设计方法;

3、熟练掌握java或c++任意一门语言、熟悉linux操作系统;

4、熟悉Hadoop/MR/Hbase/Mahout/Spark等大数据技术，并能够基于上述项目开发大数据相关应用;

5、熟悉基本数据挖掘方法和技术;

6、强烈的敬业精神，良好的沟通与协调能力，能有效组织协调团队完成各类开发工作;

7、热爱技术，相信数据的价值，对大数据有深刻的理解。

大数据架构师的基本职责 篇21

职责：

1.参与公司数据平台系统规划和架构工作，主导系统的架构设计和项目实施，确保项目质量和关键性能指标达成;

2.统筹和推进制造工厂内部数据系统的构建，搭建不同来源数据之间的逻辑关系，能够为公司运营诊断、运营效率提升提供数据支持;

3.负责数据系统需求对接、各信息化系统数据对接、软件供应商管理工作

5.根据现状制定总体的数据治理方案及数据体系建立，包括数据采集、接入、分类、开发标准和规范，制定全链路数据治理方案;深入挖掘公司数据业务，超强的数据业务感知力，挖掘数据价值，推动数据变现场景的落地，为决策及业务赋能;

6.定义不同的数据应用场景，推动公司的数据可视化工作，提升公司数据分析效率和数据价值转化。

任职要求：

1.本科以上学历，8年以上软件行业从业经验，5年以上大数据架构设计经验，熟悉BI平台、大数据系统相关技术架构及技术标准;

2.熟悉数据仓库、熟悉数据集市，了解数据挖掘、数据抽取、数据清洗、数据建模相关技术;

3.熟悉大数据相关技术：Hadoop、Hive、Hbase、Storm、Flink、Spark、Kafka、RabbitMQ;

4.熟悉制造企业信息化系统及相关数据库技术;

5.具备大数据平台、计算存储平台、可视化开发平台经验，具有制造企业大数据系统项目开发或实施经验优先;

6.对数据敏感，具备优秀的业务需求分析和报告展示能力，具备制造企业数据分析和数据洞察、大数据系统的架构设计能力，了解主流的报表工具或新兴的前端报表工具;

7.有较强的沟通和组织协调能力，具备结果导向思维，有相关项目管理经验优先。

大数据架构师的基本职责 篇22

职责：

(1) 负责公司大数据平台搭建，相关的设计和技术开发工作，负责大数据存储系统、分布式计算系统、数据集成、挖掘算法等的设计、研发以及维护、优化工作;

(2) 通过数据分析技术，挖掘有利于营销中各业务场景的变量或规则类标签，以提升模型效果，为文旅、教育业务提供数学模型理论及编程支撑;

(3) 对接沟通业务系统研发团队和产品部门，提供数据驱动方面的专业咨询方案，并对业务的大数据应用场景提出建设性意见;

(4) 配合部门领导进行项目需求分析、设计开发工作。

任职要求：

(1) 计算机、统计学，数学等相关专业本科以上学历，5年以上大数据或文旅、教育数据产品设计开发经验，高效高质量产出需求和技术文档;

(2) 精通Hadoop，熟悉大数据生态技术，如Storm、Spark、Scala、Flume、Kafka、Zookeeper、Hive、Hbase、Kerberos等，有大规模集群架构、开发及运维经验;熟悉HDFS/MapReduce等;

(3) 熟悉Java，能够独立应用python、R、SAS或类似分析工具进行数据分析;

(4) 熟悉大数据挖掘、可视化分析，各种BI算法和产品等，在计算广告、搜索引擎、推荐系统、用户画像等有一个或多个算法领域的研发经验，能够运用数据作为产品解决业务方运营及决策问题;

(5) 有互联网行业工作经验者优先，有海量数据的机器学习算法实践经验优先;

(6) 工作认真、负责，有良好的团队合作精神，良好的分析能力、沟通技巧。

大数据架构师的基本职责 篇23

职责：

1、负责公司大数据底层框架的整体架构设计，结合公司实际业务情况进行技术选型及大数据战略规划;

2、负责公司项目的整体评估、设计、架构及关键模块的开发;

3、负责架构优化，协助团队解决开发过程中遇到的技术难题;

4、负责新技术的调研和大数据相关开源组件的研究，并能在团队进行推广应用;

5、参与数据分析、数据建模、项目核心模块及核心框架的开发;

6、负责大数据平台的性能条有和问题诊断。

任职要求：

1、计算机相关专业，本科及以上学历，3-5年以上工作经验，2-3年大数据相关经验;

2、具有扎实的大数据和数据仓库理论功底，负责过大数据平台或数据仓库设计;

3、对基于Hadoop的大数据体系有深入的认识，具备相关产品(Hadoop、Hive、HBase、Spark、Storm、Flume、Kafka、Redis、ES等)项目应用研发经验，有Hadoop集群搭建和管理经验，度过Hadoop和Spark源码;

4、熟悉Linux和Python语言，了解Scala原理和底层技术;

5、熟悉分布式系统的架构及对其进行设计和优化，对海量数据的清晰、分析处理及存储有相关的实战经验;

6、算法基础扎实，熟悉常见的数据结构，深入理解分布式算法和以上提到的分布式系统，

7、必须有一线coding的能力;

8、有统计学、数学知识，海量数据处理、分析和挖掘，大型互联网公司从业经历着优先。

大数据架构师的基本职责 篇24

职责：

1、负责大数据平台的架构设计、核心代码开发等任务;根据项目要求编写相关技术文档;

2、负责大数据平台的架构评审，代码评审，上线评审;参与数据应用需求、设计、审核和评审;

3、负责核心模块研发，负责大数据平台的搭建，完成系统调试、集成与实施;

4、负责建立和维护大数据平台技术标准规范，指导开发人员编写代码;

任职要求：

1、本科及以上计算机相关专业毕业;

2、精通离线和实时数据处理流程，掌握离线数据处理框架hive、impala、spark-sql等，掌握实时数据处理常用技术工具，包括Storm、SparkStreaming等;

3、熟悉大数据技术生态圈，精通大数据技术架构，有大数据平台构建经验;

4、掌握常见数据流接入工具，包括Flume、kafka等;

5、熟练掌握基本的Linux操作系统和某种脚本语言编程(如Shell等);

6、掌握一种或以上实时处理语言，如JAVA、SCALA、PYTHON等，有SCALA经验者优先;

7、有实际大规模数据(TB级以上)处理经验优先;

大数据架构师的基本职责 篇25

职责：

1、 基于公司大数据基础和数据资产积累，负责大数据应用整体技术架构的设计、优化，建设大数据能力开放平台;负责大数据应用产品的架构设计、技术把控工作。

2、 负责制定大数据应用系统的数据安全管控体系和数据使用规范。

3、 作为大数据技术方案到产品实现的技术负责人，负责关键技术点攻坚工作，负责内部技术推广、培训及知识转移工作。

4、 负责大数据系统研发项目任务规划、整体进度、风险把控，有效协同团队成员并组织跨团队技术协作，保证项目质量与进度。

5、 负责提升产品技术团队的技术影响力，针对新人、普通开发人员进行有效辅导，帮助其快速成长。

任职资格：

1、 计算机、数学或相关专业本科以上学历，5-20xx年工作经验，具有大型系统的技术架构\应用架构\数据架构相关的实践工作经验。

2、 有分布式系统分析及架构设计经验，熟悉基于计算集群的软件系统架构和实施经验。

3、 掌握Hadoop/Spark/Storm生态圈的主流技术及产品，深入了解Hadoop/Spark/Storm生态圈产品的工作原理及应用场景。

4、 掌握Mysql/Oracle等常用关系型数据库，能够对SQL进行优化。

5、 熟悉分布式系统基础设施中常用的技术，如缓存(Varnish、Memcache、Redis)、消息中间件(Rabbit MQ、Active MQ、Kafka、NSQ)等;有实践经验者优先。

6、 熟悉Linux，Java基础扎实，至少3-5年以上Java应用开发经验，熟悉常用的设计模式和开源框架。

大数据架构师的基本职责 篇26

职责：

根据大数据业务需求，设计大数据方案及架构，实现相关功能;

搭建和维护大数据集群，保证集群规模持续、稳定、高效平稳运行;

负责大数据业务的设计和指导具体开发工作;

负责公司产品研发过程中的数据及存储设计;

针对数据分析工作，能够完成和指导负责业务数据建模。

职位要求：

计算机、自动化或相关专业(如统计学、数学)本科以上学历，3年以上大数据处理相关工作经验;

精通大数据主流框架(如 Hadoop、hive、Spark等);

熟悉 MySQL、NoSQL(MongoDB、Redis)等主流数据库，以及rabbit MQ等队列技术;

熟悉hadoop/spark生态的原理、特性且有实战开发经验;

熟悉常用的数据挖掘算法优先.

大数据架构师的基本职责 篇27

职责：

1、负责大数据开发团队建设;

2、负责行业大数据产品架构设计与研发;

3、负责带领团队进行行业大数据产品关键技术攻关。

任职要求：

1、有三年以上大数据应用、开发经验;具备海量数据加工处理(ETL)相关经验，对数据挖掘及机器学习有较为深刻的理解;

2、熟悉Hadoop相关技术，对HDFS、MapReduce、Hive、HBase有一定的使用和开发经验;

3、熟悉Linux，熟练使用Shell或Python，进行脚本编写;

4、对数据结构和数据统计分析算法有较为深刻理解;

5、掌握至少一种主流关系数据库开发技术：Oracle、SQL Server、MySQL等;

6、掌握实时流计算技术，有Spark、Storm开发经验者优先;

7、需要具备2年以上研发团队管理经验。

大数据架构师的基本职责 篇28

职责：

1.负责公司新业务方向平台大数据基础架构的搭建及后期数据处理体系的升级和优化，不断提升系统的稳定性和效率。为公司未来方向性产品提供大数据底层平台的支持和保证。

2.负责制定大数据平台调用约束和规范;

3.负责大数据方向技术难题的解决，以及代码质量的把控;

4.作为大数据开发团队的leader,负责大数据系统平台开发团队建设与人才梯队培养，分享技术经验，撰写相关技术文档指导和培训工程师。

任职要求：

1.热衷于大数据技术，并能平衡大数据性能、稳定性、扩展性多重要素进行设计和优化;

2.熟悉服务器基本知识，能够评估系统硬件性能瓶颈;

3.掌握Linux操作系统的配置，管理及优化，能够独立排查及解决操作系统层的各类问题，并能提供解决问题的理论依据;

4.精通Java服务器编程，熟悉JVM原理，对数据结构和算法设计有较为深刻的理解;

5.精通elasticsearch、Redis、hadoop、Kafka、Zookeeper、Yarn、Hbase、Spark底层架构，熟悉原理、源码、集群部署，包括参数优化、Bug修复，贡献过代码或提交过bug者优先

6.具备数据中心资源管理、监控、调度等系统研发经验者优先，具备分布式系统研发经验者优先;

7.具有应用大数据技术处理的项目开发、维护超过两年的经验者优先;

8.具有良好的文档编写能力，可进行方案设计、架构设计。

大数据架构师的基本职责 篇29

职责：

1、负责规划科技大数据平台及科技数据入库自动化的方案设计;

2、负责大数据平台的开发和维护，以及对外服务接口的开发;

3、负责大数据平台的优化和改进工作。

任职要求

1、计算机相关专业本科及以上学历，5年以上开发经验，其中3年以上为互联网、大数据相关的开发经验;

2、熟知Hadoop生态圈体系，精通Hadoop/Spark/Storm/Kafka中的一项或几项，深刻理解MapReduce的运行原理和机制，有MPI经验者尚佳;

3、熟悉Elasticsearch、Redis、Hbased等相关数据库的构建和操作，尤其是数据库集群的构建和操作，熟悉Neo4j者尚佳;

4、具有机器学习相关项目经验者优先。

大数据架构师的基本职责 篇30

职责：

1、负责大数据平台架构的评估、规划和设计 ;负责海量数据采集、处理及存储、应用方案的技术选型及架构实现;

2、开发大数据平台的核心代码，负责大数据平台的搭建，完成系统调试、集成与实施，技术难题的解决，保证大数据产品的上线运行 ;

3、根据业务需求持续优化数据架构，保证产品的可靠性、稳定性 ;

4、指导开发人员完成数据模型规划建设，分析模型构建及分析呈现 ，分享技术经验;

5、负责大数据平台的架构评审，代码评审，上线评审;参与数据应用需求、设计、审核和评审;

6、深入研究大数据相关技术和产品，跟进业界先进技术;

任职资格：

1.本科及以上学历，数学或计算机相关专业毕业，不少于5年的工作经验，具有扎实的计算机基础理论知识;

2.有3年以上Hadoop、Spark、Hbase平台性能调优经验;熟悉sparkstreaming等实时计算技术

3.熟悉hive、hbase、storm、mahout、flume、ElasticSearch、Spark、Kafka等，具备实际项目设计及开发经验;

4.熟悉sparkstreaming等相关的实时计算技术;

5.熟悉大规模数据挖掘、机器学习、自然语言处理、分布式计算中一项或多项技术，并具备多年的实际工作经验;

6.熟悉主流关系型数据库(Oracle、MySql)、NoSql数据库，熟悉pl/sql编程;精通Linux操作系统，熟练使用Java;熟悉常用框架.如Spring、MyBatis等;

7.具有较强的执行力，高度的责任感、很强的学习、沟通能力，能够在高压下高效工作;

大数据架构师的基本职责 篇31

1、负责大数据项目技术架构评估与设计；

2、负责关键功能的开发，技术难题的解决，以及输出代码的关键把控；

3、负责对使用关键技术的预研和选型，完成PoC；

4、指导工程师完成开发工作，并能分享技术经验。

大数据架构师的基本职责 篇32

职责:

1、对业务需求深入分析，从而进行大数据平台核心应用的架构设计、开发和技术支持;

2、规划业务应用系统和基础平台的技术架构，参与需求分析、建模、架构设计、技术决策以及详细设计;

3、把握复杂系统的设计，确保系统的架构质量，编写核心部分代码;

4、带领团队攻克例如大数据量、高并发、高稳定性等带来的各种挑战及技术难关;

5、在大数据平台建设路线图指导下，进行架构实施和交付物投递，同时确保研发质量和方向的准确性;

6、进行团队技术的培训和梯队建设岗位要求;

任职条件:

1、本科或以上学历，计算机相关专业，8年以上研发经验，3年以上大数据平台相关工作经验;

2、精通Java开发技术，熟悉Shell、Scala语言和PYTHON优先;

3、编程基础扎实，熟悉I/O、多线程、集群等基础框架和原理，熟悉分布式、缓存、消息等机制;

4、熟悉常用设计模式，代码评审规则，单元测试，持续集成;

5、熟悉AWS云服务或阿里云服务;

6、熟悉容器技术原理、生态系统，熟悉Docker、Mesos、Kubernetes等容器系统、大规模容器资源调度系统、分布式应用生命周期。

大数据架构师的基本职责 篇33

职责：

负责大数据平台架构的规划和设计，主导系统的架构设计和核心模块开发，确保项目质量和关键性能指标达成;

负责大数据平台技术框架的选型与技术难点攻关,指导开发大数据平台的开发，保证大数据产品的上线运行;

负责深入理解业务需求，对业务建模，设计系统架构，满足业务需求;

负责协助策略和算法工作,保障数据挖掘建模和工程化;

负责根据业务需求整合优化数据架构，保证产品的可靠性、稳定性;

负责指导开发人员完成数据模型规划建设、分析模型构建及分析呈现;

负责研发技术发展方向，新技术领域的探索，将新技术应用到公司大数据平台，提升公司效能

任职要求：

本科及以上学历，拥有5年以上大数据平台产品或分布式系统设计经验,6年以上的开发经验;

精通Hadoop，熟悉大数据生态技术，如Storm、Spark、Scala、Flume、Kafka、Zookeeper、Yarn、Sqoop、CDH、Solr 、Kylin、Impala、Hive、Hbase、Kerberos、Sentry等，有大规模集群架构、开发及运维经验;

熟练掌握java/Scala语言,实现面向对象开发思想OOA,OOD,OOP;

熟悉linux操作系统,熟练掌握脚本言语Shell/Perl/Python等编码语言;

熟练掌握数据仓库设计，开发工作。能够根据业务设计并开发数据仓。

具备源码级问题解决和集群优化改造能力者优先;

能快速的学习新的开源框架和知识体系，并应用到现有架构体系中;

逻辑清晰，快速的学习能力，良好的沟通能力、团队协调能力。

具备良好的团队合作精神，较强的沟通交流能力，具备良好的技术领导能力;

具备良好的文档撰写能力和技术团队管理能力