2024年大数据最新Hive数据仓库笔记，2024年最新超赞回答：大数据开发如何进阶

07-10 1119阅读

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化资料的朋友，可以戳这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

Hive架构基本组成

Hive 的体系结构主要分为以下几个部分：

用户接口

用户接口主要有 3 个：CLI，Client 和 WEBUI。其中最常用的就是 CLI，CLI启动时会启动一个 Hive 副本【其实就是一个 Shell 客户端】；Client 是 Hive 的客户端，用户通过其连接至 HiveServer2，在启动 Client 模式的时候，需要指出 HiveServer2 所在节点和端口，并且在该节点启动 HiveServer2；WEBUI 就是通过浏览器访问 Hive，可以使用 Hue 组件在浏览器上写 HQL 执行相关操作。

MetaStore

Hive 将元数据存储在关系型数据库中，比如 MySQL、Derby等。Hive 中的元数据包括表的名字、表的列和分区及其属性，表的属性（是否为外部表等）、表的数据所在目录等等

ThriftServer

ThriftServer 是将 Hive 作为一个服务器，其他机器可以作为客户端进行访问，可以使用多种编程语言【Java、Python 】通过代码操作 Hive。

Driver

SQL Parser
- Hive 的解析器是将查询字符串转换成抽象语法树 —— AST，对 AST 进行语法分析，比如表是否存在、字段是否存在、SQL 语义是否有误
  - Physical Plan
    将 AST 编译生成逻辑执行计划
  - SQL Optimizer
    对逻辑执行计划进行优化
  - Execution
    把逻辑执行计划转换成可以运行的物理计划任务树。对于 Hive 来说，就是 MR/Spark
    1.完成 SQL 词法，语法解析，将 SQL 转化为抽象语法树 AST Tree
    2.遍历 AST Tree，抽象出查询的基本组成单元 Query Block
    3.遍历 Query Block，翻译为执行操作树 OperatorTree，即逻辑执行计划
    4.逻辑层优化器进行 OperatorTree 变换，合并不必要的 ReduceSinkOperator，减少 Shuffle 数据量
    5.遍历 OperatorTree，翻译为 Hive job 任务，即物理计划
    6.物理层优化器进行 Hive job 任务的变换，生成最终的执行计划
    数据库和数据仓库
    
    OLTP : 联机事务处理就是保存我们日常生活中的各种用户行为产生的记录的数据平台.
    - 特点: 服务于业务,需要少量数据的频繁增删改查,要保证响应速度,保证数据安全,保证时效性.
      OLAP : 联机分析处理,就是我们数据分析时所使用的海量数据存放的数据平台,一般会将多个业务数据库或各种数据源中的数据提取出来,统一存放在OLAP服务中.
      - 特点: 服务于分析,要能应对海量的数据存储和数据计算,对于响应速度要求不高,我们很少修改数据,所以也不需要对于数据的一致性,安全性等进行考虑.
        数据库和数据仓库的区别
        
        本质的区别就是OLTP 和OLAP系统的区别
        数据库更偏重于事务处理,要求其支持事务,增删改查效率较高
        事务: 最小业务单元, 在执行过程中,要么全部成功,要么全部失败
        举例: 小椭圆给小绿转账1000元 , 银行系统需要给小椭圆减少1000元, 给小绿增加一千元要么同时成功,要么同时失败
        落实到代码层面就是多条sql语句,要么全部成功,要么全部失败.
        数据仓库偏重于数据吞吐量和稳定,不要求支持事务,不要求较高的响应效率,但必须可以处理海量数据或文件
        数据仓库不是大型的数据库，也没有要取代数据库的目标，只是一个数据分析的平台。
        数据仓库核心特征
        
        面向主题性(Subject-Oriented)
        
        主题（subject）是一个抽象的概念数据综合体。一个分析的主题可以对应多个数据源。
        在数仓中开展分析，首先确定分析的主题，然后基于主题寻找、采集跟主题相关的数据。
        在数据分析中,要做到宁滥勿缺.
        
        集成性（Integrated）
        
        数仓不是生成数据的平台其数据来自于各个不同的数据源
        当我们确定主题之后就需要把和主题相关的数据从各个数据源集成过来。
        因为同一个主题的数据可能来自不同的数据源它们之间会存在着差异（异构数据）：字段同名不统一、单位不统一、编码不统一；
        因此在集成的过程中需要进行ETL(Extract抽取 Transform转换 load加载)
        
        不可更新性（Non-Volatile）
        
        数仓上面的数据几乎没有修改操作，都是分析的操作。
        数仓是分析数据规律的平台不是创造数据规律的平台。
        注意：改指的数据之间的规律不能修改。
        当下发现有些时间也是需要修改的数据校正。数据缓慢变化。
        notice:其中市面上有一些数仓管理工具时可以进行修改操作的，例如ES，但是目前出现的修改操作都是将数据拷贝到内存中，将数据修改过后再重新写入到数据仓库中。
        
        时变性（Time-Variant）
        
        数仓是一个持续维护建设的东西。
        站在时间的角度，数仓的数据成批次变化更新。一天一分析（T+1）一周一分析（T+7）
        
        数据仓库的分层
        
        ODS层(operation data Store): 数据操作层,源数据层,主要就是将各个数据源中的数据集中采集到指定平台中,几乎不对数据做任何处理,只是临时存放等待后续处理
        
        DW层(Data Warehouse) : 数据仓库层, 对于数据进行数据清洗,数据处理,数据转换等,使其满足数据分析的要求
        
        DA层APP层(application) : 数据应用层, 根据业务部门的需求,进行数据分析处理,获得的数据可以直接用于前端展示或数据报表等.
        
        网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。
        
        需要这份系统化资料的朋友，可以戳这里获取
        
        一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
        
        术提升。**
        
        需要这份系统化资料的朋友，可以戳这里获取
        
        一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！