当前位置:论文写作 > 毕业论文范文 > 文章内容

达梦数据库技术文章连载四DM7行列融合数据存储方式

主题:数据库操作 下载地址:论文doc下载 原创作者:原创作者未知 评分:9.0分 更新时间: 2024-02-09

简介:适合不知如何写数据操作方面的相关专业大学硕士和本科毕业论文以及关于数据操作论文开题报告范文和相关职称论文写作参考文献资料下载。

数据操作论文范文

数据库操作论文

目录

  1. 数据库操作:现货白银 非农数据操作 数据周第一讲 EIA数据分析技巧 现货原油投资技巧分析

  传统的关系型数据库管理系统通常只支持行存储表,即数据按记录存储,每条记录的所有属性存储在一起.随着OLAP、数据仓库等查询密集型应用越来越广泛,行存储在应对这类型应用时的局限性逐渐突出,许多厂商适时推出了自己的列存储数据库系统.列存储按表的数据列来组织和存储数据,表的每列数据被存储在一起.DM7实现了列式存储,并支持对用户透明的行、列存储表的混合操作.

  DM7列存储表中的每个列对应两个段.其中一个段用于存储真正的列数据,这些数据被分为若干个区,每个区对应一个区描述项,区描述项存储在另一个段中,用于管理区中的数据.区描述项包含了这个区中所有数据的最大值及最小值,用于在查询时判断这个区是否需要进行扫描,不需要就可以跳过,以节省扫描时间.描述项中还包括区数据的存储位置,用于定位数据.

  DM7列存储表主要有三个优势:

  第一,吞吐量大.用户在访问传统的行存储数据库时,无论感兴趣的是表中的哪些列,都需要先完整地读出每条记录,这意味着用户在读取300个字节的数据,仅是为了检索其中20个字符.而对于DM7的列存储表,用户可以只读取需要检索的列的数据.由于大部分OLAP和数据仓库应用中的单个查询只涉及表的小部分列,因此该存储方式的吞吐量提升非常明显.

  第二,高效压缩.列存储在压缩方面比传统的行存储数据库更加有效.由于同一列的所有数据具有相同的数据类型,连续存储的数据具有很大的相似性,数据压缩效率比不同数据类型字段连续存储的行存储表更高.而DM7为不同的数据类型提供了自适应的压缩算法,进一步提高了列存储数据的压缩率.

  第三,范围索引.由于DM7列存储表的每个区描述项中都存储了区数据的最大值和最小值,且每个列的数据是在段中连续存储的,相当于对每个列都有分段的范围索引,这大大提高了数据检索的效率.

  数据库的执行计划通常以树型的数据结构表示,树中的节点被称为操作符,每个操作符完成一个特定功能.树的节点用于数据扫描,从物理存储位置抽取记录,并返回给上层节点.上层节点对记录进行加工,继续向上返回,或再次向下要求新的记录.

数据库操作:现货白银 非农数据操作 数据周第一讲 EIA数据分析技巧 现货原油投资技巧分析

  一般来说,CSCN的工作是从一个指定的表中扫描指定的数据,CROSS表示将扫描到的数据进行连接操作,顶层的NSET表示将结果集输出.在执行过程中,CSCN每次从表中只扫描一条记录向上传,上层处理完后再扫描下一条记录,直到两个表都扫描完为止.这种以一次一行数据的传递方式为基础的系统构架限制了DM6中使用列存储表的可能性,即使支持列存储表,在传递数据时也要先逐条将其组织成行存储的格式,无法发挥列存储的优势,甚至会降低执行效率.

  DM7调整了系统构架,将数据的传输由一次一条数据修改为一次一批数据,并引入了一个新的数据结构BDTA.这是一个内存数据集合,它是在运行时不同执行节点之间传递数据的核心对象.BDTA按列的方式组织数据,每个列内各行数据以数组的方式存放,形成一个类似二维数组的数据集合.在执行时,操作符以BDTA为基础进行处理,每一个底层执行节点取到数据之后,都要先将一定数据量的数据(大小可以配置)填到BDTA中,然后再向上传,上层节点得到的是两个BDTA.

  BDTA在DM7中相当于一个适配器.一方面,每个操作符都可统一对它进行访问和处理;另一方面,行存储表和列存储表都能将表数据填到对应的BDTA中,区别只在于表扫描操作符的不同,而对执行计划的上层操作符来说,表的存储方式是透明的.

  当ORDERS的扫描操作符变为了VSCN2时,填写BDTA的动作将由这个操作符完成,它将相关数据传给上层操作符HASH2 INNER JOIN处理,对上层操作符来说,VSCN2和CSCN2传上来的BDTA是没有任何区别的.

  总之,DM7实现了真正的列式存储,并通过对执行计划操作符的改造实现了数据的批量传递和处理,通过BDTA结构实现对用户透明的行、列存储融合.当查询只涉及表的某几个字段时,使用列存储表可以大大减少填充BDTA的IO,在海量OLAP或数据仓库应用情况下其优势非常明显.

总结:本论文可用于数据操作论文范文参考下载,数据操作相关论文写作参考研究。

数据库操作引用文献:

[1] 大数据和会计论文范文数据库 大数据和会计类有关学士学位论文范文2500字
[2] 大数据和档案管理论文范文数据库 大数据和档案管理类有关毕业论文题目范文2500字
[3] 论文范文数据库 大数据有关论文范例8000字
《达梦数据库技术文章连载四DM7行列融合数据存储方式》word下载【免费】
数据库操作相关论文范文资料