学习Hadoop第二十七课（HBase理论一）_先学hadoop还是先学hbase-程序员宅基地
技术标签： hadoop Hadoop大数据学习
上节课我们一起学习了HBase集群的搭建，这节课我们一起来简单学习一下HBase的理论知识。
我们首先来看一下下面这张图，HBase存储数据也是存储到表中（这点和我们的关系型数据库是类似的），一个row key保存一行内容，与关系型数据库不一样的地方是，HBase数据库的表中引入了列族的概念，一个列族可以包含0到多个列，列族和列名结合组成一个cell，cell中才是我们存放的数据。从下图中可以看到一个Table包含多个Region，分布式存储和负载均衡最小的存储单元是Region，这也就意味着一台设备上只能有一个Region，一张表对应多个Region，也就意味着这张表的数据是存储在多台设备上的。那么为什么我们不把数据全都存储到一台设备上呢？其实原因很简单，假如我们的数据有好几十亿条，我们把这些数据都存放到一台设备上，这将对这台设备造成致命的压力，就是我们去查找某些数据也需要到这一台设备上进行查询，读取的压力也将非常大，这是我们无法接受的。如果我们把这几十亿条数据分别存储在多台设备上，那么无论是写操作还是读操作的压力都将大大降低，效率也成多少倍的提高，所以要用到Region这个东西。
那么Region存储在什么地方呢？它存储在HRegionServer内，HRegionServer是HBase的被管理进程，HBase的管理进程是HMaster，作为一个HBase集群的话，HMaster会有多个，当然HRegionServer也会有多个，这样即使其中的一台设备宕掉了，整个集群依然可以正常工作，那么负责中间协调工作的是谁呢？其实是我们的Zookeeper，Zookeepr保证了我们的HBase集群在同一时间只有一个活跃的HMaster。负责在活跃的HMaster宕掉之后让另一设备上的HMaster自动切换成活跃状态，从而对外提供稳定的服务。既然名叫RegionServer，顾名思义，它就是用来存储Region的。我们可以认为Region是存储在内存当中的。HRegionServer每隔一段时间会将Region中的数据写入到HDFS系统。
我们上面说了，通过HBase集群，我们可以快速的查找某些数据，为什么可以做到这一点呢？原因是我们在创建数据的时候就指定了Row key，HBase根据Row key来创建索引，并且还根据Row key的字典顺序分别进行了存储。我们以下图为例，可以看到图左侧是表的Row key的字典顺序，可以看到根据不同的范围把Row key分成了五个部分，每个部分是一个Region，所以可以理解为，一个Region保存了一个Row key范围的数据。右侧有三个HRegionServer。字典顺序从0到2（包括0，不包括2）的数据都存储在rs2（HRegionServer）这台设备上，字典顺序从2到4（包括2，不包括4）存储在rs1（HRegionServer）这台设备上，等等。这样存储的好处是什么呢？我们查询数据的时候根据Row key的字典顺序可以快速定位到数据在哪一台设备上，然后再根据Row key索引快速定位到要查询的数据。HBase还有个非常大的优势是可扩展性非常强，以后如果这张表需要增加字段将会非常简单，因为HBase是允许动态添加列的。还有就是我们不需要用多么昂贵的服务器，用普通的PC服务器就可以，无非多用几台设备罢了，用普通的PC照样存储非常庞大的数据。
说完了上面的内容，我们再来看一张HBase整体的架构图，可以发现最顶层是Hadoop的HDFS，说明HBase的数据最终还是存放在了HDFS当中。图的最上方有Client、HMaster、Zookeeper中间是HRegionServer，很明显，Client、HMaster、HRegionServer是通过Zookeeper来协调的。HRegionServer维护着Region，Region里面保存着数据。一张表有可能有一个到多个Region。我们可以看到，一个Region包括HLog和Store，Store当中包括StoreFile和MemStore，我们前面认为Region存放的数据都在缓存中不太准确，有一部分数据会被写到StoreFile当中，然后将StoreFile当中的数据通过DFS Client(操作HDFS的接口)写到HDFS系统当中。我们创建表的时候可以指定一下列族的VERSIONS版本数量，假如我们指定的数量是3，这意味着这张表只会保存三个版本的数据，当我们向同一个Row key插入第四条记录时，最先插入的数据便会被加上删除符号并保存到MemStore当中，这时我们还是可以查询到被标记为删除的数据的，但是一旦MemStore的数据被清空，我们将查询不到被标记为删除的数据了。
之所以把数据放到HDFS当中就是为了数据的可靠性，即使某台设备宕掉了，StoreFile中的数据消失了，也无所谓，我们可以从HDFS系统将数据再还原回来。
当然，这只是说了个皮毛而已，大家想深入学习HBase的话，建议多看看书。本小节我们便一起学习到这了
智能推荐
使用nginx解决浏览器跨域问题_nginx不停的xhr-程序员宅基地
文章浏览阅读1k次。通过使用ajax方法跨域请求是浏览器所不允许的，浏览器出于安全考虑是禁止的。警告信息如下：不过jQuery对跨域问题也有解决方案，使用jsonp的方式解决，方法如下：$.ajax({ async:false, url: 'http://www.mysite.com/demo.do', // 跨域URL ty..._nginx不停的xhr
在 Oracle 中配置 extproc 以访问 ST_Geometry-程序员宅基地
文章浏览阅读2k次。关于在 Oracle 中配置 extproc 以访问 ST_Geometry，也就是我们所说的 使用空间SQL 的方法，官方文档链接如下。http://desktop.arcgis.com/zh-cn/arcmap/latest/manage-data/gdbs-in-oracle/configure-oracle-extproc.htm其实简单总结一下，主要就分为以下几个步骤。..._extproc
Linux C++ gbk转为utf-8_linux c++ gbk->utf8-程序员宅基地
文章浏览阅读1.5w次。linux下没有上面的两个函数，需要使用函数 mbstowcs和wcstombsmbstowcs将多字节编码转换为宽字节编码wcstombs将宽字节编码转换为多字节编码这两个函数，转换过程中受到系统编码类型的影响，需要通过设置来设定转换前和转换后的编码类型。通过函数setlocale进行系统编码的设置。linux下输入命名locale -a查看系统支持的编码_linux c++ gbk->utf8
IMP-00009: 导出文件异常结束-程序员宅基地
文章浏览阅读750次。今天准备从生产库向测试库进行数据导入，结果在imp导入的时候遇到“ IMP-00009:导出文件异常结束” 错误，google一下，发现可能有如下原因导致imp的数据太大，没有写buffer和commit两个数据库字符集不同从低版本exp的dmp文件，向高版本imp导出的dmp文件出错传输dmp文件时，文件损坏解决办法：imp时指定..._imp-00009导出文件异常结束
python程序员需要深入掌握的技能_Python用数据说明程序员需要掌握的技能-程序员宅基地
文章浏览阅读143次。当下是一个大数据的时代，各个行业都离不开数据的支持。因此，网络爬虫就应运而生。网络爬虫当下最为火热的是Python，Python开发爬虫相对简单，而且功能库相当完善，力压众多开发语言。本次教程我们爬取前程无忧的招聘信息来分析Python程序员需要掌握那些编程技术。首先在谷歌浏览器打开前程无忧的首页，按F12打开浏览器的开发者工具。浏览器开发者工具是用于捕捉网站的请求信息，通过分析请求信息可以了解请..._初级python程序员能力要求
Spring @Service生成bean名称的规则（当类的名字是以两个或以上的大写字母开头的话，bean的名字会与类名保持一致）_@service beanname-程序员宅基地
文章浏览阅读7.6k次，点赞2次，收藏6次。@Service标注的bean，类名：ABDemoService查看源码后发现，原来是经过一个特殊处理：当类的名字是以两个或以上的大写字母开头的话，bean的名字会与类名保持一致public class AnnotationBeanNameGenerator implements BeanNameGenerator { private static final String C..._@service beanname
随便推点
二叉树的各种创建方法_二叉树的建立-程序员宅基地
文章浏览阅读6.9w次，点赞73次，收藏463次。1.前序创建#include<stdio.h>#include<string.h>#include<stdlib.h>#include<malloc.h>#include<iostream>#include<stack>#include<queue>using namespace std;typed_二叉树的建立
解决asp.net导出excel时中文文件名乱码_asp.net utf8 导出中文字符乱码-程序员宅基地
文章浏览阅读7.1k次。在Asp.net上使用Excel导出功能，如果文件名出现中文，便会以乱码视之。 解决方法： fileName = HttpUtility.UrlEncode(fileName, System.Text.Encoding.UTF8);_asp.net utf8 导出中文字符乱码
笔记-编译原理-实验一-词法分析器设计_对pl/0作以下修改扩充。增加单词-程序员宅基地
文章浏览阅读2.1k次，点赞4次，收藏23次。第一次实验 词法分析实验报告设计思想词法分析的主要任务是根据文法的词汇表以及对应约定的编码进行一定的识别，找出文件中所有的合法的单词，并给出一定的信息作为最后的结果，用于后续语法分析程序的使用；本实验针对 PL/0 语言 的文法、词汇表编写一个词法分析程序，对于每个单词根据词汇表输出： (单词种类, 单词的值) 二元对。词汇表：种别编码单词符号助记符0beginb..._对pl/0作以下修改扩充。增加单词
android adb shell 权限,android adb shell权限被拒绝-程序员宅基地
文章浏览阅读773次。我在使用adb.exe时遇到了麻烦.我想使用与bash相同的adb.exe shell提示符,所以我决定更改默认的bash二进制文件(当然二进制文件是交叉编译的,一切都很完美)更改bash二进制文件遵循以下顺序> adb remount> adb push bash / system / bin /> adb shell> cd / system / bin> chm..._adb shell mv 权限
投影仪-相机标定_相机-投影仪标定-程序员宅基地
文章浏览阅读6.8k次，点赞12次，收藏125次。1. 单目相机标定引言相机标定已经研究多年，标定的算法可以分为基于摄影测量的标定和自标定。其中，应用最为广泛的还是张正友标定法。这是一种简单灵活、高鲁棒性、低成本的相机标定算法。仅需要一台相机和一块平面标定板构建相机标定系统，在标定过程中，相机拍摄多个角度下（至少两个角度，推荐10~20个角度）的标定板图像（相机和标定板都可以移动），即可对相机的内外参数进行标定。下面介绍张氏标定法（以下也这么称呼）的原理。原理相机模型和单应矩阵相机标定，就是对相机的内外参数进行计算的过程，从而得到物体到图像的投影_相机-投影仪标定
Wayland架构、渲染、硬件支持-程序员宅基地
文章浏览阅读2.2k次。文章目录Wayland 架构Wayland 渲染Wayland的 硬件支持简 述： 翻译一篇关于和 wayland 有关的技术文章, 其英文标题为Wayland Architecture .Wayland 架构若是想要更好的理解 Wayland 架构及其与 X (X11 or X Window System) 结构；一种很好的方法是将事件从输入设备就开始跟踪, 查看期间所有的屏幕上出现的变化。这就是我们现在对 X 的理解。 内核是从一个输入设备中获取一个事件，并通过 evdev 输入_wayland