MemCache是一个自由、源码开放、高性能、分布式的分布式内存工具缓存系统，用于动态Web运用以减轻数据库的负载。它通过在内存中缓存数据和工具来减少读取数据库的次数，从而提高了网站访问的速率。MemCaChe是一个存储键值对的HashMap，在内存中对任意的数据（比如字符串、工具等）所利用的key-value存储，数据可以来自数据库调用、API调用，或者页面渲染的结果。MemCache设计理念便是小而强大，它大略的设计促进了快速支配、易于开拓并办理面对大规模的数据缓存的许多难题，而所开放的API使得MemCache能用于Java、C/C++/C#、Perl、Python、PHP、Ruby等大部分盛行的程序措辞。
其余，说一下MemCache和MemCached的差异：
1、MemCache是项目的名称
2、MemCached是MemCache做事器端可以实行文件的名称
MemCache的官方网站为http://memcached.org/
MemCache访问模型
为了加深理解，我模拟着原阿里技能专家李聪慧老师《大型网站技能架构 核心事理与案例剖析》一书MemCache部分，自己画了一张图：
特殊澄清一个问题，MemCache虽然被称为\"大众分布式缓存\"大众，但是MemCache本身完备不具备分布式的功能，MemCache集群之间不会相互通信（与之形成比拟的，比如JBoss Cache，某台做事器有缓存数据更新时，会关照集群中其他机器更新缓存或打消缓存数据），所谓的\"大众分布式\"大众，完备依赖于客户端程序的实现，就像上面这张图的流程一样。
同时基于这张图，理一下MemCache一次写缓存的流程：
1、运用程序输入须要写缓存的数据
2、API将Key输入路由算法模块，路由算法根据Key和MemCache集群做事器列表得到一台做事器编号
3、由做事器编号得到MemCache及其的ip地址和端口号
4、API调用通信模块和指定编号的做事器通信，将数据写入该做事器，完成一次分布式缓存的写操作
读缓存和写缓存一样，只要利用相同的路由算法和做事器列表，只要运用程序查询的是相同的Key，MemCache客户端总是访问相同的客户端去读取数据，只要做事器中还缓存着该数据，就能担保缓存命中。
这种MemCache集群的办法也是从分区容错性的方面考虑的，如果Node2宕机了，那么Node2上面存储的数据都不可用了，此时由于集群中Node0和Node1还存在，下一次要求Node2中存储的Key值的时候，肯定是没有命中的，这时先从数据库中拿到要缓存的数据，然后路由算法模块根据Key值在Node0和Node1中选取一个节点，把对应的数据放进去，这样下一次就又可以走缓存了，这种集群的做法很好，但是缺陷是本钱比较大。
同等性Hash算法
从上面的图中，可以看出一个很主要的问题，便是对做事器集群的管理，路由算法至关主要，就和负载均衡算法一样，路由算法决定着究竟该访问集群中的哪台做事器，先看一个大略的路由算法。
1、余数Hash
比方说，字符串str对应的HashCode是50、做事器的数目是3，取余数得到2，str对应节点Node2，以是路由算法把str路由到Node2做事器上。由于HashCode随机性比较强，以是利用余数Hash路由算法就可以担保缓存数据在全体MemCache做事器集群中有比较均衡的分布。
如果不考虑做事器集群的伸缩性（什么是伸缩性，请拜会大型网站架构学习条记），那么余数Hash算法险些可以知足绝大多数的缓存路由需求，但是当分布式缓存集群须要扩容的时候，就难办了。
就假设MemCache做事器集群由3台变为4台吧，变动做事器列表，仍旧利用余数Hash，50对4的余数是2，对应Node2，但是str原来是存在Node1上的，这就导致了缓存没有命中。如果这么说不足明白，那么不妨举个例子，原来有HashCode为0~19的20个数据，那么：
现在我扩容到4台，加粗标红的表示命中：
如果我扩容到20+的台数，只有前三个HashCode对应的Key是命中的，也便是15%。当然这只是个大略例子，现实情形肯定比这个繁芜得多，不过足以解释，利用余数Hash的路由算法，在扩容的时候会造成大量的数据无法精确命中（实在不仅仅是无法命中，那些大量的无法命中的数据还在原缓存中在被移除前霸占着内存）。这个结果显然是无法接管的，在网站业务中，大部分的业务数据度操作要求上事实上是通过缓存获取的，只有少量读操作会访问数据库，因此数据库的负载能力因此有缓存为条件而设计的。昔时夜部分被缓存了的数据由于做事器扩容而不能精确读取时，这些数据访问的压力就落在了数据库的身上，这将大大超过数据库的负载能力，严重的可能会导致数据库宕机。
这个问题有办理方案，办理步骤为：
（1）在网站访问量低谷，常日是深夜，技能团队加班，扩容、重启做事器
（2）通过仿照要求的办法逐渐预热缓存，使缓存做事器中的数据重新分布
2、同等性Hash算法
同等性Hash算法通过一个叫做同等性Hash环的数据构造实现Key到缓存做事器的Hash映射，看一下我自己画的一张图：
详细算法过程为：先布局一个长度为232的整数环（这个环被称为同等性Hash环），根据节点名称的Hash值（其分布为[0, 232-1]）将缓存做事器节点放置在这个Hash环上，然后根据须要缓存的数据的Key值打算得到其Hash值（其分布也为[0, 232-1]），然后在Hash环上顺时针查找间隔这个Key值的Hash值最近的做事器节点，完成Key到做事器的映射查找。
就犹如图上所示，三个Node点分别位于Hash环上的三个位置，然后Key值根据其HashCode，在Hash环上有一个固定位置，位置固定下之后，Key就会顺时针去探求离它最近的一个Node，把数据存储在这个Node的MemCache做事器中。利用Hash环如果加了一个节点会怎么样，看一下：
看到我加了一个Node4节点，只影响到了一个Key值的数据，本来这个Key值该当是在Node1做事器上的，现在要去Node4了。采取同等性Hash算法，的确也会影响到全体集群，但是影响的只是加粗的那一段而已，比较余数Hash算法影响了远超一半的影响率，这种影响要小得多。更主要的是，集群中缓存做事器节点越多，增加节点带来的影响越小，很好理解。换句话说，随着集群规模的增大，连续命中原有缓存数据的概率会越来越大，虽然仍旧有小部分数据缓存在做事器中不能被读到，但是这个比例足够小，纵然访问数据库，也不会对数据库造成致命的负载压力。
至于详细运用，这个长度为232的同等性Hash环常日利用二叉查找树实现，至于二叉查找树，便是算法的问题了，可以自己去查询干系资料。
MemCache实现事理
首先要解释一点，MemCache的数据存放在内存中，存放在内存中个人认为意味着几点：
1、访问数据的速率比传统的关系型数据库要快，由于Oracle、MySQL这些传统的关系型数据库为了保持数据的持久性，数据存放在硬盘中，IO操作速率慢
2、MemCache的数据存放在内存中同时意味着只要MemCache重启了，数据就会消逝
3、既然MemCache的数据存放在内存中，那么势必受到机器位数的限定，这个之前的文章写过很多次了，32位机器最多只能利用2GB的内存空间，64位机器可以认为没有上限
然后我们来看一下MemCache的事理，MemCache最主要的莫不是内存分配的内容了，MemCache采取的内存分配办法是固定空间分配，还是自己画一张图解释：
这张图片里面涉及了slab_class、slab、page、chunk四个观点，它们之间的关系是：
1、MemCache将内存空间分为一组slab
2、每个slab下又有多少个page，每个page默认是1M，如果一个slab占用100M内存的话，那么这个slab下该当有100个page
3、每个page里面包含一组chunk，chunk是真正存放数据的地方，同一个slab里面的chunk的大小是固定的
4、有相同大小chunk的slab被组织在一起，称为slab_class
MemCache内存分配的办法称为allocator，slab的数量是有限的，几个、十几个或者几十个，这个和启动参数的配置干系。
MemCache中的value过来存放的地方是由value的大小决定的，value总是会被存放到与chunk大小最靠近的一个slab中，比如slab[1]的chunk大小为80字节、slab[2]的chunk大小为100字节、slab[3]的chunk大小为128字节（相邻slab内的chunk基本以1.25为比例进行增长，MemCache启动时可以用-f指定这个比例），那么过来一个88字节的value，这个value将被放到2号slab中。放slab的时候，首先slab要申请内存，申请内存因此page为单位的，以是在放入第一个数据的时候，无论大小为多少，都会有1M大小的page被分配给该slab。申请到page后，slab会将这个page的内存按chunk的大小进行切分，这样就变成了一个chunk数组，末了从这个chunk数组中选择一个用于存储数据。
如果这个slab中没有chunk可以分配了怎么办，如果MemCache启动没有追加-M（禁止LRU，这种情形下内存不足会报Out Of Memory缺点），那么MemCache会把这个slab中最近最少利用的chunk中的数据清理掉，然后放上最新的数据。针对MemCache的内存分配及回收算法，总结三点：
1、MemCache的内存分配chunk里面会有内存摧残浪费蹂躏，88字节的value分配在128字节（紧接着大的用）的chunk中，就丢失了30字节，但是这也避免了管理内存碎片的问题
2、MemCache的LRU算法不是针对全局的，是针对slab的
3、该当可以理解为什么MemCache存放的value大小是限定的，由于一个新数据过来，slab会先以page为单位申请一块内存，申请的内存最多就只有1M，以是value大小自然不能大于1M了
再总结MemCache的特性和限定
上面已经对付MemCache做了一个比较详细的解读，这里再次总结MemCache的限定和特性：
1、MemCache中可以保存的item数据量是没有限定的，只要内存足够
2、MemCache单进程在32位机中最大利用内存为2G，这个之前的文章提了多次了，64位机则没有限定
3、Key最大为250个字节，超过该长度无法存储
4、单个item最大数据是1MB，超过1MB的数据不予存储
5、MemCache做事端是不屈安的，比如已知某个MemCache节点，可以直接telnet过去，并通过flush_all让已经存在的键值对立即失落效
6、不能够遍历MemCache中所有的item，由于这个操作的速率相对缓慢且会壅塞其他的操作
7、MemCache的高性能源自于两阶段哈希构造：第一阶段在客户端，通过Hash算法根据Key值算出一个节点；第二阶段在做事端，通过一个内部的Hash算法，查找真正的item并返回给客户端。从实现的角度看，MemCache是一个非壅塞的、基于事宜的做事器程序
8、MemCache设置添加某一个Key值的时候，传入expiry为0表示这个Key值永久有效，这个Key值也会在30天之后失落效，见memcache.c的源代码：
这个失落效的韶光是mem
cache源码里面写的，开拓者没有办法改变MemCache的Key值失落效韶光为30天这个限定
MemCache指令汇总
上面说过，已知MemCache的某个节点，直接telnet过去，就可以利用各种命令操作MemCache了，下面看下MemCache有哪几种命令：
stats指令解读
stats是一个比较主要的指令，用于列出当前MemCache做事器的状态，拿一组数据举个例子：
这些参数反响着MemCache做事器的基本信息，它们的意思是：
参 数 名作 用pidMemCache做事器的进程id uptime做事器已经运行的秒数time做事器当前的UNIX韶光戳 versionMemCache版本 pointer_size当前操作系统指针大小，反响了操作系统的位数，64意味着MemCache做事器是64位的 rusage_user进程的累计用户韶光 rusage_system 进程的累计系统韶光 curr_connections 当前打开着的连接数total_connections 当做事器启动往后曾经打开过的连接数connection_structures 做事器分配的连接布局数 cmd_get get命令总要求次数 cmd_setset命令总要求次数 cmd_flush flush_all命令总要求次数 get_hits 总命中次数，主要，缓存最主要的参数便是缓存命中率，以get_hits / (get_hits + get_misses)表示，比如这个缓存命中率便是99.2% get_misses 总未命中次数 auth_cmds 认证命令的处理次数 auth_errors 认证失落败的处理次数 bytes_read 总读取的字节数bytes_written 总发送的字节数 limit_maxbytes分配给MemCache的内存大小（单位为字节） accepting_conns 是否已经达到连接的最大值，1表示达到，0表示未达到listen_disabled_num 统计当前做事器连接数曾经达到最大连接的次数，这个次数该当为0或者靠近于0，如果这个数字不断增长， 就要小心我们的做事了threads 当前MemCache总线程数，由于MemCache的线程是基于事宜驱动机制的，因此不会一个线程对应一个用户要求 bytes 当前做事器存储的items总字节数current_items 当前做事器存储的items总数量 total_items 自做事器启动往后存储的items总数量
stats slab指令解读
如果对上面的MemCache存储机制比较理解了，那么我们来看一下各个slab中的信息，还是拿一组数据举个例子：
首先看到，第二个slab的chunk_size（144）/第一个slab的chunk_size（96）=1.5，第三个slab的chunk_size（216）/第二个slab的chunk_size（144）=1.5，可以确定这个MemCache的增长因子是1.5，chunk_size以1.5倍增长。然后阐明下字段的含义：
看到这个命令的输出量很大，所有信息都很有浸染。举个例子吧，比如第一个slab中利用的chunks很少，第二个slab中利用的chunks很多，这时就可以考虑适当增大MemCache的增长因子了，让一部分数据落到第一个slab中去，适当平衡两个slab中的内存，避免空间摧残浪费蹂躏。
MemCache的Java实现实例
讲了这么多，作为一个Java程序员，怎么能不写写MemCache的客户真个实现呢？MemCache的客户端有很多第三方jar包供应了实现，个中比较好确当属XMemCached了，XMemCached具有效率高、IO非壅塞、资源耗费少、支持完全的协议、许可设置节点权重、许可动态增删节点、支持JMX、支持与Spring框架集成、利用连接池、可扩展性好等诸多优点，因而被广泛利用。这里利用XMemCache写一个大略的MemCache客户单实例，也没有验证过，纯属抛砖引玉：
