3EVCache 的高可用性
AWS的每個區(qū)域一般由多個可用區(qū)（AZ）組成，而可用區(qū)一般是由多個數(shù)據(jù)中心組成。AWS引入可用區(qū)設(shè)計主要是為了提升用戶應(yīng)用程序的高可用性。因為可用區(qū)與可用區(qū)之間在設(shè)計上是相互獨立的，也就是說它們會有獨立的供電、獨立的網(wǎng)絡(luò)等，這樣假如一個可用區(qū)出現(xiàn)問題時也不會影響另外的可用區(qū)。在一個區(qū)域內(nèi)，可用區(qū)與可用區(qū)之間是通過高速網(wǎng)絡(luò)連接，從而保證很低的延時。
EVCache實例通過將Amazon EC2放到多個可用區(qū)， 能夠預(yù)防應(yīng)用的單點故障。無論在相同的物理區(qū)域內(nèi)還是在不同的物理區(qū)域之間，在多個AZ上運行獨立的應(yīng)用都是非常重要的。如果一個可用區(qū)失效了，在其它可用區(qū)上的應(yīng)用可以繼續(xù)運行，從而實現(xiàn)高可用性。
由于跨越了多個亞馬遜云服務(wù)可用區(qū)，EVCache集群是不會掛掉的。當(dāng)其中的實例偶然掛掉時，通過一致性哈?？缂悍制瑏硎咕彺娴挠绊懡档阶畹?。
在保持高可用性的同時，操作EVCache集群的總體成本很低，因為緩存沒有命中時訪問亞馬遜云服務(wù)服務(wù)的成本較高，如訪問SimpleDB、AWS S3、EC2上的Cassandra等等。EVCache 集群的總體成本在高穩(wěn)定，線性擴展的條件下還是令人滿意的。
隱藏在需求后面的是數(shù)據(jù)或狀態(tài)所需要的每個請求服務(wù)，必須是跨地區(qū)可用的。高可靠性數(shù)據(jù)庫和高性能緩存是支持分布式架構(gòu)的基礎(chǔ)設(shè)施，一個典型場景是將緩存架構(gòu)于數(shù)據(jù)庫前面或其它持久存儲前面。如果沒有緩存的全局復(fù)制，一個地區(qū)的的會員切換到另外一個地區(qū)時，會在新的地區(qū)緩存中沒有原地區(qū)的數(shù)據(jù)，這種情況稱為冷緩存。處理這種緩存數(shù)據(jù)丟失的辦法只有重新從數(shù)據(jù)庫加載，但是這種方式會延長響應(yīng)時間并對數(shù)據(jù)庫形成巨大沖擊，EVCache 除了跨可用區(qū)復(fù)制之外，還提供了跨區(qū)域復(fù)制，對基于AWS的高可用性進行了增強。
4EVCache的典型應(yīng)用場景
Netflix的用戶體驗重度依賴于大容量、低時延、全球可用的緩存數(shù)據(jù)層。例如，用戶坐在沙發(fā)上看電影或者電視節(jié)目，在用戶的每一次交互中都有緩存的身影，從會話存儲到視頻歷史，到用戶狀態(tài)，都得益于EVCache的穩(wěn)定和高容錯性。
這里介紹一個典型的用例——向用戶推薦與已看歷史中節(jié)目類似的電影或者電視節(jié)目。圖4 介紹了推薦相似性內(nèi)容的服務(wù)流程以及EVCache在其中的作用。
圖4 使用EVCache推薦相似內(nèi)容的典型用例
內(nèi)容相似性推薦服務(wù)給出了與已看歷史中節(jié)目類似的電影或者電視節(jié)目的相似性列表。一旦計算出了相似性，就存儲在SimpleDB/S3 中，前端使用EVCache.當(dāng)任何應(yīng)用或者算法需要這些數(shù)據(jù)的時候，可以從 EVCache提取數(shù)據(jù)，并返回結(jié)果。具體過程如下：
一個客戶向Web應(yīng)用發(fā)了一個頁面請求，處理這一請求需要得到一個電影或電視節(jié)目的相似性列表
Web應(yīng)用查詢 EVCache 來得到這些數(shù)據(jù)，這樣場景的典型緩存命中率高于99.9%
如果緩存沒有命中， Web應(yīng)用將調(diào)用相似性計算服務(wù)來計算這些數(shù)據(jù)
如果已經(jīng)計算過的數(shù)據(jù)也沒有命中的話， 相似性計算服務(wù)將從 SimpleDB中讀取數(shù)據(jù)。如果在SimpleDB 沒有，相似性計算服務(wù)根據(jù)給出的電影或電視節(jié)目重新計算相似性
相似性計算服務(wù)在計算出電影或電視節(jié)目的數(shù)據(jù)后，將數(shù)據(jù)寫入到 EVCache中
最后，相似性計算服務(wù)生成客戶端所需要的響應(yīng)并返回給客戶端
EVCache 是線性擴展的，通過容量監(jiān)控，可以在一分鐘內(nèi)擴容，在幾分鐘內(nèi)完成重新均衡和數(shù)據(jù)預(yù)熱。