如果沒有緩存,當(dāng)打開一個有大量內(nèi)容的頁面的時候,將會變得十分的卡頓,因為沒有緩存,每次打開頁面的時候都進(jìn)行全部加載,而導(dǎo)致頁面打開速度變得很慢,給用戶的體驗也就十分的不愉快了。有了緩存,則會讓原本打開很慢的頁面變得“秒開”。那么緩存除了能夠加速數(shù)據(jù)的訪問外,還有什么作用?本文將為您詳細(xì)介紹 java 緩存的運放方式、緩存的類別以及緩存會出現(xiàn)的問題。
一、緩存能用來做什么?
大多數(shù)人對于緩存的理解就是,當(dāng)我們打開一個頁面或是一個APP,當(dāng)它們打開的速度很慢的時候,都會想到引入緩存,這樣打開就會更快。
從技術(shù)這一方面來說,緩存之所以能夠提高訪問速度,是因為緩存是基于內(nèi)存去建立的。而內(nèi)存的讀寫速度相對于硬盤是快很多的,所以用內(nèi)存代替硬盤作為讀寫的介質(zhì),自然就會大大提升了訪問數(shù)據(jù)的速度。
使用緩存的過程大致如下:
二、運用方式:預(yù)讀取和延遲寫
除了上述的過程之外,緩存另外兩個重要的運用方式:預(yù)讀取和延遲寫。
2.1 預(yù)讀取
從字面意思來看就是預(yù)先讀取,實際意義也確實如此。預(yù)讀取就是提前把將要讀取的數(shù)據(jù)載入,也就是在系統(tǒng)中把硬盤中的一部分?jǐn)?shù)據(jù)提前加載到內(nèi)存中,然后對外提供服務(wù)。
那么這么做的意義是什么?
因為有些系統(tǒng)一旦啟動就會有數(shù)以萬計的請求涌進(jìn)來,假設(shè)讓這些請求直接打到數(shù)據(jù)庫上,非常大的可能就是會讓數(shù)據(jù)庫的壓力劇增,數(shù)據(jù)庫就會被掛掉,而導(dǎo)致無法正常響應(yīng)。
預(yù)讀取就是為了解決這樣的問題。
2.2 延遲寫
如果說預(yù)讀取就是在數(shù)據(jù)出口加一道緩沖區(qū),那么延遲寫則是在數(shù)據(jù)入口加一道緩沖區(qū)。
由于數(shù)據(jù)庫的寫入速度要比讀取速度慢,因此在寫入的時候就需要一系列的保證數(shù)據(jù)正確性的機制。所以,要想提升寫入速度,或是分庫分表,或是通過緩存加一道緩沖,再一次性批量寫入磁盤。引入分庫分表的復(fù)雜度遠(yuǎn)大于引入緩存,一般都是優(yōu)先考慮引入緩存的方案。
這種緩存方案就是延遲寫,它是預(yù)先將準(zhǔn)備寫入磁盤或數(shù)據(jù)庫的數(shù)據(jù),暫時寫入到內(nèi)存,然后返回成功,再定時分批將內(nèi)存中的數(shù)據(jù)寫入到磁盤。
三、哪些可以加緩存?
在緩存之前需要考慮我們要緩存的是什么?符合什么樣特點的數(shù)據(jù)才需要加緩存?因為緩存算是一個額外的成本投入,所以加了緩存要體現(xiàn)它的價值。
先引入衡量數(shù)據(jù)的兩個標(biāo)準(zhǔn):
熱點數(shù)據(jù):被高頻訪問,如每秒幾十次以上。
靜態(tài)數(shù)據(jù):很少變動,讀取要大于寫入。
以終端用戶為起點,系統(tǒng)所使用的數(shù)據(jù)庫為終點,這其中可以作為緩存設(shè)立點大致如下:
每個設(shè)立點都會擋掉一些流量,最終會形成以下的漏斗形效果,以此可以保護(hù)后面的系統(tǒng)以及最后的數(shù)據(jù)庫。
這些設(shè)立點就像是紅綠燈,如果沒有紅綠燈就容易發(fā)生事故,或是造成交通癱瘓等等。緩存設(shè)立點就是防止請求大量涌入,導(dǎo)致無法正常訪問。
四、緩存類別
上文已經(jīng)羅列了緩存的幾種類別,接下我們將會對這些緩存類別進(jìn)行介紹。
4.1 瀏覽器緩存
瀏覽器是離用戶最近的,可以用來作為緩存的地方,而且借助的是用戶的資源,性價比是幾種里面最好的,可以讓用戶分擔(dān)一些壓力。
進(jìn)入瀏覽器的開發(fā)者工具,有 ?from cache
? 、?from memory cache
? 和? from disk cache
? 的時候,說明數(shù)據(jù)已經(jīng)被緩存在用戶的終端設(shè)備上,在沒網(wǎng)的時候也可能訪問到一部分的內(nèi)容就是這個原因。
瀏覽器會幫助我們完成這個過程,一般適用于圖片、 js 和 css等這些資源的緩存。
瀏覽器緩存的劣勢就是我們對它的掌控力比較差,沒有發(fā)起新的請求的情況下,是無法主動去更新數(shù)據(jù)。
4.2 CDN緩存
提供CDN服務(wù)的服務(wù)商,在全國乃至全世界部署了大量的服務(wù)節(jié)點。我們就可以將數(shù)據(jù)分發(fā)到遍布各地服務(wù)器上作為緩存,當(dāng)用戶訪問時可以讀取就近的服務(wù)器上的緩存數(shù)據(jù)。這樣就可以分?jǐn)倝毫吞嵘思铀傩Ч?/p>
要注意的是,由于節(jié)點眾多,更新緩存數(shù)據(jù)會比較慢,一般至少是分鐘級別,所以該緩存適用于不經(jīng)常變動的靜態(tài)數(shù)據(jù)。
4.3 網(wǎng)關(guān)(代理)緩存
我們經(jīng)常會在源站前面加上一層網(wǎng)管,目的是為了做一些安全機制或者作為同一分流策略的入口。
在這里設(shè)立一個緩存,能夠攔下來請求,其背后的源站也是收益很大的,減少了大量的 CPU 運算。常用的網(wǎng)關(guān)緩存有 ?Varnish
?、?Squid
?、?Nginx
?。
4.4 進(jìn)程內(nèi)緩存
一個請求能夠到這里來,說明是“業(yè)務(wù)相關(guān)”,需要經(jīng)過業(yè)務(wù)邏輯的運算。從這里開始,對緩存的引入成本相對于前三者而言,要大大的增加了,這是因為對緩存與數(shù)據(jù)庫之間的‘?dāng)?shù)據(jù)一致性’要求更高了。
4.5 進(jìn)程外緩存
這里是大多數(shù)程序員所熟悉的地方,就是 ?Redis
? 和? Memcached
? 之類,或者也可以自己單獨寫一個程序來轉(zhuǎn)存放緩存數(shù)據(jù),提供給其他程序遠(yuǎn)程調(diào)用。
4.6 數(shù)據(jù)庫緩存
數(shù)據(jù)庫緩存是數(shù)據(jù)庫的內(nèi)部機制,一般都會給出設(shè)置緩存空間大小的配置來讓你進(jìn)行干預(yù)。
最后,磁盤本身也是有緩存的,所以能夠讓數(shù)據(jù)平穩(wěn)地寫入到磁盤,可謂是經(jīng)歷了一波三折。
五、緩存可能出現(xiàn)的問題
既然緩存作用如此大,那是不是就越多越好呢?只要速度慢就加緩存來解決?其實不然,緩存既有好的一面,也會有負(fù)面的一面。
5.1 緩存雪崩
問題:大量請求并發(fā)進(jìn)入緩存時,可能由于某些原因緩沖效果未能正常執(zhí)行,即便是在很短的時間內(nèi),就會導(dǎo)致請求全部轉(zhuǎn)入數(shù)據(jù)庫,從而造成數(shù)據(jù)庫壓力過重。
解決:可以通過“加鎖排隊”或者“緩存時間增加隨機值”來解決此類問題。
5.2 緩存穿透
和緩存雪崩很相似,區(qū)別在于穿透會持續(xù)更長的時間。這是因為每次的? cache miss
? 后依然無法從數(shù)據(jù)源把數(shù)據(jù)加載到緩存,導(dǎo)致持續(xù)產(chǎn)生cache miss
?。
可以通過“布隆過濾器”或者“緩存空對象”來解決此類問題。
5.3 緩存并發(fā)
一個緩存 ?key
?下的數(shù)據(jù)被同時 ?set
?,怎么保證業(yè)務(wù)的準(zhǔn)確性?如果進(jìn)程內(nèi)、進(jìn)程外、數(shù)據(jù)庫三者的緩存一起用的情況下?
使用“先DB再緩存”的方式,并且緩存操作用 delete 而不是 set。
5.4 緩存無底洞
雖然分布式緩存是可以無線橫向擴展的,但是,集群下的節(jié)點也不是越多越好。緩存也是符合“邊際效用遞減”規(guī)律的。
5.5 緩存淘汰
內(nèi)存的容量是有限的,如果請求的數(shù)據(jù)量是大量的,那么根據(jù)具體情況進(jìn)行一定的淘汰策略是必不可少的。例如:?LRU
?、?LFU
?和?FIFO
?等等。
六、總結(jié)
本文主要介紹了Java緩存的運用方式的三種思路,Java緩存的類別,在系統(tǒng)中可以設(shè)立緩存的幾個位置,以及最后總結(jié)了 Java 緩存中會遇到的問題。如果想對文章中的具體細(xì)節(jié)有更多的了解,請關(guān)注 w3cschool 或 編程獅APP。