日韩无码专区无码一级三级片|91人人爱网站中日韩无码电影|厨房大战丰满熟妇|AV高清无码在线免费观看|另类AV日韩少妇熟女|中文日本大黄一级黄色片|色情在线视频免费|亚洲成人特黄a片|黄片wwwav色图欧美|欧亚乱色一区二区三区

RELATEED CONSULTING
相關(guān)咨詢
選擇下列產(chǎn)品馬上在線溝通
服務(wù)時間:8:30-17:00
你可能遇到了下面的問題
關(guān)閉右側(cè)工具欄

新聞中心

這里有您想知道的互聯(lián)網(wǎng)營銷解決方案
自從項目用了Disruptor,性能提升了2.5倍!

 一、CPU Cache

創(chuàng)新互聯(lián)公司是創(chuàng)新、創(chuàng)意、研發(fā)型一體的綜合型網(wǎng)站建設(shè)公司,自成立以來公司不斷探索創(chuàng)新,始終堅持為客戶提供滿意周到的服務(wù),在本地打下了良好的口碑,在過去的十多年時間我們累計服務(wù)了上千家以及全國政企客戶,如成都石雕等企業(yè)單位,完善的項目管理流程,嚴(yán)格把控項目進(jìn)度與質(zhì)量監(jiān)控加上過硬的技術(shù)實力獲得客戶的一致稱贊。

存儲設(shè)備往往是速度越快價格越昂貴,速度越快價格越低廉。

在計算機中,CPU 的速度遠(yuǎn)高于主存的速度,而主存的速度又遠(yuǎn)高于磁盤的速度。為了解決不同存儲部件的速度不對等問題,讓高速設(shè)備充分發(fā)揮性能,引入了多級緩存機制。

為了解決內(nèi)存和 CPU 的速度不匹配問題,相繼引入了 L1 Cache、L2 Cache、L3 Cache,數(shù)字越小,容量越小,速度越快,位置越接近 CPU。

現(xiàn)在的 CPU 都是由多個處理器,每個處理器由多個核心構(gòu)成。一個處理器對應(yīng)一個物理插槽,不同的處理器間通過 QPI 總線相連。

一個處理器間的多核共享 L3 Cache。一個核包含寄存器、L1 Cache、L2 Cache,下圖是Intel Sandy Bridge CPU架構(gòu):

二、緩存行與偽共享

緩存中的數(shù)據(jù)并不是獨立的進(jìn)行存儲的,它的最小存儲單位是緩存行,緩存行的大小是2的整數(shù)冪個字節(jié),最常見的緩存行大小是 64 字節(jié)。CPU 為了執(zhí)行的高效,會在讀取某個對象時,從內(nèi)存上加載 64 的整數(shù)倍的長度,來補齊緩存行。

以 Java 的 long 類型為例,它是 8 個字節(jié),假設(shè)我們存在一個長度為 8 的 long 數(shù)組 arr,那么CPU 在讀取 arr[0] 時,首先查詢緩存,緩存沒有命中,緩存就會去內(nèi)存中加載。

由于緩存的最小存儲單位是緩存行,64 字節(jié),且數(shù)組的內(nèi)存地址是連續(xù)的,則將 arr[0] 到 arr[7] 加載到緩存中。后續(xù) CPU 查詢 arr[6] 時候也可以直接命中緩存。

現(xiàn)在假設(shè)多線程情況下,線程 A 的執(zhí)行者 CPU Core-1 讀取 arr[1],首先查詢緩存,緩存沒有命中,緩存就會去內(nèi)存中加載。

從內(nèi)存中讀取 arr[1] 起的連續(xù)的 64 個字節(jié)地址到緩存中,組成緩存行。由于從arr[1] 起,arr 的長度不足夠 64 個字節(jié),只夠 56 個字節(jié)。假設(shè)最后 8 個字節(jié)內(nèi)存地址上存儲的是對象 bar,那么對象 bar 也會被一起加載到緩存行中。

現(xiàn)在有另一個線程 B,線程 B 的執(zhí)行者 CPU Core-2 去讀取對象 bar,首先查詢緩存,發(fā)現(xiàn)命中了,因為 Core-1 在讀取 arr 數(shù)組的時候也順帶著把 bar 加載到了緩存中。

這就是緩存行共享,聽起來不錯,但是一旦牽扯到了寫入操作就不妙了。

假設(shè) Core-1 想要更新 arr[7] 的值,根據(jù) CPU 的 MESI 協(xié)議,那么它所屬的緩存行就會被標(biāo)記為失效。因為它需要告訴其他的 Core,這個 arr[7] 的值已經(jīng)被更新了,緩存已經(jīng)不再準(zhǔn)確了,你必須得重新去內(nèi)存拉取。但是由于緩存的最小單元是緩存行,因此只能把 arr[7] 所在的一整行給標(biāo)識為失效。

此時 Core-2 就會很郁悶了,剛剛還能夠從緩存中讀取到對象 bar,現(xiàn)在再讀取卻被告知緩存行失效,必須得去內(nèi)存重新拉取,延緩了 Core-2 的執(zhí)行效率。

這就是緩存?zhèn)喂蚕韱栴},兩個毫無關(guān)聯(lián)的線程執(zhí)行,一個線程卻因為另一個線程的操作,導(dǎo)致緩存失效。這兩個線程其實就是對同一緩存行產(chǎn)生了競爭,降低了并發(fā)性。

三、Disruptor 緩存行填充

Disruptor 為了解決偽共享問題,使用的方法是緩存行填充。這是一種以空間換時間的策略,主要思想就是通過往對象中填充無意義的變量,來保證整個對象獨占緩存行。

舉個例子,以 Disruptor 中的 Sequence 為例,在 volatile long value 的前后各放置了 7 個 long 型變量,確保 value 獨占一個緩存行。 

 
 
 
 
  1. public class Sequence extends RhsPadding {  
  2.     private static final long VALUE_OFFSET;   
  3.     static {  
  4.         VALUE_OFFSET = UNSAFE.objectFieldOffset(Value.class.getDeclaredField("value"));  
  5.         ... 
  6.     }  
  7.     ...  
  8. }  
  9. class RhsPadding extends Value {  
  10.     protected long p9, p10, p11, p12, p13, p14, p15;  
  11. }  
  12. class Value extends LhsPadding {  
  13.     protected volatile long value;  
  14. }  
  15. class LhsPadding {  
  16.     protected long p1, p2, p3, p4, p5, p6, p7;  

如下圖所示,其中 V 就是 Value 類的 value,P 為 value 前后填充的無意義 long 型變量,U 為其它無關(guān)的變量。不論什么情況下,都能保證 V 不和其他無關(guān)的變量處于同一緩存行中,這樣 V 就不會被其他無關(guān)的變量所影響。

這里的 V 也不限定為 long 類型,其實只要對象的大小大于等于8個字節(jié),通過前后各填充 7 個 long 型變量,就一定能夠保證獨占緩存行。

此處以 Disruptor 的 RingBuffer 為例,最左邊的 7 個 long 型變量被定義在頂級父類 RingBufferPad 中,最右邊的 7 個 long 型變量被定義在 RingBuffer 的最后一行變量定義中,這樣所有的需要獨占的變量都被左右 long 型給包圍,確保會獨占緩存行。 

 
 
 
 
  1. public final class RingBuffer extends RingBufferFields implements Cursored, EventSequencer, EventSink {  
  2.     public static final long INITIAL_CURSOR_VALUE = Sequence.INITIAL_VALUE;  
  3.     protected long p1, p2, p3, p4, p5, p6, p7;  
  4.     ...  
  5. abstract class RingBufferFields extends RingBufferPad  
  6. {  
  7.     ...  
  8. }  
  9. abstract class RingBufferPad {  
  10.     protected long p1, p2, p3, p4, p5, p6, p7;  

四、@Contended

在 JDK 1.8 中,提供了 @sun.misc.Contended 注解,使用該注解就可以讓變量獨占緩存行,不再需要手動填充了。另外,關(guān)注公眾號Java技術(shù)棧,在后臺回復(fù):Java,可以獲取我整理的 Java 1.8 系列教程,非常齊全。

注意,JVM 需要添加參數(shù) -XX:-RestrictContended 才能開啟此功能。46張PPT弄懂JVM、GC算法和性能調(diào)優(yōu),分享給你。

如果該注解被定義在了類上,表示該類的每個變量都會獨占緩存行;如果被定義在了變量上,通過指定 groupName,相同的 groupName 會獨占同一緩存行。 

 
 
 
 
  1. // 類前加上代表整個類的每個變量都會在單獨的cache line中  
  2. @sun.misc.Contended  
  3. public class ContendedData {  
  4.     int value;  
  5.     long modifyTime;  
  6.     boolean flag;  
  7.     long createTime;  
  8.     char key;  
  9. }  
  10. // 同一 groupName 在同一緩存行  
  11. public class ContendedGroupData {  
  12.     @sun.misc.Contended("group1")  
  13.     int value;  
  14.     @sun.misc.Contended("group1")  
  15.     long modifyTime;  
  16.     @sun.misc.Contended("group2")  
  17.     boolean flag;  
  18.     @sun.misc.Contended("group3")  
  19.     long createTime;  
  20.     @sun.misc.Contended("group3")  
  21.     char key;  

@Contended 在 JDK 源碼中已經(jīng)有所應(yīng)用,以 Thread 類為例,為了保證多線程情況下隨機數(shù)的操作不會產(chǎn)生偽共享,相關(guān)的變量被設(shè)置為同一 groupName。 

 
 
 
 
  1. public class Thread implements Runnable {  
  2.     ...  
  3.     // The following three initially uninitialized fields are exclusively  
  4.     // managed by class java.util.concurrent.ThreadLocalRandom. These  
  5.     // fields are used to build the high-performance PRNGs in the  
  6.     // concurrent code, and we can not risk accidental false sharing.  
  7.     // Hence, the fields are isolated with @Contended.  
  8.     /** The current seed for a ThreadLocalRandom */  
  9.     @sun.misc.Contended("tlr")  
  10.     long threadLocalRandomSeed;  
  11.     /** Probe hash value; nonzero if threadLocalRandomSeed initialized */  
  12.     @sun.misc.Contended("tlr")  
  13.     int threadLocalRandomProbe;  
  14.     /** Secondary seed isolated from public ThreadLocalRandom sequence */  
  15.     @sun.misc.Contended("tlr")  
  16.     int threadLocalRandomSecondarySeed;  
  17.      ...  

五、速度測試

將 volatile long value 封裝為對象,四線程并行,每個線程循環(huán) 1 億次,對 value 進(jìn)行更新操作,測試緩存行對速度的影響。

  •  CPU:AMD 3600 3.6 GHz
  •  Memory:16 GB

網(wǎng)站題目:自從項目用了Disruptor,性能提升了2.5倍!
本文路徑:http://www.5511xx.com/article/djicoch.html