Effective Java - Use caution when making streams parallel

Introduction

在Java 8中，你只要用以下寫法，很容易就可以讓你的工作並行化:

list.stream().parallel() ..
list.parallelStream() ..

但這個item要強調的是: 千萬別亂用!! (以下內容我結合Java 8 Lambdas技術手冊做補充)

Structure

Good

能獲得較佳效能的結構有ArrayList、HashMap、HashSet、ConcurrentHashMap、arrays、int ranges與long ranges。這是由於它們的結構能夠容易被切割。書中還有提到Prefer SplittableRandom than ThreadLocalRandom，但這部分我沒使用過，無法做深入說明。

Bad

這通常是無法容易被切割的結構，像是LinkedList，我就有遇過同事使用LinkedList做parallel()；再來就是使用Stream.iterate與BufferedReader.lines所產生的stream，因為初始長度未知。另外容易被忽略的就是boxing和un-boxing轉換的效能問題，如果可以要盡量減少auto-boxing的操作。

Operations

Good

能獲得較佳效能的terminal operations包含reduce、min、max、count與sum；short-circuiting operations包含anyMatch、allMatch與noneMatch。(short-circuiting operations代表著滿足部分條件就可以停止繼續做下去，中文為短路操作，詳細範例可以參考link) 除此之外，還有一個重點就是操作是否有狀態，有狀態就會有維持狀的成本與限制；無狀態操作包含map、filter與flatMap。

Bad

有狀態操作包含了sorted、distinct與limit。其中limit在effective java中是特別被列為不適用，這是由於預設的並行化流程並無法精準的知道該怎麼正確處理limit的邏輯。 collect也不適合用在parallel的情況中，因為組合集合開銷非常大；我們大都使用parallel在物件的轉換上，此時資料量會是決定你效能的一個因素。

Pool size

根據Java 8 Doc，預設的parallelism為處理器核心處量。假如這個值設太大，會導致大量的context switch。

Conclusion & My Opinion

1. 這個item的結論是: 「你要有理由或者測試去證明使用parallel會加快速度，否則代價就是性能災難或是功能直接出問題」。
2. 以我們的經驗來說，由於parallel()預設使用common的ForkJoinPool，因此建議使用在cpu-bound且不會blocking的工作，否則可能會引起dead-lock的問題。
3. 資料結構、資料量、boxing/un-boxing、pool size、工作分解與合併都會影響到效能。

Note

有一種用來簡單判斷是否要用parallel stream的NQ Model，可參考link。N為item數量，Q為function的工作量(也可用幾行程式碼來替代)，N*Q至少要>=10000時，parallel才有可能會優於sequential；但根據這個演講內容提到，如果Q是i+=1這種操作，會由於CPU處理速度已太快的原因，即使N的數量有一百萬也不見得比較好。

Reference:

1. Effective Java, 3/e, Item 48。
2. Java 8 Lambdas技術手冊