線程池系統設置最全指南！
Java中的線程創建會帶來顯著的開銷。創建線程消耗時間，增加了請求處理的延遲，并涉及JVM和操作系統的大量工作。為了減輕這些開銷，引入了線程池的概念。
在本文中，我們深入探討確定理想線程池大小的藝術。一個經過精心調整的線程池可以從系統中提取出最佳性能，并幫助你在高峰工作負載中優雅地導航。然而，必須記住，即使使用線程池，線程的管理本身也可能成為瓶頸。
1 使用線程池的原因
- 性能：線程的創建和銷毀可能很昂貴，尤其是在Java中。線程池通過創建可以重復用于多個任務的線程池來減少這種開銷。
- 可伸縮性：線程池可以根據應用程序的需求進行擴展。例如，在負載較重時，線程池可以擴展以處理額外的任務。
- 資源管理：線程池可以幫助管理線程使用的資源。例如，線程池可以限制在任何給定時間可以活動的線程數，這有助于防止應用程序耗盡內存。
2 設置線程池大小：了解系統和資源限制
在確定線程池大小時，了解系統的限制，包括硬件和外部依賴項，是至關重要的。讓我們通過一個例子詳細說明這個概念：
2.1 情景
假設你正在開發一個處理傳入HTTP請求的Web應用程序。每個請求可能涉及從數據庫處理數據并調用外部第三方服務。你的目標是確定有效的線程池大小以有效處理這些請求。
2.2 考慮的因素
數據庫連接池：假設你正在使用像HikariCP這樣的連接池來管理數據庫連接。你已將其配置為允許最多100個連接。如果創建的線程多于可用連接，這些額外的線程將等待可用連接，導致資源爭用和潛在的性能問題。
下面是配置HikariCP數據庫連接池的示例：
import com.zaxxer.hikari.HikariConfig;
import com.zaxxer.hikari.HikariDataSource;
public class DatabaseConnectionExample {
public static void main(String[] args) {
HikariConfig config = new HikariConfig();
config.setJdbcUrl("jdbc:mysql://localhost:3306/mydb");
config.setUsername("username");
config.setPassword("password");
config.setMaximumPoolSize(100); // 設置最大連接數
HikariDataSource dataSource = new HikariDataSource(config);
// 使用dataSource獲取數據庫連接并執行查詢。
}
}外部服務吞吐量：你的應用程序與之交互的外部服務有一個限制。它只能同時處理少量請求，例如一次處理10個請求。同時發送更多請求可能會***使服務不堪重負，導致性能下降或錯誤***。
CPU核心：確定服務器上可用的CPU核心數量對于優化線程池大小至關重要。
int numOfCores = Runtime.getRuntime().availableProcessors();每個核心可以同時執行一個線程。超過CPU核心數的線程可能導致過多的上下文切換，從而降低性能。
3 CPU密集型任務和I/O密集型任務
CPU密集型任務是那些需要大量處理能力的任務，例如執行復雜計算或運行模擬。這些任務通常受限于CPU速度，而不是I/O設備的速度。
- 編碼或解碼音頻或視頻文件
- 編譯和鏈接軟件
- 運行復雜的模擬
- 執行機器學習或數據挖掘任務
- 玩視頻游戲
3.1 優化：
- 多線程和并行性：并行處理是一種技術，用于將較大的任務分解為較小的子任務，并將這些子任務分配給多個CPU核心或處理器，以利用并發執行并提高整體性能。
假設你有一個大型的數字數組，并且想要利用多個線程并行地計算每個數字的平方。
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
import java.util.concurrent.TimeUnit;
public class ParallelSquareCalculator {
public static void main(String[] args) {
int[] numbers = {1, 2, 3, 4, 5, 6, 7, 8, 9, 10};
int numThreads = Runtime.getRuntime().availableProcessors(); // 獲取CPU核心數
ExecutorService executorService = Executors.newFixedThreadPool(numThreads);
for (int number : numbers) {
executorService.submit(() -> {
int square = calculateSquare(number);
System.out.println("Square of " + number + " is " + square);
});
}
executorService.shutdown();
try {
executorService.awaitTermination(Long.MAX_VALUE, TimeUnit.NANOSECONDS);
} catch (InterruptedException e) {
Thread.currentThread().interrupt();
}
}
private static int calculateSquare(int number) {
// 模擬耗時的計算（例如，數據庫查詢，復雜計算）
try {
Thread.sleep(1000); // 模擬1秒延遲
} catch (InterruptedException e) {
Thread.currentThread().interrupt();
}
return number * number;
}
}I/O密集型任務是
那些與存儲設備交互（例如，讀/寫文件），網絡套接字（例如，發起API調用）或用戶輸入（例如，圖形用戶界面中的用戶交互）的任務。
- 從磁盤讀取或寫入大型文件（例如，保存視頻文件，加載數據庫）
- 在網絡上下載或上傳文件（例如，瀏覽網頁，觀看流媒體視頻）
- 發送和接收電子郵件
- 運行Web服務器或其他網絡服務
- 執行數據庫查詢
- 處理傳入請求的Web服務器。
3.2 優化
- 緩存：在內存中緩存經常訪問的數據，以減少重復的I/O操作。
- 負載平衡：將I/O密集型任務分布在多個線程或進程中，以有效處理并發的I/O操作。
- 使用SSD：固態硬盤（SSD）可以顯著加速I/O操作，與傳統的硬盤驅動器（HDD）相比。
- 使用高效的數據結構，例如哈希表和B樹，以減少所需的I/O操作次數。
- 避免不必要的文件操作，例如多次打開和關閉文件。
4 確定線程數量
4.1 CPU密集型任務：
對于CPU綁定的任務，你希望在不過分負擔系統的情況下最大化CPU利用率，過多的線程可能導致過多的上下文切換，從而降低性能。一個常見的經驗法則是使用可用的CPU核心數。
視頻編碼
想象一下，你正在開發一個視頻處理應用程序。視頻編碼是一個CPU密集型任務，你需要對視頻文件應用復雜的算法進行壓縮。你有一個多核CPU可用。
為CPU綁定的任務確定線程數：
- 計算可用CPU核心數：使用**Runtime.getRuntime().availableProcessors()**在Java中確定可用CPU核心數。假設你有8個核心。
- 創建線程池：創建一個線程池，其大小接近或略小于可用CPU核心數。在這種情況下，你可能選擇6或7個線程，以為其他任務和系統進程留出一些CPU容量。
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
public class VideoEncodingApp {
public static void main(String[] args) {
int availableCores = Runtime.getRuntime().availableProcessors();
int numberOfThreads = Math.max(availableCores - 1, 1); // 根據需要調整
ExecutorService threadPool = Executors.newFixedThreadPool(numberOfThreads);
// 將視頻編碼任務提交到線程池。
for (int i = 0; i < 10; i++) {
threadPool.execute(() -> {
encodeVideo(); // 模擬視頻編碼任務
});
}
threadPool.shutdown();
}
private static void encodeVideo() {
// 模擬視頻編碼（CPU綁定）任務。
// 復雜的計算和壓縮算法在這里。
}
}4.2 對于I/O密集型任務
對于I/O綁定的任務，理想的線程數通常取決于I/O操作的性質和預期的延遲。你希望有足夠的線程使I/O設備保持繁忙，而不會過載它們。理想的數字可能不一定等于CPU核心數。
網頁爬取
考慮構建一個下載網頁并提取信息的網絡爬蟲。這涉及進行I/O綁定的任務，由于網絡延遲，可能需要發出HTTP請求。
為I/O密集型任務確定線程數
- 分析I/O延遲：估計預期的I/O延遲，這取決于網絡或存儲。例如，如果每個HTTP請求大約需要500毫秒完成，你可能希望為I/O操作中的一些重疊提供一些余地。
- 創建線程池：創建一個線程池，其大小在并行性與預期的I/O延遲之間取得平衡。你不一定需要每個任務一個線程；相反，你可以擁有一個較小的池，有效地管理I/O密集型任務。
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
public class WebPageCrawler {
public static void main(String[] args) {
int expectedIOLatency = 500; // 估計的I/O延遲，單位毫秒
int numberOfThreads = 4; // 根據預期的延遲和系統能力進行調整
ExecutorService threadPool = Executors.newFixedThreadPool(numberOfThreads);
// 要爬取的URL列表。
String[] urlsToCrawl = {
"https://example.com",
"https://google.com",
"https://github.com",
// 在此添加更多的URL
};
for (String url : urlsToCrawl) {
threadPool.execute(() -> {
crawlWebPage(url, expectedIOLatency);
});
}
threadPool.shutdown();
}
private static void crawlWebPage(String url, int expectedIOLatency) {
// 模擬網頁爬取（I/O綁定）任務。
// 執行HTTP請求并處理頁面內容。
try {
Thread.sleep(expectedIOLatency); // 模擬I/O延遲
} catch (InterruptedException e) {
Thread.currentThread().interrupt();
}
}
}5 是否可以遵循一個具體的公式？
確定線程池大小的公式可以寫成如下：
Number of threads = Number of Available Cores * Target CPU utilization * (1 + Wait time / Service time)Number of Available Cores: 這是你的應用程序可用的***CPU核心數***。重要的是要注意，這與CPU數不同，因為***每個CPU可能有多個核心。***
Target CPU utilization: 這是你希望你的應用程序使用的CPU時間的百分比***。如果設置目標CPU利用率過高，你的應用程序可能會變得無響應*。如果設置得太低，你的應用程序將無法充分利用可用的CPU資源。
Wait time: 這是***線程等待I/O操作完成的時間***。這可能包括***等待網絡響應、數據庫查詢或文件操作。***
Service time: 這是***線程執行計算的時間***。
Blocking coefficient: 這是等待時間與服務時間的比率。這是衡量線程等待I/O操作完成所花費的時間與執行計算所花費的時間之間關系的指標。
6 示例
假設你有一臺具有4個CPU核心的服務器，并且你希望你的應用程序使用可用CPU資源的50%。
你的應用程序有兩類任務：I/O密集型任務和CPU密集型任務。
I/O密集型任務的阻塞系數為0.5，意味著它們花費50%的時間等待I/O操作完成。
線程數 = 4個核心 * 0.5 * (1 + 0.5) = 3個線程
CPU密集型任務的阻塞系數為0.1，意味著它們花費10%的時間等待I/O操作完成。
線程數 = 4個核心 * 0.5 * (1 + 0.1) = 2.2個線程
在這個例子中，你將創建兩個線程池，一個用于I/O密集型任務，一個用于CPU密集型任務。I/O密集型線程池將有3個線程，而CPU密集型線程池將有2個線程。
