????????說到線程相信很多開發(fā)人員都會認為只要使用了多線程技術服務性能就會提高很多，但涉及過渡使用問題就很少人去了解。在使用上更多是了解是創(chuàng)建，使用，銷毀或使用線程池之類的。但這些資料更多是如何使用線程，但對于應用怎樣針對性規(guī)劃線程讓應用發(fā)揮出更好的性能則很難有更詳細的資料來講述。

????????在硬件層面相信大家應該知道一個CPU核心只能運行一個線程，對于一個8邏輯核心的CPU同時工作線程是8個。但在軟件服務應用中很多時候進程都開啟遠超過CPU核心數(shù)工作線程，這主要原因是在應用中往往涉及到IO這樣低效率工作，為了確保CPU可以更好地繼續(xù)其他的工作，系統(tǒng)會把等待IO完成線程加入到調度環(huán)節(jié)等待，然后由其它需要的任務線程補上。所以為了滿足服務應用需要系統(tǒng)的邏輯線程遠高于工作線程數(shù)。

線程工作飽和度

? ? ? ? 線程工作飽和度相信很少人去了解它，只知道多線程可以更多地使用CPU資源，達到一個更高效的處理。在進程中線程有創(chuàng)建時間和CPU工作時間，不同的代碼對線程使用的CPU時間也有所不同；?在服務應用中最常見的代碼可以劃分兩種：一種是高速的內存運算，別一種則是IO操作(數(shù)據(jù)庫，文件或其他網(wǎng)絡服務等)。兩種代碼引起線程的工作飽和度都有著很大的差別，接下來通過簡單的代碼來看一下不同代碼引起的線程工作量問題。

static void Memory() {while (true){System.Threading.Interlocked.Increment(ref mCount);} }

以上是一個簡單內存累加方法，由于沒有IO操作所以類似于CPU自懸狀態(tài)，這一操作會一個占用比較多的CPU資源?

static void IO() {while (true){Console.WriteLine(mCount);System.Threading.Interlocked.Increment(ref mCount);} }

同樣一個代碼增加了一個控制臺輸出，由于Console存在輸出IO操作這類操作比內存操作要慢，所以該操作會占用比較少的CPU

接下來兩個代碼使用4和8個線程運行情況又怎樣呢？

Memory(4線程)

Memory(8線程)

IO(4線程）

IO(8線程）

測試可以發(fā)現(xiàn)純內存操作隨著線程的增加CPU使用率也成正比增加，而涉及到IO的操作的測試中4線程已經(jīng)達到的IO操作的飽和量了，在往上加線程也無法達到更高的操作。所以當在創(chuàng)建多線程的時候，要確保創(chuàng)建的線程是否過量。就拿Memory函數(shù)來說，當CPU是8邏輯核的情況，再往上壓到10線程已經(jīng)沒有提交效率的意義了，反而增加了線程調度的損耗。同樣在IO操作也是，受IO限制開啟再多的線程也無法提高IO操作效率(所以這種操作一般異步配合線程池回調來更好利用線程資源)。

規(guī)劃準則

????????從上面的測試可以反映出普遍使用線程場景的需求，當存在大量內存運算的時候總線程數(shù)盡量不要超過CPU的邏輯核數(shù)；而針對IO場景的應用規(guī)劃線程數(shù)據(jù)超過IO負載能力。CPU有自己的處理想極限，不同IO也同樣有處理極限；當?shù)竭_相關資源極限的時候創(chuàng)建再多的線程意義不大，不但不能增加處理的效率，反而會引起線程過多影響性能的情況出現(xiàn)。在規(guī)劃中要以線程最大飽和度作為規(guī)劃的依據(jù)，最少線程資源最大化的目標讓使用到的線程都得到最大化運行飽和度。

高效使用多線程

????????提高性能不應該以線程多少來進行規(guī)劃使用，首要目標是提升線程的工作飽和度。提高線程工作飽和度最主要方式就是線程復用，而線程池正是達到這種方式的最佳途徑。但系統(tǒng)任務多樣性，一個全局的線程池是無法達到更的分配，所以想在多線程上更用得更靈活，需要針對不同的業(yè)務場和資源來制定任務隊列來控制線程的開銷。

????????以下是aspcore針對socket io封裝的任務處理隊列，在execute方法實現(xiàn)可以看到盡可以讓線程處于工作狀態(tài)，不要輕易回到收到全局的線程池中。

namespace Microsoft.AspNetCore.Server.Kestrel.Transport.Sockets.Internal {internal class IOQueue : PipeScheduler, IThreadPoolWorkItem{private readonly ConcurrentQueue<Work> _workItems = new ConcurrentQueue<Work>();private int _doingWork;public override void Schedule(Action<object?> action, object? state){_workItems.Enqueue(new Work(action, state));// Set working if it wasn't (via atomic Interlocked).if (Interlocked.CompareExchange(ref _doingWork, 1, 0) == 0){// Wasn't working, schedule.System.Threading.ThreadPool.UnsafeQueueUserWorkItem(this, preferLocal: false);}}void IThreadPoolWorkItem.Execute(){while (true){while (_workItems.TryDequeue(out Work item)){item.Callback(item.State);}// All work done.// Set _doingWork (0 == false) prior to checking IsEmpty to catch any missed work in interim.// This doesn't need to be volatile due to the following barrier (i.e. it is volatile)._doingWork = 0;// Ensure _doingWork is written before IsEmpty is read.// As they are two different memory locations, we insert a barrier to guarantee ordering.Thread.MemoryBarrier();// Check if there is work to doif (_workItems.IsEmpty){// Nothing to do, exit.break;}// Is work, can we set it as active again (via atomic Interlocked), prior to scheduling?if (Interlocked.Exchange(ref _doingWork, 1) == 1){// Execute has been rescheduled already, exit.break;}// Is work, wasn't already scheduled so continue loop.}}private readonly struct Work{public readonly Action<object?> Callback;public readonly object? State;public Work(Action<object?> callback, object? state){Callback = callback;State = state;}}} }

以上是aspcore Kestrel模塊的網(wǎng)絡接收任務隊列實現(xiàn)，在techempower的plaintext測試中配置了8個任務隊列來完成相關操作，性能達到這項測試的最高。測試硬件資源是40線程，而aspcore Kestrel使用了8個線程來處理這一塊達到最高的性能狀態(tài)。

????????同樣BeetleX也實現(xiàn)類似的任務隊列，只是為了使用方便通過隊列組的方式進行定義和處理。

public class DispatchCenter<T> : IDisposable{List<SingleThreadDispatcher<T>>?mDispatchers?=?new?List<SingleThreadDispatcher<T>>();long?mIndex?=?1;public DispatchCenter(Action<T> process) : this(process, Math.Min(Environment.ProcessorCount, 16)){}public DispatchCenter(Action<T> process, int count){for (int i = 0; i < count; i++){mDispatchers.Add(new SingleThreadDispatcher<T>(process));}}public void SetErrorHaneler(Action<T, Exception> handler){if (handler != null){foreach (var item in mDispatchers){item.ProcessError = handler;}}}public void Enqueue(T data, int waitLength = 5){if (waitLength < 2){Next().Enqueue(data);}else{for (int i = 0; i < mDispatchers.Count; i++){var item = mDispatchers[i];if (item.Count < waitLength){item.Enqueue(data);return;}}Next().Enqueue(data);}}public int Count{get{int count = 0;foreach (var item in mDispatchers)count += item.Count;return count;}}public SingleThreadDispatcher<T> Get(object data){int id = Math.Abs(data.GetHashCode());return mDispatchers[id % mDispatchers.Count];}public SingleThreadDispatcher<T> Next(){return mDispatchers[(int)(System.Threading.Interlocked.Increment(ref mIndex) % mDispatchers.Count)];}public void Dispose(){foreach (SingleThreadDispatcher<T> item in mDispatchers){item.Dispose();}mDispatchers.Clear();}}

總結

????????其實針對多線程的使用并不能簡單地創(chuàng)建線程即可，實際應用中需要考慮代碼占用的CPU資源情況和具體CPU資源做一個規(guī)則調整才能更好的發(fā)揮出更高效的作用。所以在設計應用時一般都依據(jù)不同業(yè)務定義不同的任務隊列，并定義相關配置參數(shù)，確保服務應用在不同硬件環(huán)境配置出更優(yōu)化的處理性能狀態(tài)。

總結

以上是生活随笔為你收集整理的如何更好使用多线程的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內容還不錯，歡迎將生活随笔推薦給好友。