大数据技术之kafka (第 3 章 Kafka 架构深入 ) 高效读写数据
生活随笔
收集整理的這篇文章主要介紹了
大数据技术之kafka (第 3 章 Kafka 架构深入 ) 高效读写数据
小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.
1)順序?qū)懘疟P
Kafka 的 producer 生產(chǎn)數(shù)據(jù),要寫入到 log 文件中,寫的過程是一直追加到文件末端,
為順序?qū)憽9倬W(wǎng)有數(shù)據(jù)表明,同樣的磁盤,順序?qū)懩艿?600M/s,而隨機(jī)寫只有 100K/s。這
與磁盤的機(jī)械機(jī)構(gòu)有關(guān),順序?qū)懼钥?#xff0c;是因?yàn)槠涫∪チ舜罅看蓬^尋址的時(shí)間。
2)零復(fù)制技術(shù)?
這個(gè)0拷貝到底什么意思呢?
假如你本地磁盤某個(gè)目錄下有一個(gè)1.txt文件,要寫到2.txt這個(gè)文件下,我們學(xué)過網(wǎng)絡(luò)編程我們都知道,我們需要使用 IO流讀取1.txt,然后寫入2.txt。但是我們的代碼是無法直接操作文件的,代碼會(huì)調(diào)用操作系統(tǒng)將文件讀到操作系統(tǒng)的kernel?space的這塊空間,然后讀到用戶空間,也就是你的代碼,通過你的代碼又寫到操作系統(tǒng)的kernel?space這塊空間,有操作系統(tǒng)來完成文件的寫入?,我們都知道底層對(duì)文件的操作都是c語言來完成的,這種操作是不是比較慢的。
所以就有了0拷貝
總結(jié)
以上是生活随笔為你收集整理的大数据技术之kafka (第 3 章 Kafka 架构深入 ) 高效读写数据的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Multi GET API介绍
- 下一篇: 一次可靠的通信