[Clickhouse] Clickhouse 报SQLException : Read timed out
生活随笔
收集整理的這篇文章主要介紹了
[Clickhouse] Clickhouse 报SQLException : Read timed out
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
1 問題描述
在使用Clickhouse(21.3.4.25)進行大數據量地數據查詢,高頻報出 SQLException : Read timed out 錯誤
2 問題分析
2.1 單次查詢:耗時約4s
2.2 并發20查詢:報SQLException Read timeout,并發5查詢:正常
2.3 整個SQL :查詢業務邏輯復雜(多層嵌套、Join、200余行)
2.4 整個Query SQL 的查詢基表:基于1個36億級(6W Inner Join 6W)的視圖表
2.x 問題結論及優化方向
- 根本原因:
- SQL邏輯和所消耗的資源較高,達到了CK數據庫的資源、性能瓶頸。(Clickhouse本身也不支持高并發查詢,官網/最佳實踐的建議:單表查詢,盡可能減少join、最高單表并發100)
- 個人優化建議:
- 1、優化SQL(可結合物化視圖,如果擔心統計不準(大部分情況下,誤差概率極低、較小),可先主動執行 optimze table {table} final 指令做合并,再執行 Query SQL)
- 2、嘗試調整連接參數(如:?socket_timeout=600000,能一定程度上減少此類報錯)
由于數據量過大,查詢請求太久,導致clickhouse連接超時。
建議在clickhouse連接字符串后面加上參數:`?socket_timeout=600000`再驗證
socket_timeout的單位是ms,可以根據實際情況更改大小。
X 參考文獻
- clickhouse
- https://github.com/ClickHouse/ClickHouse
- https://clickhouse.com/docs
- Clickhouse, read timed out 錯誤 - Smart BI
總結
以上是生活随笔為你收集整理的[Clickhouse] Clickhouse 报SQLException : Read timed out的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: iphone数据线接电脑没反应的处理方法
- 下一篇: 效率工具:Hutool 嘎嘎香,被秀到了