什么原数据更容易平稳_时序数据处理难题攻略(上)
原標(biāo)題:時(shí)序數(shù)據(jù)處理難題攻略(上)
作者:計(jì)量與統(tǒng)計(jì)
來(lái)源:公眾號(hào)計(jì)量與統(tǒng)計(jì)
時(shí)間序列分析是根據(jù)系統(tǒng)觀測(cè)得到的時(shí)間序列數(shù)據(jù),通過(guò)曲線擬合和參數(shù)估計(jì)來(lái)建立數(shù)學(xué)模型的理論和方法。它一般采用曲線擬合和參數(shù)估計(jì)方法(如非線性最小二乘法)進(jìn)行。
一個(gè)時(shí)間序列通常由 4 種要素組成:趨勢(shì)、季節(jié)變動(dòng)、循環(huán)波動(dòng)和不規(guī)則波動(dòng)。辨識(shí)合適的隨機(jī)模型,進(jìn)行曲線擬合,即用通用隨機(jī)模型去擬合時(shí)間序列的觀測(cè)數(shù)據(jù)。對(duì)于短的或簡(jiǎn)單的時(shí)間序列,可用趨勢(shì)模型和季節(jié)模型加上誤差來(lái)進(jìn)行擬合。
對(duì)于平穩(wěn)時(shí)間序列,可用通用 ARMA 模型(自回歸滑動(dòng)平均模型)及其特殊情況的自回歸模型、滑動(dòng)平均模型或組合-ARMA 模型等來(lái)進(jìn)行擬合。當(dāng)觀測(cè)值多于 50 個(gè)時(shí)一般都采用 ARMA 模型。對(duì)于非平穩(wěn)時(shí)間序列則要先將觀測(cè)到的時(shí)間序列進(jìn)行差分運(yùn)算,化為平穩(wěn)時(shí)間序列,再用適當(dāng)模型去擬合這個(gè)差分序列。
面板數(shù)據(jù),即 Panel Data,也叫“平行數(shù)據(jù)”,是指在時(shí)間序列上取多個(gè)截面,在這些截面上同時(shí)選取樣本觀測(cè)值所構(gòu)成的樣本數(shù)據(jù)。面板數(shù)據(jù)分析方法是最近幾十年來(lái)發(fā)展起來(lái)的新的統(tǒng)計(jì)方法,面板數(shù)據(jù)可以克服時(shí)間序列分析受多重共線性的困擾,能夠提供更多的信息、更多的變化、更少共線性、更多的自由度和更高的估計(jì)效率,而面板數(shù)據(jù)的單位根檢驗(yàn)和協(xié)整分析是當(dāng)前最前沿的領(lǐng)域之一。
我們將分兩期,從時(shí)間序列數(shù)據(jù)與面板數(shù)據(jù)分析兩個(gè)方面入手,從數(shù)據(jù)檢驗(yàn)(平穩(wěn)性檢驗(yàn)、模型滯后期、協(xié)整檢驗(yàn)、格蘭杰檢驗(yàn))、數(shù)據(jù)模型(VAR 模型、VEC 模型、脈沖響應(yīng)函數(shù)等)、平衡與非平衡面板出發(fā),進(jìn)行比較和探究。
平穩(wěn)性問(wèn)題匯總
Q1:最重要最基礎(chǔ)的!什么是面板數(shù)據(jù)?
面板數(shù)據(jù),即 Panel Data,是截面數(shù)據(jù)與時(shí)間序列數(shù)據(jù)綜合起來(lái)的一種數(shù)據(jù)類(lèi)型。其有時(shí)間序列和截面兩個(gè)維度,當(dāng)這類(lèi)數(shù)據(jù)按兩個(gè)維度排列時(shí),是排在一個(gè)平面上,與只有一個(gè)維度的數(shù)據(jù)排在一條線上有著明顯的不同,整個(gè)表格像是一個(gè)面板,所以把 panel data 譯作“面板數(shù)據(jù)”。
但是,如果從其內(nèi)在含義上講,把 panel data 譯為“時(shí)間序列—截面數(shù)據(jù)” 更能揭示這類(lèi)數(shù)據(jù)的本質(zhì)上的特點(diǎn)。也有譯作“平行數(shù)據(jù)”或“TS-CS 數(shù)據(jù)(Time Series - Cross Section)”。
如:城市名:北京、上海、重慶、天津的 GDP 分別為 10、11、9、8(單位億元)。這就是截面數(shù)據(jù),在一個(gè)時(shí)間點(diǎn)處切開(kāi),看各個(gè)城市的不同就是截面數(shù)據(jù)。
如:2000、2001、2002、2003、2004 各年的北京市 GDP 分別為 8、9、10、11、12(單位億元)。這就是時(shí)間序列,選一個(gè)城市,看各個(gè)樣本時(shí)間點(diǎn)的不同就是時(shí)間序列。
如:2000、2001、2002、2003、2004 各年中國(guó)所有直轄市的 GDP 分別為:
北京市分別為 8、9、10、11、12;
上海市分別為 9、10、11、12、13;
天津市分別為 5、6、7、8、9;
重慶市分別為 7、8、9、10、11(單位億元),這就是面板數(shù)據(jù)。
Q2:balanced 和 unbalanced 面板數(shù)據(jù)到底有什么區(qū)別?
“平衡的意思是,如果按截面成員堆積數(shù)據(jù),每個(gè)截面成員應(yīng)包括正好相同的時(shí)期;如果按日期堆積數(shù)據(jù),每個(gè)日期應(yīng)包含相同數(shù)量的截面成員觀測(cè)值,并按相同順序排列。特別要指出的是,基礎(chǔ)數(shù)據(jù)并不一定是平衡的,只要在輸入文件中有表示即可。如果觀測(cè)值中有缺失數(shù)據(jù),一定要保證文件中給這些缺失值留有位置?!?/p>
——from 高鐵梅
Q3:何為平穩(wěn)性檢驗(yàn)?
說(shuō)到平穩(wěn),其實(shí)有兩種平穩(wěn)——寬平穩(wěn)、嚴(yán)平穩(wěn)。
嚴(yán)平穩(wěn)相較于寬平穩(wěn)來(lái)說(shuō),條件更多更嚴(yán)格,而我們時(shí)常運(yùn)用的時(shí)間序列,大多寬平穩(wěn)就夠了。
?什么是嚴(yán)平穩(wěn):是在固定時(shí)間和位置的概率分布與所有時(shí)間和位置的概率分布相同的隨機(jī)過(guò)程。這樣,數(shù)學(xué)期望和方差這些參數(shù)也不隨時(shí)間和位置變化。(比如白噪聲)
?什么是寬平穩(wěn):寬平穩(wěn)是使用序列的特征統(tǒng)計(jì)量來(lái)定義的一種平穩(wěn)性。它認(rèn)為序列的統(tǒng)計(jì)性質(zhì)主要由它的低階矩決定,所以只要保證序列低階矩平穩(wěn)(二階),就能保證序列的主要性質(zhì)近似穩(wěn)定。
兩者關(guān)系:
?一般關(guān)系:嚴(yán)平穩(wěn)條件比寬平穩(wěn)條件苛刻,通常情況下,嚴(yán)平穩(wěn)(低階矩存在)能推出寬平穩(wěn)成立,而寬平穩(wěn)序列不能反推嚴(yán)平穩(wěn)成立。
?特例:不存在低階矩的嚴(yán)平穩(wěn)序列不滿(mǎn)足寬平穩(wěn)條件,例如服從柯西分布的嚴(yán)平穩(wěn)序列就不是寬平穩(wěn)序列。當(dāng)序列服從多元正態(tài)分布時(shí),寬平穩(wěn)可以推出嚴(yán)平穩(wěn)。
Q4:如何進(jìn)行平穩(wěn)性檢驗(yàn)?
檢查序列平穩(wěn)性的標(biāo)準(zhǔn)方法是單位根檢驗(yàn)。有 6 種單位根檢驗(yàn)方法:ADF 檢驗(yàn)、DFGLS檢驗(yàn)、PP 檢驗(yàn)、KPSS 檢驗(yàn)、ERS 檢驗(yàn)和 NP 檢驗(yàn),本節(jié)將介紹 DF 檢驗(yàn)、ADF 檢驗(yàn)。
ADF 檢驗(yàn)和 PP 檢驗(yàn)方法出現(xiàn)的比較早,在實(shí)際應(yīng)用中較為常見(jiàn),但是,由于這 2 種方法均需要對(duì)被檢驗(yàn)序列作可能包含常數(shù)項(xiàng)和趨勢(shì)變量項(xiàng)的假設(shè),因此,應(yīng)用起來(lái)帶有一定的不便;其它幾種方法克服了前 2 種方法帶來(lái)的不便,在剔除原序列趨勢(shì)的基礎(chǔ)上,構(gòu)造統(tǒng)計(jì)量檢驗(yàn)序列是否存在單位根,應(yīng)用起來(lái)較為方便。
ADF 檢驗(yàn)是在 Dickey-Fuller 檢驗(yàn)(DF 檢驗(yàn))基礎(chǔ)上發(fā)展而來(lái)的。因?yàn)?DF 檢驗(yàn)只有當(dāng)序列為 AR(1)時(shí)才有效。如果序列存在高階滯后相關(guān),這就違背了擾動(dòng)項(xiàng)是獨(dú)立同分布的假設(shè)。在這種情況下,可以使用增廣的 DF 檢驗(yàn)方法(augmented Dickey-Fuller test )來(lái)檢驗(yàn)含有高階序列相關(guān)的序列的單位根。
tips:
在進(jìn)行 ADF 檢驗(yàn)時(shí),必須注意以下兩個(gè)實(shí)際問(wèn)題:
(1)必須為回歸定義合理的滯后階數(shù),通常采用 AIC 準(zhǔn)則來(lái)確定給定時(shí)間序列模型的滯后階數(shù)。在實(shí)際應(yīng)用中,還需要兼顧其他的因素,如系統(tǒng)的穩(wěn)定性、模型的擬合優(yōu)度等。
(2)可以選擇常數(shù)和線性時(shí)間趨勢(shì),選擇哪種形式很重要,因?yàn)闄z驗(yàn)顯著性水平的 t 統(tǒng)計(jì)量在原假設(shè)下的漸近分布依賴(lài)于關(guān)于這些項(xiàng)的定義。
Q5:如果序列平穩(wěn)了,那怎么看定階啊?
AR 模型:自相關(guān)系數(shù)拖尾,偏自相關(guān)系數(shù)截尾;
MA 模型:自相關(guān)系數(shù)截尾,偏自相關(guān)函數(shù)拖尾;
ARMA 模型:自相關(guān)函數(shù)和偏自相關(guān)函數(shù)均拖尾。
P、Q的選擇主要看從第幾期開(kāi)始快速收斂。
Q6:如何制定滯后數(shù)呢?
先找出最小的 AIC 和 SIC(不是絕對(duì)值),在此基礎(chǔ)上看 ADF 檢驗(yàn)是否通過(guò),即判斷是否是平穩(wěn)序列。
補(bǔ)充一下關(guān)于 AIC 的信息:
AIC 信息準(zhǔn)則:是衡量統(tǒng)計(jì)模型擬合優(yōu)良性的一種標(biāo)準(zhǔn),由于它為日本統(tǒng)計(jì)學(xué)家赤池弘次創(chuàng)立和發(fā)展的,因此又稱(chēng)赤池信息量準(zhǔn)則。它建立在熵的概念基礎(chǔ)上,可以權(quán)衡所估計(jì)模型的復(fù)雜度和此模型擬合數(shù)據(jù)的優(yōu)良性。
在一般的情況下,AIC 可以表示為:AIC=2k-2ln(L)其中:k 是參數(shù)的數(shù)量,L 是似然函數(shù)。假設(shè)條件是模型的誤差服從獨(dú)立正態(tài)分布。讓 n 為觀察數(shù),RSS 為剩余平方和,那么 AIC變?yōu)?#xff1a;AIC=2k+nln(RSS/n)增加自由參數(shù)的數(shù)目提高了擬合的優(yōu)良性,AIC 鼓勵(lì)數(shù)據(jù)擬合的優(yōu)良性但是盡量避免出現(xiàn)過(guò)度擬合(Overfitting)的情況。所以?xún)?yōu)先考慮的模型應(yīng)是 AIC 值最小的那一個(gè)。赤池信息準(zhǔn)則的方法是尋找可以最好地解釋數(shù)據(jù)但包含最少自由參數(shù)的模型。
Q7:ADF 檢驗(yàn)和協(xié)整檢驗(yàn)是什么關(guān)系?
先做單位根檢驗(yàn),看變量序列是否平穩(wěn)序列,若平穩(wěn),可構(gòu)造回歸模型等經(jīng)典計(jì)量經(jīng)濟(jì)學(xué)模型;若非平穩(wěn),進(jìn)行差分,當(dāng)進(jìn)行到第 i 次差分時(shí)序列平穩(wěn),則服從 i 階單整(注意趨勢(shì)、截距不同情況選擇,根據(jù) P 值和原假設(shè)判定)。
若所有檢驗(yàn)序列均服從同階單整,可構(gòu)造 VAR 模型,做協(xié)整檢驗(yàn)(注意滯后期的選擇),判斷模型內(nèi)部變量間是否存在協(xié)整關(guān)系,即是否存在長(zhǎng)期均衡關(guān)系。如果有,則可以構(gòu)造 VEC 模型或者進(jìn)行 Granger 因果檢驗(yàn),檢驗(yàn)變量之間“誰(shuí)引起誰(shuí)變化”,即因果關(guān)系。
單位根檢驗(yàn)是序列的平穩(wěn)性檢驗(yàn),如果不檢驗(yàn)序列的平穩(wěn)性直接 OLS 容易導(dǎo)致偽回歸。當(dāng)檢驗(yàn)的數(shù)據(jù)是非平穩(wěn)(即存在單位根),并且各個(gè)序列是同階單整(協(xié)整檢驗(yàn)的前提),想進(jìn)一步確定變量之間是否存在協(xié)整關(guān)系,可以進(jìn)行協(xié)整檢驗(yàn),協(xié)整檢驗(yàn)主要有 EG 兩步法和 JJ 檢驗(yàn) 。返回搜狐,查看更多
責(zé)任編輯:
總結(jié)
以上是生活随笔為你收集整理的什么原数据更容易平稳_时序数据处理难题攻略(上)的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 【软考】软件设计师知识点整理(待更新)
- 下一篇: SQL存储过程详解