你会怎样衡量你的产品? —— 一点产品数据分析的经验分享
本文轉(zhuǎn)載自“數(shù)據(jù)冰山”
目標(biāo)讀者:涉及產(chǎn)品數(shù)據(jù)的新人(PM、數(shù)據(jù)分析師、產(chǎn)品運(yùn)營)
當(dāng)我剛開始在文圖做產(chǎn)品實(shí)習(xí)生的時(shí)候,想做點(diǎn)數(shù)據(jù)分析,但有很多問題,不知道怎么做,比如
怎樣對產(chǎn)品做數(shù)據(jù)分析?用什么樣的工具?
怎么定義產(chǎn)品的指標(biāo) (metrics)?
為什么要做數(shù)據(jù)分析?數(shù)據(jù)分析能帶來什么樣的價(jià)值?
于是找了不少書和資料,才做了一點(diǎn)微小的工作。
目前,這方面的例子并不多,所以,這里以我們的產(chǎn)品文圖(wentu.io/s://www)?為例,分享一點(diǎn)微小的經(jīng)驗(yàn),希望能對和我一樣的新人們有所幫助,當(dāng)中存在的問題也歡迎指正
注:因?yàn)樯虡I(yè)上的一些考慮,所以對數(shù)據(jù)做了遮擋處理,希望大家可以理解
1. 產(chǎn)品與Metrics
(1) 文圖是什么?
文圖是一款用來做數(shù)據(jù)報(bào)告(下圖)的產(chǎn)品
比如,你寫了一篇數(shù)據(jù)分析報(bào)告,然后希望看起來比較專業(yè)(排版、顏色),那么可以用文圖,因?yàn)橛性O(shè)計(jì)好的樣式。另一方面,圖表、表格中的數(shù)據(jù)都是可交互的,也有目錄導(dǎo)航,對讀者有較好的閱讀體驗(yàn)。
(2) 怎么定義產(chǎn)品的數(shù)據(jù)指標(biāo)?
產(chǎn)品數(shù)據(jù)分析的基本,是各項(xiàng)指標(biāo)(metrics),當(dāng)中最常用的是AARRR模型 [1],也就是把用戶從訪問到使用,分成了獲取(Aquisition)、激活(Activiation)、留存(Retention)3個(gè)階段(下圖)
其核心指標(biāo)是留存/活躍用戶數(shù),也就是希望用戶能再次訪問(e.g. 微信, 微博)
然而,AARRR并不適合所有產(chǎn)品
一個(gè)簡單的例子是,Airbnb的留存肯定也很低,因?yàn)闆]有人會(huì)每天訂房間。文圖也類似,沒有人會(huì)每天寫報(bào)告,可能一個(gè)月一篇就不錯(cuò)了。因此,短期留存的意義不大, 留存/活躍用戶更大程度上是產(chǎn)品好壞的最終反映,而非需要直接提升的指標(biāo)。
所以,我們用HEART模型來定義metrics?(下圖,具體介紹見[2])
具體而言,是從產(chǎn)品本身的目的入手,更為本質(zhì)。
文圖的目的是幫助用戶制作數(shù)據(jù)文檔,在產(chǎn)品中由多個(gè)事件組成:文檔創(chuàng)建 -> 編輯文檔 -> 文檔完成(發(fā)布/下載)。最核心的指標(biāo),是完成文檔的數(shù)量,即有多少文檔發(fā)布、下載了。同樣的, Airbnb的核心指標(biāo)之一是訂床的數(shù)量, 而不是每天的活躍用戶有多少。
不過,這只是對“制作者”而言。對于運(yùn)營人員、數(shù)據(jù)分析師這些制作者來說, 他們最終的目的是希望“讀者”能方便的閱讀文檔,了解數(shù)據(jù)和分析的結(jié)果,文圖也因此才會(huì)有移動(dòng)端閱讀、分享到微信等功能。所以,只有保證讀者有良好的體驗(yàn),制作者才會(huì)長期的使用下去。不過,這方面并沒想到好的指標(biāo)。
最后,總的metrics包括
(1) 基本狀況
注冊用戶數(shù)(按周/月)
活躍用戶數(shù)(按周/月)
(2) 業(yè)務(wù)指標(biāo)
文檔制作者: 創(chuàng)建文檔 -> 編輯文檔 -> 發(fā)布、下載
文檔讀者: 暫缺
(3) 增長指標(biāo)
aquisition 轉(zhuǎn)化率: 訪問 -> 注冊按鈕-> 注冊成功
activiation 轉(zhuǎn)化率: 注冊成功 -> 創(chuàng)建文檔 -> 編輯文檔
2. 實(shí)現(xiàn)
設(shè)計(jì)好了metrics,怎么具體得到這些數(shù)據(jù)呢?
我們用神策(類似Mixpanel/GrowingIO),包括基本的dashboard和更復(fù)雜的事件分析
上圖是我們的dashboard, 包括注冊用戶、文檔創(chuàng)建等指標(biāo),每天用來了解產(chǎn)品的基本使用情況。
在代碼實(shí)現(xiàn)上,用戶做了相應(yīng)的操作,就用js把相應(yīng)的數(shù)據(jù)傳輸?shù)胶笈_(tái)進(jìn)行記錄(埋點(diǎn)),之后就可以用神策進(jìn)行分析了。
比如
(1) 文檔制作漏斗
可以用漏斗模型看文檔制作中各個(gè)步驟的轉(zhuǎn)化率(創(chuàng)建 -> 編輯 -> 下載/發(fā)布)
而完成文檔的用戶數(shù),就是我們產(chǎn)品的核心用戶群
這個(gè)也放在了dashboard中,可以看到,每周都會(huì)有許多用戶在文圖上完成了文檔制作
(2) 注冊成功/失敗比例
對用戶注冊的行為做了記錄(分成成功和失敗),能看到產(chǎn)品注冊成功/失敗的曲線
(3) 文檔類型比例
文圖的文檔有多種類型,包括單頁-PPT-打印文檔3種,這3種各占比例多少呢?我們內(nèi)部幾乎都是用單頁文檔,但看到數(shù)據(jù),發(fā)現(xiàn)實(shí)際用戶創(chuàng)建PPT的并不少,比我們預(yù)想的多多了
3. 案例:這個(gè)模板好用嗎?
文圖的核心功能之一,是用戶可以使用模板(下圖)創(chuàng)建文檔。這些模板都是經(jīng)過設(shè)計(jì)的,比單純的Excel + Word來的要更好看。
但是,我們對模板的設(shè)計(jì)并不滿意,覺得一些模板并不好看,而且,也常有用戶說某個(gè)模板顏色對比不夠等等
這些模板好用嗎?怎么分析這個(gè)問題?
可以從文檔完成率考慮 —— 用戶創(chuàng)建文檔后,經(jīng)過一系列的操作,最終完成文檔(發(fā)布、下載)。期間,有沒有可能因?yàn)槟0宓牟蛔?#xff08;e.g. 顏色對比不夠),而放棄呢?
各模板的創(chuàng)建量、完成量和完成率(完成率=完成量/創(chuàng)建量)如下
可以看到
默認(rèn)模板(blue)創(chuàng)建量明顯高于其他模板,說明數(shù)據(jù)基本準(zhǔn)確
完成率和創(chuàng)建量相當(dāng)不同,創(chuàng)建最多的并不是完成率最高的,而一些小眾模板(pure)的完成率不錯(cuò),說明計(jì)算基本上有效。而且這個(gè)順序和我們主觀的感知也大致相符
仔細(xì)觀察完成率最后幾位 (my_red, my_blue, my_green),可以發(fā)現(xiàn)一個(gè)共同點(diǎn),都帶有header. 這和一些用戶的反饋相同,“自己寫了個(gè)文檔,結(jié)果頭上頂個(gè)別人家的header, 覺得不爽 ”,也難怪寫到一半就不寫了
而很有意思的是,blue 和my_blue的關(guān)系(下圖)
這兩個(gè)模板大體相同,只是后者帶了header,而完成率就有了區(qū)別。考慮到blue作為默認(rèn)的模板本身會(huì)有大量的試用,其實(shí)際完成率要更高, 因此可以說,單單加上這個(gè)header,文檔的完成率就會(huì)往下掉大概15% 。而去掉header, 文檔完成的數(shù)量就很有可能提升。
總之,通過完成率,可以發(fā)現(xiàn)模板設(shè)計(jì)的好壞對文檔完成有較大影響
而且,假如把所有模板的設(shè)計(jì)水平都提升到第一的水準(zhǔn),是近40%的提升。把這些分析結(jié)果告訴設(shè)計(jì)師,他們也就更有動(dòng)力、方向做改進(jìn)了,而不是簡簡單單的說“把模板設(shè)計(jì)得更好看”
4. 案例: 為什么產(chǎn)品沒有增長?
仔細(xì)觀察dashboard,會(huì)發(fā)現(xiàn)更深層次的問題
注冊量: 始終不變. 意味著自然流量來源沒有增加,也就是說沒有任何人為我們自發(fā)宣傳,沒有口碑傳播
文檔創(chuàng)建量: 始終不變,意味著活躍用戶沒有增長, 否則應(yīng)該逐漸積累并增加. 意味著大量的用戶流失, 沒有繼續(xù)使用
簡單來說,產(chǎn)品沒有明顯的增長,盡管這一年更新了許多功能?,盡管每周會(huì)有許多用戶在文圖上完成文檔制作(此處應(yīng)有心碎的聲音,嗚嗚)
為什么會(huì)這樣?
可能原因之一,是文圖本身的特性所致。
像上圖,是典型用戶的行為次數(shù)統(tǒng)計(jì),可以看到3-4月第一次使用,再次使用就是8月了,而下次使用呢?這是我們的用戶,但他的留存效果并不明顯。Airbnb也是類似,其留存是按年計(jì)算的 [3]。
那怎么分析這個(gè)問題?
數(shù)據(jù)分析師同學(xué)們可能已經(jīng)摩拳擦掌,想了很多模型、算法了。。。。。
但更好的辦法是直接找到用戶,問他們?yōu)槭裁蠢^續(xù)使用/放棄使用,也就是用戶訪談。在這里,可以分群體訪談,比如
流失用戶:3個(gè)月前注冊并完成文檔的用戶,但之后沒有再使用的。為什么沒有再使用?是使用效果不滿意,還是行為本身低頻?
留存用戶:本月完成文檔,但是在3個(gè)月之前注冊的老用戶。為什么持續(xù)使用?他們用來做什么?有沒有可能找到更多類似的用戶?他們是從哪里知道文圖的?
嘗試但是未完成文檔的用戶:本月注冊成功,并嘗試使用(編輯文檔5次以上),但最終沒有完成文檔的。產(chǎn)品在哪些方面有問題,最終沒有完成文檔?
5. 總結(jié)
這里,我們以自己的產(chǎn)品文圖為例介紹了產(chǎn)品數(shù)據(jù)分析的一些基本的內(nèi)容,包括
怎樣設(shè)定metrics (HEART),而不僅僅是從活躍用戶數(shù)的角度去考慮
怎樣運(yùn)用metrics分析 (模板完成率的分析,實(shí)質(zhì)是定量分析)
怎樣不用metrics做分析(用戶訪談,實(shí)質(zhì)是定性分析)
不過,為什么要對產(chǎn)品做數(shù)據(jù)分析?
數(shù)據(jù)分析只是手段,重要的是目的
通常,我們會(huì)關(guān)心這些問題
產(chǎn)品發(fā)展得如何,是否有增長?存在什么問題?
新開發(fā)的功能反映如何?是不是起到了效果?
怎么和團(tuán)隊(duì)溝通這些判斷、分析?
用數(shù)據(jù)分析可以較好的回答這些問題,尤其在團(tuán)隊(duì)內(nèi)部溝通的時(shí)候。
因?yàn)閷Ξa(chǎn)品,人們總有不同的看法/感覺,有的人覺得這樣好,有的人覺得那樣好。用數(shù)據(jù)交流,效果就更好一點(diǎn),因?yàn)槭窃?span style="font-size:14px;font-weight:700;">拿結(jié)果說話,而不是光靠感覺。更何況,大家很多時(shí)候會(huì)發(fā)現(xiàn),用戶的實(shí)際反饋和你的感覺并不一樣。(這點(diǎn)對老板們也很重要,否則團(tuán)隊(duì)就是在滿足老板的“感覺”,而不是實(shí)際的用戶需求。)
但另一方面,數(shù)據(jù)分析也不是萬能的,很難告訴我們“為什么”
就比如最后的例子,產(chǎn)品做了很多功能,為什么還是沒人用呢?數(shù)據(jù)其實(shí)沒有辦法直接告訴我們原因,這需要采用訪談等其他方法了。
6. 學(xué)習(xí)資源
最后,介紹一些產(chǎn)品數(shù)據(jù)分析方面的學(xué)習(xí)資源,方便同學(xué)們?nèi)腴T
關(guān)鍵字:Product Analytics,不是Data Science. Data Science更接近于推薦系統(tǒng)中涉及到的算法,而Analytics 則是數(shù)據(jù)分析、指標(biāo)這些了。
(1) Lean Analytics, 中文版《精益數(shù)據(jù)分析》
https://book.douban.com/subject/19992844/
包括了許多實(shí)際的案例,很好的說明了數(shù)據(jù)分析能帶來什么價(jià)值。我個(gè)人非常喜歡案例中通過分析解決問題的思維方式。
剛?cè)腴T的話,只看第1部分即可,之后可以按需要再回頭看
(2) How to Measure Anything, 中文版《數(shù)據(jù)化決策》
https://book.douban.com/subject/24773139/
只看第1部分即可,也是學(xué)習(xí)當(dāng)中數(shù)據(jù)分析的思維方式
順帶一提,看完這部分,產(chǎn)品面試中常見的估算問題也能基本搞定了
(3) Growth(用戶增長)
說到產(chǎn)品的數(shù)據(jù)分析,一定會(huì)提到Growth,這兩個(gè)很多時(shí)候是等價(jià)的。這方面內(nèi)容很多,作為入門,我推薦
a. Andrew Chen: The Next Feature Fallacy
http://andrewchen.co/the-next-
“產(chǎn)品沒人用? 那做個(gè)更NB的功能吧,這樣就有人用了。” —— 這樣做對嗎?
b. YC Startup課程: How to Get Users and Grow - Alex Schultz
https://www.youtube.com/watch?v=URiIsrdplbo
YC的課程,Facebook的VP Growth專門講Growth的,個(gè)人也非常喜歡
最后,數(shù)據(jù)分析落到實(shí)處,其實(shí)就是這句話 [4]
Good teams celebrate when they achieve a significant impact to the business KPI’s. Bad teams celebrate when they finally release something.?好的團(tuán)隊(duì)在達(dá)成重要的KPI的時(shí)候進(jìn)行慶祝, 差的團(tuán)隊(duì)在終于發(fā)布了點(diǎn)東西的時(shí)候進(jìn)行慶祝。
[1] AARRR,?http://500hats.typepad.com/500blogs/2007/09/startup-metrics.html?http://
[2] HEART,??https://library.gv.com/how-to-choose-the-right-ux-metrics-for-your-product-5f46359ab5be
[3] Airbnb,?http://blog.ycombinator.com/growth-guide2017/
[4] Good Product Team, Bad Product Team,??https://book.douban.com/review/8421504/
總結(jié)
以上是生活随笔為你收集整理的你会怎样衡量你的产品? —— 一点产品数据分析的经验分享的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 精益分析体系构建如何“因企制宜”?
- 下一篇: 吴恩达的 AI 战略强调了什么?