如何評估學習成效?ROI方法論的13招
文章推薦指數: 80 %
(2)Jack Phillips 五級評估 · 1. 學習成效評估第一招:依據開課單位需要選擇評估的層級 · 2. 學習成效評估第二招:針對每一個層級設定目標 · 3. 學習成效 ...
跳至主要內容
本文架構來自2020數位學習人培班蘇文華老師(Wally老師)課程整理寫成。
蘇文華老師在這個講座指出「評估」是一種工具與流程,線上、線下課程都可以用這個模式來評估。
討論學習評估一定要認識兩個人:
(1)DonaldKirkpatrick柯氏四級評估
Level1:Reaction反應:覺得自己沒有浪費時間。
但可能只是老師很會講笑話。
Level2:Learning學習:有學到東西。
Level3:Behavior行為:學到之後,留在身上,能夠行動。
Level4:Results結果:公司花錢培訓你,你就達到工作績效
(2)JackPhillips五級評估
Level0:衡量輸入時數、人次Level1:ReactionandPlannedAction:反應和預定行動計畫Level2:Learning:學習Level3:ApplicationandImplementation:在工作上有應用和實踐Level4:Impact(TangiblesandIntangibles):業務影響(有形和無形,看用數字衡量與否)Level5:ROI投資報酬率
常常看到公司人資報告說:「本年度辦了OO小時的訓練課程,總學習人數是OO人次」,這類計算學習人次、學習時數者都屬於Level0的評估層次,並非最有效的評估。
以下介紹JackPhillips開發的ROI評估方法13招。
1.學習成效評估第一招:依據開課單位需要選擇評估的層級
JackPhillips提出了五級評估層次,但實際上並不是所有的開課單位都要走完所有的評估程序。
畢竟現實上不一定有足夠的人力跟資源來評估每個項目,例如到Level3以後,評估成本會飆太高,因為沒人有空去追蹤每個學員課後的成效。
所以要選哪一層來評估就要先釐清進行此培訓的目的與預期的成效為何?
舉例來說,重視投資報酬率的A公司會做Level5ROI評估,著重員工有沒有實際應用所學的B公司就會做Level3的評估。
對於B公司來說,再做Level5ROI的評估就是多餘的了。
因為時間跟資源都有限(現實),有的開課單位不一定有錢有閒能走完ADDIE的所有流程,還有資源能評估者,就要更小心選擇評估的層級是否有助於下次的培訓。
另外,Wally老師也提到,很多課程設計者花很多時間在ADDIE的「A」階段分析受眾需求,卻忽略了課程製作完成後要怎麼評估。
沒有以終為始,去想這門課程預計要達到的成效是什麼,在專案後段就會失去一些優化的機會。
2.學習成效評估第二招:針對每一個層級設定目標
在進行評估時,首要分析這個訓練的目的是什麼?訓練的項目是否呼應公司的經營方向?為了讓訓練有效,在確認評估項目時,也要依據公司的期待來選擇要評估的層級,此時就要知道每一個層級的目標是什麼。
級別著重點Level1:Reaction訂定能衡量學員預期反應的標準例:能理解績效管理系統Level2:Learning訂定能衡量學員知識、資訊、技能有進步的標準例:能管理遠距離團隊Level3:Application訂定能衡量學員成功應用所學的標準例:在95%的客訴情境,能用7個步驟進行調查Level4:Impact訂定學員課後能運用所學為公司帶來改變的評估標準例:一年內市民投訴減少20%。
Level5:ROI訂定訓練項目的最低投資報酬率例:實施彈性工作系統後,一年達到20%的投資報酬率
3.學習成效評估第三招:利害關係人
利害關係人包括出資者、學員、講師、人資、專案負責人等,這些都是培訓過程中重要的成員,評估流程也少不了利害關係人們的意見以及他們對於培訓的期待是什麼。
4.學習成效評估第四招:提早以及經常跟事業單位聯繫
很多學員在培訓後的學習成效必須由主管來評估,訓練單位就要提早知會單位主管需要定期追蹤評估的工作,以及老闆屬意要追蹤哪一層級的成效。
Level3的評估(實際應用所學在工作中),應該交由受訓員工主管來做,因為主管是最熟悉員工的人。
如果主管不願意,就跟主管說,叫他不要再派員工來受訓。
因為他連評估學習結果都不想,那為何要送員工去受訓。
5.學習成效評估第五招:正確收集回饋
Level1的評估要避開「迷惑性」的迴圈。
有些培訓課程會在課後發問卷,學員如果很享受課程,就會給講師很高的評分。
而講師就會受到正向回饋,認為讓學員享受才是課程的重點,也就陷入了「迷惑性」的迴圈。
因此,設計問卷時一定要問學員:「今天學的內容未來將如何運用?」
Level2的評估則可用客觀性測驗(紙筆測驗)、績效測驗(小組報告)或非正式評估來進行。
為什麼需要非正式評估?因為講師一邊上課,不可能還紀錄誰在發言、誰的課堂操作做得如何?於是就跟課的人資來評估,或是跟課的人可以在課後問講師對全班整體的感覺如何。
6.學習成效評估第六招:課後搜集Level3–Level4的數據
在評估的第六招要收集Level3–Level4的數據,摘要條列方法如下:
收集數據方法Level3Level4調查問卷可可觀察工作表現可 訪問學員可 行動計畫可可紀錄工作績效 可
調查問卷是成本最低的方法,從Level1到Level4都可用。
而觀察工作表現的時間成本較高,願意做的主管少。
還有一個方法是做行動計畫,也就是在紙上寫下接下來的行動步驟是什麼,註明這些步驟如何改善當前績效,這的項目是Level1至Level4都可以做,條列如下:
Level1:課前預計要做的事Level2:用上課學到的東西、表單可以怎麼運用在工作上Level3:每個月追蹤執行計劃結果Level4:多了多少訂單?業績增加多少?
行動計畫的最佳調查時機:
1.上課前寫:跟老闆討論過寫才有意義,雙方明確知道這個培訓要能帶來哪些改變?有的懶人寫的就是他本來在做的事。
2.每一節下課後:寫下修正版的行動計畫。
人資不要馬上回收,讓員工帶回去給主管看,再看有無要修正。
3.整天課程結束後:是最差的收集時機,大家只想趕快下課。
收集數據的頻率應該如何安排?每一季都是3個月(1個Q),所以每季蒐集資料較合理。
以月為單位去蒐集會讓負責的人不開心,因為這樣會增加他的業務。
倘若看資料的主管不相信數據,前面再怎麼努力蒐集數據都沒有用,這時就要另擇良樹棲了。
7.學習成效評估第七招:分離學習效果
培訓或許就像補藥,要怎麼改善手腳冰冷、身體虛的狀況?醫生可能會讓患者抓藥回去煎來吃,再請他早點睡,每天飯後百步走。
一個月後真的身強體壯了,那到底是煎藥的效果還是早睡有運動的效果呢?
培訓也是一樣,員工受訓後績效增加了,如果沒有細分影響這個結果的幾種原因,很難說100%是培訓的效果,因為有可能是員工自主努力、淡旺季因素、遇到很會帶團隊的主管等等。
所以這時候要需要分離學習效果。
那要怎麼分離呢?可以用實驗組、對照組的方式分析,也可以調出前幾季、過去幾年的數據來分析,這就需要統計專家來計算培訓的成效。
8.學習成效評估第八招:數據轉換成貨幣價值
在JackPhillips的評估模型中,有投報率(ROI)的評估項目,這是用數據的角度分析投入培訓成本後實質獲得多少成效。
該怎麼轉換呢?在培訓課程結束的三個月到半年間(給學員時間上手,就算行為改變,也還需要時間等行為的結果出現),決定衡量的指標是什麼,接著確認指標的價值為何?再計算期間績效變化與年度績效變化,最後計算年度的貨幣收益。
9.學習成效評估第九招:以成本角度來評估
培訓的成本不是只有講師費、差旅費這些看得到的成本而已。
在公司發現培訓需求,人資尋找開課單位,講師開發課程內容,學員受訓時的薪水與付出的時間,還有課後的評估要付出的時間跟人力,都是必須考量的成本。
這些成本若沒有詳細記錄,ROI的計算就會不夠準確。
10.學習成效評估第十招:投資報酬率ROI計算公式
ROI公式:
ROI=(課程收益-成本)/成本X100%
簡單舉例來說,培訓課程結束後的一年,員工為公司帶來的收益是100萬,培訓的成本是60萬。
ROI=(100-60)/60X100%=66%
11.學習成效評估第十一招:留意無形效益(雖然不一定算得出來)
有些效益是很難用數據衡量的,例如對公司的認同感,團隊氣氛提升這些抽象的效益等等。
如果要刻意計算抽象的事情而花很多時間的話,就要斟酌這個評估是否對組織有幫助。
12.學習成效評估第十二招:常保溝通
一個培訓活動牽涉到非常多的對象,例如出資的公司老闆,要去培訓的員工,負責管理的人資團隊,員工的直屬主管等等。
為了達成培訓目標,每一個對象要溝通的方向都不一樣。
例如需要出資者的批准,需要員工積極學習,需要直屬主管支持等等。
溝通形式不只有面對面溝通而已,報告、信件、會議等等都是可以溝通的情境,就依據公司文化來判斷要用哪一種形式溝通什麼內容。
13.學習成效評估第十三招:回顧評估目的
評估學習成效的目的在於確認這個培訓是否是值得投資的項目?這個培訓帶來的量化與質化效益有哪些?能說清楚培訓的成果,也才能為員工爭取下一次的進修機會,持續為公司帶來穩定的成長動能。
封面圖片來源:JackPhillips授課教材
文章導覽
上一篇文章上一篇文章:如何寫線上課程的腳本?下一篇文章下一篇文章:什麼是線上課程運營師?
搜尋關鍵字:
搜尋
近期文章
不要害怕投資理財的經典書──《漫步華爾街》導讀
《一週工作4小時》重點摘要與心得(一)工作的技術
人生必學的理財八堂課(跟課心得)
電商陪跑教練狼大《行銷策展實戰課程》心得筆記
「講師的數位轉型特訓班」完課心得
分類
01教學設計
02數位學習
03寫作在優化
04好書推薦
05人文
06Uncategorized
好課推薦
學語言
近期留言「hanshu.chen」在〈【2020ATD亞太年會】ChrisMcChesney:讓人厭惡與讓人投入的工作〉發佈留言「Yiru」在〈【2020ATD亞太年會】ChrisMcChesney:讓人厭惡與讓人投入的工作〉發佈留言「hanshu.chen」在〈2011年吳念真專訪李登輝全文逐字稿(一)〉發佈留言「路過」在〈2011年吳念真專訪李登輝全文逐字稿(一)〉發佈留言「hanshu.chen」在〈2011年吳念真專訪李登輝全文逐字稿(二)〉發佈留言
2022年1月
一
二
三
四
五
六
日
12
3456789
10111213141516
17181920212223
24252627282930
31
«12月
Contactme [email protected]
延伸文章資訊
- 1如何評估學習成效?ROI方法論的13招
(2)Jack Phillips 五級評估 · 1. 學習成效評估第一招:依據開課單位需要選擇評估的層級 · 2. 學習成效評估第二招:針對每一個層級設定目標 · 3. 學習成效 ...
- 2量身訂做學生學習成效評估之實務
學生學習成效評估諮詢會議報告,. 台北:財團法人高等教育評鑑基金會,民國99年8月12日。 評量成效. Page 10. 分析核心能力成果. 編.
- 3學習動機、學習策略與學習成效關係之研究-以數位學習為例
- 4影響大學生學習成效之因素探討
美國加州大學洛杉磯校區高等教育研究機構(CIRP)所進行的「大學生學習成效調. 查問卷」,其方式是選取一群大學生為樣本,進行長期追蹤的縱貫性研究,亦即觀察. 同一梯次學生 ...
- 5提升學生學習成效:評估表格(Rubrics)的設計與運用
提升學生學習成效:評估表格(Rubrics)的設計與運用. 評鑑雙月刊2012.11第40期. 文/史美瑤. 美國麻州大學安姆斯特校區教師發展中心副主任. 高等教育評鑑中心兼任研究員.