實踐項目 返回列表

基于計算機視覺技術的學生課堂學習行為投入度測量與分析

2021/8/21 9:24:39

摘要:隨著教育評價理念的發展,學習投入度成為改善高等教育質量的關鍵指標。其中,高效、準確地測量并分析學生課堂學習行為投入度,是推進學習投入度研究與高校教學實踐相結合的關鍵議題。文章首先梳理了學生課堂學習行為投入度的相關指標,在此基礎上整理出學生課堂學習行為投入度的6個觀察指標。隨后,文章引入計算機視覺技術,設計了學生課堂學習行為投入度測量與分析系統。最后,文章將此系統應用于教學實踐,驗證了此系統的有效性?;谟嬎銠C視覺技術對學生課堂學習行為投入度進行測量與分析,可為教師及時掌握學生課堂學習投入狀態、優化教學設計與教學實施提供及時的數據支撐。

關鍵詞:學習行為投入度;課堂行為;課堂觀察;計算機視覺技術

圖片

一 研究背景

學生的學習行為投入度一般是指學生在學校中積極的、有利于取得成就的行為。目前,學生課堂學習行為投入度的定義主要有兩類:一類是從學生遵守規則的角度進行研究,具體表征為學生上課的出勤率等,如Finn[1]認為學習投入度有助于發現學生逐步疏遠、脫離學校的過程,從而可以通過及時干預幫助學生完成學業;另一類是從學生深度參與學習活動的角度進行研究,如努力、堅持、集中注意力[2],具體表征為學生是否完成作業和聽課、回答問題、討論的行為等,如Henry[3]通過測量學生的行為對其學習結果進行預測。本研究綜合考慮上述兩類學習行為投入度的內涵,在考慮學生出勤情況的基礎上,通過觀察學生在課堂學習過程中的行為表現,來掌握學生的課堂行為投入情況。


課堂學習行為投入度的測量方式主要有學生自我報告與課堂觀察。其中,學生自我報告是最常用的方法,這一方法實用性強、容易管理,并能以相對較低的成本提供大樣本的數據。然而,學生自我報告時易受主觀影響,在某些情況下可能不會如實回答,適用于評估認知及情感投入[4],并且這一方法在數據收集與處理的時效性上具有滯后性。而課堂觀察可基于預先設置的觀察量表,捕捉學生課堂學習投入度的行為特征,以評估學生個體在任務上和任務外的行為[5]。但是,研究人員在課堂上直接觀察并手動編碼的傳統方法,以及目前較為通用的基于課堂視頻進行半自動數據編碼的方法,均需要研究人員投入較多的人力和時間,因此不適用于大樣本量的調研,亦無法作為常規的過程性評價工具。


計算機視覺技術的出現,為研究人員改良課堂觀察法帶來了新的可能性:對課堂學習行為的捕捉與識別有望擺脫對人力的依賴,從而大幅提升效率。計算機視覺技術是一種計算機模擬人類的視覺過程、具有感受環境的能力和人類視覺功能的技術,是圖像處理、人工智能和模式識別等技術的綜合[6]。受益于計算機視覺技術的長足發展,個體行為的自動化識別正走進真實實踐場景,但與課堂教學實踐相結合的研究還處于起步階段。例如,賈鸝宇[7]在課堂中通過對表情檢測分類,來判斷學生的聽課狀態;孫眾[8]基于OpenPose算法,進行學生的人體姿態識別。但現有研究也存在一些局限,主要表現為:往往專注于個別行為的識別,缺乏完整的課堂學習行為投入度分析指標的支持;行為識別的依據局限于人體骨架信息,沒有將學生周邊物體的信息納為行為識別的依據,故檢測的準確性有待提升;在應用層面往往止步于行為識別、狀態呈現,而缺少教學維度的關聯分析。


本研究嘗試在計算機視覺技術的支持下,在數據收集與處理層面對傳統的課堂觀察法加以改良與創新,擴大數據采集的范圍、提升數據收集與處理的效率,同時大幅降低研究人員在人力方面的開銷,最終實現課堂學習行為投入度的自動化測量。具體來說,本研究將在文獻梳理的基礎上提煉出一套有代表性的課堂學習行為投入度測量和分析指標集,然后引入計算機視覺技術完成課堂學習行為投入度測量與分析系統的開發,對學生課堂學習的出勤情況、行為投入度實施自動觀察、測量和診斷,為教師及時掌握學生的課堂學習投入狀態提供數據支撐。


表1  學生課堂學習行為投入度的相關指標

640.webp (1).jpg




二 學生課堂學習行為投入度測量與分析系統的設計

1 課堂學習行為投入度觀察指標

目前,眾多研究者從投入與脫離兩個維度,來探討與學習行為投入度測量相關的指標。其中,投入是正向的學習行為投入,其特征表現為努力、注意力和堅持;而脫離是負面投入,通常表現為被動、缺乏主動性和放棄。本研究從投入和脫離兩個維度,在文獻研讀的基礎上對在校學生行為觀察(Behavior Observation of Student in Schools,BOSS)[9]、課堂氣氛、教學/內容、管理(Classroom Atmosphere, Instruction/Content, Management,Classroom AIMs)[10]、教學結構和學生學業反饋主流編碼(Mainstream Version-Code for Instructional Structure and Student Academic Response,MS-CISSAR)[11]、教學實踐清單(Instructional Practices Inventory,IPI)[12]、課堂觀察編碼(Classroom Observation Code,COC)[13]、直接觀察表格(Direct Observation Form,DOF)[14]、Flanders交互分析編目(Flanders Interactive Analysis Categories,FIAC)[15]、語言交互編目(Verbal Interaction Category System,VICS)[16]、信息技術交互分析系統(Information Technology-based Interaction Analysis System,ITIAS)[17]、S-T(Student-Teacher)[18]等項目中的課堂學習行為指標進行了梳理,得到學生課堂學習行為投入度的相關指標,如表1所示。

基于學生課堂學習行為投入度的相關指標,本研究邀請18名相關專家(包括教育技術領域的學者和大學一線教師)參加了學生課堂行為投入度觀察指標遴選的問卷調研及訪談。結合問卷數據和訪談反饋的分析結果,本研究選取“看黑板(含看老師,下同)、看書、看電腦、舉手答問、側身交流”等五個行為作為投入行為的觀察指標,將“玩手機”作為脫離行為的觀察指標,如表2所示。


表2  學生課堂行為投入度的觀察指標

640.webp (2).jpg


2 學生課堂學習行為投入度測量與分析系統的設計

本研究依托學生課堂學習行為投入度的觀察指標,以計算機視覺技術為支撐,設計了學生課堂學習行為投入度測量與分析系統。此系統以高清網絡攝像頭采集課堂教學的大場景圖像為輸入,通過動作識別處理和數據管理,實現學生出勤率和課堂過程行為投入度的自動記錄與分析,并予以可視化呈現。此系統分為系統支撐層、圖像識別層、數據分析層,其具體的業務流程如圖1所示。


640.webp (3).jpg

圖1  課堂學習行為投入度測量與分析系統的業務流程


(1)系統支撐層

在系統支撐層中,教室網絡高清攝像頭對課堂學習行為進行全面的圖像采集,隨機抽取采集圖像的十分之一,經由深度學習及計算機視覺等技術處理,完成課堂學習行為數據集的制作和課堂學習行為模型的訓練,作為后續課堂學習行為識別的基礎。其中,課堂學習行為數據集示例如表3所示。


表3  課堂學習行為數據集示例

640.webp (4).jpg


(2)圖像識別層

圖像識別層是學生課堂學習行為投入度測量與分析系統最為核心的功能模塊,可分為兩個部分:學習者識別部分,系統通過攝像頭獲取課堂現場的圖像,完成圖像分割后,通過多任務級聯卷積神經網絡和面部網絡獲取學生的人臉圖片,并將圖片提交人臉識別接口。動作識別部分,本研究采用遞進(疊加)的技術手段完成課堂學習行為的判定:首先通過身體姿態對個體動作加以識別,之后結合目標識別與位置判定等,實現“看書”、“玩手機”、“玩電腦”等交互動作識別。其中,四類身體姿態的骨架示意圖如圖4所示,目標識別樣例如圖5所示。


表4  四類身體姿態的骨架示意圖

動作骨架圖低頭側身正坐舉手

640.webp (5).jpg


表5  目標識別樣例示例圖片手書手機電腦

640.webp (6).jpg


(3)數據分析層

在數據分析層,本研究運用指標函數和模糊數學中的隸屬度函數,對課堂學習行為投入指標進行無量綱處理,如公式(1)所示。之后,本研究采用層次分析法與熵值賦權法計算課堂學習行為投入指標的綜合權重:邀請5名教育技術領域專家填寫學習投入及學習脫離指標重要性矩陣,計算得出各指標的主觀權重序列Wi;將無量綱化后的各指標數據錄入Matlab,計算得出客觀權重序列Vi;最后,結合主觀權重與客觀權重,計算得出綜合權重,如公式(2)所示。

640.webp (7).jpg


用上述指標權重計算方法可以得到學習投入及學習脫離的權重矩陣,如表6所示。以此為基礎,系統開展了課堂學習行為投入度的計算,隨后還對課堂整體行為投入度、學生個人行為投入度及其各自的發展趨勢進行了分析和評估。


表6  課堂學習行為投入度指標權重表

640.webp (8).jpg


三 學生課堂學習行為投入度測量與分析系統的應用

本研究以某高校課程“教育技術學理論與實踐”中的一堂課為例,對參與此課學習的26名學生的學習行為投入度進行了測量與分析。在收集視頻數據之前,研究者向學生告知了研究的目的并承諾保密;完成課堂學生行為采集之后,教師可以通過系統查看課堂數據分析處理結果。


1 數據測量結果

(1)學習行為投入度

課堂整體行為投入度。根據系統的測量數據,在采集到的課程投入行為和脫離行為中,學生的學習投入行為頻率占比為95.60%,說明學生非常專注于課堂學習;根據表6的權重進行計算,本堂課的學習行為投入度值為3.08,這表示學習投入度為中等水平。經分析,造成這一結果的原因是交互類活動的安排偏少(實際占比僅為4.85%)。學生個人行為投入度方面,在納入統計的20名學生中,有6人的課堂學習行為投入度低于班級平均水平。其中,個別學生的課堂學習投入度較低,且學習脫離度較高,教師需要對這些學生予以有針對性的關注和提醒。


(2)學習行為投入度變化趨勢

課堂整體行為投入度變化。系統以時間為線索,開展學生課堂學習行為投入度的分析。本堂課學習行為投入情況的變化趨勢如圖2所示,可以看出:在上課過程中,學生的行為投入情況整體保持平穩,在接近下課時有一定程度的下降;學習脫離情況在上課初期有顯著下降,而在課程臨近結束時呈逐步上升的趨勢。課堂中表征學習投入和學習脫離的六個行為動作隨時間變化的頻次動態如圖3所示,可以看出:“看黑板”與“看電腦”是貫穿于整堂課的主要學習行為,由此可以推斷本堂課中教師主要采取講授的教學方式;同時,課堂過程中“交流”和“舉手答問”的行為明顯存在幾個波峰,可見教師在課堂中實施了一定的交流討論,并取得了一定的效果。


640.webp (9).jpg

注:橫軸為時間刻度,單位刻度為8分鐘;縱軸分別表示學習投入及學習脫離的得分與行為次數。圖中兩條曲線,學習投入居上,學習脫離居下。

   圖2  學習行為投入情況的變化趨勢


640.webp (10).jpg

注:橫軸為時間刻度,單位刻度為8分鐘;縱軸表示各類課堂學習行為的次數。在起始階段,自上而下分別對應看電腦、看黑板、玩手機、看書與舉手答問。

圖3  單個行為動作隨時間變化的頻次動態


個體學習行為投入度追蹤。系統對學生個人的行為投入情況也進行了分析,圖4、圖5分別表征本堂課中脫離度較高的某學生的課堂行為和看手機行為分布情況。圖4顯示,此學生的課堂行為投入度僅為2.83,其中此學生看手機的行為頻次非常高,約占課堂行為總數的33.3%。而圖5顯示此學生在課堂前段用很少的時間在看手機,但后續基本處于看手機的脫離狀態。

640.webp (11).jpg

注:橫軸表示行為類別,縱軸表示行為的總次數。

圖4  某學生課堂行為分布情況


640.webp.jpg

注:橫軸表示時間刻度,單位刻度為4秒;縱軸表示學生是否看手機,刻度1表示看手機,刻度0表示未看手機。

圖5  某學生看手機行為分布情況


2 教學應用分析

在出勤數據應用方面,有系統中學生出勤數據的支撐,教師可以快速、準確地掌握班級整體和學生個體的出勤情況。在本課堂中,有兩位學生缺課,教師可對這兩位學生予以重點關注。在教學設計和教學實施的印證與優化方面,通過查看聽課與交互兩類課堂行為計數隨時間的變化情況及總數的對比情況,教師可以了解學生在教學實施中的反饋情況,進而完成教學設計或教學實施的調整及優化。在本課堂中,教師采用以講授為主的授導型教學模式,中間穿插少量的交流和問答環節。學生在課堂學習過程中整體比較專注,但在35分鐘之后,學生整體的投入狀態明顯地下降了?;诖?,本研究建議教師結合學生對教學內容的掌握情況,從調整課程節奏和難度、增加課程的互動性和趣味性等方面著手,幫助學生調整課堂投入狀態。


此外,學習脫離行為數據的采集為面向學生的學風督導提供了決策支持。對學習脫離行為持續時間較長、總次數較多的學生,教師可給予個別化的關注和指導。在本堂課中,有6位學生的脫離行為比較明顯,且有一名學生有三分之一的時間處于學習脫離狀態,教師應與這些學生溝通,了解其脫離學習的原因,避免其后續出現學業預警。


四 小結

高效、準確地測量并分析學生課堂學習行為投入度,是推進混合學習投入度研究與高校教學實踐相結合的關鍵議題。不同個體的課堂行為差異,決定了研究者難以憑借傳統的方法對其進行科學測量。隨著技術的創新與發展,依靠計算機視覺等技術對個體行為進行精準識別已成為現實,這為研究者重新測量與評估課堂學習行為投入度提供了可能。為此,本研究將計算機視覺技術引入大學課堂場景,首先提煉出學生課堂學習行為投入度的觀察指標,在此基礎上對課堂行為識別方式進行升級優化,結合身體姿態信息和物品信息,對學生6個常見的課堂動作進行識別;隨后,在算法模型研究的基礎上,開發了學生課堂學習行為投入度測量與分析系統,將人臉識別、姿態估計、目標檢測等智能檢測方法應用于課堂學生行為識別。此系統能幫助教師掌握學生的課堂表現、客觀評估課堂的教學效果,是教師提升教學效果的有效支撐手段。受制于設備類型、精度與技術復雜度,本研究設計的學生課堂學習行為投入度測量與分析系統只覆蓋了與學生身體姿勢密切相關的6個課堂動作的識別與分析,學生的手部及頭部細微動作等更多的個體行為信息,乃至發言內容、面部表情等與交流互動相關的信息,還有待更精密的設備、更理想的算法模型的支持,還有待進一步實證。

圖片

參考文獻

[1]Finn J D. Withdrawing from school[J]. Review of Educational Research, 1989,(2):117-142.

[2]Fredricks J A, Blumenfeld P C, Paris A H. School engagement: Potential of the concept, state of the evidence[J]. Review of Educational Research, 2004,(1):59-109.

[3]Henry K L, Knight K E, Thornberry T P. School disengagement as a predictor of dropout, delinquency, and problem substance use during adolescence and early adulthood[J]. Journal of Youth and Adolescence, 2012,(2):156-166.

[4]Appleton J J, Christenson S L, Kim D, et al. Measuring cognitive and psychological engagement: Validation of the student engagement instrument[J]. Journal of School Psychology, 2006,(5):427-445.

[5]Volpe R J, DiPerna J C, Hintze J M, et al. Observing students in classroom settings: A review of seven coding schemes[J]. School Psychology Review, 2005,(4):454-474.

[6]馬廣文.交通大辭典[M].上海:上海交通大學出版社,2005:1.

[7]賈鸝宇,張朝暉,趙小燕,等.基于人工智能視頻處理的課堂學生狀態分析[J].現代教育技術,2019,(12):82-88.

[8]孫眾,呂愷悅,駱力明,等.基于人工智能的課堂教學分析[J].中國電化教育,2020,(10):15-23.

[9]Shapiro E S. Academic skills problems: Direct assessment and intervention[M]. New York: Guilford Press, 2011:54-56.

[10]Roehrig A D, Christesen E. Development and use of a tool for evaluating teacher effectiveness in grades K-12[M]. Springer US: Washington, 2010:212-214.

[11]Greenwood C R, Horton B T, Utley C A. Academic engagement: Current perspectives on research and practice[J]. School Psychology Review, 2002,(3):328-349.

[12]Valentine J. Instructional practices inventory: A process for profiling student engaged learning for school improvement[OL]. <https://core.ac.uk/download/pdf/62759368.pdf>

[13]Horn W F, Conners C K, Wells K C, et al. Use of the Abikoff classroom observation coding system on a children’s inpatient psychiatric unit[J]. Journal of Psychopathology and Behavioral Assessment, 1986,(1):9-23.

[14]Reed M L, Edelbrock C. Reliability and validity of the direct observation form of the child behavior checklist[J]. Journal of Abnormal Child Psychology, 1983,(4):521-530.

[15]Flanders N A. Analyzing teaching behavior[J]. American Educational Research Journal, 1971,(3):589-592.

[16]楊平展,劉娟文,羅平.關于教學行為分類系統VICS的討論[J].教師,2009,(6):3-4.

[17]顧小清,王煒.支持教師專業發展的課堂分析技術新探索[J].中國電化教育,2004,(7):18-21.

[18]萬華明,蔣雪明,姜鑫.基于S-T信息分析的高校教師課堂教學模式研究[J].教育與職業,2010,(24):103-104.