近來，AI屢屢登上頭條。

8月31日，AI換臉APP“ZAO”刷屏朋友圈后就被用戶質(zhì)疑，分享鏈接被微信屏蔽；9月1日晚，一張有關(guān)曠視科技的AI課堂行為分析圖在微博上引起不少網(wǎng)友的爭議。曠視隨后發(fā)布聲明稱，該圖片為技術(shù)場景化概念演示。

這張圖為我們展示了這樣的信息，利用AI不僅可以統(tǒng)計課堂中學生的舉手、閱讀、聽講次數(shù)，還可監(jiān)控學生趴桌子、玩手機和睡覺的次數(shù)。

不管是ZAO還是AI課堂行為分析，戳到網(wǎng)友心坎的主要因素都是因為隱私保護問題。

無獨有偶，近日，瑞典北部城市一高中因為引入人臉識別考勤，違反了歐盟《通用數(shù)據(jù)保護條例》，導致該市政府被罰款20萬瑞典克朗。

隱私問題似乎成了AI前進道路的一顆絆腳石。

一張圖片引發(fā)的爭論

近年來，由于政策、資本和技術(shù)進步等因素推動，AI+教育成為人們關(guān)注的熱門話題。因此不少技術(shù)或教育公司紛紛探索AI在教育中的應用。

在AI領(lǐng)域積累頗深的曠視也不例外，教育也是其輸出AI能力的一個場景之一。這張圖中分析統(tǒng)計學生舉手、聽講和睡覺的次數(shù)主要是借助人臉識別、人體識別等技術(shù)。

由于這張圖片被廣泛傳播，9月2日晚，曠視科技在其官方微博緊急發(fā)布聲明稱，該圖片為技術(shù)場景化概念演示。言外之意，就是這張圖片只是一張藍圖，還未真正落地學校實施。

在聲明中，曠視表示，始終堅持技術(shù)向善，讓人工智能造福所有人。在人工智能技術(shù)的各種場景中，曠視會堅持正當性、數(shù)據(jù)隱私保護等核心原則，接受社會的廣泛建議和監(jiān)督。

而網(wǎng)友們的討論也是主要集中在隱私保護層面，這反映出多數(shù)人其實針對的不是技術(shù)本身，而在于怎樣合理的使用技術(shù)。

松鼠AI創(chuàng)始人栗浩洋就此向雷鋒網(wǎng)表示，AI監(jiān)控學生，這個到底屬不屬于隱私，其實是要我們對監(jiān)控的定義要有一個清晰的界定。

“首先，我們比較清晰的界定就是在公共場合、廣場街道、酒店大堂的監(jiān)控，這些肯定是不屬于隱私的。另外，在私人領(lǐng)域或者幾個人的包間場所的監(jiān)控肯定是侵犯人的隱私的，比如說人在家里，那么這種監(jiān)控是違反人的隱私的。但學校是一種半私人的場景，那它既不是一個公共的，誰都可以去的，也不是完全屬于一個人的個人隱私的一個場景。所以，我認為現(xiàn)在是沒有直接的界定。”

由于涉及到學校這個主體，雷鋒網(wǎng)就該事件采訪了北大附中朝陽未來學校語文教師唐伊豆，她表示，這項技術(shù)立刻讓她想起了福柯筆下的全景敞視監(jiān)獄。如果學生都規(guī)規(guī)矩矩、按部就班，反倒非常傷害學生的多樣性與校園文化建設。

“我個人對這項技術(shù)的態(tài)度比較保守。實際上，我認為它仍然是在很傳統(tǒng)甚至陳舊的思路上進行設計，從目前的實踐來看，雖然它在某些方面加強了校園安保，但是整體上簡單地將老師和學生置于看與被看、管理者與被管理者的權(quán)力關(guān)系中，這是很粗暴的，背后實在缺乏對師生關(guān)系的想象力?！?/p>

此外，唐伊豆老師不贊成將課堂教學評價功能進入課堂。她認為，表情分析更是直接將“人”抽離了出去。她舉個例子，在語文課堂上，學生在構(gòu)思文章時發(fā)呆，或者為同學講述的故事而難過，這都是很正常的，“這些幽微的情緒是不可能也不需要被機器捕捉的。教學互動中有很多模糊地帶，這正是其生動的、人性化的魅力所在?！?/p>

而某位不愿意透露姓名的老師告訴雷鋒網(wǎng)，他認為利用AI技術(shù)分析學生課堂行為，可以幫助老師更好地了解學生的課堂行為，從而改進自己的教學。

“比如，講到某個知識點時，大部分學生都在發(fā)呆，老師課后就可以再針對性地補充。但是，如果技術(shù)運用不當，也會產(chǎn)生負面效果，比如AI檢查到學生發(fā)呆，老師因此去懲罰學生，這樣是不可行的，會引起學生的逆反情緒?！?/p>

“AI課堂行為分析”是否侵犯了學生的隱私？

按照曠視的說法，那張圖片只是一個概念演示，但現(xiàn)實中其實有不少學校已將AI應用于課堂中監(jiān)控學生的行為。

據(jù)澎湃新聞報道，近日，中國藥科大學已在兩間教室試點人臉識別系統(tǒng)。該系統(tǒng)不僅可以人臉考勤，還能全程監(jiān)控課堂的行為，例如統(tǒng)計學生是否在聽講、玩手機、打瞌睡等等。從描述上看，這套系統(tǒng)的功能基本與曠視的概念演示是相同的。

該校圖書與信息中心主任表示這套系統(tǒng)是為了減少學生逃課、早退以及上課走神等行為。關(guān)于是否侵犯學生隱私，他表示已向公安和法務咨詢，教室屬于公開場所，不存在侵犯隱私的說法。

中國藥科大學的人臉識別系統(tǒng)（圖片截自：梨視頻）

唐伊豆老師則認為，教室里是存在隱私的，它不是完全的公共場合，更像是一個特定的師生群體共有的空間?！坝脭z像頭考勤還可以接受，但是采集和監(jiān)控課堂行為就是一種過度的介入，它暗含著對教師、對學生的不信任，會影響師生共同建設的一個安全互信的、自在舒適的環(huán)境?！?/p>

一位老師對雷鋒網(wǎng)表示，教室里學生也是有隱私的，學生的行為數(shù)據(jù)不應該共享給所有人，應該設置嚴格的權(quán)限，比如校長、學校安全處等，只給有需要的人針對性地開放部分數(shù)據(jù)。

另一位老師則認為，利用AI攝像頭監(jiān)控學生考勤和行為，一方面出于保證學生安全、優(yōu)化管理的目的，這一做法無可厚非。但另一方面，更要考慮適度的問題，教室雖是公共場合，但也要切實保障未成年人的隱私安全，特別是持續(xù)要關(guān)注該舉措對學生心理的持久影響。

由于涉及采集學生臉部和行為信息，這點頗受爭議。在栗浩洋看來，在AI教育這個范疇里面的信息，也應該區(qū)分信息的類別。

例如，學生不喜歡被監(jiān)控表情和在課堂的表現(xiàn)，但是學習過程中的學習數(shù)據(jù)，一般的學生和家長都比較愿意提供。因為他們需要老師、專家來分析評估學習數(shù)據(jù)，需要系統(tǒng)拿到和通過這些數(shù)據(jù)幫他們?nèi)プ龈昝赖耐扑]。“最終我認為選擇權(quán)應該是留在家長和學生手里，而且應該征求家長和學生的同意?！?/p>

AI+教育如何更好的結(jié)合？

之所以一張AI課堂分析的概念圖能引起如此大的反響，無外乎還是人們在擔心新技術(shù)所帶來的未知挑戰(zhàn)，尤其是恐懼于將技術(shù)用在了錯誤的方向，以致于帶來無法挽回的后果。

尤其是在教育這個特殊領(lǐng)域，任何新技術(shù)的應用和創(chuàng)新都會被密切關(guān)注，任何瑕疵都會被無限放大。因為教育中最大的成本是時間，這些還未成熟，未經(jīng)嚴格驗證的產(chǎn)品一旦應用于課堂中，對學生產(chǎn)生的任何影響都是不可逆的，所以不管是學校、家長，還是社會輿論對此都是高度關(guān)注。

與此同時，國家也在鼓勵AI、大數(shù)據(jù)技術(shù)與教育的融合應用。2017年7月，國務院印發(fā)《新一代人工智能發(fā)展規(guī)劃》，要求推動AI在教育、醫(yī)療等領(lǐng)域的應用。規(guī)劃中還提到要建設在線智能教育平臺，利用智能技術(shù)在教學、校園管理、學習分析系統(tǒng)及個性化教育方面進行探索應用。

當然AI在教育中的應用，不止考勤和學生行為分析等校園管理層面。在教學和個性化教育方面，AI主要被用于減輕老師工作負擔，幫助學生建立個性化學習路徑，實現(xiàn)因材施教。

例如，某些公司開發(fā)的智能評卷系統(tǒng)，基于OCR識別、自然語言處理等AI技術(shù)，能夠?qū)φZ文、英語作文，簡答題以及日常作業(yè)實現(xiàn)自動評卷和批改，減輕了不少學校的工作壓力。這種教育信息化層面的技術(shù)早已在很多學校中得到應用。

一起教育科技CEO劉暢對雷鋒網(wǎng)表示，教育本質(zhì)是讓學生學習到知識，并將知識應用到實際生活中?，F(xiàn)階段AI+教育想象空間最大的就是自適應學習領(lǐng)域。

“自適應學習真正從學習的本質(zhì)提升學習效率，為學生匹配最佳學習路徑，最終提升每一個學生的效果。我們認為自適應學習對教學輔助，學習效果和學習興趣的提升明顯，是目前最為合理且前景光明的方向?！?/p>

劉暢認為學生的個人學習資料、學習數(shù)據(jù)這種都是學生的隱私數(shù)據(jù)，不能被隨意調(diào)取。對于平臺的學生數(shù)據(jù)，他們會全部進行脫敏處理，并且有嚴格的安全防護措施。

栗浩洋覺得，AI+教育的方向最重要的是改變，從原來教育千人一面的形式，往千人千面去做因材施教。但是現(xiàn)在AI教育其實只是老師的觀察工具，可以讓老師看得更仔細了，并沒有真正切入到“教”和“育”的過程。所以，真正的AI+教育不應該只是對孩子的一個人臉、表情、動作的識別。

“而最重要的AI+教育就是能讓孩子減負80%，能讓他們真正的是學自己所不會，而不是浪費時間去學那些自己已經(jīng)會的內(nèi)容。那么在減負之外，是對他們孩子的能力的培養(yǎng)，如何用AI系統(tǒng)提升孩子的學習能力，而不只是教他們知識?！?/p>

唐伊豆老師認為， AI這項新技術(shù)應該在更加積極的方向發(fā)揮它對教育的賦能效果，而不僅僅局限在所謂的“管理”、“采集”層面。在需要數(shù)據(jù)幫助的環(huán)節(jié)里，怎樣避免單一刻板的、自以為是的數(shù)據(jù)，需要教育者和科技工作者共同來思考。

遠昊科技CEO鄧艾華曾在采訪中告訴雷鋒網(wǎng)，在處理校園隱私上，他們采取的辦法是，通過分布式系統(tǒng)將各個學校的大數(shù)據(jù)留存在學校的本地服務器上，只通過云平臺獲取學生簡單的畫像信息，以此防止泄露學校數(shù)據(jù)隱私。將校園的各種數(shù)據(jù)留在學校中，也是一個解決方案，這也考驗了學校的數(shù)據(jù)保護能力。

如何正確使用技術(shù)才是問題

關(guān)于隱私的討論告訴我們，技術(shù)不是問題，如何正確使用技術(shù)才是問題。網(wǎng)友們對于曠視的那張概念圖片的討論，本質(zhì)上源自人們對于未知的新技術(shù)可能被濫用而產(chǎn)生的恐懼心理。

如果能用AI監(jiān)控就能培養(yǎng)出好學生，那樣的教育簡直太輕松了，顯然現(xiàn)實并不是這樣的。

對于科技公司來說，尤其是AI教育公司，如何將AI技術(shù)合理應用于教育場景中，顯然是首先要考慮的問題。希望下次AI+教育登上頭條，不再是因為隱私保護的爭議。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。