有網(wǎng)友如此評價：關(guān)于校園的美好記憶，來自于上課時的紙條,、干脆面,、偷瞄喜歡的女生，我不懂天才少年眼中的精英教育是什么樣子的,，也不知道估值800億的曠視有多了不起,，只是覺得，如果有人要控制,、扼殺和剝奪億萬人少年時代的情感,，那他的公司技術(shù)再突破也并不會青史留名。

知乎網(wǎng)友也表達(dá)了自己的態(tài)度：

曠視因此備受大眾質(zhì)疑,，回應(yīng)稱這張圖片只是一個概念演示,，公司在教育領(lǐng)域的產(chǎn)品專注于還在校園的安全，但其實(shí)類似的AI課堂分析系統(tǒng)已經(jīng)開始進(jìn)入課堂,。

南京中國藥科大學(xué)在課堂上安裝人臉識別系統(tǒng),，學(xué)生無法逃課或替同學(xué)簽到，關(guān)鍵是學(xué)生在課堂上的一舉一動都逃不開這套“鷹眼”,。

曠視不是唯一一家研究AI課堂分析的AI企業(yè),，中國藥科大學(xué)也不是唯一一個安裝課堂人臉識別系統(tǒng)的學(xué)校。2018年的安博會上,，可提供場景解決方案的安防廠商中,，有一半都表示可以做AI+教育為基礎(chǔ)的人臉識別監(jiān)控。

AI課堂分析到底有沒有侵犯學(xué)生的隱私,？老師先分成了兩派，“為了（敦促）你學(xué)習(xí),，你還抱怨,，請問你還是學(xué)生嗎,？” 中國藥科大學(xué)圖書與信息中心主任許建真表示，學(xué)校已向公安部門和法務(wù)部門咨詢,，由于教室屬于公開場所,，因此不存在“侵犯隱私”的說法。

北大附中朝陽未來學(xué)校語文老師唐伊豆則對雷鋒網(wǎng)表示不贊成AI攝像頭分析進(jìn)入課堂,，教室是存在隱私的,，它更像是一個特定的師生群體共有的空間，“用攝像頭考勤可以接受,，但采集和監(jiān)控課堂行為是一種過度的介入,，它暗含著對教師、對學(xué)生的不信任,，會影響師生共同建設(shè)的一個安全互信的,、自在舒適的環(huán)境?！?/p>

在教室這個場景里,，需要被監(jiān)督的只是學(xué)生嗎？如果老師也被監(jiān)督,，課堂的教學(xué)會被提高嗎,？教育專家熊丙奇認(rèn)為，從育人的角度看,，好的課堂教學(xué)應(yīng)是交互式,、探究式，在教學(xué)過程中引導(dǎo)學(xué)生思考的,，這需要寬松的允許批評,、質(zhì)疑的氛圍。毫無疑問,，在明知有人臉識別系統(tǒng)監(jiān)控,、記錄教室里的一舉一動時，教師的教學(xué)很可能選擇照本宣科,，而學(xué)生對照本宣科的教學(xué)不滿,，又不得不在AI監(jiān)控下，表現(xiàn)出對教學(xué)內(nèi)容“興趣盎然”,。

如今,，AI已然進(jìn)入了場景落地的關(guān)鍵時間點(diǎn)，爭議推動著AI應(yīng)用落地和法律法規(guī)的完善,，政府和人工智能企業(yè)當(dāng)下應(yīng)該思考的是，AI的邊界在哪里,？AI的推廣與隱私的保護(hù)如何平衡,？

從AI仿聲到AI換臉,，再到AI課堂分析，科技向善成了2019年世界人工智能大會最熱的衍生話題,，AI立法被全球共同關(guān)注,。

在歐美，人臉識別推行困難,，舊金山等美國城市通過立法禁止該技術(shù),，英國首例警用人臉識別案于近日開庭，而瑞典GDPR第一案——瑞典學(xué)校因使用面部識別技術(shù)登記學(xué)生出勤率而被罰款20萬,。

“新一代信息技術(shù)的全面,、深度的應(yīng)用，引發(fā)了隱私保護(hù)的喪失,，中國社會進(jìn)入了一個零隱私的社會,。”在2019世界人工智能大會法治論壇上,，清華大學(xué)法學(xué)院院長申衛(wèi)星指出了人工智能武器化,，這個全局風(fēng)險使得人工智能的國際治理成為必要。

如果有一天人工智能武器化了,，它會由誰掌控,？這個世界還安全嗎？以核能為例,，核能已經(jīng)發(fā)展成為了武器化的技術(shù),，人類命運(yùn)或多或少系于其上，因此國際社會也一直對這項(xiàng)技術(shù)有所約束,?！昂四芟鄬碚f，入門門檻較高,，成本也比較高,，不是所有的主體都可以參與，但是信息技術(shù),，特別是人工智能領(lǐng)域的門檻,、成本都相對較低，甚至有一些非國家的主體有較深的介入,，我們應(yīng)當(dāng)關(guān)注到這方面的安全風(fēng)險,。”申衛(wèi)星說,。

目前,，在許多AI問題上，法律尚未完善,，大部分情況依靠企業(yè)的道德約束,。AI治理面臨這么多挑戰(zhàn),，上海市科學(xué)學(xué)研究所所長石謙表示，最大的原因,，是“用”走在了“治”之前,。AI治理，一方面需要完善法律建設(shè),，一方面在“用”的時候,，需要把“底線”守住。在IT界流傳著“數(shù)據(jù)就是價值”的說法,，但是數(shù)據(jù)不能濫用,。

在8月全國人大常委會審議的民法典人格權(quán)編草案稿中，針對收集,、處理自然人個人信息有了明確規(guī)定,，要求必須“征得該自然人或者其監(jiān)護(hù)人同意”等，而且把個人生物識別信息也納入保護(hù)的范圍,。

AI課堂分析引起的爭議,，并沒有否定AI進(jìn)入教育行業(yè)，進(jìn)入學(xué)校的作用,。

“王小明同學(xué)在學(xué)校西面圍墻邊摔倒”,，一則消息同步發(fā)送給班主任和保健科，校醫(yī)檢查后將學(xué)生的傷情同步給家長,。為了避免各種校園安全事故,，上海中醫(yī)藥大學(xué)附屬閔行薔薇小學(xué)用AI搭建起了一個“隱形盔甲”，及時發(fā)現(xiàn)樓梯擁擠,、學(xué)生打架等一系列安全事故隱患,。

在盧灣高級中學(xué)的AI實(shí)驗(yàn)課上，幾位學(xué)生合力做出了一個智能分類垃圾桶,，清潔工不需要再問,，你是什么垃圾？AI垃圾桶會直接告訴你,，你是濕垃圾還是干垃圾,。

“8月1日小學(xué)勞技教室，8月27日生命科學(xué)實(shí)驗(yàn)室……”在一位家長的手機(jī)上,，清楚地記錄著孩子暑假期間的到?；顒樱踔量梢钥吹胶⒆釉趯W(xué)校里花4.2元買了一罐牛奶,。在上海市建青實(shí)驗(yàn)學(xué)校,，從買點(diǎn)心飲料的自助販賣機(jī)，到借體育器材的體育館，再到借書的圖書館,，學(xué)生們都可以“刷手”來完成購買,、借還等動作,。

上海學(xué)生的十二時辰正在被AI浸透,，各種AI+教育的應(yīng)用在學(xué)校里試水，那么,，“什么才是AI+教育最合適的落地場景”“什么才是AI+教育的試探的邊界”“AI的發(fā)展與隱私的保護(hù)如何平衡”,，才是政府、學(xué)校和AI企業(yè)需要思考的問題,。

作者／孫妍 錢奕昀 李玉洋

編輯／挨踢妹

圖片／網(wǎng)絡(luò)

來源／《IT時報》公眾號vittimes