聯(lián)合國(guó)教科文組織指出，2023年1月,，ChatGPT活躍用戶(hù)已經(jīng)突破100萬(wàn),，但只有一個(gè)國(guó)家在7月發(fā)布了關(guān)于生成式人工智能的法規(guī)。（指的即是《生成式人工智能服務(wù)管理暫行辦法》）

對(duì)比今年7月國(guó)內(nèi)頒布的《生成式人工智能服務(wù)管理暫行辦法》,，我們會(huì)發(fā)現(xiàn),，兩份文件都提到了“對(duì)AI生成內(nèi)容進(jìn)行標(biāo)識(shí)”的重要性；教育行業(yè)從業(yè)者更要正確考慮倫理原則,；要求增加人工審核環(huán)節(jié),，以免出現(xiàn)大量AI生成的錯(cuò)誤信源，這對(duì)教育行業(yè)是重要的信號(hào),。

除此之外,，《聯(lián)合國(guó)指南》則更全面地分析了生成式人工智能目前存在的風(fēng)險(xiǎn)，借此傳達(dá)對(duì)教育行業(yè)從業(yè)者的建議,。

在A(yíng)I落地的探索上,，《指南》也為未來(lái)AI在教育領(lǐng)域的正確使用方法上提供了多個(gè)方向,，例如使用AI助手促進(jìn)教學(xué)；利用AI生成一對(duì)一方案訓(xùn)練學(xué)生的語(yǔ)言,、計(jì)算機(jī),、藝術(shù)及編碼學(xué)習(xí)；幫助有聽(tīng)力或視覺(jué)障礙的學(xué)習(xí),；利用AI對(duì)話(huà)進(jìn)行心理及情緒疏導(dǎo)等路徑,。

《指南》還建議將使用AI工具的年齡限制為13歲。

聯(lián)合國(guó)教科文組織總干事Audrey Azoulay指出,，“生成人工智能可能是人類(lèi)發(fā)展的巨大機(jī)遇,，但也可能造成傷害和偏見(jiàn)。沒(méi)有公眾的參與,，沒(méi)有政府的必要保障和規(guī)章,，就無(wú)法將其納入教育。聯(lián)合國(guó)教科文組織的這一指南將幫助決策者和教師最好地導(dǎo)航人工智能的潛力,，以滿(mǎn)足學(xué)習(xí)者的主要興趣,。”

《生成式人工智能教育和研究指南》包含哪些重點(diǎn),？

在討論生成式AI的規(guī)范性指南之前,，相關(guān)組織對(duì)目前Generative AI（生成式AI，后文簡(jiǎn)稱(chēng) Gen AI）引起的爭(zhēng)議和風(fēng)險(xiǎn)作出了一系列總結(jié),，這些風(fēng)險(xiǎn),，常常被使用者忽略。

其中對(duì)于教育行業(yè)來(lái)說(shuō),，最顯著的影響是：AI生成的大量存在偏差的信息,，使學(xué)習(xí)者獲取的信息源混亂。如果沒(méi)有監(jiān)管,，未來(lái)的學(xué)生學(xué)習(xí)到的知識(shí)很有可能是不準(zhǔn)確的,、經(jīng)AI加工提取后的片面信息。

《聯(lián)合國(guó)指南》中提到的風(fēng)險(xiǎn)主要包含以下幾個(gè)方面：

• 數(shù)字貧困加劇

《指南》指出,，生成式AI除了在人工智能架構(gòu)和訓(xùn)練方法方面的迭代創(chuàng)新之外,，還依賴(lài)與大量的數(shù)據(jù)和強(qiáng)大的計(jì)算能力，這些創(chuàng)新大多只適用于最大的國(guó)際技術(shù)公司和少數(shù)經(jīng)濟(jì)體（主要是美國(guó),、中國(guó),、歐洲國(guó)家）。隨著獲取數(shù)據(jù)對(duì)于國(guó)家的經(jīng)濟(jì)發(fā)展和個(gè)人的數(shù)字機(jī)會(huì)變得越來(lái)越重要,，那些無(wú)法獲取或負(fù)擔(dān)不起足夠數(shù)據(jù)的國(guó)家和人民陷入了“數(shù)據(jù)貧困”的境地,。

換言之，AI能促進(jìn)公平,，也能加劇不公平,，關(guān)鍵在于使用者如何選擇,。

研究者、教師和學(xué)習(xí)者應(yīng)該批判地看待一般培訓(xùn)模式中的價(jià)值取向,、文化標(biāo)準(zhǔn)和社會(huì)習(xí)俗,。政策制定者應(yīng)意識(shí)到并采取行動(dòng)，解決因訓(xùn)練和控制通用模型的差距擴(kuò)大而導(dǎo)致的不平等惡化問(wèn)題,。

• 超越國(guó)家監(jiān)管適應(yīng)

與此同時(shí),，許多開(kāi)始使用Gen AI的公司發(fā)現(xiàn)，維護(hù)其系統(tǒng)的安全性越來(lái)越具有挑戰(zhàn)性,。此外,，盡管人工智能行業(yè)本身呼吁監(jiān)管，但關(guān)于創(chuàng)造和使用所有人工智能的立法起草工作往往落后于快速發(fā)展的步伐,。

雖然Gen AI可以增強(qiáng)人類(lèi)完成某些任務(wù)的能力,，但對(duì)推廣Gen AI的公司的控制有限。這就提出了監(jiān)管問(wèn)題,，特別是在獲取和使用國(guó)內(nèi)數(shù)據(jù)方面,，包括關(guān)于地方機(jī)構(gòu)和個(gè)人的數(shù)據(jù)以及在國(guó)家領(lǐng)土上產(chǎn)生的數(shù)據(jù),，需要制定適當(dāng)?shù)牧⒎ā?/p>

• 未經(jīng)同意使用內(nèi)容

正如前面所提到的,，一般模型所需大量的數(shù)據(jù)經(jīng)常從互聯(lián)網(wǎng)上搜集，而且通常沒(méi)有任何所有者的許可,。許多圖像通用系統(tǒng)和一些代碼通用系統(tǒng)因此被指控侵犯知識(shí)產(chǎn)權(quán),。

研究人員、教師和學(xué)習(xí)者還應(yīng)意識(shí)到,，使用Gen AI創(chuàng)建的圖像或代碼可能會(huì)侵犯他人的知識(shí)產(chǎn)權(quán),，并且他們?cè)诨ヂ?lián)網(wǎng)上創(chuàng)建和共享的圖像、聲音或代碼可能會(huì)被其他Gen AI利用,。

• AI生成的內(nèi)容造成信源不準(zhǔn)確

由于GPT訓(xùn)練數(shù)據(jù)通常是從互聯(lián)網(wǎng)上提取的,，而互聯(lián)網(wǎng)上經(jīng)常包含歧視性和其他不可接受的語(yǔ)言，由于缺乏嚴(yán)格的法規(guī)和有效的監(jiān)督機(jī)制,，生成式AI產(chǎn)生的帶有偏見(jiàn)的材料正日益在互聯(lián)網(wǎng)上傳播,，使學(xué)習(xí)者獲得錯(cuò)誤知識(shí)。

這一點(diǎn)對(duì)教育行業(yè)尤其重要,，因?yàn)樯墒紸I生成的材料可能看起來(lái)相當(dāng)準(zhǔn)確和令人信服,，但它往往包含錯(cuò)誤和有偏見(jiàn)的觀(guān)點(diǎn)。這對(duì)年輕的學(xué)習(xí)者來(lái)說(shuō)是一個(gè)很高的風(fēng)險(xiǎn),，因?yàn)樗麄儗?duì)所討論的主題沒(méi)有扎實(shí)的先驗(yàn)知識(shí),。

這也給未來(lái)的GPT模型帶來(lái)了遞歸風(fēng)險(xiǎn)，這些模型將在GPT模型自己創(chuàng)建的從互聯(lián)網(wǎng)上搜集的文本上進(jìn)行訓(xùn)練,，其中也包括它們的偏差和錯(cuò)誤,。

試想一下,，如果機(jī)構(gòu)用AI生成課程，卻因缺乏審核傳播錯(cuò)誤知識(shí),，這將對(duì)學(xué)生造成嚴(yán)重的影響,。這也對(duì)教育者釋放出一個(gè)重要信號(hào)，基于A(yíng)I生成的知識(shí)的可靠性可能會(huì)出現(xiàn)長(zhǎng)期問(wèn)題,。

• 缺乏對(duì)現(xiàn)實(shí)世界的了解

文本GPT有時(shí)被輕蔑地稱(chēng)為“隨機(jī)鸚鵡”,，因?yàn)槿缜八觯m然它們可以生成看起來(lái)令人信服的文本,，但該文本通常包含錯(cuò)誤,，GPT從隨機(jī)模式開(kāi)始，并不理解它們的含義——就像鸚鵡可以模仿聲音,，但實(shí)際上并不理解它在說(shuō)什么,。

生成式AI所使用和生成的文本的一般模型與現(xiàn)實(shí)世界之間存在脫節(jié)，可能導(dǎo)致教師和學(xué)生對(duì)輸出給予一定程度的信任,，而這種信任是不值得的,。這給未來(lái)的教育帶來(lái)了嚴(yán)重的風(fēng)險(xiǎn)。事實(shí)上,，生成式AI并不是基于對(duì)現(xiàn)實(shí)世界的觀(guān)察或科學(xué)論證,，也不符合人類(lèi)或社會(huì)價(jià)值觀(guān)。

• 產(chǎn)生深度贗品

除了所有生成式AI都存在的爭(zhēng)議之外,，Gen AI還可以用來(lái)修改或操縱現(xiàn)有的圖像或視頻,，以生成難以區(qū)分的假圖像或視頻。Gen AIl正在讓制造這些“深度造假”和所謂的“假新聞”變得越來(lái)越容易,。

目前,，只有中國(guó)、歐盟(EU)國(guó)家和美國(guó)調(diào)整了版權(quán)法,，以說(shuō)明生成人工智能的影響,。例如，美國(guó)版權(quán)局(USCopyrigh toffice)裁定,，通用系統(tǒng)(如CHATGPT)的輸出不受美國(guó)版權(quán)法的保護(hù),，認(rèn)為“版權(quán)只能保護(hù)人類(lèi)創(chuàng)造力的產(chǎn)物”(US Copyright Office，2023),。而在歐盟,，擬議的歐盟人工智能法案要求所有工具開(kāi)發(fā)人員披露他們?cè)跇?gòu)建系統(tǒng)時(shí)使用的受版權(quán)保護(hù)的材料(歐盟委員會(huì)，2021),。

中國(guó)通過(guò)其2023年7月發(fā)布的關(guān)于生成式人工智能的法規(guī),，要求將Gen AI的輸出標(biāo)記為AI生成的內(nèi)容，并且只承認(rèn)它們是數(shù)字合成的輸出。

當(dāng)ChatGPT首次推出時(shí),，世界各地的教育工作者表達(dá)了他們對(duì)其生成論文的潛力以及它如何幫助學(xué)生作弊的擔(dān)憂(yōu),。

與此同時(shí)，互聯(lián)網(wǎng)上也充斥著在教育和研究中使用Gen Al的建議,。其中包括使用它來(lái)激發(fā)新的想法,，生成多視角的例子，制定課程計(jì)劃和演示文稿,，總結(jié)現(xiàn)有的材料,，并刺激圖像創(chuàng)作。盡管互聯(lián)網(wǎng)上幾乎每天都有新的想法出現(xiàn),，但研究人員和教育工作者仍在研究基因?qū)虒W(xué),、學(xué)習(xí)和研究的確切意義。

特別是,，許多提議用途背后的人可能沒(méi)有正確考慮倫理原則,，而其他人則是由Gen Al的技術(shù)潛力驅(qū)動(dòng)，而不是研究人員,、教師或?qū)W習(xí)者的需求,。本節(jié)概述了在教育中創(chuàng)造性地使用 Gen Al的方法。

教育和研究機(jī)構(gòu)應(yīng)制定,、實(shí)施和驗(yàn)證適當(dāng)?shù)膽?zhàn)略和道德框架,，以指導(dǎo)負(fù)責(zé)任和合乎道德地使用通用系統(tǒng)和應(yīng)用程序，以滿(mǎn)足教學(xué),、學(xué)習(xí)和研究的需要,。這可以通過(guò)以下四個(gè)策略來(lái)實(shí)現(xiàn):

道德原則的制度實(shí)施：確保研究人員,、教師和學(xué)習(xí)者以負(fù)責(zé)任和合乎道德的方式使用通用工具,，并嚴(yán)格對(duì)待輸出的準(zhǔn)確性和有效性。

指導(dǎo)和培訓(xùn)：向研究人員,、教師和學(xué)習(xí)者提供有關(guān)通用工具的指導(dǎo)和培訓(xùn),，以確保他們了解數(shù)據(jù)標(biāo)簽和算法中的偏見(jiàn)等道德問(wèn)題，并遵守有關(guān)數(shù)據(jù)隱私和知識(shí)產(chǎn)權(quán)的適當(dāng)法規(guī),。

建立Gen Al提示工程能力：除了特定學(xué)科的知識(shí),，研究人員和教師還需要工程方面的專(zhuān)業(yè)知識(shí)，并對(duì)Gen Al產(chǎn)生的提示進(jìn)行嚴(yán)格評(píng)估,。鑒于Gen Al提出的挑戰(zhàn)是復(fù)雜的,，研究人員和教師必須接受高質(zhì)量的培訓(xùn)和支持才能做到這一點(diǎn)。

在書(shū)面作業(yè)中檢測(cè)基于Gen Al的剽竊：Gen Al可能允許學(xué)生將他們沒(méi)有寫(xiě)的文本冒充為自己的作品,，這是一種新型的“剽竊”,。一般供應(yīng)商被要求用“由AI生成”的水印標(biāo)記其輸出，同時(shí)正在開(kāi)發(fā)工具來(lái)識(shí)別由 AI生成的材料。然而,，幾乎沒(méi)有證據(jù)表明這些措施或工具是有效的,。當(dāng)前的機(jī)構(gòu)戰(zhàn)略是通過(guò)人類(lèi)的嚴(yán)格檢測(cè)來(lái)維護(hù)學(xué)術(shù)誠(chéng)信和加強(qiáng)問(wèn)責(zé)制。長(zhǎng)期策略是機(jī)構(gòu)和教育工作者重新思考書(shū)面作業(yè)的設(shè)計(jì),，這樣它們就不會(huì)被用來(lái)評(píng)估一般工具比人類(lèi)學(xué)習(xí)者做得更好的任務(wù),。相反，它們應(yīng)該解決人類(lèi)能做而基因和其他人工智能工具不能做的事情,，包括將同情心和創(chuàng)造力等人類(lèi)價(jià)值觀(guān)應(yīng)用于復(fù)雜的現(xiàn)實(shí)世界挑戰(zhàn),。

《指南》中提供了一些例子,，說(shuō)明在使用中的協(xié)同設(shè)計(jì)過(guò)程如何為研究實(shí)踐提供信息,，如何協(xié)助教學(xué)，如何為自定進(jìn)度獲取基本技能提供輔導(dǎo),，如何促進(jìn)高階思維,，以及如何支持有特殊需求的學(xué)習(xí)者。

• 用于研究的生成式人工智能

基因模型已經(jīng)證明了它們?cè)跀U(kuò)展研究大綱的視野和豐富數(shù)據(jù)探索以及文獻(xiàn)綜述方面的潛力雖然可能會(huì)出現(xiàn)更廣泛的使用案例,，但需要新的研究來(lái)定義研究問(wèn)題的潛在領(lǐng)域和預(yù)期結(jié)果,，以證明有效性和準(zhǔn)確性，并確保人類(lèi)通過(guò)研究理解現(xiàn)實(shí)世界的能力不會(huì)因使用人工智能工具而受到損害,。

• 生成Al以促進(jìn)教學(xué)

通用通用平臺(tái)的使用和特定教育通用工具的設(shè)計(jì)都應(yīng)旨在增強(qiáng)教師對(duì)其學(xué)科的理解以及他們對(duì)教學(xué)方法的了解,，包括通過(guò)教師與人工智能共同設(shè)計(jì)課程計(jì)劃、課程包或整個(gè)課程,。受過(guò)預(yù)先培訓(xùn)的輔助會(huì)話(huà)教師助理或“教學(xué)助理的雙胞胎”,。

根據(jù)來(lái)自經(jīng)驗(yàn)豐富的教師和圖書(shū)館的數(shù)據(jù)，已經(jīng)在一些教育機(jī)構(gòu)進(jìn)行了測(cè)試,，可能具有未知的潛力以及未知的道德風(fēng)險(xiǎn),。這些模型的實(shí)際應(yīng)用過(guò)程和進(jìn)一步迭代仍然需要通過(guò)本指南中建議的框架進(jìn)行仔細(xì)審核，并通過(guò)人工監(jiān)督進(jìn)行保護(hù),。

• 生成人工智能作為1:1教練,，自定進(jìn)度獲取基本技能

雖然高階思維和創(chuàng)造力在定義學(xué)習(xí)成果時(shí)吸引了越來(lái)越多的關(guān)注，但基礎(chǔ)技能在兒童心理發(fā)展和能力進(jìn)步中的重要性仍然毋庸置疑,。在眾多能力中,，這些基本技能包括聽(tīng)力、發(fā)音和寫(xiě)作,。

母語(yǔ)或外語(yǔ),，以及基本的計(jì)算能力，藝術(shù)和編碼,?！坝?xùn)練和實(shí)踐”不應(yīng)被視為過(guò)時(shí)的教學(xué)方法;相反,，它應(yīng)該用通用技術(shù)來(lái)重新激活和升級(jí)，以促進(jìn)學(xué)習(xí)者自定進(jìn)度地練習(xí)基本技能,，Gen Al工具有可能成為這種自定進(jìn)度實(shí)踐的1:1教練,。

• 支持有特殊需要的學(xué)習(xí)者的生成

從理論上講，基因模型有可能幫助有聽(tīng)力或視覺(jué)障礙的學(xué)習(xí)者,。新興的實(shí)踐包括為聾人和聽(tīng)力困難的學(xué)習(xí)者提供通用字幕或字幕,，以及為視障學(xué)習(xí)者提供通用生成的音頻描述。Gen Al模型還可以將文本轉(zhuǎn)換為語(yǔ)音以及將語(yǔ)音轉(zhuǎn)換為文本,，以使有視覺(jué),、聽(tīng)覺(jué)或語(yǔ)音障礙的人能夠訪(fǎng)問(wèn)內(nèi)容、提出問(wèn)題并與他們的同伴交流,。

然而,，這一功能尚未得到大規(guī)模利用。根據(jù)前面提到的科文組織在2023年進(jìn)行的關(guān)于政府在教育中使用人工智能的調(diào)查,，只有四個(gè)國(guó)家(中國(guó),、約旦、馬來(lái)西亞和卡塔爾)報(bào)告說(shuō),，它們的政府機(jī)構(gòu)已經(jīng)驗(yàn)證并推薦了人工智能輔助工具,，以支持殘疾學(xué)習(xí)者的包容性接入(教科文組織，2023年),。

最后,，也有人建議，神經(jīng)系統(tǒng)有可能進(jìn)行基于對(duì)話(huà)的診斷,，識(shí)別心理或社會(huì)情緒問(wèn)題以及學(xué)習(xí)困難,。然而，幾乎沒(méi)有證據(jù)表明這種方法是有效或安全的,，任何診斷都需要由熟練的專(zhuān)業(yè)人員進(jìn)行解釋,。

大多數(shù)Gen Al應(yīng)用程序主要是為成人用戶(hù)設(shè)計(jì)的。這些應(yīng)用程序通常會(huì)給兒童帶來(lái)巨大的風(fēng)險(xiǎn),，包括接觸不適當(dāng)?shù)膬?nèi)容以及潛在的操縱,。鑒于這些風(fēng)險(xiǎn),，并考慮到繼續(xù)圍繞迭代通用應(yīng)用程序的相當(dāng)大的不確定性,，強(qiáng)烈建議對(duì)通用技術(shù)進(jìn)行年齡限制，以保護(hù)兒童的權(quán)利和福祉,。

目前,，ChatGPT的使用條款要求用戶(hù)必須年滿(mǎn)13歲，18歲以下的用戶(hù)必須獲得父母或法定監(jiān)護(hù)人的許可才能使用服務(wù),。

在社交媒體廣泛使用之前,，也早在易于使用且功能強(qiáng)大的通用應(yīng)用程序(如ChatGPT)創(chuàng)建之前，就規(guī)定組織或個(gè)人社交媒體提供商不得在未經(jīng)父母許可的情況下為13歲以下的兒童提供服務(wù)。許多評(píng)論員認(rèn)為這一門(mén)檻太小,，并主張立法將年齡提高到16歲,。歐盟的GDPR(2016)規(guī)定，用戶(hù)必須至少年滿(mǎn)16歲才能在沒(méi)有父母許可的情況下使用社交媒體服務(wù),。

各種Gen AI聊天機(jī)器人的出現(xiàn)要求各國(guó)仔細(xì)考慮并公開(kāi)審議與Gen AI平臺(tái)進(jìn)行獨(dú)立對(duì)話(huà)的適當(dāng)年齡門(mén)檻,。最低年齡應(yīng)為13歲。各國(guó)還需要決定自我報(bào)告年齡是否仍然是核實(shí)年齡的適當(dāng)手段,。

各國(guó)將需要強(qiáng)制規(guī)定一般服務(wù)提供者對(duì)年齡驗(yàn)證的責(zé)任,，以及父母或監(jiān)護(hù)人對(duì)監(jiān)督未成年兒童的獨(dú)立談話(huà)的責(zé)任。

從以人為中心的角度來(lái)看,，人工智能工具的設(shè)計(jì)應(yīng)擴(kuò)展或增強(qiáng)人類(lèi)的智力能力和社交技能,，而不是破壞它們、與它們發(fā)生沖突或取代它們,。長(zhǎng)期以來(lái),，人們一直期望人工智能工具可以進(jìn)一步整合為可用工具的一部分。

為了使人工智能在個(gè)人,、機(jī)構(gòu)和系統(tǒng)層面上成為人機(jī)協(xié)作中值得信賴(lài)的一部分,，2021年聯(lián)合國(guó)教科文組織關(guān)于人工智能倫理的建議所提出的以人為中心的方法將根據(jù)新興技術(shù)(如基因)的具體特點(diǎn)進(jìn)一步細(xì)化和實(shí)施。只有這樣,，我們才能確保Gen AI成為研究者,、教師和學(xué)習(xí)者值得信賴(lài)的工具。

雖然Gen AI應(yīng)該用于教育和研究,，但我們都需要認(rèn)識(shí)到,，Gen AI也可能會(huì)改變這些領(lǐng)域中已建立的系統(tǒng)及其基礎(chǔ)。由基因引發(fā)的教育和研究的轉(zhuǎn)變,，如果有的話(huà),，應(yīng)該以以人為中心的方法進(jìn)行嚴(yán)格的審查和指導(dǎo)。只有這樣,，我們才能確保特別是AI的潛力,，以及更廣泛地用于教育的所有其他類(lèi)別的技術(shù)，能夠增強(qiáng)人類(lèi)為所有人建設(shè)包容性數(shù)字未來(lái)的能力,。