給科技創(chuàng)新構(gòu)建倫理軟著陸機(jī)制 段偉文 |文 文章來源:《科技日?qǐng)?bào)》(2022年1月17日理論版) 最近,,中央深改委會(huì)議審議通過了《關(guān)于加強(qiáng)科技倫理治理的指導(dǎo)意見》,該指導(dǎo)意見在很大程度上是對(duì)我國近年科技倫理治理實(shí)踐的工作經(jīng)驗(yàn)和理論研究的總結(jié),。進(jìn)入21世紀(jì),,隨著納米、生命,、信息,、認(rèn)知等會(huì)聚技術(shù)和大數(shù)據(jù)、人工智能,、神經(jīng)科學(xué)等突破性創(chuàng)新的迅猛發(fā)展,科技創(chuàng)新的社會(huì)倫理風(fēng)險(xiǎn)日益凸顯,。2017年以來,,在人工智能戰(zhàn)勝人類圍棋棋手等事件的推動(dòng)下,科技倫理問題成為世界關(guān)注的焦點(diǎn),,各種科技倫理規(guī)范和倫理治理機(jī)構(gòu)紛紛建立,,出現(xiàn)了人類科技發(fā)展史上的“科技倫理時(shí)刻”。 科技倫理影響社會(huì)對(duì)科技創(chuàng)新的信任和支持 世界各國和全社會(huì)之所以如此重視科技倫理,,最根本的原因是它越來越影響到社會(huì)對(duì)突破性科技創(chuàng)新的信任和支持,。大量前沿科技和突破性創(chuàng)新的發(fā)展經(jīng)驗(yàn)表明,如果不充分重視科技的社會(huì)倫理風(fēng)險(xiǎn)防范,,科技創(chuàng)新很可能會(huì)因?yàn)槟承┛萍紓惱硎录蔀樾侣劷裹c(diǎn),,引發(fā)各方對(duì)潛在風(fēng)險(xiǎn)的焦慮,從而不得不作出必要的倫理調(diào)整,。一方面,,很多科技前沿的探索實(shí)驗(yàn)觸及科技倫理的邊緣地帶,,如果對(duì)突破倫理邊界的活動(dòng)缺乏專業(yè)認(rèn)知和道德敏感性,不能主動(dòng)地與同行進(jìn)行公開討論并向管理部門披露問題,,貿(mào)然前行往往很容易觸碰科技倫理底線,,結(jié)果必然是欲速而不達(dá)。另一方面,,諸多應(yīng)用性的突破性創(chuàng)新的本質(zhì)是科技—社會(huì)的整體創(chuàng)新,,這類新興技術(shù)的發(fā)展可能遭遇的壁壘不僅是技術(shù)方面的,而且很可能因?yàn)轱@現(xiàn)出的社會(huì)倫理風(fēng)險(xiǎn)而遇到來自社會(huì)的不信任和抵制,。在這兩種情況下,,由于科技倫理風(fēng)險(xiǎn)意識(shí)的或缺,前沿科技研究和突破性創(chuàng)新都可能不得不進(jìn)行倫理回調(diào),,不論是否存在誤判,,這種被動(dòng)的倫理回調(diào)難免對(duì)科技創(chuàng)新造成負(fù)面的影響。 應(yīng)對(duì)科技活動(dòng)的后果與風(fēng)險(xiǎn)有更深入的認(rèn)識(shí) 眾所周知,,科技創(chuàng)新尤其是突破性創(chuàng)新往往會(huì)因?yàn)楦鞣N問題而陷入“死亡之谷”,,在科技倫理問題備受重視的今天,科技倫理治理的關(guān)鍵目標(biāo)應(yīng)該是為創(chuàng)新構(gòu)建必要的保護(hù)空間,。為此,,應(yīng)該對(duì)科技活動(dòng)的后果與風(fēng)險(xiǎn)的評(píng)估和預(yù)見規(guī)律有深入的認(rèn)知。 針對(duì)技術(shù)的社會(huì)影響的評(píng)估,,未來學(xué)家阿馬拉(Roy Amara)曾提出著名的阿馬拉定律,,即人們總是高估一項(xiàng)技術(shù)所帶來的短期效果,卻又低估它的長期影響。這一定律的啟示在于,,對(duì)于突破性創(chuàng)新的弊端,,應(yīng)該注意到外界的評(píng)判和社會(huì)輿論容易出現(xiàn)偏頗,特別是可能會(huì)因?yàn)閷?duì)未知風(fēng)險(xiǎn)的焦慮而將它們放大為對(duì)該技術(shù)的極度不信任,,管理者要避免在政策層面高估其負(fù)面影響而過度治理和剛性監(jiān)管,。 對(duì)于科技的社會(huì)倫理風(fēng)險(xiǎn)的預(yù)見,科技政策學(xué)家科林格里奇(David Collingridge)曾經(jīng)提出過著名的科林格里奇兩難,,指出了人們?cè)陬A(yù)見和防范技術(shù)長遠(yuǎn)發(fā)展時(shí)所面臨的一個(gè)雙重約束困境(double-bind problem),。其一是信息困境,即人們很難在技術(shù)生命周期的早期對(duì)一項(xiàng)技術(shù)的社會(huì)后果進(jìn)行預(yù)見,;其二是控制困境,,即當(dāng)人們不希望的出現(xiàn)的后果被發(fā)現(xiàn)時(shí),技術(shù)卻往往已經(jīng)成為整個(gè)經(jīng)濟(jì)和社會(huì)結(jié)構(gòu)的一部分,,以至于難以對(duì)其加以調(diào)控,。由此可見,對(duì)科技創(chuàng)新帶來的復(fù)雜未知社會(huì)倫理風(fēng)險(xiǎn)進(jìn)行預(yù)見和認(rèn)知雖尤為困難,卻不得不為之,。而正因?yàn)槿绱?,?duì)這一問題的根本化解之道是將其作為科技創(chuàng)新的內(nèi)在環(huán)節(jié),將科技倫理規(guī)范和價(jià)值觀作為從0到1的創(chuàng)新的有機(jī)目標(biāo),。具體而言,,為了促進(jìn)科技創(chuàng)新的發(fā)展,應(yīng)從價(jià)值觀和倫理規(guī)范等軟約束入手,,盡早在科技活動(dòng)的全過程引入倫理治理框架,,以提升相關(guān)責(zé)任主體的社會(huì)倫理風(fēng)險(xiǎn)意識(shí),促使他們?cè)诰唧w的創(chuàng)新實(shí)踐中思考行為的對(duì)錯(cuò),,做出合乎正確價(jià)值觀和倫理規(guī)范的抉擇,。 依據(jù)這兩方面的認(rèn)知,不難理解指導(dǎo)意見為何強(qiáng)調(diào)科技倫理治理要堅(jiān)持促進(jìn)創(chuàng)新與防范風(fēng)險(xiǎn)相統(tǒng)一,、制度規(guī)范與自我約束相結(jié)合的治理原則,。基于這一原則,,指導(dǎo)意見提出了軟硬兼施的制度框架,。一方面,強(qiáng)調(diào)通過完善政府科技倫理管理體制和壓實(shí)創(chuàng)新主體科技倫理管理主體責(zé)任等構(gòu)建科技倫理治理體制,,健全科技倫理治理制度,,進(jìn)而強(qiáng)化科技倫理審查和監(jiān)管。另一方面,,就是要通過倫理先行,、敏捷治理等基本要求和發(fā)揮科技類社會(huì)團(tuán)體的倫理自律功能、引導(dǎo)科技人員自覺遵守科技倫理要求等制度設(shè)計(jì),,為科技創(chuàng)新構(gòu)建起必要的倫理軟著陸機(jī)制,。 為了確保我國高水平科技自立自強(qiáng)之路走向倫理創(chuàng)新和科技向善的正確方向,科技倫理治理任重道遠(yuǎn),,大有可為,。 中國社會(huì)科學(xué)院哲學(xué)研究所科學(xué)技術(shù)哲學(xué)研究室主任,研究員,、博士生導(dǎo)師,中國社會(huì)科學(xué)院科學(xué)技術(shù)和社會(huì)研究中心主任,。主要研究方向?yàn)榭茖W(xué)哲學(xué),、技術(shù)哲學(xué)、信息哲學(xué),、科技倫理,、科學(xué)技術(shù)與社會(huì)研究等,當(dāng)前關(guān)注大數(shù)據(jù)與人工智能的哲學(xué)、倫理及社會(huì)問題,,當(dāng)代科學(xué)知識(shí)的形態(tài),、科學(xué)研究模式、科學(xué)無知等?,F(xiàn)任中國自然辯證法研究會(huì)保衛(wèi)科學(xué)精神工作委員會(huì)副主任,、北京自然辯證法研究會(huì)副理事長,中國大數(shù)據(jù)專家委員會(huì)副主任委員,,中國發(fā)展戰(zhàn)略研究會(huì)創(chuàng)新驅(qū)動(dòng)戰(zhàn)略專業(yè)委員會(huì)副主任,,科技部科研誠信建設(shè)辦公室專家,教育部馬工程教材專家,,中國科學(xué)技術(shù)出版社科普專家,,國際期刊“社會(huì)中的信息、傳播與倫理雜志(JICES)”及“負(fù)責(zé)任的創(chuàng)新(RI)”編委,,國家社科基金重大項(xiàng)目“智能革命與人類深度科技化前景的哲學(xué)研究”首席專家等,。 作 者 介 紹 哲學(xué)中國 |
|