誰關(guān)注AIGC科研使用的倫理風(fēng)險(xiǎn)？

——科研人員生成式人工智能倫理風(fēng)險(xiǎn)感知研究

趙延?xùn)|1,2 徐妍何1

(1中國人民大學(xué)社會(huì)學(xué)理論與方法研究中心；2中國人民大學(xué)北京社會(huì)建設(shè)研究基地)

本研究旨在系統(tǒng)探討中國科研人員對(duì)生成式人工智能（AIGC）在科研中應(yīng)用的倫理風(fēng)險(xiǎn)感知現(xiàn)狀及其形成機(jī)制。探討科研人員對(duì)AIGC科研應(yīng)用的倫理風(fēng)險(xiǎn)感知如何？技術(shù)熟悉程度對(duì)科研人員的倫理風(fēng)險(xiǎn)感知產(chǎn)生何種影響？制度情境、文化背景，以及個(gè)人的科研壓力、性別、年齡等個(gè)體特征如何共同塑造科研人員的倫理風(fēng)險(xiǎn)感知？

研究數(shù)據(jù)來自于2024年8月開展的“中國原創(chuàng)性研究人才成長情況調(diào)查”，該調(diào)查以國家自然科學(xué)基金申請(qǐng)人和評(píng)審專家為樣本框，通過系統(tǒng)隨機(jī)抽樣，獲取有效樣本4643份。研究構(gòu)建了“技術(shù)基礎(chǔ)-制度情境-認(rèn)知能動(dòng)”整合分析框架，并運(yùn)用OLS多元線性回歸方法分析數(shù)據(jù)并對(duì)研究假設(shè)進(jìn)行檢驗(yàn)。

研究發(fā)現(xiàn)，逾七成科研人員認(rèn)識(shí)到AIGC在科研中應(yīng)用可能存在的倫理風(fēng)險(xiǎn)。技術(shù)熟悉度與倫理風(fēng)險(xiǎn)感知呈顯著負(fù)相關(guān)。高頻使用AIGC可能導(dǎo)致科研人員產(chǎn)生工具理性偏向，從而弱化對(duì)技術(shù)倫理問題的反思。在醫(yī)療衛(wèi)生機(jī)構(gòu)工作、具有醫(yī)學(xué)與人文社會(huì)科學(xué)背景的研究者表現(xiàn)出更高的倫理風(fēng)險(xiǎn)感知，可能因醫(yī)學(xué)領(lǐng)域的倫理教育和倫理審查制度更為嚴(yán)格所致。深度參與國際規(guī)制體系、與企業(yè)有更強(qiáng)聯(lián)系的科研人員倫理警覺性更高，多元價(jià)值的碰撞與社會(huì)性嵌入有助于提升研究者對(duì)技術(shù)外部性的理解。女性科研人員的倫理風(fēng)險(xiǎn)感知顯著高于男性。科研壓力的影響具有雙重性：主動(dòng)的科研投入有助于強(qiáng)化倫理考量，而由外部事務(wù)導(dǎo)致的被動(dòng)時(shí)間壓力則會(huì)降低倫理敏感度。

本研究通過實(shí)證分析描述了科研人員對(duì)人工智能驅(qū)動(dòng)科學(xué)研究可能導(dǎo)致的倫理風(fēng)險(xiǎn)的感知現(xiàn)狀，揭示了科研人員技術(shù)倫理感知的社會(huì)形成機(jī)制，拓展了科學(xué)社會(huì)學(xué)在科技倫理領(lǐng)域的研究視野。研究發(fā)現(xiàn)科技倫理意識(shí)的提升不僅依賴于個(gè)體的道德自律，更取決于專業(yè)化與制度化的環(huán)境建設(shè)。針對(duì)倫理感知相對(duì)薄弱的群體，應(yīng)在科研管理流程中嵌入結(jié)構(gòu)性約束，并鼓勵(lì)跨學(xué)科、跨領(lǐng)域的交流，促使倫理考量從外部規(guī)制轉(zhuǎn)化為科研人員的內(nèi)在認(rèn)知習(xí)慣。

研究聚焦科研人員這一核心責(zé)任主體，填補(bǔ)了現(xiàn)有AIGC倫理研究中微觀主體視角不足的空白。整合了分析框架，系統(tǒng)解釋倫理風(fēng)險(xiǎn)感知的多維形成機(jī)制，并將國際互動(dòng)與學(xué)術(shù)資本主義納入文化范疇進(jìn)行考察。闡釋了技術(shù)使用頻率對(duì)倫理反思的抑制作用、不同制度環(huán)境下的認(rèn)知分化規(guī)律，以及科研壓力對(duì)倫理意識(shí)的正負(fù)向影響，為在科研培養(yǎng)中加強(qiáng)系統(tǒng)性倫理教育提供了數(shù)據(jù)支持。

作者簡介

趙延?xùn)|，中國人民大學(xué)社會(huì)學(xué)理論與方法研究中心教授、中國人民大學(xué)北京社會(huì)建設(shè)研究基地首席專家。研究方向?yàn)榭茖W(xué)社會(huì)學(xué);

徐妍何，中國人民大學(xué)社會(huì)學(xué)理論與方法研究中心博士研究生。研究方向?yàn)榭茖W(xué)社會(huì)學(xué)。

項(xiàng)目資助

新一代人工智能國家科技重大專項(xiàng)“人工智能社會(huì)實(shí)驗(yàn)倫理、評(píng)估與標(biāo)準(zhǔn)化研究”（2023ZD0121602）；國家自然科學(xué)基金專項(xiàng)項(xiàng)目“科學(xué)基金支持原創(chuàng)性顛覆性科技創(chuàng)新的機(jī)制與政策研究”（L2424128）。