中新網(wǎng)上海11月22日電 (記者 陳靜)記者22日獲悉，以“人工智能時代的科技倫理”為主題的第三屆中國科技倫理論壇在復旦大學舉行。論壇吸引了來自全國各領(lǐng)域的百余位專家學者等參加。

　　在論壇上，首都師范大學教授王淑芹強調(diào)，人工智能技術(shù)的工具價值必須始終受到人類目的價值的統(tǒng)領(lǐng)。她指出，智能體本質(zhì)上是人的意圖和目的的載體，價值對齊的責任最終落在人的身上，科技工作者應當使算法體現(xiàn)人類共識性的普遍價值原則。

　　中國人民大學教授龔群認為，生成式人工智能的倫理風險根植于工具理性與價值理性的現(xiàn)代性沖突。他認為，目前生成式人工智能存在三大核心風險：黑箱的存在帶來監(jiān)管困境與倫理風險；機器幻覺造成事實與感知判斷錯誤；平臺收集個人信息帶來隱私風險。面對這些挑戰(zhàn)，龔群主張確認以人的責任為核心的治理體系，加強算法審計的制度建設(shè)，并關(guān)注個人數(shù)據(jù)權(quán)利保護，實現(xiàn)技術(shù)進步與人本價值的和諧統(tǒng)一。

　　中國科協(xié)黨組成員、書記處書記王進展指出，當前以人工智能為代表的新興技術(shù)加速迭代，科技倫理挑戰(zhàn)的復雜性、全球性愈發(fā)凸顯。他提出把握以人為本科技向善的基本原則，加強人工智能倫理規(guī)范建設(shè)；加快推進中國科技倫理學會建設(shè)，強化學術(shù)共同體支撐作用；系統(tǒng)構(gòu)建科技倫理自主知識體系，提升國際話語權(quán)。

　　目前，人工智能的價值對齊問題已是社會面臨的核心挑戰(zhàn)之一。中國工程院院士、同濟大學黨委書記鄭慶華在題為“人機價值對齊問題的認識和思考”的特邀報告中指出，人工智能技術(shù)快速發(fā)展伴隨著算法偏見、人工智能幻覺與知識產(chǎn)權(quán)模糊等諸多風險，而這背后的根本癥結(jié)在于人類價值觀的復雜模糊與人工智能追求目標的精確性間存在沖突。關(guān)于如何破局，鄭慶華提出，人與人工智能應雙向?qū)R：人工智能需通過人類反饋強化學習實現(xiàn)價值觀校準，而人類則需適應人機協(xié)同的新范式，最終實現(xiàn)人機價值對齊。需構(gòu)建一個多維度、持續(xù)演進的體系，推動技術(shù)、治理與文化三方攜手共進。

　　在論壇上，中國科學院院士、復旦大學校長金力表示，人工智能、腦機接口等新興技術(shù)的迅猛發(fā)展對科技倫理的發(fā)展提出了很高的要求，科技倫理是平衡創(chuàng)新與價值的文明基石。復旦大學已率先成立科技倫理研究院、設(shè)立應用倫理專業(yè)碩士、發(fā)布全球首個專為科技倫理審查打造的AI智能體系統(tǒng)“一鑒”。金力期望通過論壇匯聚更多共識，深化科技向善的理論體系構(gòu)建，并推動社會各界對科技倫理問題給予更廣泛、更深入的關(guān)注。

　　復旦大學教授楊珉介紹了復旦大學白澤大模型動態(tài)安全合規(guī)測評平臺，這項工作不僅能高效完成基礎(chǔ)大模型評測，還能為國家安全治理提供前瞻性的決策支撐。在人工智能風險預警方面，楊珉揭示了大模型的潛在失控風險。他呼吁建立跨學科治理機制，確保人工智能在可控軌道上發(fā)展。

　　復旦大學哲學學院教授王國豫與華東師范大學終身教授袁振國聚焦“人工智能時代的教育重塑與倫理邊界”這一議題展開主題對談。袁振國提出“教師-學生-智能體”三元主體互動論，指出未來教育將突破物理圍墻，形成個性化全時空學習場域。他表示：“人工智能時代教育的本質(zhì)，是教導師生在人機共生中做機器的主人?！?/p>

　　據(jù)悉，論壇設(shè)置了若干專題論壇，分別聚焦人機共生時代人的自主性與人類身份、人工智能賦能醫(yī)療和神經(jīng)科學的機遇和挑戰(zhàn)、人工智能道德增強與AI賦能倫理的可能性探索、人工智能的倫理治理及全球話語體系構(gòu)建、科技倫理的方法論研究、藝術(shù)與敘事中的人工智能倫理等多個關(guān)鍵議題。(完)