清華大學蘇世民書院院長薛瀾：發展人工智能一定要設“紅線”

每經記者｜周逸斐    每經編輯｜陳星    

2024中關村論壇年會于4月25日至29日舉行。《每日經濟新聞》記者從現場獲悉，本屆年會以“創新：建設更加美好的世界”為主題，設置了論壇會議、技術交易、成果發布、前沿大賽、配套活動5大板塊。

中關村論壇是中國面向全球科技創新交流合作的國家級平臺，已成功舉辦14屆。本屆論壇設置了論壇會議、技術交易、成果發布、前沿大賽、配套活動5大板塊，將舉辦近120場活動，100多個國家和地區、150余家外國政府部門和國際組織機構等受邀參會。

在26日舉行的全球科技集群創新論壇上，清華大學蘇世民書院院長薛瀾發表了題為《國際科技創新中心評估——結果與啟示》的主旨演講。

人工智能發展迅速，也引起一部分人的擔憂：若預防AI（人工智能）犯錯的技術落后于AI自身的發展，很可能會出現失控局面。對此，薛瀾回應《每日經濟新聞》記者，發展人工智能的時候，一定要設“紅線”。

薛瀾接受采訪 每經記者 周逸斐 攝

諸多業內人士也呼吁要給人工智能“裝上剎車再上路”。薛瀾表示，所謂“剎車”就是一套針對人工智能潛在風險的治理體系，它可以對濫用、惡用、誤用人工智能等潛在風險進行合理規制。

他進一步解釋，這套治理體系分多個層次。從國家層面來看，2019年，國家新一代人工智能治理專業委員會發布《新一代人工智能治理原則——發展負責任的人工智能》，提出了人工智能治理的框架和行動指南。2021年，《新一代人工智能倫理規范》發布，旨在將倫理道德融入人工智能全生命周期，為從事人工智能相關活動的自然人、法人和其他相關機構等提供倫理指引。此外，國家還出臺了個人信息保護法等法律。

在具體領域也有一些法規、措施出臺。比如針對“騎手困在算法中”等問題，相關部門專門出臺了關于算法的規定，保護勞動者、消費者的權益。2023年，中國還出臺了全球首部專門規范生成式人工智能服務的立法。

另外，國家鼓勵相關企業加強內部機制建設，保證企業技術應用符合前述法律法規。

薛瀾認為，上述多層次、綜合性措施可以保證人工智能“上路”是有“剎車”的。

記者注意到，一段時間以來，如何避免被人工智能取代的話題被反復提及。薛瀾認為，目前更需要探討的是怎樣利用人工智能技術為人類服務？人類下一步發展更希望得到什么？哪些工作可能是人工智能無法替代的？思考后找到的方向就是人類需要掌握的技能。

“另一方面也需要開拓就業新領域。隨著新技術的發展和物質文化生活的不斷豐富，人類會產生更多的新需求，這些需求也許就是未來的就業新模式、新方向。”薛瀾說。