走好AI時代這三步：更“好用” 防“濫用” 求“善用”

　　新華社北京12月21日電　題：走好AI時代這三步——更“好用”、防“濫用”、求“善用”

　　新華社記者

　　從自主學習“進化”到模擬真實世界，2024年人工智能（AI）正在開啟“裂變式”發(fā)展之路。業(yè)內最新預測認為，人類數(shù)據的增加速度開始跟不上AI的發(fā)展需要了。

　　是聊天搭子，也是工作幫手；能自動駕駛，還能分析病情——AI技術飛躍，始終伴隨著千家萬戶的應用，也迅速為千行百業(yè)“賦能”。

　　專家提醒，AI“能用”更要“好用”，防“濫用”進而求“善用”，讓更多人感受科技創(chuàng)新的速度和溫度。

　　??更“好用”：有望成為基礎設施

　　76秒，是一輛小米SU7汽車走下流水線的平均時長。

　　從1016萬種金屬配方里，快速篩選出合適的車身材料；381個巨大機械臂靈活地焊接、裝配，90多個物流機器人有條不紊穿梭……在AI“指揮”下，智能工廠正在成為現(xiàn)實。

　　0.235秒，是賽諾威盛CT機掃描一次的最快速度。

　　檢查結果不僅能發(fā)現(xiàn)病灶，還能做腫瘤、神經、骨科、消化等方面預測分析……AI可以化身醫(yī)生助理，提供多方位、可視化診斷。

　　從會看、會聽、會說，到會學習、會行動、會思考，隨著ChatGPT、Sora以及國內多個大模型相繼問世，AI技術日益顯現(xiàn)出顛覆性創(chuàng)新的特征。

　　甚至從0到1的創(chuàng)新，也可以借力。人工智能驅動的科學研究，正在成為一種新范式，應用于物理學、化學、生物學、天文學等多個領域。

　　在北京大學計算機學院教授、北京智源人工智能研究院理事長黃鐵軍看來，AI大模型將處理更復雜、更精細的任務，并產生意想不到的新能力，未來將像水網和電網一樣，成為社會的基礎設施。

　　“人工智能是新一輪科技革命和產業(yè)變革的重要驅動力?！敝袊茖W院科技戰(zhàn)略咨詢研究院院長潘教峰說，其重要性不亞于第一次工業(yè)革命的蒸汽機、第二次工業(yè)革命的電機，以及信息社會中的計算機和互聯(lián)網。

　　??防“濫用”：安全技術加快研發(fā)

　　站在攝像頭前，選擇想“換臉”的模版，輕點鼠標，屏幕上立馬出現(xiàn)另一個人，實時同步嘴型、表情和動作。

　　在中國科學院自動化研究所，記者體驗了AI人臉偽造與反偽造系統(tǒng)?？蒲腥藛T介紹，用AI“對抗”AI，這一系統(tǒng)也可以快速識別偽造的圖片、視頻。

　　濫用人工智能技術，AI換臉和擬聲是“重災區(qū)”。一年多來，內蒙古、陜西等多地曾發(fā)生此類電信網絡詐騙案。犯罪分子通過AI換臉和擬聲技術，冒充受害者的親朋、同事，涉案金額高達上億元。

　　中國科學技術信息研究所戰(zhàn)略研究中心主任徐峰表示，除了惡意使用深度合成技術生成文字、音頻、視頻等，濫用人工智能的風險還包括引發(fā)學術造假、放大偏見歧視、技術不可控等。

　　近年來，包括我國在內，世界多國持續(xù)從政策法規(guī)、原則規(guī)范、技術標準、行業(yè)自律等多個維度，加強對人工智能技術的治理。

　　我國2017年制訂的新一代人工智能發(fā)展規(guī)劃明確提出，在發(fā)展技術的同時，也要建立相應的風險防范機制。

　　應對人工智能帶來的安全風險，黃鐵軍認為，還需要加強對AI安全技術的研發(fā)與投入，有效應用技術手段，對潛在風險進行監(jiān)測、識別、隔離、消除。

　　??求“善用”：推動AI技術造福人類

　　不久前，“蘿卜快跑”在武漢的訂單大幅增長，“智能駕駛能否替代網約車司機”引發(fā)討論。

　　今年7月，人力資源社會保障部將19個新職業(yè)、28個新工種納入國家職業(yè)分類大典，智能網聯(lián)汽車測試員、智能制造系統(tǒng)運維員等“數(shù)字職業(yè)”亮相。

　　AI技術迅猛發(fā)展，是加速“機器換人”，還是創(chuàng)造更多全新的就業(yè)崗位？如何既推動建立“以人為本”“智能向善”的發(fā)展生態(tài)，也為新技術安裝上必要的“剎車”？

　　清華大學文科資深教授、國家新一代人工智能治理專業(yè)委員會主任薛瀾表示，人工智能治理有兩個核心內容：一個是發(fā)展問題，即如何構建良好的制度規(guī)則，推動人工智能創(chuàng)新發(fā)展、科技向善；一個是安全問題，包括保證安全底線和防范其他風險。

　　我國政府為此進行了大量工作，發(fā)布了《全球人工智能治理倡議》等立場文件。但對于人工智能全球治理的具體準則，國際社會尚未達成共識。

　　“處于智能時代的十字路口，我們要積極引領人工智能技術發(fā)展走向造福人類的正道?！迸私谭逭f。