當前位置:首頁 > 新聞中心 > 媒體掃描

媒體掃描

【中國日報】《人工智能北京共識》發布:研發上要對潛在倫理風險與隱患負責

  • 发表日期:2019-05-26 【 【打印】【關閉】
  •   中国日报北京5月26日电 (记者 辛闻)记者获知,5月25日,北京智源人工智能研究院联合北京大学、清华大学、华阳彩票自动化研究所、华阳彩票计算技术研究所、新一代人工智能产业技术创新战略联盟等高校、科研院所和产业联盟,共同发布《人工智能北京共识》。 

      針對人工智能的研發、使用、治理三方面,《人工智能北京共識》提出了各個參與方應該遵循的有益于人類命運共同體構建和社會發展的15條原則。其中,研發方面,提倡要有益于增進社會與生態的福祉,服從人類的整體利益,設計上要合乎倫理,體現出多樣性與包容性,盡可能地惠及更多人,要對潛在倫理風險與隱患負責,提升技術水平控制各種風險,並最大範圍共享人工智能發展成果。使用方面,提倡善用和慎用,避免誤用和濫用,以最大化人工智能技術帶來的益處、最小化其風險,應確保利益相關者對其權益所受影響有充分的知情與同意,並能夠通過教育與培訓適應人工智能發展帶來的影響。在治理方面,對人工智能部分替代人類工作保持包容和謹慎態度,鼓勵探索更能發揮人類優勢和特點的新工作,廣泛開展國際合作,共享人工智能治理經驗。人工智能的准則與治理措施應做到適應和適度,並開展長遠戰略設計,以確保未來人工智能始終保持向對社會有益的方向發展。 

      人工智能倫理與規範是未來智能社會的發展基石,已經引起了各國政府和學術界、企業界等的廣泛關注。歐盟、英國、日本等國際組織和國家,均發布了人工智能的倫理准則。《人工智能北京共識》關注“服務于人”,將“和諧與優化共生”這一中國哲學和文化中的特色理念,作爲尋求跨行業、跨部門、跨地區全球協作的指導思想,並強調促進人工智能相關准則的“落地”,爲未來打造“負責任的、有益的”人工智能。這一共識的發布,爲規範和引領人工智能健康發展提供了“北京方案”,對于實現人工智能“自律”“善治”“有序”具有重要意義。 

      另外,为降低人工智能发展过程中可能存在的技术风险和伦理隐患,北京智源人工智能研究院专门成立人工智能伦理与安全研究中心,华阳彩票自动化研究所曾毅研究员任研究中心主任。 

      曾毅研究員介紹了人工智能倫理與安全研究中心的主要研究內容。據介紹,該研究中心將圍繞人工智能倫理與安全的理論探索、算法模型、系統平台、行業應用等開展一系列研究,目前主要包括四大方面:一是低風險機器學習模型與平台的構建,建立機器學習模型安全性的評估體系,並結合具體領域進行驗證。二是開展符合人類倫理道德的智能自主學習模型研究,實現人工智能行爲與人類價值觀的校准,並在模擬環境與真實場景中進行驗證。三是建設數據安全示範應用系統,建立數據基礎設施、數據分級、權限控制、數據審計,最大限度防止數據泄密,降低風險,探索允許用戶撤銷個人數據授權的機制及計算平台。四是構建人工智能風險與安全綜合沙盒平台,建設自動檢測平台,針對數據與算法的安全性、公平性、可追溯性、風險類型、影響程度與影響範圍等方面,對人工智能産品及應用進行風險與安全綜合檢測與評估,引導行業健康發展。 

      會議認爲,人工智能涉及範圍極廣,應對人工智能帶來的挑戰,不是一個領域、一個城市、一個部門、一個機構能夠獨立完成的,需要充分彙聚科學家、企業家、産業聯盟和社會各界的力量,多方參與、共同努力,持續推動人工智能倫理、規範方面的學術研究與成果轉化應用,並不斷強化行業自律。會議倡導北京人工智能領域廣大創新主體,積極踐行並不斷完善共識的內涵,共同營造良好生態,加快人工智能領域基礎研究、核心技術創新和高精尖産業發展,讓人工智能更好支撐北京高質量發展和創新驅動發展戰略實施,並更好造福全人類。 

      今後,人工智能倫理與安全研究中心將著力在算法安全評估、安全模型構建、AI綜合沙盒建設等方面盡快取得一系列創新性成果,爲降低人工智能的風險和倫理隱患提供技術服務,促進人工智能行業的良性健康發展。