NExT Forum:AI Security

Digital Everywhere!我們該如何訂定合適的AI規範

隨著AI產業及企業逐漸蓬勃發展,帶動人工智慧生態系統建立與成形,影響範圍也將越來越廣。隨著各國皆將AI視為國家產業重要發展策略,相關的法律與政策及規範將是個關鍵議題,目前已有許多國家都已經著手進行規範的制定,當中又有哪些地方值得台灣參考呢?

國家通訊傳播委員會前主任委員、人工智慧科技基金會常務董事,同時也是數位經濟暨產業發展協會(DTA)副理事長詹婷怡以「AI規範落地之國際觀測與可能的在地實踐」為題,分享當前對於歐美日趨勢的觀察,近一步邀請更多人討論台灣AI發展的下一步。

技術不再是唯一挑戰 安全更是迫切需求

面對5G技術逐漸落地並結合人工智慧後,我們已經迎來一個萬物都能聯網的世界。詹婷怡提醒,我們已經身處在數位的環境裡,面對的不再只有技術問題,還包括各行各業中的人們如何做決策、工作,與互動等問題。而人工智慧的發展,也將帶動人工智慧及規範面生態系統的形成。如何建立一個值得信賴的AI環境已成為重要的課題,她認為,在人工智慧應用最大的挑戰除了技術,就是法律(legal)、政策(policy)和監管(regulatory)的面向。再加上新的AI技術應用,極可能開啟新的操控或攻擊工具,同時也將涉及隱私的議題。除此之外,如何避免資料偏見也是不可避免的挑戰,顯見這不再只是單向的科技技術應用,更將帶來政治、經濟與政治等各個層次與面向的變化。

面對即將到來的政策及規範的挑戰,我們有哪些應對方式呢?詹婷怡建議,無論是IOT或AI都必須要關注到Security的議題,當中包括網路安全、IOT資訊安全及執法團隊的密切合作。更不能忽略「數位採證」這個極為迫切的需求,由於涉及到資料和隱私的保護,更需要細緻的討論,才能制定出較好的框架。當然,不同的產業的領域知識也都需要被納入討論中。

歐盟如何在短時間內廣納各方意見?

全球最大的先進技術創新組織電機電子工程師協會(Institute of Electrical and Electronics Engineers,IEEE)早在2017年即發布第二版人工智慧設計的倫理準則,他們認為,隨著自動化跟AI應用的影響無所不在,需要建立社會與政策方面的指南,以確保這些系統是以人為本,並服務於人類價值和倫理準則。在這個準則下,AI技術應用與開發應該遵循五大原則,包括不侵犯國際公認的人權、在設計和使用中優先考慮人類福祉的指標、設計者和操作者是負責任且可問責、確保運行方式透明,以及濫用的風險需降到最低。

另一方面,歐盟執委會自2018年起也陸續推出相關準則,不僅在同年6月成立了人工智慧高級專家組(The High-Level Expert Group on ArtificialIntelligence, AI HLEG),2019年則提出《可信賴的人工智慧倫理準則》(Ethics Guidelines for Trustworthy AI)並公佈《可信賴的AI政策及投資建議》(Policy and Investment Recommendations for Trustworthy ArtificialIntelligence)。根據《可信賴的人工智慧倫理準則》所規範的內容,可信賴的AI應具備合法、合乎倫理且強大穩健等三大條件。

而《可信賴的AI政策及投資建議》報告中,除了肯定人工智慧應保護人類和社會,並促進歐洲公司各部門利用人工智慧及技術移轉,而公部門則扮演人工智慧增長及創新之催化劑,以確保歐洲具有世界一流之研究能力。 但報告中也特別提到如果政府以「保護社會」為由建立一個普遍的人工智慧監督系統是非常危險的作法,政府應該承諾不針對個人進行大規模監視,並在遵守法律及基本權利下進行人工智慧系統之發展。這也是為什麼關乎資料與隱私保護的數位採證,需要進行更為細緻的討論才能制定出較好的框架。

詹婷怡分析,其實歐盟這些規範最終是為了創造一個單一市場(Single market);在歐盟的政策中,經濟、科技發展及創新都被標舉為最高指導原則之一。更重要的是,因為這些規範並非提出後就不再更動,必須被持續關注與討論。 為此,歐盟更成立歐洲人工智慧聯盟作為對話跟溝通的機制。並在2021年提出「人工智慧法律調和規則草案」(Proposal for a Regulation Laying Down Harmonised Rules on Artificial Intelligence (ArtificialIntelligence Act) and Amending Certain Union Legislative Acts)。她指出,歐盟透過不斷的討論形成許多指導原則、政策的建議,以及對話的機制,在短時間內廣納各方的意見。

詹婷怡提到,歐盟的數位發展策略非常清楚,包括發展為人民服務的技術、建立公平且有競爭力之經濟體,以及發展民主開放且永續的社會等三大項目標。而過程中提出的人工智慧白皮書及歐盟資料策略,都是達成前述目標的第一步。

台灣該如何回應AI發展?

除了歐盟之外,包括美國及日本也都針對人工智慧提出相對應的策略。例如美國特別成立了人工智慧國家安全委員會,這個獨立委員會,旨在向總統和國會提出建議,以「促進人工智慧、機器學習和相關技術的發展,以全面滿足美國的國家安全和國防需求」。而日本則是在2016年就已經針對日本科技白皮書描繪了一個願景:超智慧社會「Society5.0」,後續的發展也都是對應這個願景在前進。最重要的是在2019年,由日本內閣府所公佈的「以人為本的AI社會原則」此一原則是將人工智慧視為未來的關鍵科技,但在研發應用上,須以聯合國的永續發展目標為基礎,以落實日本「超智慧社會」為準則,以建構「尊重人類尊嚴」、「不同背景的大眾皆能追求幸福」及「永續性」的社會。

那麼台灣的方法及行動又是什麼呢?詹婷怡認為,過去科技部曾提出相關的人工智慧準則,但我們必須再深入了解這個政策是如何形成?新科技的改變與影響都很快速,所以不只是訂定一個規則,而要建立一個機制能持續討論並找尋共識。此外。各個產業的政策又要如何回應這些規範?必須要有行動計畫去支持這些對話的機制與空間。

回到頂端