罰10億！歐盟《人工智慧管理法草案》八類高風險技術

因此，只要充分了解該草案定義的第一類和第二類技術，就可大致出評估這法律對人工智慧業界的衝擊了（嚴格言之，規範客體可區分為技術本身或特定領域 ... 廣告分享文章分享至FB分享至LINE複製連結首頁AI科技科技與惡罰10億！歐盟《人工智慧管理法草案》八類高風險技術，台灣業者別踩雷｜李崇僖專欄 歐盟執委會發布的《人工智慧管理法草案》將影響AI產業及市場發展。

圖片來源：Shutterstock2021-04-26文・李崇僖3399 台灣時間4月21日晚間，歐盟執委會發布了《人工智慧管理法草案》，將交由歐洲議會等機關審議。

此法案的影響全面且深遠，卻也非橫空出世，除已醞釀三年之久，相關內容也有跡可循。

本文將從歐盟對人工智慧的思維脈絡，初步解析該草案；由於草案內容甚多，本文將不涉及太多細節的制度說明，而是分析歐盟這次立法的背景與決心。

2018年起，歐盟從就開始探討人工智慧的發展策略，並制定了會員國的合作計畫。

當時列出的目標，就是要吸引投資、人才，並維護歐洲人權價值，但具體的做法並不明朗；當時只知道，最重要的是，歐盟會員國在此事上必須集體行動，不能被美、中的商業力量分化。

簡言之，因為科技的變化太快速了，當時的歐盟對人工智慧發展前景，只有「抱團」心態是確定的，其餘都不確定。

而在2019年，歐盟的高級專家小組則提出了〈可信任的AI之倫理綱領〉，內容針對人工智慧技術開發與應用該遵守的倫理原則，提出具體七項要素。

歐盟執委會強調，這份文件僅是專家小組發布的建議，沒有法律拘束力；而在發布後陸續蒐集各界回饋意見，卻已可嗅出準備立法的風向。

對於將來的立法架構，這份文件扮演了重要的標竿角色，將科技、人權與倫理的交錯進行了議題錨定。

歐盟曾提出〈可信任的AI之倫理綱領〉，也成為未來的立法方向。

圖片來源：Shutterstock 接著在2020年，執委會以前述各界回饋意見為基礎，頒布了《人工智慧白皮書》，明確提出未來歐盟將規範人工智慧，管制模式是「根據風險區分管制」（risk-basedapproach）。

廣告至此，歐盟已對於用法規管制人工智慧有明確的意向與方法——為兼顧科技發展與人權價值，優先管制高風險的人工智慧應用，低風險的人工智慧就以該領域既有的法規來規範即可，不必因為是人工智慧科技就另立規範；此原則也具體落實在這次公布的《人工智慧管理法》草案架構中。

既然是根據風險區分管制，哪些人工智慧技術會被列為高風險，就是重點。

這次公布的草案，將規範對象分為三層次：完全禁止使用的技術、高風險應受事前管制的技術，有限風險和最小風險的技術，則受到最低度規範。

因此，只要充分了解該草案定義的第一類和第二類技術，就可大致出評估這法律對人工智慧業界的衝擊了（嚴格言之，規範客體可區分為技術本身或特定領域應用，例如生物辨識是一種技術，而將生物辨識用於防範犯罪則是一種司法應用。

本文為行文方便統一稱為「技術」）。

「完全禁止的技術」即針對絕對違反歐洲人權價值的類型，本草案第五條列出四項絕對禁止的人工智慧技術，分別是： 該技術透過操控人類潛意識，達到扭曲其行為且造成身心傷害者。

該技術針對年齡（老人或兒童）或身心障礙之特殊群體加以剝削，扭曲其行為造成身心傷害者（這兩項定義不明確，要如何判斷是否構成身心傷害？）。

該技術提供公務機關對人採用社會信用評分，造成對其個人不合理的差別待遇（即中國施行的「社會評分制度」）。

在公共場合基於法律執行目的，而進行遠端即時性生物辨識技術（也是中國施行的那一套）。

例外允許條件，是尋找失蹤兒童之類的犯罪受害人，或基於防範恐怖攻擊，以及針對已被鎖定的重大刑案嫌疑犯。

廣告 以AI進行「社會信用評比」、造成不合理的待遇，已違反歐洲的人權價值。

圖片來源：Shutterstock 由此分類可知，第三和第四類技術主要防範國家濫權，第一和第二類技術則可能禁止某些商業行為的人工智慧應用；但執行上需要主管機關更明確的認定標準。

但該草案要求各會員國須指定法案的專責機關，有助釐清適用標準。

至於高風險的人工智慧技術，雖不被禁用，但會受到嚴格管制；包括事前須先做測試與評估報告，確保訓練資料集的品質，並經主管機關列管核准才可使用。

此外，也有嚴格的事後監控、通報與改善義務（詳細的管制規定在此文無法細述）。

高風險技術的類型規定在草案第六條，主要引用此次同時公布的附件二及附件三。

附件二列出歐盟既有的各種風險相關管制規範，只要人工智慧技術是這些安全規範的核心技術，就會被列為高風險技術。

邏輯是，現行風險管制規範的存在有其道理（亦即涉及重要的社會利益保護必要）；若交由人工智慧技術落實其規範，則該技術的可靠度就攸關社會重大利益，應嚴格管制該技術的使用條件。

附件三更列出了特定技術或應用方式構成的八大類高風險技術，分別是： 遠端生物辨識技術（不限公務機關使用）； 做為道路、水電等基礎公共設施安全維護的技術； 在教育與職訓中發揮挑選或評分功能的技術； 在職場對員工進行管理目的的技術（包括雇用決定與績效評分）； 用來決定可近用特定服務之優先順序的技術，包括社會福利、金融信用、消防或醫療緊急服務； 作為法律執行輔助的技術，包括類似測謊功能、評估被告或受刑人再犯機率等多種技術應用； 用於移民、庇護、邊境管制目的之技術； 提供司法機關法規調查使用的技術。

廣告 前述界定的高風險科技類型，無論是技術提供者使用者都須嚴守管制規範，違反者最高將被處罰3,000萬歐元罰鍰或全球營收的6%（以較高金額者處罰）。

需要遵守此規範的業者不限於歐盟國家成立的企業；歐盟以外的企業若提供AI產品或AI服務給歐盟地區，或在歐盟地區販售在歐盟境外使用該技術產生的產品，都受到該法律規範。

因此，台灣的廠商也必須正視此規範的衝擊。

雖然此草案後續審議時間可能長達數年，但AI技術開發也需要相當時程；開發過程應切實做好相關紀錄，否則很難符合該規範要求的透明性等文件要求。

此草案將來的立法進度，牽動全球人工智慧科技發展的命運，也與國際政治經濟因素相互糾葛。

台灣哪些人工智慧開發方向會受此規範衝擊，也應儘速標定，並提高其技術與產業標準。

（延伸閱讀｜最嚴個資法GDPR後又一新科技規範！沒約束力，歐盟為何還要推「人工智慧倫理準則」？） 《人工智慧管理法草案》影響甚大，包含台灣的智慧醫療產業。

圖片來源：Shutterstock 例如，台灣有科技業者開發員工面試與管理的AI系統，這明顯屬於前述第四類的高風險技術；台灣在醫療AI也投資甚多，若其中應用於急診室之檢傷分類或留院觀察與否之傷病預測，也可能屬於前述第五類的高風險技術。

台灣業者開發的技術要推廣到歐洲市場，開發階段就應做好法遵規劃。

基於此，本專欄今後將持續對該草案內容進行更深入解析，並從國際政治、科技競爭與台灣角色戰略的不同角度，提出觀點。

（延伸閱讀｜獨裁政府對單一個資沒興趣？對AI下令，你就可能被撈到！） #AI #人工智慧 #人工智慧白皮書 #人工智慧管理法 #李崇僖 #歐盟 #科技倫理 李崇僖 臺北醫學大學醫療暨生物科技法律所創辦所長，研究專長在醫療科技倫理與法律政策、人工智慧法律議題、智慧財產權法等。

有感於學術界對於跨界觀點與法政策實務關注不足，因此在本專欄希望多探討科技與政治經濟之關係、法律與社會文化之關係、倫理與政策治理之關係。

其他人也在看科技趨勢八張圖，一次搞懂人工智慧的現在、未來，及對你工作的影響科技與惡獨漏「科技民主」的聯合國AI倫理建議書，該如何看待？｜李崇僖專欄科技與惡李崇僖專欄｜先出發不一定比較快！微軟、Google人工智慧都出包　歐盟搶時機推倫理準則你可能有興趣科技與惡獨漏「科技民主」的聯合國AI倫理建議書，該如何看待？｜李崇僖專欄科技與惡李崇僖專欄｜先出發不一定比較快！微軟、Google人工智慧都出包　歐盟搶時機推倫理準則科技趨勢人工智慧是什麼？AI應用案例、技術、未來發展都有的必修知識包來了科技與惡當你的個資變成他的商機⋯⋯Facebook、Google、Amazon、Apple，誰管得住科技四巨頭？科技趨勢可解釋人工智慧XAI　把黑箱模型變透明｜投書科技與惡城市圖書館｜人不可殺人，那人工智慧可以嗎？萬一錯殺，該工程師負責嗎？科技趨勢科技島讀Podcast｜從邊緣挑戰雲上的人工智慧｜特別來賓耐能智慧創辦人劉峻誠影音推薦歡迎加入淡水河系，讓我們成為河域世代最棒、共同改變未來的領導人已成功複製連結廣告您的帳號尚未驗證為提供您更好的服務品質，請先完成E-mail驗證流程 下次再驗證 發送驗證信 已發送驗證信 天下雜誌群已發送驗證信至您的信箱：請於2小時內點擊信件內的驗證連結，即可繼續使用。

※若您未在信箱中找到驗證信，請檢查您的垃圾郵件。

好