Newsletter
數發部訂立人工智慧風險分類框架
數發部訂立人工智慧風險分類框架
曾更瑩／鄭凱耀
數位發展部（下稱「數發部」）於115年7月7日發布「人工智慧風險分類框架」（v1.0）（下稱「AI風險框架」）。AI風險框架係由數發部依據《人工智慧基本法》（下稱「AI基本法」）第16條所制定，主要目的是作為我國各目的事業主管機關（下稱「各機關」）間，AI風險治理之共通指引及標準，現階段對非公務機關之AI應用不具直接拘束力。此外，AI風險框架適用範圍不包括軍事相關之AI應用。
各機關應依循「盤點應用情境→識別風險→評估風險→應對風險」之四步驟操作流程，進行AI應用之風險評估與應對，並據此訂定所規管目的事業之管理規範：
一、盤點應用情境
各機關應蒐集並整理所規管事業中，現有或預計導入之AI應用情境、涉及之AI技術、相關利害關係人及應用領域或產業等背景資訊，作為後續AI應用風險識別、評估與應對之準備。
二、識別風險
各機關應對照AI風險框架所提供之「AI風險類型表」進行風險識別。該類型表彙整現階段已知之20項AI應用風險子類型，並區分為「AI系統本身之技術設計缺陷」、「部署後操作及人機互動問題」及「社會結構與環境衝擊」三大類。數發部將定期系統性檢視並修訂該類型表。
三、評估風險
各機關進行AI應用風險評估時，應以客觀上，AI應用之固有風險進行衡量，只要有造成危害之可能即為已足，不以實際發生損害為必要，且不考慮現有法規、行政措施或技術手段之緩解效果。若該應用情境對國家安全、人民基本權利、生命安全、財產保障、社會秩序或生態環境可能造成嚴重危害，各機關即應認定其為AI基本法第17條第1項所定之高風險AI應用；AI風險框架並於附錄二提供「造成嚴重危害例示表」供對照。
四、應對風險
各機關應檢視現行法規及行政措施是否足以因應已識別之風險，並就涵蓋不足或尚無應對措施之風險，依比例原則規劃適當之措施，且應定期評估、檢討及修正相關法令與規範。
本所數位產業、通訊傳播及個資保護分工小組將持續追蹤AI基本法、AI風險框架及相關行政管理規範之進展，如 貴公司就相關法規有任何疑問，敬請聯繫本專業分工小組。