(活動報導)
「生成式AI」近年成為產業顯學,其資安問題也逐漸被人們所重視,由GDDA全球數位產業聯盟協進會(以下簡稱GDDA)與國際通商法律事務所(Baker McKenzie台北所)共同舉辦的「2024國際AI資安論壇」今(19)日下午於政大公企中心舉辦,論壇今年就以「生成式AI之導入與資安風險管理」為主題,邀請到行政院數位發展部黃彥男部長進行專題演講,並邀集Baker McKenzie國內外專家齊聚探討在生成式AI崛起的時代中,同時強化政府部門與企業在資訊安全的風險管理與因應措施。黃彥男部長表示,數發部將參考國際標準,推動人工智慧風險分級框架,讓政府單位可以按照分級框架來訂定主管業務的風險分級規範,更有效率地管理資安風險。
GDDA全球數位產業聯盟協進會 理事長邱月香
自去年GDDA與國際通商法律事務所首度開辦國際資安論壇,即受到各界的關注與討論。因應各界要求,今年雙方再次舉辦,論壇中特別邀請到數位發展部部長黃彥男博士,就「組織導入生成式AI的資安挑戰」進行專題演講。黃彥男部長於專題演講中坦言,生成式AI改變了大家的生活,像他自己現在也都用生成式AI製作年節賀卡,節省了不少時間,未來不會使用AI的個人和公司將有很大的淘汰風險。
數位發展部 部長黃彥男
黃彥男部長也指出,AI的廣泛使用也帶來了很多的資安問題,例如侵犯智財權、虛假訊息、國家安全、內容違法等問題。他強調,生成式AI可能遭到「提示詞注入」(Prompt Injection)的方式,被有心人士取得機敏資訊,因此數發部已將AI用在資安防護上,「用AI對抗AI」。他認為,資安不是政府單獨可以做到,必然要依靠公私協力來達成。
從左至右:Baker McKenzie 雪梨所合夥律師Ryan、Baker McKenzie 台北所 執行合夥律師黃麗蓉、GDDA全球數位產業聯盟協進會 理事長邱月香、數位發展部 部長黃彥男、Baker McKenzie 網路安全業務全球主席Cyrus Vance Jr.、Baker McKenzie 台北所 合夥律師李彥群
Baker McKenzie 台北所執行合夥律師暨爭端解決律師團隊主席黃麗蓉(Anna L.J Hwang)律師在論壇指出,人工智慧為企業帶來了一系列挑戰—從網路威脅、資料外洩、演算法歧視,到智慧財產權侵害、營業秘密洩露、法律遵循和勞動力替代—使企業面臨更高的爭端風險。但她認為,圍繞人工智慧的法律框架仍處於萌芽階段,各國對人工智慧的監管方式也不盡相同,使人工智慧容易成為企業法律遵循上的地雷區。
Baker McKenzie 網路安全業務全球主席Cyrus Vance Jr.也表示:「人工智慧驅動的網路威脅在全球範圍內持續增加。不法分子利用人工智慧進行更加複雜的攻擊,運用新技術實現高度個人化的網路釣魚、深度偽造、社交工程和多因子驗證(MFA)繞過,企業必須未雨綢繆。同時,隨著人工智慧的普及,企業面臨的訴訟風險也與日俱增。其中最為顯著的是智慧財產權訴訟的快速增加,儼然成為潛在爭端的最大領域之一,相關訴訟主張AI 訓練模型所使用的資料侵害了著作權、隱私權或其他類似的權利限制。」
Baker McKenzie 雪梨所合夥律師Ryan繼續說道:「作為生成式人工智慧的一個分支,大型語言模型(LLM)具備卓越的理解和生成類人文本的能力,已經改變了組織生成洞見的方式,包括在組織資訊安全方面。LLM 為不法分子和資安團隊都提供了強大的工具,僅通過簡單查詢就可以將大量數據轉化為可行的見解。但LLM 的有效性將取決於為其提供大規模、精確和具脈絡相關性的資料進行訓練和優化。倘若使用的訓練資料品質不佳,則可能使組織面臨各種風險,包括決策失誤和法規遵循風險。」
接著進行兩場次的法律專家座談,以線上國際座談會進行,分別討論「生成式AI之國際趨勢與案例分享」與「從AI到IA (國際仲裁)-跨國資安爭議處理」主題研討,從台北發聲,與Baker Mckenzie於8個不同國際專家,進行無時差的線上交流,分別是紐約所Cyrus Vance Jr.、雪梨所Ryan Grant、東京所Yoshiaki Muto、吉隆坡所Kherk Ying Chew、新加坡所Celeste Ang、香港所Philipp Hanusch與Gillian Lam,以及台北所的李彥群等資深合夥律師,共同於探討企業及公部門在引入AI時及引入後應注意的資訊安全風險管理以及應對資安危機時的爭端解決機制。
GDDA理事長邱月香表示,在2015年她擔任中華軟協理事長時即向蔡英文總統提出「資安即國安」的產業建言; 2017年也號召產官學研等各界代表,以推動產業Ai應用,邀請經濟部長沈榮津參與見證,成立Ai大數據智慧應用促進會。今年新內閣上任就喊出「AI力即國力」的口號,Ai與資安密不可分,GDDA特別再次與Baker McKenzie國際通商法律事務所合作,由專業的國際人才,帶來國際案例與專業知識與現場數百位的產業界、公務行政機關、學術研究界的來賓,齊聚一堂現場交流專業意見。
Comments