Re: [新聞] AI 換臉假影片可能形成國安問題

※ 引述《norvasc (Norton)》之銘言：
: 上報 Up Media
: AI 換臉假影片可能形成國安問題　陳明通：將訂應變SOP
: 上報快訊／洪子凱 2021年10月20日 18:05:00
: 網紅「小玉」利用AI Deepfake（人工智慧換臉）製作謎片牟利，不少名人受害，朝野立委在今天立法院外交及國防委員會質疑指出，倘若有心人士利用這項AI技術，移花接木將國家元首或高官換臉，恐會造成國與國宣戰的國安危機。
: 對此國安局長陳明通指出，會努力訂定應變SOP，
: 並邀請PTT、Facebook、Google等平台及業者商討對策。
: 百萬網紅「小玉」從去年7月起涉嫌利用AI Deepfake（人工智慧換臉）技術，將民進黨立法委員高嘉瑜等名人頭像移花接木，製成性愛影片，造成近百人受害。
: 陳明通20日至立法院外交及國防委員會提出專案報告並備詢，時代力量立委陳椒華詢問，近期假訊息頻傳，是否有意找Facebook、Google等公司對話並商討應對方法？陳明通回應表示，近期出現AI Deepfake不雅片議題，國安局會去找這些業者來商討對策。
: 民進黨立委劉建國與國民黨立委洪孟楷均擔憂，如果國安局在AI Deepfake議題上應變不夠快速或者未達水準，可能造成國家元首或高官遭變臉，衍生出國與國宣戰的國安危機，進而詢問國安局有無相關作為。
: 陳明通坦言，確實會造成國安危機，已邀專家及學者研討此議題，但他強調，這種事情「道高一尺，魔高一丈」，資訊進步得太快，不過會加強偵防，最重要的是要對外澄清影片並非事實並安定人心，也將找批踢踢PTT、Facebook、Google等平台及業者討論。
: 洪孟楷詢問，AI Deepfake在國安議題上茲事體大，國安局是否能夠在1個月內召集相關部會討論，並訂定標準作業程序（SOP）。陳明通回應，「我們努力」。
: https://www.upmedia.mg/news_info.php?SerialNo=127571
: 國安局長都表示要處理了
: 鄉民還真的以為是小事嗎

板上怎麼會覺得這是小事啊?

前兩屆美國大選不就看到AI換臉跟假消息的恐怖了嗎?

連FBI都警告說，Deepfake是嚴重的新興威脅，可用於各種形式的社會工程攻擊、
犯罪，甚至危及國家安全。

尤其是現在很多資訊其實流傳在特定族群之中，就算偶爾外流到其他社群上，
原本被當作目標族群的也不一定能得到正確資訊。

例如美國黑人就曾經被當作目標，散步假消息的方式影響選舉。

這麼嚴重傷害民主政治公平的事情，八卦板還視若無睹啊。

--