過去，一頁式詐騙電商網站盛行，但這類型網站2022年下架數量還不到3千件。在數位發展部成立後，透過技術攔阻，2023年下架數量擴增到三萬多件，等於每天將近百件。
以往詐騙集團打電話，用的是真人，只能一對一，要假冒名人，可能還需要先訓練模仿。但當AI技術越發成熟，詐騙也被「賦能」了。
2年前，Deepfake（深偽）技術出現，為了幫眾人先打預防針，我請演員來deepfake 我自己，拍了一部影片。因為五官相似，如果不另外說明，觀眾只會覺得唐鳳造型變了，不會知道那其實是另外一個人。
該影片的製作，並不需要先進設備或高昂費用，使用的都是公開可得的技術，只需一台筆電、用12個小時就能完成，不是什麼大工程。
如今，詐騙集團已經利用AI在通訊軟體上跟人交流，除了用文字，還有聲音，甚至開視訊影像，讓人產生和名人對話的錯覺，進而上當。
因為AI能同時與幾萬個人聊天，一下子就讓許多人受騙，造成嚴重危害。
數位部「以AI治AI」，開發出「詐騙樣態分析」、「防詐雷達」等技術，平均每天掃出上千筆可疑廣告、電商商品，提供給大型平台做複查跟處理，以及給電商進行預防性下架。
立院去年也通過《證券投資信託及顧問法》修正案，讓平台負起連帶責任：當有被害人指證，是因為看到該平台廣告而受騙，且該則廣告有接獲檢舉通知、卻未在二十四小時內下架時，被害人被騙多少，平台就要負連帶損害賠償責任。
詐騙集團之於我們，是攻擊和防守的兩方力道抗衡。隨著影音合成技術日新月異，越來越容易引人上當，我們得用更難偽造的事情，來提高詐騙廣告上架的難度。
防詐最好的方式就是「真實」。什麼能代表一個人的真實身分？我們的解法，是難以偽造的「數位簽章」。
自然人憑證、工商憑證、組織及團體憑證，這些憑證雖然在國內行之有年，但在修法前，並沒有推定為本人親簽的效力。這次《電子簽章法》的修法，就是希望讓「數位簽章」效力等同印鑑證明，獨一無二、不能被仿冒。
未來，要在大型平台上架投資廣告，必須使用數位簽章，證明為本人或真有名人授權，才能用其名義做廣告。
而當一則廣告被檢舉為可疑、遭到撤銷，當事人想要再度上架，就得用新的名字，但詐騙犯不可能一直去戶政事務所改名。
進入AI世代，眼見不再為憑。防守方也必須主動出擊，才能以AI治AI。
