生成式AI的快速發展為科技與產業帶來巨大變革，但同時也引發假訊息、深偽影像與資訊安全等問題。專家指出，AI生成內容真假難辨，未來社會可能面臨新的資訊信任危機。
研究指出，生成式AI已能快速生成文字、圖像、聲音與影片，使假訊息的製作成本大幅降低。專家警告，AI可能使錯誤資訊以更快速度與更大規模在網路上擴散，對社會輿論與政治環境造成影響。
此外，AI在客服與商業應用中的信任問題也逐漸浮現。調查顯示，約68%的消費者對企業使用AI處理客服互動抱持低信任度，顯示部分民眾仍偏好由真人提供服務。
在企業導入方面，資料安全與隱私問題也是主要挑戰。研究指出，超過一半企業在導入生成式AI時，最擔心的問題是資料安全與隱私風險。
面對AI帶來的新挑戰，各國政府與科技企業正開始討論相關監管機制，例如建立AI生成內容標示制度、強化資料保護規範，以及發展AI倫理準則。
專家認為，AI技術發展速度遠快於制度建立，未來如何在促進創新與降低風險之間取得平衡，將成為各國科技政策的重要課題。
《更多CNEWS匯流新聞網報導》
救少子化0-6歲免健保費？ 醫界質疑淪「有錢孩子補助比窮孩子多」
【文章轉載請註明出處】