CNEWS匯流新聞網記者王佐銘／綜合報導
面對生成式人工智慧（Generative AI）技術的快速發展與應用普及，被譽為「人工智慧教父」的圖靈獎得主、加拿大電腦科學教授班吉歐（Yoshua Bengio）宣布成立全新非營利組織LawZero，以期降低人工智慧對社會與人類帶來的潛在風險。
班吉歐長年致力於人工智慧的研究與應用，亦多次對其潛在危害發出警訊。他指出，隨著AI代理人（AI agents）的發展，電腦不僅能模擬人類語言，還能做出本由人類工人判斷的決策，這類「虛擬員工」正以極低成本逐步取代人類，形成新的風險來源。
「目前AI的開發目標，仍以利潤最大化為主，即使系統存在缺陷，也持續被大規模使用。」班吉歐直言。他更警告，若讓AI具備近似人類的自主決策能力，將可能被不法分子利用，從散播假消息、發動網路攻擊，到發展生物武器，後果不堪設想。
為了防範此類風險，LawZero將聚焦於開發名為「科學家AI（Scientist AI）」的全新系統。這項AI將扮演「AI的守門人」，具備監控與審查能力，確保其他AI系統的行為符合安全與倫理標準。班吉歐希望透過這項計畫，建立一套科學與社會共治的AI發展框架。
LawZero目前已集結超過15位研究人員，並獲得前Google執行長艾瑞克·施密特（Eric Schmidt）與其夫人溫蒂·施密特（Wendy Schmidt）所創立的慈善機構Schmidt Sciences資助，為未來AI治理注入新動能。
隨著生成式AI進入全民時代，如何在創新與安全之間取得平衡，成為全球科技界與政策制定者無法迴避的課題。班吉歐與LawZero的出現，或許正為這條艱難的道路點亮一盞指路明燈。
照片來源：CNEWS匯流新聞網資料照
《更多CNEWS匯流新聞網報導》
國內房市創8年新低紀錄 永慶房屋分析六都1到5月交易年減27.1%
【文章轉載請註明出處】
