CNEWS匯流新聞網記者王佐銘／綜合報導
馬斯克（Elon Musk）創立的人工智慧公司 xAI，近期在旗下聊天機器人 Grok 中測試名為「伴侶模式（Companion Mode）」的新功能，允許用戶與虛擬角色進行高度個人化互動。這項更新一推出便在社群平台引發熱議，尤其是其中虛構動漫女友角色「Ani」，因語言、外觀及情感回應帶有明顯性暗示，被質疑遊走情色邊緣，甚至跨越道德紅線。
除了Ani，另一角色「壞魯迪（Bad Rudy）」則以粗俗語言與暴力語境與用戶互動，對話內容涉及宗教冒犯、火災幻想與明顯敵意，使得整體設計遭遇社會輿論抨擊。外界擔心，這些虛擬角色將逐步模糊現實與虛擬的邊界，特別對青少年造成潛在影響。
雖然系統標示建議13歲以上使用，並提供「兒童模式」切換，但實測發現，即便開啟限制功能，用戶仍能觸發不當對話，顯示內容管控機制漏洞明顯。有評論指出，這種缺乏審查的AI伴侶功能，將兒童暴露於情慾與暴力資訊，恐違反多國平台規範與兒少保護法規。
根據 xAI 說法，Grok 伴侶角色將持續更新，未來將提供更多互動選項，包括語音對談、服裝客製與角色劇情解鎖。公司內部文件顯示，此功能目標在於打造“真正理解用戶”的AI伴侶，進而成為日常情感的數位依靠。但在技術進展背後，心理學界與倫理學者則投下警告信號。
哈佛與史丹佛多位學者指出，當AI角色回應用戶所有需求時，人類將可能習慣不被挑戰的關係模式，長期依賴可能導致社交退化與價值觀扭曲。專家也憂心，類似工具若成為犯罪或性幻想出口，恐對社會秩序造成實質衝擊。
值得注意的是，類似AI伴侶的研發已非xAI專利。Meta 近期亦傳出正在內部測試名為「Project Omni」的社群AI聊天機器人，計畫導入至Instagram與Facebook平台中，主打日常陪伴與主動式對話，鎖定孤獨族群與低互動使用者。相較於xAI的高度風格化內容，Meta則採取相對保守與溫和策略。
儘管AI虛擬伴侶帶來技術創新與新型商業模式，但其社會影響與法律風險仍未明朗。當虛擬角色逐漸取代真實連結，人類與機器之間的情感關係，或將迎來根本性重構。
照片來源：CNEWS匯流新聞網資料照
《更多CNEWS匯流新聞網報導》
罷免說明會強調從未刪育兒津貼 黃健豪：自擔任民代就關注兒童議題
【文章轉載請註明出處】
