一、監管重點
歐盟 AI Act 第 50 條並不是籠統要求「說明用了 AI」,而是把義務拆成不同場景:直接與人進行雙向互動的 AI 系統,必須讓使用者知道對話對象不是人工;生成或操控內容的系統,還要處理機器可讀標記、可偵測性,以及面向使用者的標示問題。執委會於 2026 年 7 月 20 日發布的實施指引進一步強調,是否納入適用範圍,要看是否存在真正的雙向交流、是否由 AI 直接回應個人,以及該提示對一般使用者是否並非顯而易見;規則已於 2026 年 8 月 2 日正式生效。
二、對企業的影響
對雲端通訊、SaaS 客服與跨境平台而言,風險不只存在於公開網站聊天視窗,也在 WhatsApp 客服前置機器人、App 內說明中心、工單分流助理、登入異常說明、帳單爭議回覆等「半自動對話」場景。若企業把 AI 回覆包裝在真人客服品牌名下,或只在隱私政策中做籠統揭露,通常不足以滿足第 50 條要求;一旦業務涉及公共事務、金融、健康、消費者安全等公共利益資訊,生成文字的標示義務還會更敏感。跨境部署方也要注意,即使服務供應者不在歐盟,只要輸出結果用於歐盟,仍可能落入適用範圍。
三、操作建議
企業現在更需要做的是把「AI 透明」寫進訊息產品治理,而不是臨時補上一句提示語。實務上可分三層處理:先盤點所有對外對話觸點,區分純人工、AI 首答、AI 輔助人工與純自動推送;再為落入範圍的場景設定前置告知、會話中持續標識、轉真人節點與留痕;若涉及生成文字發布、富媒體素材或知識庫自動摘要,也應檢查是否需要機器可讀標記與可偵測方案。使用第三方模型、機器人平台或外包客服的團隊,合約中應補上責任分工、標示機制、稽核日誌與變更通知條款。
常見問題
網站聊天視窗已放上「智慧助理」字樣,還需要額外提示嗎?
只要機器人最後能轉真人,前面不提示 AI 也可以嗎?
我們在歐盟外營運客服系統,但服務歐洲使用者,也會受影響嗎?
參考來源
- Commission publishes guidelines on transparency obligations for providers and deployers of certain AI systems
- Guidelines on transparency obligations for providers and deployers of AI systems
- Quick Facts: Transparency rules for AI systems
- Code of Practice on Transparency of AI-Generated Content
- Signing the Code of Practice on Transparency of AI-generated Content