美國聯邦貿易委員會警告科技公司別用 AI 做壞事

FTC 首要關心的是聊天機器人內的廣告。

FTC
FTC

美國聯邦貿易委員會(FTC)最重要的職責就是保護消費者,雖然說通常我們聽到 FTC 都是為了反壟斷或是貿易戰相關問題,但 FTC 同樣也關注消費者的權益,避免企業運用不當手法,對消費者造成傷害。稍早 FTC 的廣告實務部門檢察官 Michael Atleson 便對於 ChatGPTBing 等新一代的聊天機器人可能在哪些方面被濫用,以及 FTC 會在什麼樣的前提下介入,進行了初步的說明。

Atleson 表示,新一代的聊天機器人有能力影響人們的「信仰、情緒與行為」,同時人們容易誤認 AI 一定是中立不偏頗的,因此更容易盲信 AI。這本身比較是倫理問題,而不在 FTC 立即的管轄範圍中,但如果有公司利用 AI 的這些特性來佔消費者的便宜的話,那就歸 FTC 管了。可能的情境包括使用 AI 來打造瞄準特定族群的廣告,或是在消費者進行遊戲內購、取消服務或是其他活動時,以 AI 來影響人類的判斷。

就當前而言,FTC 的首要事項是要求聊天機器人如果要在回應中插入廣告時,必須要清楚讓消費者知道這是廣告。這包括了公開 AI 服務提供者與目標的網站、服務或商品間,是否有商業合作關系。當然,消費者也必須要知道自己是在和真人或是機器人進行對談。

最後,Atleson 對科技業界進行了明確的警告,表示在當下這個 AI 技術正在萌芽的重要時刻,各家公司要慎重考慮解僱與 AI 或軟體工程相關的道德和責任監管人員。如果 FTC 對公司的 AI 產品有疑慮,而該公司又正好在近期縮減了相關編制的話,FTC 很難給予這樣的行為正面的評價。這似乎有點針對 Twitter 的意味啊?