← 回四個問題

主題導讀

熟悉的口吻與正式文件,能證明對方身分嗎?

從模仿文風、冒用團體身分到隱瞞 AI 的交友互動,看信任如何被利用。

本站編者導讀 · 更新 2026-10-10

熟悉的口吻、正式文件與持續互動,都可能讓人願意繼續交談。AI 可以協助維持這些表現;要看清風險,先分清誰設定身分、工具生成什麼,以及對方被要求做什麼。

從過往貼文學習文風

Anthropic 記載,一項與伊朗政治反對派組織 MEK、NCRI 有關的活動,把一名運動者過往的貼文交給 Claude,讓它模仿文風,以這名運動者的名義與聯絡人對話。依 Anthropic 所知,對話對象不知道有 AI 協助。 熟悉的口吻,不足以證明訊息由本人撰寫或已獲本人授權。 來源明確記載的是文字模仿,不能據此認定有聲音複製;報告也未交代原帳號持有人是否授權,或提供成功招募人數。(PDF 第70–74頁)

文件外觀與交友互動

另一案借助 Claude 製作人權報告與預定在聯合國人權理事會發表的證詞,部分材料冒用真實團體身分;證詞與人物檔案是否送達,來源未能確認。交友案則是一家中國境內工作室,將 Claude 驅動的 AI 角色與真人混在同一配對服務,卻宣稱全是真人;真人負責視訊及社群互動,讓使用者降低疑心。 正式的署名或某一次真人互動,都不足以證明整個服務與所有訊息的身分。 報告記載交友案已有大量互動,但互動人數不能換算成付費人數或金錢損失。(第78–79、139–140頁)

來源說明

以上案例依據 Anthropic 的同一份調查報告;該公司也是 Claude 的商業供應商。本站未獨立取得全部底層紀錄,各案的來源限制見個案頁。

編者觀點 · 情境推演

給台灣讀者的啟發

以下是編者的情境推演。若中國政府或受託單位採用類似工具,可以讓 AI 模仿熟悉口吻、依固定規則接續對話,或起草帶有團體署名的文件。遇到敏感請求,可透過原有聯絡方式確認本人及授權。中國境內工作室的所在地,不等於政府參與的證據;這些案例也不支持把一般跨境交流或人權倡議一律當成情報活動。

從這三篇,依序比較

  1. AI 模仿運動者的語氣,以其名義接續對話

    一項與伊朗反對派組織有關的活動,提供約八千四百則 Telegram 貼文,讓 Claude 模仿運動者語氣並接續對話。人類仍審核內容;原帳號持有人是否授權,以及成功招募人數,都未獲確認。

    起讀案例

  2. AI 協助製作人權報告、人物檔案與證詞,部分材料冒用團體身分

    一名使用者讓 Claude 製作人權報告、人物資料與預定在聯合國人權理事會發表的證詞,部分冒用團體身分。Anthropic 高信心連結活動與阿聯官員,但證詞及人物檔案是否送達、政策效果均未確認。

    另一件不同活動,供比較方法與條件

  3. AI人物持續聊天,真人補上視訊等互動

    Anthropic 記載,中國工作室用 Claude 建置交友 App 並維持 AI 人物聊天,真人補上視訊等互動,卻宣稱全真人。兩週至少25,000名用戶互動,不等於每人都付款或受損。

    另一件不同活動,供比較方法與條件

以上導讀依各篇所列 PDF 頁碼整理;原始來源、歸因與未知請見完整案例。這些案例不屬同一場行動。

選另一個問題 →