AI把社群貼文整理成人物標籤與政治傾向評分
Anthropic 記載,一個商業監控平台的使用者把社群貼文分批交給 Claude,要求推測發文者所屬的群體、位置與政治傾向,再整理成阿拉伯語簡報。Claude 負責分類貼文與製作簡報,使用者可以按同一套要求,將不同貼文整理成對發文者的描述。(PDF 第82–84頁)
本篇重點
粗體標示本篇重點與重要提醒;「編者觀點」區塊是本站的延伸分析。
使用者定義分類,AI反覆套用
平台使用者指定群體、地點,以及支持或反對政府等分類,再由 Claude 判斷發文者屬於哪一類,並評估自己有多大把握。Claude 承擔了閱讀、整理貼文與製作簡報的部分工作;報告沒有提供與人工處理相比的工時數據。(第83頁)
另一部分工作,是為不同立場的虛構人物製作多語貼文。報告記載,相關工作涉及超過255個合成帳號,也就是以虛構人物為基礎的帳號。Anthropic 推測,使用者是在準備日後使用的帳號,但未確認這些帳號是否全部上線。
觀察到的能力與對外宣傳分開看
Anthropic 認為,這些活動與商業情報業者 S2T 或替它工作的人有關,並推測客戶可能位於波斯灣地區,但未確認實際買方。(第82–83頁)
Anthropic 調查時,這些活動仍在試行。第84頁圖表列出的監測與分類,是調查已觀察到的活動;滲透私人群組及入侵裝置則不在調查可見範圍內,不能視為已完成。即使模型對自己的判斷很有把握,也不代表人物身分已經核實;報告沒有提供誤判率。
編者觀點 · 情境推演
給台灣讀者的啟發
以下是編者的情境推演。若中國政府或受託單位使用類似能力,就可能隨著新貼文出現,持續更新對發文者的分類與記錄。AI 可以協助閱讀與製表;如果使用者把這些推測放進正式簡報,錯誤的人物標籤也可能跟著被複製與使用。
查證與來源
Anthropic 是報告發布者,也是 Claude 的商業供應商。
Anthropic,Detecting and countering misuse of AI: September 2026,PDF 檔案頁序82–86。本文未獨立驗證人物分類、公司關係或客戶;報告引用其他調查,也不等於本專案另行驗證了該調查。
編輯修訂:2026-10-10。