← 回案例庫

AI協助整理毒素資料,建立生成候選分子的計算流程

Anthropic 記載,一名研究者使用 Claude 整理動物毒素資料,並建立在電腦上生成候選分子、調整其特性的流程。候選分子是研究者打算進一步研究的對象。研究者設定治療目標、提供材料,Claude 則協助整理資料與建立計算流程。(PDF 第136–137頁)

本篇重點

粗體標示本篇重點與重要提醒。

人定義問題,AI協助資料與計算

研究者明確提出止痛等治療目的,但相關知識也可能被用來造成傷害。這就是「雙重用途」:同一套知識可能有不同用途,不表示兩種用途都已實現。

Anthropic 根據對話判斷,這項研究屬於國家支持的計畫,並對其風險提出疑慮。這是 Anthropic 對背景與用途的評估;僅憑國家支持的研究背景,仍不能確認研究者有發展武器的意圖。(第136頁)

產出停在哪個階段?

報告記載研究者建立了資料圖譜與計算流程,但未交代各步驟的執行紀錄或驗證結果,未呈現研究者已實際製成這些分子、完成實體實驗驗證或將其用作武器的證據。

Anthropic 表示,其安全分類機制主要針對已知的高危害武器知識,這類新的雙重用途研究大致未被攔下。Anthropic 後來因服務地區政策封禁帳號,這不等於確認研究者有惡意。(第136–137頁)

查證與來源

Anthropic,Detecting and countering misuse of AI: September 2026,PDF 檔案頁序136–137。第130頁另說明,來源未公開研究者的國家與機構,也不斷言其有害意圖。本文未獨立驗證機構、研究進度或用途。

編輯修訂:2026-10-10。