AI 能不能幫壞人設計出生物武器？這個問題聽起來很像好萊塢電影，但現在連 AI 公司自己都說，最先進的模型在這方面已經跨過了危險門檻。問題是：到底要危險到什麼程度，政府才該出手？曾任白宮國家安全會議全球衛生安全與生物防衛資深主任的 Raj Panjabi，最近在《財星》（Fortune）雜誌投書，給了一個很實際的答案：不要等到大家吵出共識，要先把「警報線」畫好。
一場差點驚動總統的禽流感
Panjabi 拿自己的親身經歷開場。2023 年，他的團隊正在檢視流感大流行的應變計畫，白宮戰情室突然傳來消息：柬埔寨一個偏遠村莊爆出 H5N1 禽流感，一位父親被感染，他的女兒則不幸病逝。國家安全顧問問他：要不要馬上向拜登總統報告？
Panjabi 建議先等等。原因是團隊事前早就講好，真正的緊急狀況要以「出現持續的人傳人」為準。他們調出附近急診室的監測資料跟往年比對，發現病例數並沒有異常增加，最後也就沒有驚動總統，避免了一場可能的大流行恐慌。
他想說的重點是：模糊不清的訊號最可怕，因為每次都會變成要嘛恐慌、要嘛輕忽。他在文章裡寫道：「『還沒』是有用的資訊，但它不是計畫。」
AI 公司自己都在拉警報
為什麼現在要談這個？因為警訊已經一個接一個冒出來了：
- Anthropic 揭露濫用案例：Anthropic 公開了 5 起旗下模型被拿來做生物方面濫用的案例，其中一起是研究人員用來研究 H5N1 怎麼適應哺乳類、怎麼在呼吸道以外引發疾病，相關帳號已經被停權。
- Anthropic 執行長到聯合國喊話：Anthropic 執行長 Dario Amodei 9 月下旬在聯合國安理會上，呼籲各國支持禁止用 AI 製造生物武器。
- 比爾・蓋茲也擔心：蓋茲提醒，今年 AI 已經跨過包括生物攻擊能力在內的多道門檻，他說最令人擔心的門檻是「AI 能不能設計出足以殺死數百萬人的生物恐怖武器」。
至於政府這邊，美國總統川普 9 月底跟多家大型 AI 公司的領導人簽了《白宮超級智慧協議》（White House Accord on Superintelligence），要求企業加強內部控管，生物安全風險也包含在內。但 Panjabi 指出，這份協議是自願性的，什麼樣的防護才算夠、風險多嚴重才要採取行動，基本上還是交給企業自己決定。
當然也不用太恐慌。報導也提到，就算 AI 真的設計出危險的東西，要把電腦裡的設計變成實體威脅，還需要合成的基因材料、專門的實驗室設備和安全設施，這中間還有好幾道關卡。
Panjabi 開的三張處方：先講好「看到什麼就做什麼」
Panjabi 的核心主張，是把每個「觸發條件」都配上事先講好的「對應行動」：
- 觸發條件：有證據顯示，非專家靠 AI 解決了原本需要專家判斷的實驗難題。對應行動：模型上線前由獨立單位做紅隊測試，不能只靠企業自願揭露。
- 觸發條件：有 AI 生成、令人擔憂的基因序列，被拿去向合成業者下單，或丟進自動化實驗室執行。對應行動：生物設計系統要導入浮水印和追蹤工具。
- 觸發條件：證實 AI 大幅降低了危險生物研究需要的實作經驗。對應行動：擴大 DNA 合成業者、雲端實驗室和桌上型合成儀的篩檢。
不過他也點出現實的難處：一項擴大這類篩檢的跨黨派參議院法案，從 1 月到現在都沒有進展。
整篇看下來，我覺得 Panjabi 最有說服力的地方，是他沒有喊「AI 很危險，快禁止」，而是用防疫的老經驗告訴大家：危機來的時候，最大的敵人往往是猶豫不決。他自己說得很好：「在我經歷過的幾乎每一場危機裡，關鍵時刻總是在大家還沒同意它已經來臨之前，就先到了。」AI 跑得這麼快，與其等出事再吵，不如現在就把劇本寫好。
資料來源
- Dagens：Biosecurity expert warns about artificial intelligence threat thresholds（Lauge Risom Koch，2026-10-09）
- Fortune：Raj Panjabi 投書原文（2026-10-09）
