AI被應用於武器研發的風險再受關注。Anthropic發布威脅情報報告指出，發現一個位於葉門北部的小組利用Claude參與飛彈與制導火箭研發，包括開發制導、導航與控制（GNC）軟體。
Anthropic表示，相關人員利用Claude Code處理部分原本需要軟體工程師完成的工作，包括撰寫控制與位置估算軟體、調整參數、韌體建置及飛行模擬，並曾進行一次制導火箭試射，但試射疑似失敗。
相關人員還被指曾隱藏軟體實際用途，並將工作拆分至不同對話，試圖規避Claude安全防護。Anthropic坦言，安全機制攔截許多請求，但並非全部，發現後已封禁相關帳戶。
不過Anthropic強調，目前沒有證據顯示相關人員成功部署可投入使用的武器，也沒有直接認定該小組就是胡塞武裝。由於葉門北部大部分地區由胡塞控制，才被部分媒體與胡塞武裝聯繫。
消息曝光後，PTT網友驚呼「AI恐怖份子」、「AI時代的矛與盾」，也有人認為事件凸顯AI正在降低部分技術工作的門檻；另一派則質疑Anthropic近期頻繁發布相關案例，並關注AI安全防護與使用者資料隱私問題。