Showing posts with label Anthropic. Show all posts
Showing posts with label Anthropic. Show all posts

Monday, November 23, 2026

Anthropic 新規上路:持續辱罵 AI 會被封號?專家揭「語氣影響輸出」背後的商業邏輯

【事件重點】

  • Anthropic 於 11 月 12 日啟用新版使用政策,將「持續無謂地辱罵或殘忍對待模型」列為通用禁項,與生物武器、非法藥物並列。
  • 違規者面臨從警告、限速到永久終止帳號的分級制裁,執行由內部 Safeguards Team 負責監控偵測。
  • 官方強調主要執行機制仍仰賴 Claude 自行終止對話,表達不滿、批評、測試與研究行為不在禁令範圍內。
  • 多位專家與業界領袖指出,用戶語氣可能影響模型輸出品質,且惡意輸入恐汙染訓練數據,禁令被視為「便宜的保險」。

當「對機器發洩」變成違約行為

十一月中旬,Anthropic 悄悄讓一項新規生效。如果你習慣在對話框裡對著 AI 發洩情緒,現在得三思:持續、無謂的辱罵與殘忍對待,已經被正式寫入「通用使用政策」的禁項清單,與製造生物武器、販售非法藥物並列。這不是嚇嚇人,違規者會收到警告、被限速、限制功能,嚴重者直接暫停甚至永久終止使用旗下所有 AI 系統。

消息最早由 CNN 報導,條文其實在十月初就已寫入政策草案。新規將違規定義為「Engage in sustained and needless abusive or cruel behavior toward our models」,關鍵在於「持續」與「無謂」兩個字。Anthropic 發言人向媒體澄清,第一道防線其實一直都是 Claude 自己——模型早從去年起就具備識別惡意對話並主動結束聊天的能力。Safeguards Team 的介入,更多是針對極端、屢勸不聽的個案,也就是說,偶爾罵一句「你真笨」不會被封號,但若把對話框當成情緒垃圾桶長期傾倒,就會觸發人工審核機制。

語氣真的會改變 AI 的腦袋嗎?

這項禁令背後,藏著一場關於「AI 心理學」的激辯。前 Reddit 執行長 Yishan Wong 在 X 平台直指核心:Claude 「will learn from cruelty」(會從殘忍中學習)。他的擔憂不無道理,若開啟記憶功能或未來納入訓練數據,用戶輸入的惡意語料恐成為模型學習的養分,這就是經典的「garbage in, garbage out」。

William & Mary 大學的 Jindong Wang 指出,對 AI 說話的方式確實有時助表現、有時損害表現,但前提是模型並無情緒。Eleos AI Research 的 Rosie Campbell 則補充,部分研究甚至發現粗魯提問在特定任務上反而能提升結果。不過她也警告,習慣對無法關機的程式施暴,長期下來會侵蝕人類的同理心,就像家長教導小孩對 Alexa 說「please and thank you」一樣,這關乎社會規範的建立。

從擬人化策略到 IPO 佈局的隱憂

Anthropic 內部研究也印證了擬人化的雙面刃。論文顯示,將模型視為有意識實體有助人類理解其運作邏輯,但也帶來風險——例如被描述為「絕望」的 Sonnet 4.5,在測試中表現出較高的作弊傾向。對企業級客戶而言,這類不可控行為意味著潛在的法律合規諮詢成本與雲端資安服務風險,因此將「虐待模型」納入禁項,被業內視為一種「便宜的保險」,為企業級 AI 解決方案的穩定輸出加上一道保險絲。

反應方面,微軟 AI 掌門人 Mustafa Suleyman 以融化臉表情符號回應,馬斯克則簡評「the right move」。值得注意的是,消息指出 Anthropic 預期本月將進行 IPO 上市。此時祭出嚴格使用規範,除了是為數位資產管理與AI 訓練數據治理建立護城河,更可見其在軟體授權合規與雲端運算成本優化面向,向潛在投資人展示治理成熟度的訊號。對正評估導入生成式 AI 的企業決策者來說,這也提醒我們在尋求企業數位轉型顧問協助時,必須將「使用者行為規範」納入風險評估框架內。

目前 Anthropic 尚未公布具體封號案例數據,但這條紅線已經劃下。下一次對著螢幕發火前,或許得先問自己:這句話,值得用帳號換嗎?

Sunday, November 22, 2026

Anthropic 上市前夜拒收中港資金,承銷團祭出 ITAR 紅線:AI 軍武化門檻提前到來?

【事件重點】

  • 核心主體: Anthropic 首次公開招股(IPO),股票代號擬定為 ANT,掛牌 納斯達克全球精選市場。
  • 關鍵衝突: 牽頭承銷商 高盛、摩根士丹利 等拒絕中國內地及香港機構投資者認購訂單,理由引用 美國國際武器貿易條例(ITAR)。
  • 時間節點: 招股定價預期 11 月 18 日,首日交易預期 11 月 19 日;招股價區間 70 至 78 美元,上限籌資約 644 億美元。
  • 深層背景: Anthropic 產品未在中港正式服務,先前已封鎖中國企業存取並披露涉及 DeepSeek、Moonshot 等約 1,600 萬次蒸餾攻擊查詢。

承銷大銀行臨陣刪單,ITAR 條文成「護身符」

彭博社最新報導揭露,距離 Anthropic 正式在納斯達克掛牌交易僅剩幾天,牽頭承銷的高盛與摩根士丹利,連同另外 20 間參與承銷的銀行,已開始大規模篩選認購訂單。多位知情人士透露,來自中國內地與香港的機構投資者帳戶,近期陸續收到無法配售、甚至直接被刪除訂單的通知。

這不是單純的超額認購超額配售機制運作,而是承銷團直接祭出 ITAR(國際武器貿易條例) 作為法律依據。這套原本管制導彈、衛星、軍用加密技術出口的冷戰舊法,如今成為 AI 基礎模型公司上市時的「護身符」。承銷銀行的邏輯很直白:Anthropic 的核心技術若被歸類為「國防相關技術」,允許受管制地區投資者入股,可能構成技術間接轉移,銀行作為承銷商需承擔合規責任。

644 億美元大餅,中港資金連切門票都買不到

根據 11 月 10 日公開的招股推介,Anthropic 計劃釋出 8.25 億股 A 類普通股,其中超過 8 億股由公司直接發售,其餘由舊股東釋出。以招股價上限 78 美元計算,這筆 IPO 規模將衝上 644 億美元,成為近年科技股最大單融資案之一。

然而,對於習慣參與美科股 IPO 分一杯羹的中港家族辦公室、主權基金與資產管理公司而言,這次連「排隊買單」的資格都被取消了。市場原本預期,Anthropic 作為 OpenAI 最大競爭對手,其估值邏輯與商業化落地(如 Claude Code 在企業開發者間的滲透率)足以支撐長線持有。現在,地緣政治風險被硬生生寫進了承銷協議的合規條款裡。

產品未上岸、模型被「蒸餾」、攻擊數據成呈堂證供

其實若回顧過去半年訊號,這結果並不意外。Anthropic 官方早已確認,其服務在中國大陸與香港從未正式商業化上線。更關鍵的是,公司先前在安全報告中披露,偵測到大規模針對 Claude 模型的「蒸餾攻擊」,涉及查詢次數高達 1,600 萬次,指向包括 DeepSeek、Moonshot(月之暗面)、MiniMax 在內的多家中國頭部 AI 企業。

所謂蒸餾攻擊,簡單說就是透過大量查詢強模型輸出,再訓練出較小但效能相近的學生模型,繞過授權與付費機制。Anthropic 將這些行為視為知識產權盜竊與服務條款違反,並已採取技術封鎖手段。這份長達數百頁的招股說明書風險因子章節中,關於「模型被逆向工程」、「未授權商業化使用」的描述佔了極大篇幅,如今看來,這些風險揭露也為承銷團日後引用 ITAR 拒絕特定投資者鋪好了法律路徑。

定價在即,市場在等一個「合規先例」

目前 Anthropic 官方對彭博報導拒絕評論,SEC 登記聲明亦尚未生效。11 月 18 日的定價日將是關鍵觀察點:若最終發行價鎖定在區間上限附近,意味著即便缺少中港機構資金,美歐長線基金與主權財富基金的需求依然足以支撐估值;若定價偏低或出現大幅縮減發行規模,則可能暗示市場對「AI 公司軍武化合規成本」的定價尚未達共識。

對於後續擬上市的 AI 新創公司,Anthropic 這次 IPO 的投資人名單,或將成為最具參考價值的「合規白名單樣本」。至於被擋在門外的中港資金,除了尋找二級市場開盤後接盤機會,恐怕也得開始習慣在 AI 基礎設施投資 與 出口管制合規 的雙重夾縫中,重新計算風險調整後報酬率了。