大型語言模型 Claude 開發商 Anthropic 於美東時間週一(10 月 26 日)向美國證券交易委員會(SEC)提交首次公開發行(IPO)申請書(S-1),內容披露財務、治理架構與風險因素,並預計在納斯達克(Nasdaq)以代號 ANT 掛牌。
Anthropic 將成為全球業界第一家純 AI 公司上市,外界視為該技術能否獲得資本市場信任的指標,S-1 文件中最受關注的是公司直言 AI 可能對人類構成重大威脅,且類似擔憂在組織內部也存在。
Anthropic has filed an S-1 registration statement with the SEC related to its proposed IPO. Read more: https://t.co/ofhv0DK3Zp Legal disclaimer: A registration statement relating to these securities has been filed with the SEC but has not yet become effective. These securities may not be sold, nor may offers to buy be accepted, prior to the time the registration statement becomes effective. This post does not constitute an offer to sell or the solicitation of an offer to buy these securities, nor shall there be any sale of these securities in any state or jurisdiction in which such offer, solicitation or sale would be unlawful prior to registration or qualification under the securities laws of any such state or jurisdiction.
針對 Claude 引發的災害成本,Anthropic 在文件警告一旦發生災難性的 AI 事故,沒有單一保險公司,甚至整個保險業都未必有足夠的承保能力。
至於人為濫用,Anthropic 列出惡意軟體製作、網路釣魚與基礎設施攻擊,並指出已有駭客利用 AI 尋找漏洞、生成惡意程式並躲避偵測工具,生物領域的濫用則可能造成更大傷害。公司也擔心 AI 會使權力與財富集中、動搖地緣政治秩序,並被威權政府用於高科技監控。
此外,Anthropic 提到可能面臨 AI 傷害引發的監管行動,例如兒童或有自殺風險者使用 AI 的問題,系統行為的責任歸屬還有不確定性。然而,Anthropic 認為 AI 是「人類歷史上影響最深遠的技術之一」,可望帶來「數百萬個能徹底改變人類各領域的虛擬代理」,大幅加速生物與醫學進展,甚至找到癌症、阿茲海默症的解方,並推動經濟持續成長。
其他關於 Anthropic 上市列出的風險可參考 S-1 文件,至於 AI 是否可能走向人類毀滅,目前仍沒有定論,但真正值得警惕的未必像電影 AI 有意識決定消滅人類,而是它的能力與自主性不斷提升,人類卻無法建立足夠的監督與控制機制。
如遊戲產業已出現具體案例,部分獨立遊戲開發商擔心參與 Steam 新品節會被 AI 工具快速逆向分析仿製,進而取消公開 Demo 或改採封閉測試;公司被駭事件頻傳,有攻擊者利用 AI 加速漏洞研究、製作惡意程式及規避偵測,讓原本需要專業知識與大量時間的攻擊行為更容易擴大規模。