2025-04-12 Claude Mythosについての現状調査
賞味期限の短い記事となることが明白ではあるが、書かずにはいられなかった。
最初に言っておく。Claude Mythosについての公式発表内容が全て誇張なしの事実だとして、それが実現している社会において、情報リテラシーはより一層重要なものとなる。
熱狂の中から「何が事実であるか」「そこから何が言えるか」を冷静に抽出することでしか、自分たちが何をするべきかは見えてこない。
（会社のNotionから事後転記）
## 方法
Anthropicの公表している各種ステートメントについて
①第三者からの情報提供で裏取りが可能かどうか
②公表している事実について、嘘をつく理由がない／希薄であることが指摘できるか
の観点から検討を加え、その結果のみを事実として認識する。
その上で、事実として残った情報から演繹（やそれに近い形で導出）できる、今後の社会動向にまつわる予想を述べる。
細かい引用・参照表示は面倒なので略する。結論と思考過程だけ受け取ってほしい。
## 雑感
大仰に過ぎる物言いが蔓延ってこそいてハイプ感が強いものの、発表内容が真実であるのはある程度確か
程度はともかく、一部傍証も出ている事項（モデルが自律的に未発見の脆弱性を発見したこと）については嘘を吐く理由があまりない
セキュリティエンジニア系の人物があえて未発見の脆弱性を報告、Claude Mythosの功績として演出した、みたいなのはまだしも考えられるものの、そういう行動をする（プライドのない）人間が複数人存在することより、モデル自体の性能がこれを実現したことの方がまだしも信用できる。
反面、実際の品質感に関しては盛っている／抑制的に書いているのいずれも判断がつけられない（Anthropicやその周辺が言おうと思えば言える）
## 正しそうなこと
情報漏洩事件、および漏洩内容のある程度の信用性
第三者検証されている
コードが提供されているソフトウェアについて未知の脆弱性を自律的に発見できる程度の性能がある（証拠：正式に脆弱性報告されているものがある）
FreeBSD NFSサーバーのRCE（CVE-2026-4747）
KASLR非搭載サーバーには通りやすい、くらいの話らしいが脅威性をこれは貶める評価ではないだろう
※この手の設定をユーザーサイドでキツくする方向に回すのを徹底することで対策する、は現実的に無理があるので、防御者側がソフトウェアアップデートで防ぐ方が良い
OpenBSDのTCP SACK整数オーバーフロー
リモートDoSに繋がる。挙げた中ではかなりお手軽に使える上、27年間見過ごされていた
複合的な原因によって発見は困難、ただし本来的な防御はちょっと制御加えるだけで実現可能
FFmpeg H.264コーデックのメモリ破壊
悪意ある動画を開くだけで壊れる（リモートDoSないし任意コード実行）
プレイヤー系が内部実装で用いていることもあるので結構影響範囲広め
一部メディアが馬鹿げたことに「500万回のテストが検知しなかった脆弱性」とかいう解像度の低過ぎる記述をしているが、これはもちろん単なる正常系ユニットテストではなく、ファジングテストによるもの。つまり既存のファジングテストアルゴリズムでは提供できなかった攻撃用パラメーターを自己発見した、が本質
第三者ベンチマークの結果
ある程度信用して良い
↑を成立せしめるほど、コンテキスト効率化・巨大トークン処理・タスク特化性能の品質が高いと推測できる→ソフトウェア開発一般にもかなり自律・立性を発揮することが期待できる
Project Glasswingの成立・OSS開発団体等への資本提供の事実
これは流石に否定できない。ステークホルダーが多過ぎるし、そのうち財務的にも明らかになる
## 確証がないうちは疑っておいてもいいこと
完全ブラックボックスでのペネテスを突破する（red teamを完全に自律的に代替する）ような動きまでできるかは不明（素人が雑にクラッキングに利用できるかは怪しい）
証拠がある脆弱性報告は以下により成立している可能性も高い
Anthropic社員レベルの人間がタスク志向性を与えていた
特定ソフトウェアのattack surfaceを把握できる情報環境を与えた
※ただし、特定OSSの未発見脆弱性を報告せずに利用することができる・その実行を指示されれば（そして界面が疎通するなら）おそらく実行できてしまうというだけでもかなりの脅威
ある程度セキュリティ知識のある人間（CTF多少齧る程度、以前なら笑って放置していられたスクリプト・キディレベルでも）なら悪用できてしまう
また、「実はAnthropicの主張は実態にかなり近い内容であった」という可能性も考慮はしておいた方がいい
Hype批判者は差し引き過ぎる面もあるので
一般公開の目処はかなり立てにくい
今回の主旨から考えて、以下のいずれかの条件が達成されなければならないが、その構築難度が極めて高いと推測されるため
①Claude Mythos自体あるいはそれを利用する際に必ず経過する中間経路のガードレール構成が「ほぼ間違いなく悪意的実行を防げる」品質に到達した、ということがテストされる
②AI Agentによる攻撃を確実に無効化できる何らかの新セキュリティスキームが勧告され、主要OSやブラウザに実装される（こちらはかなり無理筋ですが否定はできません）
## Anthropicが一抜けしたのはなぜか、ここから得られる教訓は何か
これについては推測するしかない。単に私見を述べる。ファクトはなく、単に外形からの判断として認識してほしい。
モデル自体のVendorが、最も高い自由度のCoding Agentを最初に普及させて最大手として長期的に君臨していたことに尽きる
再現性をもった既実行タスクが大量かつ自動に溜まるAnthropicの環境
問題解決の束がそのままトレーニングやベンチマークテストに利用できるため、FBループの効率が桁違い
今後も「Agentに仕事をさせる」の量・質を稼ぐことができたプラットフォーマーのLLM品質が高まっていくこと。
Transformerやその周辺技術に強い人材も以下を求めるので、↑を達成していればより強いLLM Vendorになる
良質なトレーニングデータ
高い規範意識を備えた経営レイヤー
## 教訓
この動向を無視するのはあまりに危険である
反面、ただ流れてくる情報を鵜呑みにして精査しないのもリスク
自分たちがこれを受けてどう振る舞うべきかを自己思考することの放棄
Mythosという命名には自己神秘化・熱狂煽りの意図を感じざるを得ないので余計に
システムコンポーネントのメンタルモデルを確立したエンジニア、つまり「どこに脆弱性が生じうるか、それをAgentにどう防がせればいいか」を思考できるSecエンジニアはまだおそらく必要（Mythos以前から分かりきっていたこと）
反面、自分の手作業100%で探すという行為はもう不要になる
システム全体をトータルコーディネートするエンジニアや品質水準を決定しそれをAgentに守らせるエンジニアは必要だが、単なるコマンダーの仕事は今後も減る（これはMythos以前から分かりきっていたこと）
## 結論（論証省略）
かなりすごいことが起きてはいるが、まだこれまでの想定の延長線上
モデルの性能が飛躍的に進化しただけで起き得る事象として認識されていたもの
ただし、Sec系においてかなり脅威的な成果であることは確かで、これを安易に開放しないことは倫理的に適切な判断
開放範囲次第では国際情勢にも強く影響が出ると予想するのはある程度正当で、Anthropicの慎重な動き方には同意できる
## Perplexityくんに事後孔明させた（04/29）