AnthropicとMozilla、AIを用いたセキュリティ向上に関する協業を発表

AnthropicはMozillaとの協業により、AIを用いたソフトウェアセキュリティの向上に共同で取り組むことを発表した。この提携は、AIを活用するセキュリティ研究者とオープンソースのメンテナがどのように協力すべきかを示す新たなモデルとして位置づけられている。本発表において、開発環境等に影響を与える特筆すべき制約は報告されていない。

同協業では、AIが生成した大量のバグ報告によってメンテナが過重な負担を抱える課題の解決に焦点を当てた。AnthropicはClaudeを用いて最小限のテストケース、詳細な概念実証（PoC）、および修正パッチの候補をまとめて提出し、Firefoxチームが迅速に報告を検証できる体制を検証した。また、「task verifier」と呼ぶ仕組みを使用し、LLM自身が脆弱性の修正と機能の維持を検証することで、生成されたパッチの信頼性を向上させている。