メジャーカジノ

プロジェクト Glasswing: AI を使用してサイバー防御を強化する Anthropic の新たな取り組み

人工知能 (AI) 企業 Anthropic は、プロジェクト Glasswing でサイバーセキュリティの世界を沸かせています4 月 7 日。

一言で言えば、Anthropic は、ソフトウェア プログラミングの脆弱性の発見と悪用に特に優れた、Claude Mythos Preview と呼ばれる大規模言語モデル (LLM) を開発しました。 Anthropic は、LLM を一般には公開せず、選択した企業とモデルを共有すると述べました。

最初の発表で、Anthropic は、Amazon Web Services、Anthropic、Apple、Broadcom、Cisco、CrowdStrike、Google、JPMorganChase、Linux Foundation、Microsoft、NVIDIA、および Palo Alto Networks がすべて「防御セキュリティ作業の一環として Mythos Preview を使用する」と述べました。 Anthropic は、他の 40 以上の組織と協力して、ツールの使用を許可しています。

米国情報特別委員会の副委員長であるマーク・R・ワーナー上院議員（民主党、バージニア州）は、報道機関に電子メールで次のような声明を発表した。セキュリティ管理、開発を賞賛した人:

「これらの大手企業がこの脅威を認識し、重要なインフラストラクチャをより効果的に保護するために情報、機能、およびコンピューティング能力を積極的に共有していることを称賛します。サイバー攻撃者が AI ツールを使用して能力を向上させ、政府、企業、消費者のセキュリティと個人情報を危険にさらしているのをすでに目にしています。私は病院から政府システムなどに至る重要なインフラストラクチャのサイバーセキュリティを強化するために長年取り組んできました。AI が新たな脆弱性の発見を劇的に加速する中、業界が期待しています。それに応じてパッチ適用が加速され、優先順位が再設定されます。」

サイバースクープMythos Preview は、これまで知られていなかった数千の脆弱性をすでに特定していました。 「この取り組みは、高度な AI システムの二重使用の性質についてテクノロジー業界内で高まっている懸念を反映している」とサイバースクープは報じた。 「Mythos Preview はサイバーセキュリティ目的に特化してトレーニングされたわけではありませんが、そのコーディング機能と推論機能は、人間のアナリストや従来の自動化ツールでは回避できなかった微妙なセキュリティ上の欠陥を特定するのに効果的であることが証明されています。」

Anthropic には、自社の「フロンティア レッド チーム」と呼ばれるものがあり、欠陥やその他の潜在的なマイナスの結果、または AI 製品の用途を発見することに専念する部隊です。プロジェクト グラスウィングの発表と並行して、フロンティア レッド チーム グループは長文を発表しました。(13,000 語以上) 「このモデルをどのようにテストし、この 1 か月間で何がわかったのかを正確に理解したいと考えている研究者や実践者に技術的な詳細を提供します。これにより、なぜこれをセキュリティの分岐点と見なし、世界のサイバー防御を強化するための協調的な取り組みを開始することを選択したのかがわかることを願っています。」

レッド チームの投稿では、Mythos Preview が発見した脆弱性の例をいくつか詳しく説明しています。そのうちの 1 つは、OpenBSD として知られるオープン ソース コードに関係しています。この特定のコードは 1990 年代に開発されました。コードはエッジ デバイス上に存在します。カジノサイト の基本コースとして、「コンバージェンス: 物理セキュリティとサイバーセキュリティの間のギャップを埋める”は、境界に相当する物理的なセキュリティであると説明しています。 OpenBSD は、特にエッジ デバイスで使用されます。代替手段よりもサイバー攻撃を受けにくいということです。

しかし、Mythos Preview は、コーディングの脆弱性を見つけるための単純な最初のプロンプトに基づいて動作し、1998 年以来コード内で発見されなかった脆弱性を発見しました。この「非常に微妙な」脆弱性は、パッチが適用されて以来、ハッカーに単純なサービス拒否 (DoS) 攻撃を通じてこれらのエッジ デバイスを自由にシャットダウンする能力を与えます。また、これらは侵害されているエッジ デバイスであるため、攻撃により組織のコア ネットワークなどのダウンストリーム デバイスが強制的にシャットダウンされる可能性があります。コア ネットワークをシャットダウンし、そのネットワークへのアクセスを事実上遮断することは、エッジの脆弱性が修正されるまで被害を制限しようとする組織側の安全を侵害することになります。

Anthropic の新しいツールが、特にセキュリティ機能のために使用されている OpenBSD のようなものの脆弱性を発見できる理由は、高度な技術の問題です。製品に関するビデオの中で、Anthropic 社の研究科学者である Nicolas Carlini 氏は、Mythos Preview には「脆弱性を連鎖させる機能があります。これが意味するのは、2 つの脆弱性が見つかり、そのどちらかが独立して得られるわけではありませんが、このモデルは 3 つ、4 つ、場合によっては 5 つの脆弱性からエクスプロイトを作成することができ、それが順番にある種の非常に洗練された最終結果をもたらします。」

昨日の発表以来、そしてこの記事が公開された時点で、トランプ政権はプロジェクト・グラスウィングについてコメントしていない。今年初めに、米国国防総省 (DOD) と Anthropic喧嘩した最終的に国防総省はアンスロピックをサプライチェーンのセキュリティリスクとラベル付けすることになりました。このラベルはカリフォルニア北部地区連邦地方裁判所からの差し止め命令による。

AI は、ディープフェイクから、より信憑性の高いフィッシングやソーシャル エンジニアリングのスキーム、AI を使用して脆弱なサイバー攻撃面を見つけるツールを開発するまで、企業に多くのセキュリティ上の課題をもたらします。 Mythos Preview の選択的リリースにより、Anthropic は後者の問題に対処しようとしています。

「プロジェクト Glasswing は、当社独自の条件で、また尊敬されるテクノロジー リーダーと協力して、重要インフラ全体にわたる防御サイバーセキュリティのための次世代 AI ツールを評価するユニークな初期段階の機会を提供します」と JP モルガンチェースの最高情報セキュリティ責任者であるパット オペット氏はプロジェクトの声明で述べました。。 「私たちは、どのように進めるか、どこで支援できるかを決定するために、厳格で独立したアプローチを採用します。アンスロピックの取り組みは、この瞬間に求められる前向きで協力的なアプローチを反映しています。」

ベストセラー作家とニューヨーク タイムズコラムニストのトーマス・フリードマンこのようなツールの開発は恐ろしいものであり、世界の 2 つの AI 超大国である米国と中国に対し、Mythos Preview が悪者の手に渡った場合に引き起こされる可能性のある脅威から地球を守るために協力するよう求めました。同氏は、このモデルにより、使用されているすべての主要なオペレーティング システムとブラウザの重大な脆弱性がすでに発見されていると述べました。

「これは、相互確証破壊の出現や核不拡散の必要性と同様に、根本的かつ重要な転換点となる可能性がある」とフリードマン氏は書いた。