Anthropic 安全研究員 Nicolas Carlini の論文は Google Scholar で 6.72 万回引用されており、この分野で最も引用されている人物の一人です。

彼は最近、Claude は彼よりも優れた安全研究員だと公言しました。
彼は Claude を Ghost（5万 GitHub スターを持ち、歴史上高危険性の脆弱性が一度も発見されていないリリースプラットフォーム）に90分後に指し示しました。すると、Claude は SQL インジェクションの脆弱性を見つけ出し、誰でも権限なしで管理者キーを取得し、完全にバックエンドを乗っ取ることができる状態にしました。
次に、Claude を Linux カーネルに向けました。すると、Claude はバッファオーバーフローの脆弱性を発見しました。これは 2003 年から存在していた脆弱性で、23 年間も放置されていたものです。Carlini は、このレベルの脆弱性は、経験豊富なセキュリティ専門家が手動で監査しても非常に見つけにくいと述べています。
スマートコントラクトのテストでは、Claude は模擬環境で約 370 万ドルの悪用可能な脆弱性を特定しました。
Carlini は、これらのタスクにおいて、自分自身は Claude と同じレベルには到達できないと語っています。
この出来事で最も辛い部分は、AI が脆弱性を見つけたことではなく、Carlini がまだ仕事を続けていることです。