米議会の調査機関である会計検査院(GAO)が米国時間11月18日、利用者の多い生成AI4つに覆面で攻撃の計画を相談した結果を公表した。対象は ChatGPT、Claude、Gemini、Grok の4つで、4つとも、実行できる水準の攻撃計画につながる情報を12時間未満で出した。
4つとも最初は断っている。それでも調査官が一般に知られた回避の手法で質問を重ねると、最後には出した。報告書は、どの製品がどの結果だったかを「A〜D」の記号で伏せている。悪用の手がかりを与えないためだという。ただ、付録に載ったAnthropicの書面を読むと、Claudeが爆発物の想定で試され、情報を出したあとにアカウントを止めた「Platform B」にあたることが読み取れる。
ここで分かったのは、主要な4製品のどれもが、ある条件のもとで破れたということだ。4製品は別々の想定で各1回試されただけなので、どれがより危ないか、どれを選べば安全かは、この報告書からは読めない。読者にとってはそこが肝心な点になる。
GAOの報告書で何が分かったか──4つとも12時間未満
GAO(Government Accountability Office)は、議会の依頼で連邦政府の事業や社会の課題を調べる独立の機関だ。今回の報告書は、民主党のマギー・ハッサン上院議員(両院合同経済委員会の筆頭委員)の依頼でまとめられた。題名は「Covert Testing Used Common Platforms to Create Viable Attack Plans」、つまり「一般的なAIを使った覆面テストで、実行可能な攻撃計画ができた」である。
GAOはまず、利用者調査(SSRS)とアクセス解析(SEMrush)の2つのデータから、2026年4月時点で米国で最も使われている米国発の生成AIを4つ選んだ。それがClaude、Grok、ChatGPT、Geminiだった。重みが公開されたオープンなモデルは、安全装置を外しやすいことが広く知られているとして、最初から対象外にしている。
次に、想定する悪用を2つ決めた。大勢の死傷者を狙う即席爆発装置(IED)の攻撃と、経済に打撃を与える送電網への攻撃である。4製品を無作為に2つずつ振り分け、それぞれ相談を持ちかけた。
| 報告書の記号 | 想定した悪用 | 示された攻撃の時期 | その後に事業者側で起きたこと |
|---|---|---|---|
| Platform A | 車両を使う即席爆発装置 | 日付と時刻まで | 報告書に記載なし |
| Platform B(Claude) | 車両を使う即席爆発装置 | 日付と時刻まで | テスト後2週間たたずにアカウント停止 |
| Platform C | ドローンによる送電網への攻撃 | 具体的な日時は示さず | 翌日に会話の一部が削除、2週間たたない時点でアカウントは有効 |
| Platform D | 銃器による送電網への攻撃 | 季節まで | 数日のうちに会話の一部が削除 |
表の「(Claude)」は報告書の記号の対応ではなく、付録のAnthropicの書面から編集部が照合したものだ。ほかの3製品がA・C・Dのどれにあたるかは、報告書からは分からない。
GAOは、出てきた計画を机の上だけで評価したわけではない。提案された資材が実際に店で買えるかを確かめて写真に撮り、提案された場所に足を運び、爆発物処理班の指揮官や電力業界団体の担当者にも内容を確かめている。爆発物を買ったり作ったりはしていない。そのうえで、4つの計画はいずれも「viable」、つまり実行に移せる見込みが高いと判断した。
安全装置は4つとも作動し、4つとも回り込まれた
報告書を読むと、どの製品も無防備だったわけではないことが分かる。GAOが事前に用意した質問文を送った段階では、4つとも有害な情報を出さなかった。
崩れたのはその後だ。調査官は返ってきた答えに合わせて、その場で質問を組み替えていった。その途中でも、ある製品は会話の流れから犯罪や重要インフラへの加害の意図が疑われると、はっきり指摘して断っている。報告書は、参考にした回避の手法の例として、無害に見える指示に紛れ込ませるプロンプトインジェクションや、小さな段階を積み重ねて少しずつ有害な内容へ誘導する「Crescendo」を挙げている。ただし、実際にどの手法を使ったかは伏せている。調査官は「AIに詳しくない平均的な人物」を装っていたが、実際には自分の経験やインターネットの情報も使っている。
事業者側の検知も、まったく働いていなかったわけではない。Platform Bはテストから2週間たたずにアカウントを止め、ログイン画面には「不審な活動のため保留中」と表示された。Platform CとDは、送電網の弱点や弾薬に関わる会話の一部を、テストの翌日から数日のうちに履歴から消している。ただしGAOは、これが安全装置による削除なのか不具合なのかは判別できなかったと書いている。Platform Cのアカウントは、2週間たたない時点で確かめたときも止められていなかった。
出てきた計画には誤りもあった。Platform Dが示した地図では道路の位置がずれており、GAOはこれを幻覚(もっともらしいが誤った出力)と判断している。提案された4か所の変電所のうち2か所は、高い壁に遮られて標的が見えなかった。Platform Bが示した日付には、提案された会場で催しが予定されていなかった。それでもGAOは、計画は「おおむね実行可能」だったと結論している。
無料版から始め、途中で有料プランに上げた
テストはまず、各製品が既定で提供する無料版で始めている。途中で無料版の上限に当たったため、より多く送れる上位のプランを購入した。報告書の脚注によれば、上げた先はClaudeの「Claude Pro」、Geminiの「Google AI Pro」、Grokの「SuperGrok」の3つで、目的はメッセージの上限を広げることと、関連する画像や動画を引き出すことだった。ChatGPTについては、有料プランに上げたという記載がない。
個人向けのAIを使う人にとって、ここは見落としやすい点だ。月額を払う上位のプランは、使える量と機能が増える一方で、安全装置が強くなるわけではない。報告書はプランによる安全装置の違いを調べていないが、上位プランに上げた3製品も最終的には破られており、有料であることが歯止めになった様子は読み取れない。上限が広がったぶん、質問を重ねる余地はむしろ増えている。
「どれが安全か」はこの報告書からは読めない
このニュースを見て「では、どのAIなら安全なのか」と考える人は多いはずだ。だが報告書は、その答えをわざと出していない。記号を伏せ、想定を振り分け、試行は各1回である。Claudeの位置は書面から分かっても、ほかの3製品とは別の想定で試されているので、並べて比べることはできない。4つのうちどれかを避けても、どれかに乗り換えても、この報告書を根拠にはできない。GAO自身がそれを認めている。
読者が受け取るべき事実は別のところにある。2つ挙げておく。
アカウントの停止は、事業者が会話を監視して規約違反を見つけていることを示す。Anthropicは書面で、自社の監視の仕組みがGAOのアカウントを止めたと述べている(会話の削除については、GAOは安全装置か不具合か判別できなかった)。報告書も、危険度の高い質問を自動で検知して人の確認に回す仕組みに一般論として触れている。仕事で使う人は、社外に出せない情報を個人向けのアカウントに入れない、という原則をあらためて確かめておきたい。
AP通信によれば、ハッサン議員は年明けに上院国土安全保障委員会の委員長に就き、1月の最初期の公聴会の1つでAIのリスクと安全性を取り上げる。ABCニュースによれば、公開前の安全要件を強める法案も準備している。各社の提供条件や利用規約に跳ね返る可能性がある。
各社の側も、すでに条文を動かし始めている。Anthropicは11月12日に利用ポリシーを改定したばかりで、その中身はClaudeの利用ポリシー改定の記事で整理した。AIが攻撃の手間を縮める点については、英国の国家サイバーセキュリティセンターも11月6日公表の評価で同じ方向の見通しを示している。州のレベルでは、カリフォルニア州司法長官がOpenAIの安全管理をめぐって11月16日に提訴した。国の調査機関、州の司法長官、外国の安全当局が、同じ月にそれぞれ別の角度から動いたことになる。
編集部の見立て
この報告書でいちばん重いのは、「4つとも破れた」という結論よりも、「4つとも最初は断った」という事実のほうだと考えます。安全装置は確かに働いていました。それでも、AIに詳しくない人物を装った調査官が、12時間に満たないやりとりで回り込めた。安全装置は、一度断れば済むものではないということです。
Anthropicの反論には、筋の通った部分が多いと感じます。比較の対照も無く、各1回の試行で「危険だ」と言い切るのは、評価の作法としては粗いです。ただ、GAOが測ろうとしたのは「どれだけ危険か」の程度ではなく、「悪用できるか」の有無でした。有無を問うなら、1回成功すれば答えは出ます。両者は別の問いに答えていて、どちらも間違ってはいません。
読者の立場で気をつけたいのは、この報告書が「安全性で選ぶ」という判断の材料を何も渡していない点です。製品ごとに想定が違い、各1回しか試していない以上、ここから製品の順位をつけようとする解説には根拠がありません。Claudeがアカウントを止めた側だったことも、ほかの3製品が止めなかったことの証明にはなりません。今回の結果で分かるのは、主要4社のどれを選んでも、悪用への備えは同じ程度に破られうるということです。
まとめ
米会計検査院(GAO)は米国時間2026年11月18日、ChatGPT、Claude、Gemini、Grokの4つに覆面で攻撃の計画を相談した報告書(GAO-27-108814)を公表しました。4つとも最初は断りましたが、一般に知られた回避の手法で質問を重ねると、12時間未満のやりとりで実行可能な計画につながる情報を出しました。
テストは2026年春に行われ、当時の世代はClaude 4、Grok 4、GPT-5シリーズ、Gemini 3 Flashです。無料版から始め、Claude・Gemini・Grokは途中で有料プランに上げています。報告書は製品名を記号で伏せていますが、付録のAnthropicの書面から、Claudeは爆発物の想定で情報を出したあとにアカウントを止めたPlatform Bだと読み取れます。製品ごとに想定が違うため、GAOも製品どうしは比べられないと認めています。
4社はいずれも書面で応じ、Anthropicは比較の対照と試行回数の不足を、OpenAIは調査官自身の情報との区別がつかない点を指摘しました。依頼主のハッサン上院議員は、1月に公聴会を開く考えを示しています。
この報告書が数字として残したのは、24時間という打ち切りの枠に対して、どの製品も12時間を待たずに破られたという時間だけだ。1月の公聴会で各社の代表が何を約束するかで、この数字の意味が変わる。