安野貴博氏と今井翔太氏が語るAIの脅威と日本の生存戦略

※これはイメージ画像です

TBS CROSS DIG with Bloomberg の番組「AI QUEST」に、チームみらい党首で参議院議員の安野貴博氏と、株式会社GenesisAI 代表取締役社長の今井翔太氏が出演した回があります。この記事では、公開モデルの拡散からAIによる雇用の変化までを行き来した、二人の対談の内容を紹介します。

YouTubeで動画を見る

公開モデルの拡散と、サイバー防衛の限界
AIのリスクを3つに分けて考える
日本の3面作戦という生存戦略
フランスの行政AIという先行例
行政の生産性と、DARPA型のリーダーシップ
AI失業と、消えていく「登る階段」
おわりに
僕のひとりごと
参考情報

公開モデルの拡散と、サイバー防衛の限界

この動画では、非公開のモデルと、重みが公開されたモデル(オープンウェイト)の性能差が、半年から1年ほどに縮まってきたという見方が紹介されています。安野氏は、その差がさらに詰まり、高い攻撃能力を持つモデルを誰でも手元で動かせる状況が近づいていると話しています。なお、動画では「GLM 5.3」と呼ばれていますが、Anthropicのレポートでは「GLM-5.3」と表記されています。

そうなったときに心配なのは、守る側の手当てが追いつかないことだと語られています。既知の攻撃の型を見つけて止めるという従来のやり方では、次々と新しい攻撃を組み立ててくる相手には対処しきれないのではないか、という懸念です。今井氏は、これまで話題になってきた生成AIの暴走よりも重い事件が、1〜2年のうちに起きてもおかしくないという見方を示しています。

確認できていること:Anthropicが2026年9月29日に公開したレポートによると、GLM-5.3は誰でもダウンロードして使える公開モデルで、Claude Mythos Previewと同じように、一連のサイバー攻撃のコードを自律的に組み立てる能力があるとされています。同社は、この評価はシミュレーションであり、実際の状況を完全に再現したものではないと注記しています。

AIのリスクを3つに分けて考える

安野氏は、AIのリスクをひとまとめに語らず、緊急度と起こりやすさで3つに分けて整理すべきだと提案しています。1つ目はAI自身が人間に背くという筋立て、2つ目はAIを使い尽くした大国同士の衝突、3つ目は悪意を持った集団や個人がAIを悪用することです。

1つ目については、いまのAIはデータセンターの保守や電力、部品の供給まで人間に頼っているため、反乱を起こしても自分が立ちゆかなくなるという見方が語られています。物理的な工程まで自動化されたあとが本当に危ない局面で、それまでに安全のしくみを整える時間は残されている、という整理です。

そして、いま足元で手を打つべき最優先の課題は3つ目だと話しています。大規模なサイバー攻撃に加えて、生物分野での悪用を防ぐための事前の検査や、規制の義務化を急ぐべきだという指摘も出てきます。

確認できていること:IPA(情報処理推進機構)によると、2024年2月14日に「AIセーフティ・インスティテュート」が設立され、AIの安全性に対する国際的な関心の高まりを踏まえ、評価手法の検討などを行う機関として、IPA内に事務局が置かれています。

日本の3面作戦という生存戦略

米国と中国は、どちらも開発の速度を落とすことに後ろ向きで、互いに止まれない状況にあると語られています。その中で日本がどう生き残るかとして、安野氏は3つを並べて進める作戦を挙げています。

1つは、半導体と部品の供給で交渉できる立場を保つこと。熊本や北海道で進む工場を活かし、最先端のチップをつくる力で発言力を持つという考えです。2つ目は、追いつけなくても数か月遅れの位置で自前のモデルをつくり続けること。量子コンピュータの実用化などで流れが変わったときに、逆転できる場所にいられるようにしておく、という話です。

3つ目として、米中ほどの資金を持たない中堅の国々が共同で出資し、計算基盤や開発の体制を分け合う連合という構想にも触れています。例として挙げられているのは、欧州の国々が加速器を共同で運用しているCERNのやり方です。

確認できていること:Rapidusによると、同社は北海道千歳市に研究製造拠点IIMを建設中で、2025年4月にパイロットラインの稼働を開始し、2027年の量産開始を目指しています。CERNによると、同機関は25の加盟国と11の準加盟国で運営されており、日本は大型ハドロン衝突型加速器についてオブザーバーの立場にあります。

フランスの行政AIという先行例

国としてAIをどう使うかの先行例として、フランスの取り組みが取り上げられています。政情や規制で突然使えなくなる心配のある海外のクローズドなモデルに頼らず、公開されたモデルを自国のクラウドや政府のサーバーで動かすという進め方が紹介されています。

費用の使い方にも触れています。すべての仕事に最先端のモデルを投入するのではなく、要約や翻訳、短いメールの作成のような作業には安価なモデルを割り振って、費用を抑えながら成果を出すという考え方です。合わせて、評価を担う機関が事前に挙動を確かめることで、行政でも安心して使える体制をつくるという話が語られています。

確認できていること:フランス企業総局(DGE)の2025年1月31日の発表によると、新たな法人をつくらずに国内の評価と安全性の担い手をまとめる組織として「INESIA」の設立が公表され、ANSSI、Inria、LNE、PEReNが参加しています。AFPの報道によると、フランスの行政向けの「Albert」は、さまざまなAIモデルに接続できるAPIを広く指す名前で、Mistralのモデルを組み込んだ対話型の「Assistant IA」が、省庁の約1万人の職員を対象に2026年6月まで試験運用されるとされています。

行政の生産性と、DARPA型のリーダーシップ

日本の政策については、官僚の仕事にAIを行き渡らせるための予算を、まとまった額で確保すべきだという提案が出てきます。答弁や資料の作成に追われる現場の負担を軽くして、仕事の質を上げるという狙いです。この金額は、動画の中で語られている数字です。

計算資源の配り方についても、合議や協議会で決めると、無難で尖りのない計画になりがちだという指摘があります。米国のDARPAのように、現場の研究者やプログラムマネージャーに資金と判断の権限を集めるやり方を学ぶべきだと話しています。

確認できていること:DARPAの公式サイトによると、同機関は1957年のスプートニク打ち上げへの対応として創設され、成功の鍵はプログラムマネージャーの技能と粘り強さ、そして独自の資金の出し方にあるとされています。プログラムマネージャーは、産業界、政府、学術界にまたがる経験を持つリーダーだと説明されています。

AI失業と、消えていく「登る階段」

雇用の変化は、すでに現場で起きているという話も出てきます。コールセンターやソフトウェア開発、コンサルティングなどで、若手の採用が細り始めているという見方です。今井氏は、生活や生産に直結する仕事ほど、人間かAIかを問わず早く置き換わっていくと話しています。

そこで心配されているのが、育成のしくみが成り立たなくなることです。これまでは若手を現場で育てながら戦力にしていましたが、AIのほうが早く使えるなら、企業は育てる費用を払わなくなるかもしれない。そうなると、若い人が熟練者へ上がっていくための「登る階段」が消えてしまう、という懸念が語られています。

研究の現場も例外ではないという話が続きます。トップの研究者が自分の賞味期限を口にしたり、学生に渡せる課題が見つからず、新しく受け入れるのをやめる数学者が出てきたりしているという見方です。AIが採用や経営の判断をする実験的な店舗で、AIを上司として働く人が生まれているという例にも触れています。

対策として挙げられているのは、わずかな変化をすぐにつかめる労働統計、転職の成果に応じて支払うかたちの職業訓練、そして大量の失業が急に起きた場合に備えた生活保障の議論です。日本は人手不足から出発しているので、産業や職種をまたぐ移動がなめらかにできれば、短い目で見て仕事がまるごと消える事態は避けられるかもしれない、という見方も示されています。

確認できていること:スタンフォード大学デジタル・エコノミー・ラボの研究(2026年8月12日版)によると、AIの影響を受けやすい職種の22〜25歳の雇用は、影響の小さい職種と同じ伸びをしていた場合に比べて19%低い水準にあるとされ、著者らはこれを因果関係の推定ではなく初期の記述的な指標だと位置づけています。Andon Labsによると、サンフランシスコの店舗ではAIのエージェントが求人を出し、電話で面接して採用を決め、2人の従業員が雇われています。

おわりに

守る側の備え、国としての立ち位置、そして働き方まで、話は幅広く行き来しました。どれも遠い未来の話ではなく、いま進んでいることの続きとして語られていたのが印象に残ります。

僕のひとりごと

📎

僕のひとりごと

最初は「この人、大丈夫？」と思ったのに、気づけば安野貴博氏に夢中になっていた！

最近の選挙で初めて見かけた、チームみらい党首で参議院議員の安野貴博氏。

正直、最初に見たときは「ん？？？この人、大丈夫なの？」と思ってしまった。

いやいや、別に悪い意味じゃないんですよ！初めて見る人だし、何を考えているのかも分からない。とりあえず様子見という感じだった。

ところが、そんな僕の印象を変える出来事が！

YouTubeを見ていたら、なんと安野氏がClaudeの使い方を、とても分かりやすく説明しているではありませんか！

おおおおーーーっ！！これは分かりやすいじゃないか！

実は僕、AIには興味津々なのだが、次から次へと新しいサービスが登場するので、もう頭の中が大渋滞。

昨日まで最新だったものが、今日はもう古い。新機能を覚えたと思ったら、翌日には新しい機能が登場する。

こっちはまだ説明書を読んでいる途中なんですけどーーー！

そんなAI初心者の僕にとって、安野氏の説明はありがたかった。

それがきっかけで、ほかの安野貴博関連の動画も見るようになったのだが、見れば見るほど驚かされる。

「あっーーー、この人、凄い人なんだな！」

最初は疑いの目で見ていたのに、いつの間にか興味津々。人間の印象なんて、こうも簡単に変わるものなのか。

今回の動画では、AIによるサイバー攻撃の脅威から、米中のAI開発競争、日本が生き残るための戦略、さらにはAIによる失業問題まで、幅広いテーマが語られていた。

難しそうな話なのに、説明が分かりやすいので、ついつい引き込まれてしまう。

ただ、内容を聞いていると、のんびりAIを楽しんでいる場合じゃないのかもしれない。

僕はClaudeで記事を書いたり、ブログを少しでも便利にしようと試行錯誤している程度なのだが、世界ではAIを使って国家の未来や安全保障まで考えている。

こっちは「どうすればブログの作業が楽になるかな？」と考えているのに、世界は「AIで人類の未来がどうなる？」という話をしている。

この差はいったい何なんだーーー！

とはいえ、難しい話だからといって無関心でいるのも違う気がする。

AIは便利な道具である一方、使い方次第では大きな問題を引き起こす可能性もある。そして、仕事や社会の仕組みまで変えてしまうかもしれない。

だからこそ、こうした話を分かりやすく伝えてくれる人の存在は貴重だと思う。

そんなわけで、今回の動画で語られていた内容が面白かったので、自分なりに整理して記事にしてみることにした。

最初は「この人、大丈夫？」だったのに、今では「次はどんな話をするんだろう？」と気になってしまう。

いやはや、YouTube恐るべし。

そして安野氏、最初に疑ってしまってすみませんでした！

これからもAI初心者の僕に、分かりやすい解説をよろしくお願いします！

参考情報

🔗 参考情報

01	YouTube ／ TBS CROSS DIG with Bloomberg 【Claude Mythos級オープンモデル拡散で始まる悪夢】チームみらい・安野貴博「従来型サイバー防衛ではもう無理」／「1～2年で発生」今井翔太が懸念する「GPT暴走」以上の事件【AI QUEST】
02	Anthropic ／ 2026年 GLM-5.3 and the spread of advanced cyber capabilities
03	IPA(情報処理推進機構) ／ 2024年プレス発表 AIセーフティ・インスティテュートを設立
04	Rapidus株式会社 Rapidus株式会社世界最先端2nm半導体の開発・製造
05	CERN Our Member States
06	フランス企業総局(DGE) ／ 2025年 Le Gouvernement annonce la creation de l'Institut national pour l'evaluation et la securite de l'intelligence artificielle (INESIA)
07	AFP(Weka) ／ 2026年 Albert, l'outil d'IA generative, experimente a France Services ne sera pas generalise
08	DARPA About DARPA
09	Stanford Digital Economy Lab ／ 2026年 Canaries in the Coal Mine? Six Facts about the Recent Employment Effects of Artificial Intelligence
10	Andon Labs ／ 2026年 We gave an AI a 3 year retail lease in SF and asked it to make a profit