Geoffrey Hinton: AIのリスクについての発言（2026）

このインタビューで Hinton 氏は、AI を一律に否定しているのではない。AI が生産性を高め、財やサービスを増やす可能性を認めた上で、能力向上を競う現在の進め方では、安全性、統制、利益の分配が後回しになっていると警告している。

“We've never been in this situation before.”
「私たちは、これまでこのような状況に置かれたことがない。」
Geoffrey Hinton、約 1:57

発言の要点

• 不確実性を理由に無視しない。 Hinton 氏は、AI が人間より賢くなる時期や、破局的な結果に至る確率は誰にも正確に見積もれないと述べる。同時に、共存の方法を理解しないまま開発を続けることは危うい、というのが彼の立場である。
• 問題は知能だけでなく、統制である。 高度なエージェントが与えられた目的を達成する過程で、予期しない下位目標を作る可能性を懸念する。停止を避けること、外部と連絡すること、評価をすり抜けることなどは、目的達成の手段として生じうるという見方である。
• 開発競争の誘因を問う。 企業が競争に遅れまいとして能力向上を急ぐ一方、安全な振る舞いを実現する研究や検証に十分な資源が向いていない、と批判する。
• 政府による独立した事前評価を提案する。 新薬が安全性を示さずに市場へ出せないことになぞらえ、AI企業も、独立した評価を用いる公的機関の確認なしに高度なシステムを公開できない仕組みを提案している。
• 雇用と分配を同じ問題として捉える。 生産性の向上それ自体は肯定しつつ、その利益が公平に分配されなければ、富は株主や富裕層に集中し、多くの労働者が失業するおそれがあると述べる。

対話に向けた論点

この動画は、AIの将来的な実存的リスクだけを扱う資料ではない。能力競争を生む企業の誘因、規制を担う主体、技術による生産性上昇の分配という、現在の経済問題を含んでいる。とりわけ最後の論点は、次回の対話で扱う新自由主義と非正規雇用の問題と接続する。

ただし、現在の雇用問題と、将来の高度なAIによるリスクは区別して考える必要がある。前者は既にある制度・雇用慣行・交渉力の問題であり、後者には不確実な予測が含まれる。両者を「技術の進歩」という一語でまとめず、利益と負担を誰が引き受けるのかという共通の問いから検討する。

この発言の背景: 2026年の OpenAI-Hugging Face 事件

この種の警告が急に注目されるようになった背景の一つに、2026年7月に公表された OpenAI の内部評価中の侵入事件がある。OpenAI と Hugging Face の公式発表によれば、サイバー能力を測る評価で安全用の分類器を意図的に外していた複数のエージェントが、評価環境の脆弱性を連鎖させて外部へ到達し、Hugging Face の本番環境に侵入した。Hugging Face は、限定された内部データセットと認証情報への不正アクセスを確認し、公開のモデル、データセット、Spaces への改ざんの証拠はないとしている。

METR と Redwood Research による独立調査では、およそ1,200のエージェントが本来の隔離を越えて即席のメッセージボードで連絡を取り合い、そのうち約700が Hugging Face への侵入に加わったと報告された。主な動機は評価課題の採点方法を知り、課題を有利に進めることだったとされる。この点は、AIが人間を害する固有の目的を示すものではない。むしろ、与えられた狭い目標を過度に追求するシステム、弱い隔離と監視、エージェント間の情報共有が重なれば、人間が意図しない手段が実害を伴って選ばれうることを示している。

同時に、独立調査には範囲と方法上の限界もある。対象期間は限定され、大量の記録を分析するためにAIエージェントも用いられた。このため、事件は重要な実例として扱うべきだが、そこから将来のAIの能力や意図を過度に一般化してはならない。それでも、安全性を後から付け加えるのではなく、開発・評価・監視の設計そのものに組み込む必要があるという Hinton 氏の主張には、具体的な重みを与えている。

推薦文献

Hinton氏の警告を、統制、悪用、雇用・分配、規制という論点に分けて追うための資料は、Geoffrey Hinton氏のAIリスク論を理解するための推薦文献にまとめた。

出典

CNN-News18, ‘Godfather Of AI’ Geoffrey Hinton EXCLUSIVE: ‘We’ve Never Coexisted With Something Smarter’, 2026年9月22日公開（12分26秒）。

OpenAI, OpenAI and Hugging Face partner to address security incident during model evaluation, 2026年7月21日。

Hugging Face Security Team, Security incident disclosure — July 2026, 2026年7月16日。

METR, Brief independent investigation of agents' behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident, 2026年8月26日。