kill switch

昨日の投稿ではAIが人間を超えて自律的に働くことで抑制が効かなくなるというリスクが現実のものとして議論されているという話題を取り上げました。

今日も同じ話題で恐縮ですが、議論はアメリカのみならず世界各国で行われているようで、以下に引用するのはイギリスでの話です。

イギリスの国会ではAIに"kill switch"を導入すべきとの議論が行われたそうで、この"kill switch"という言葉がトレンドのようになっています。

The UK government has rejected the idea of creating a so-called "kill switch" to stop a dangerous attack from rogue AI.

The proposal to create a legal mechanism for the UK to switch off an AI model in an emergency has been brought to Parliament by lords and MPs in recent weeks as fears grow about the threat the tech poses.

But the Cabinet Office - the part of government which leads on AI safety - said the UK "cannot simply turn AI off".

(Joe Tidy. UK government rejects 'kill switch' idea for dangerous AI. BBC News. September 11, 2026.)

"kill switch"はカタカナでも「キルスイッチ」として使われていますが、強制停止装置などと訳され、非常時に機械やシステムなどを停止させる仕組みのことを言い、Merriam-Webster Dictionaryでは、

a mechanism or feature on a mechanical or electronic device that allows one or more functions to be turned off or made unavailable

と定義されています。

さて、イギリスではAIに"kill switch"を義務化するという法案が議会に提案されましたが、否決されたとあります。

理由はイギリスだけで出来るものでは無い、ということのようですが、国境の無いインターネット環境において、ある国だけが"kill switch"を設けたとしても、それが果たして機能するのか分からないということのようです。

トランプ米大統領はAI開発を抑制することは愚行であり、ロシアによる"hoax"だとし、そんなことをすれば喜ぶのは中国だとまで言っています。