AI(人工知能)が自律的に発達を遂げた結果、人間の能力を遥かに超えてもはや抑制の効かない状況が生ずるという、SF小説か映画のようなストーリーがまことしやかに語られています。
しかし、現実にそのような状況が起きつつあると、AI開発の先進企業のトップや幹部社員が警告したと、昨夕、ラジオのニュースで聞きました。
以下はCNNの記事からの引用です。
The latest warnings about AI seem intended to boggle minds and shock everyone into action.
Anthropic CEO Dario Amodei, a leader in the AI race, on Saturday called for a conscious slowdown in AI development in an essay posted to his website. AI is developing faster and faster and could outrun humans’ ability to manage it, he wrote.
“Left unchecked, it could outrun our ability to understand and control these systems, and so must be pursued very carefully, if at all,” Amodei wrote.
(Zachary B Wolf. AI and the end of humanity? OK, ‘doomer’ says one Trump official. CNN. September 13, 2026.)
記事によれば、この10年くらいでAIが人智を遥かに凌ぐことになるので、AIの開発を遅らせなければ、人類が終焉する可能性があるとまで言われているそうです。
このようなAI企業幹部の発言を受けて、サンダース上院議員のコメントです。
Among those calling for government action is Sen. Bernie Sanders, who takes the warnings seriously.
“Nearly every day, there is a frightening new story about how Big Tech companies are losing control of the technology they are developing, with potentially cataclysmic results,” Sanders said in announcing proposed legislation to ban artificial superintelligence. “It is irresponsible for society to allow them to move forward and make these products even more advanced.”
(ibid.)
人智を超えて自律的に振る舞うAIが、
cataclysmic
な結末をもたらす恐れがある、と。
"cataclysm"は激変とか大変革と訳されていますが、ギリシャ語kataklusmosは大洪水の意味で、洗い流すという意味のギリシャ語動詞kluzeinに由来します。
接頭辞cata-は、下方へ(down)、〜に反して(against)という意味合いで、過去には"cataract"や"catafalque"という単語を取り上げました。
余談ですが、"cataclysm"と意味合いも似た単語に"catastrophe"があり、大惨事、悲劇的な終末、カタカナでも「カタストロフ」と用いられます。こちらも同様に接頭辞cata-とギリシャ語動詞strephein(to
turn)の組み合わせによる語ですが、原義としてはギリシャ劇、特に悲劇における結末、大団円を指す言葉で、いわゆる破滅的、悲劇的な結末という意味合いは後になって生じたものだそうです。
0 件のコメント:
コメントを投稿