treacherous

人工知能（AI）がホットな話題ですが、グーグルがこのほど発表したAI Overviewはある意味、新技術の限界を露呈させました。

AI Overviewは大規模言語モデル（LLM）と呼ばれる技術に基づき、膨大なテキストを処理して自然な応答を生成することができるものですが、公開以降、プロンプトに入力された問い掛けに対して不適切な回答を生成する事例が指摘されています。

A week after its algorithms advised people to eat rocks and put glue on pizza, Google admitted Thursday that it needed to make adjustments to its bold new generative AI search feature. The episode highlights the risks of Google’s aggressive drive to commercialize generative AI—and also the treacherous and fundamental limitations of that technology.

(Google's AI Overviews Will Always Be Broken. That's How AI Works. Wired. May 31, 2024.)

記事によりますと、問題はウェブ上に存在する情報がそもそも不正確であることからくるものだそうです。ウェブ検索の進化版とも言えるこのサービスは結局のところ、インターネット上にある玉石混交の情報をベースにしたものであり、検証がなされた正確な情報も、SNS上の投稿などにおける断片的なコメントのような、真偽の程も分からないような情報も同等に扱ってしまうことが問題だということです。

そうなってくるとAIが生成する回答は信用できない、つまり、当てにならない、ということなのですが、記事では、

treacherous

という表現を使っています。

小生は高校の時、この"treacherous"という単語を、不誠実な、裏切りの、という日本語で暗記していました。他人を裏切るような、背反の心を持った人間、というイメージでしたが、人に限らず、モノや事柄についても、当てにならない、頼りにならない、という意味で使われることはポイントです。

"treacherous"は"treachery"という名詞から派生した形容詞ですが、これらの単語の語源は、詐欺師を意味するフランス語tricheurに遡るとの説明があります。古フランス語の動詞trichierは騙すという意味で、これは英単語の"trick"と同じなんですね。

"treacherous"という単語のスペルや意味合いがいまいちピンと来ないという人は、「トリック」（trick）という英単語を思い出すと良いでしょう。