グーグルAIはパンドラの箱を開けたか ― Pandora's box

「パンドラの箱」はよく知られた表現ですが、ニュースの記事で実際に使われているのを見るのは初めてのような気がします。

先日、グーグル主催の人工知能（AI）技術に関するカンファレンスが開催されたようですが、その際に行われたデモで、AIが電話で美容院の予約を行う実演が披露され、人々の度肝を抜きました。


It came as a total surprise: the most impressive demonstration at Google’s I/O conference yesterday was a phone call to book a haircut. Of course, this was a phone call with a difference. It wasn’t made by a human, but by the Google Assistant, which did an uncannily good job of asking the right questions, pausing in the right places, and even throwing in the odd “mmhmm” for realism.

The crowd was shocked, but the most impressive thing was that the person on the receiving end of the call didn’t seem to suspect they were talking to an AI. It’s a huge technological achievement for Google, but it also opens up a Pandora’s box of ethical and social challenges.

For example, does Google have an obligation to tell people they’re talking to a machine? Does technology that mimics humans erode our trust in what we see and hear? And is this another example of tech privilege, where those in the know can offload boring conversations they don’t want to have to a machine, while those receiving the calls (most likely low-paid service workers) have to deal with some idiot robot?

In other words, it was a typical Google demo: equal parts wonder and worry.
(James Vincent. Google’s AI sounds like a human on the phone — should we be worried? May 9, 2018.)


記事にありますように、AIによるコール（電話）は、受け手である美容院スタッフが自分が話している相手がAIだと気付かない程の生々しさだったと言います。

間違いなく技術の進歩を知らしめる内容ですが、


it also opens up a Pandora’s box of ethical and social challenges


とありますように、実用化されれば様々な倫理的、社会的な問題が噴出すること間違いなさそうです。

ご存知の方も多いと思いますが、人間が火を使用することを知ったことに怒ったZeusが送り込んだのがPandoraです。

Pandoraに持たせた箱には人間を悩ます諸悪が封じ込められていたそうですが、好奇心からそれを開いてしまったPandoraのために、害悪が拡散することになります。

箱の中には希望だけが残った、と言われている、あまりに有名なギリシャ神話の寓話です。