自作AIプログラムに仕事をさせ停職処分

今日はちょっとPCの話しから離れますが、ちょっと面白い記事を見つけたので紹介します。

ニューヨーク市がヘルプデスクの電話対応作業を自作AIプログラムを使い代行させたとして、その職員(Ronald Dillon氏)を停職20日の処分を下していた。

スポンサーリンク

電話対応を自分と声そっくりに似せていた

この職員は自分の声とそっくりの自動音声システムを自作しヘルプデスクに掛かってくる様々な質問を、この自動音声システムに対応させ答えさせていた。

しかし、対応に疑問を感じた人が居たらしく、通報を行うことで、自動音声システムのAIプログラムに電話対応させていたのが発覚し、今回の処分に至った。

自動音声システムの対応を聞いてみよう

会話の内容(流れだけ書きます)

『AI』  You have reached the help desk. This is Mr. Dill on. How may I help you?
Dillと申します。お手伝い出来ることがあるますか?
『客』  … change the projector to see the computer resources.
コンピューターのプロジェクターがちゃんと動かないみたいですが。
『AI』  Last name?
名字はなんですか?
『AI』  Oh, sorry
ああ、すみません
『AI』  The first name?
名前は何て言いますか?

『AI』   the projector doesn´t see the computer?
プロジェクターが映像を映し出せませんか?
『客』   Right
そうです。
『AI』  Ok, request number`s 270899.
わかりました。申し込みの番号は270899
『客』  27089
270899

あまりにも高度な自作AI

多くのマスコミはこの職員の”さぼり”よりも高度な自作AIに関心を集めている。

会話を聞く限り、これがAIなのか職員本人なのかは、断定するのは困難である。

本人曰く『彼の英語はブルックリン訛りが酷く相手が聞き取りにくいので自分の声をゆっくり喋らせるプログラムを使って対応させただけ』と述べている。

この電話の応対を聞く限りは、Ronald Dillonの対応には問題があるとは考えられず、ニューヨーク市がこのことをもって停職処分にまでしたのは、別の原因があるのではないかとする見方が広がっているからとなる。

この録音をもってこの会話がAIによるものと判断することは、かなりの発想の飛躍ともなるが、実はそうでもないかもしれない。

AIを断定された録音データ

この録音は2013年にTimeの記者が録音したものが下の会話となる。

この電話オペレーターとの会話を録音したTimeの記者は、いくつかのトラップをしかけて相手を試すことでこの電話オペレーターは人間ではなくAIだと断定している。

『記者』: Hi, I’m good. How are you?
『女性AI』: Well, I’m calling about an online request you once made about health insurance coverage.
We work with all major companies and compare…
『記者』: Hey, are you a robot?
『女性AI』:Ahahaha, what? No, I am a real person. Maybe we have a bad connection. I’m sorry about that.
『記者』: you sounds much like a robot
『女性AI』: I`m a real person. Maybe we have a bad connection. I´m sorry about that
『記者』: When you told me, you are not a robot? you said I`m not a robot.
『女性AI』: I´m a real person.
『記者』: You will made me feel better I you could you say that I´m not a robot
『女性AI』: Can you hear me ok?
『記者』: Yeah, I can you hear fine. Can you say, I`m not a robot?
『女性AI』: Are you there?
『記者』: Yes, I am here
『記者』: Let me ask you some questions. Are you a robot?
『女性AI』: No…

日本語だとこんな感じかな

『女性AI』 健康保険の情報のことですが…(以下略)

『記者』 ロボットですか?

『女性AI』 (笑)違います。ロボットではありません。電波の調子が悪いですね。すみません〜

『記者』 あなたの声がロボットのみたいですけれど

『女性AI』 人間です

『記者』 私はロボットではないと言ってくれたら、私は安心します。

『女性AI』 ちゃんと聞こえますか

『記者』 聞こえますよ。私はロボットではないと言ってくれますか?

『女性AI』 大丈夫ですか

『記者』 全然大丈夫ですよ。一つを言ってもいいですか。ロボットですか?

『女性AI』 ロボットではありませんよ・・・

『女性AI』

『記者』

相づち、笑い方が凄く自然に聞こえる・・・。

ちょっと英語翻訳出来次第、会話の内容をUPします。テキスト化するのにちょっと時間下さい。

まとめ

実際にはAIによる自動音声システムはかなりの確率で開発され実用レベルまできている可能性は高い。日本でもオペレーターに繋がる前の段階では会話の出来ない自動音声システムくらいは企業が導入しているところも多いだろう。

ここで知りたいのは『会話が出来るか』、『出来ないか』の雲泥の差である。

おそらく数年後には実用化レベルになっていて、AIと会話をする時代が来るかもしれない、企業にとっても実用化すればオペレーターのコスト削減にもなるし、AIが対応出来ない質問だけを人間に回せばよい。

そして数十年後そう遠くない未来には一家に1台、一人に1台ロボットを持っているかもしれない。映画のような未来が待っている!そう思ったらワクワクが止まらない。

この職員は現在、裁判中みたい。

NEW YORK POST : http://nypost.com/2014/10/31/nyc-worker-suspended-for-answering-phone-with-robot-voice/

スポンサーリンク

シェアする

フォローする