振り込め詐欺に使われるのでは？大学もAI教員の導入とか！
電話で人間そっくりに会話するグーグルの人工知能に、「AIのある未来」の一端を見た
人工知能（AI）が美容院やレストランなどに電話をかけ、相手と人間そっくりな会話をして自動的に予約をとってくれる──。
そんな衝撃的な技術をグーグルが発表した。
これによってGoogleアシスタントに指示するだけで、AIが勝手に電話をかけて予約をとってくれる時代がやってくる。
その仕組みは謎に包まれているが、倫理的な問題や悪用される危険性、はたまたAIが人間相手にどう名乗るかなど、解決すべき課題は山積している。
TEXT BY LAUREN GOODE
EDITED BY CHIHIRO OKA
EDITED BY CHIHIRO OKA
WIRERD(US) wired.jp/2018/05/13
ロボットから電話がかかってきても、普通はすぐに何かがおかしいと気づく。
変なふうに聞こえるし、つっかえることもない。そしてたいていは、不自然なまでに効率的だ。
無利息の融資が受けられるとか住宅ローンが未払いだとか、はたまた「アンケートにご協力ください」などと言われる前に、声の主は人間ではないことがばれる。
そしてロボットだとわかれば、電話を切るのは簡単だ。
「Google Duplex（デュプレックス）」の開発チームは、よかれ悪かれ、この分野でパラダイムシフトを起こそうとしている。毎年恒例の開発者向けカンファレンス「Google I/O」で明らかにされたデュプレックスは、「Google アシスタント」が人間を相手に、電話で自然に会話することを可能にする技術だ。
人工知能（AI）はわたしたちの会話の調子をまねて、現実世界のシンプルなタスクを完了できるようになる。
聴衆を圧倒したデモンストレーション
最高経営責任者（CEO）のサンダー・ピチャイの基調講演でのデモは、事前録画した動画を流すだけのものだった。
それでも、デュプレックスの機能は聴衆を圧倒した。
最初は美容院の予約で、女性スタッフが電話に出た。
アシスタントは女性の声で約1分間にわたって会話し、最終的にカットの予約がとれた。
次はレストランの予約で、これも通話時間は1分程度だ。電話を受けたレストランのスタッフには非常に強い訛りがあり、こちらの質問にきちんとした答えが返ってこない。アシスタントはそれでも臨機応変に対応し、無事に会話を終えた。
驚くべきは、どちらも電話をかけたのは人間ではないという点だ。
Googleアシスタントが操作するボットで、バックエンドのシステムを通じて動作する。それなのに、本当に人間のように聞こえるのだ。
「えーと」や「ああ、わかりました」といったフレーズを使い、質問では語尾を上げる。
そして、美容院の予約を入れたり予約なしでレストランに行っても大丈夫か判断するといった、これまではわたしたち人間がやらなければならなかった仕事をきちんとなしとげた。
デュプレックスはグーグルにとって、ロボットによる完全自動化された自然な会話という挑戦における大きな一歩だ。
そしてわたしたちにとっては、素晴らしい利便性と気味の悪い人工物との間に引かれた確固たる線をまたぐことを意味する。
正式公開はまだだが、夏からオープンベータ版を使ったテストを始める予定で、スマートフォンおよびGoogleアシスタントを搭載するスマートスピーカーで使うことができる。
ただし、それまでに考えておかなければならないことがいくつかあるだろう。例えば、電話をとった相手にアシスタントがどう名乗るかといった問題だ。
まるで人間そのものの会話
グーグルによるとデュプレックスは、数年前にチーフエンジニアのヤニフ・レヴィアタンとエンジニアリング担当副社長のヨッシ・マティアスの実験プロジェクトとして始まった。
「20パーセントルール」から生まれたプロジェクトのひとつだったという社内関係者からの情報もあるが、グーグルはこれについてはコメントしていない。
自然言語処理とディープラーニング（深層学習）、音声読み上げを組み合わせたサーヴィスで、なかでも「自然」という部分が注目を集めている。
システムは会話における反応のスピード（例えば、相手が「もしもし」と電話に出てから一呼吸置く）や、文脈に合わせてイントネーションを変えるといったことを、きちんと学習している。
つまり、人間のような反応が返ってくるのだ。
金融機関などに電話をかけたときによくある、自動音声による対応の対極だろう。
カーネギーメロン大学で人間とコンピューターの会話を研究するアレキサンダー・ラドニッキーは、
「コンピューターと話そうとするとき、そこには目的があり、人間は基本的にコンピューターにもわかるように特殊な話し方をしようとします」
と言う。
「ここではそれが反対になっています。コンピューターのほうから話しかけてきて、自分たちと話をしてくださいと人間を説得しようとしているのです」
AIは名乗るべきなのか
米電気電子学会（IEEE）の「自立型知的システムの倫理に関するグローバルイニシアチヴ」の代表を務めるジョン・ヘイヴンズは、
「技術的には驚くべきものです」
と話す。
「妻に（デモの動画を）見せたら『どちらが本物なの？』と言われました。そこが難しいところです」
デモで明らかに欠けていたのは、Googleアシスタントが電話で「自分は人間ではなくAIアシスタントだ」と説明することだった。
デュプレックスの電話の発信元はグーグルのバックエンドシステムで、ユーザーの携帯電話（よく利用する店なら番号が顧客リストに載っているかもしれない）ではない。
ラドニッキーはそこで問題が生じると指摘する。
「『誰々のGoogleアシスタントです』と名乗るべきでしょう。もしくは機械かアシスタントか、それとも人間なのか、明確に示される必要があります」
これをどう処理するのか、『WIRED』US版はグーグルに質問したが、回答は得られていない。
『CNET』の取材では、アシスタントは
「相手に対して電話をかけているのはAIアシスタントだと伝えることになるだろう」
としているが、具体的にどのようにするのかは明らかにしなかった。
面倒な電話はAIに丸投げ？
倫理的な疑問だけでなく、マナーの問題もある。
ユーザーがアシスタントのかけた電話の内容を知る術はない（行きつけの美容院やお気に入りのレストランで理由もわからずブラックリストに載ってしまったら、何かあったのだろうと気づくかもしれない）。
人間が一番かけたくない類の電話をアシスタントにやらせるようになったらどうだろう。
デュプレックスの応用範囲はいまのところは限定的だが、ヘイヴンズは今後、利用の幅が拡大していくだろうと指摘する。
「すぐに、恋人と別れるのにヴァーチャルアシスタントに頼んでメールを書いてもらうことができるようになるでしょう。
『週末に母親に電話をかけておいて』というような使い方もされるかもしれません。少し大げさな話をしているのは確かですが、そういう時代がやって来ているのです」
また、どんな自動電話システムも悪用の可能性はある。
例えば、誰かが企業などにいたずら電話をかけるプログラムをつくるといったことは、容易に想像できる。
グーグルはデュプレックスの1日当たりの利用回数に制限を設けたり、同じ番号に何回もかけられないようにすることでこうした悪用を防ぐとしているが、制限は実際に何回になるのかという質問には答えなかった。
グーグルはまた、不正使用を発見するのに「パターンを見ている」とも話している。
ATMのように社会に浸透するか
デュプレックスはどのように機能しているのかなど、多くの謎が残されたままだ。
これは最先端のAIアシスタントでも答えられない疑問である。
ラドニッキーは、こうしたシステムはヘルスケアなどの分野で10年以上にわたり開発が行われており、AIを活用して状況に応じたカスタマイゼーションを行うことには利点があると説明する。
「より広範囲で人とのやりとりが可能になります」
と彼は言う。
ラドニッキーはまた、人々は一般的にこの種の技術に理解を示すようになるだろうと指摘する。
彼はATMが使われるようになって間もないころ、銀行の窓口でやるように機械に話しかけている人を見かけたという小話を引き合いに出して、こう述べる。
「新しいものに関しては、それがどう機能するのかわからないうちは、これまでに慣れているやり方で対処します。それがまるで人間であるかのように扱うのです。それでも、まったく同じ人がATMを問題なく使えるようになると断言できます。
わたしたちは、こうした新しいものとのやり取りを文化のなかに吸収していくのです。デュプレックスのようなものにも同じことが起こると思います」