AIとの雑談、難しいのはなぜ? 会話を通してAIが「信頼できる仲間」になる未来

最近のAIは絵を描いたり、物語を作ったり、作曲をしたりと、クリエイティブの分野にまでその能力を発揮するようになりました。「AIが人間の仕事を奪う」と言われて久しいですが、そのポテンシャルには驚かされてばかりです。

そんななか、名古屋大学の東中竜一郎教授が取り組んでいるのが、対話システムの分析を通した「雑談するAI」の実現です。

最近はSiriやAlexaといった音声アシスタントが、なにげない問いかけに返事をしてくれるようになりました。しかし、「雑談するAI」が目指しているのは、人間とAIがスムーズに対話すること。人間でも苦手な人が多い雑談を、どのように実現しているのでしょうか。

雑談特有の難しさや、AIが乗り越えなければならない壁、そしてAIと雑談できることで開ける未来について、東中教授に伺いました。

東中 竜一郎(ひがしなか りゅういちろう)さん

日本電信電話株式会社NTTコミュニケーション科学基礎研究所・NTTメディアインテリジェンス研究所上席特別研究員を経て、名古屋大学大学院情報学研究科教授。NTT客員上席特別研究員、慶應義塾大学環境情報学部特別招聘教授。専門は対話システム。平成28年度科学技術分野の文部科学大臣表彰(開発部門)受賞。著書に『AIの雑談力』(角川新書)、『Pythonでつくる対話システム』(オーム社)、『おうちで学べる人工知能の基本』(翔泳社)など。

東中竜一郎さん

人間とAIが信頼関係を築くためには「雑談」が必要

——そもそも、なぜ東中さんは「雑談するAI」の研究を始められたのでしょうか?

東中さん:今から20年ほど前、在籍しているNTTで対話システムの研究に携わったのが発端です。そこでは、いわゆる「タスク指向型」という、あらかじめ決められたタスクをこなす対話システムを開発していました。当時は会議室予約システムを開発していて、「13時から15時まで5名で予約してください」と声をかけると、会議室を予約してくれるようなものを作っていたんですね。

それからしばらくして、音声アシスタントである「しゃべってコンシェル」(※)の質問応答機能の開発に携わることになりました。画面のなかにいる羊のキャラクターに質問をすると、いろいろ答えてくれるという、今でいうSiriのようなシステムですね。

※スマートフォン内のキャラクターに話しかけることで使用できる音声アシスタント機能。アシスタントキャラクターである「ひつじのしつじくん」と「メイドのメイちゃん」が有名

——「しゃべってコンシェル」覚えてます! 執事の格好した羊がかわいいんですよね。

東中さん:その羊が、ユーザーの質問に答えてくれるわけなんですが……質問内容を見てみると、意外にも「お名前は?」とか「元気ですか?」とか、キャラクターに雑談を持ちかけてくる方が結構いらっしゃったんです。

人間は、知らない人との距離を縮めるために雑談をするものです。それと同じことが、コンピューターのキャラクターにも起こっている。人間が対話システムを安心して利用するには雑談もしっかりできたほうがいいのではと、本格的に雑談の研究を始めることにしました。

——雑談をできるようにすることで、人間とAIとの距離を縮めよう……ということですか?

東中さん:その通りです。これからAIが高度化して人間と共同作業するようになったとき、「AIと信頼関係が築けているかどうか」が重要になるだろうと考えているんですね。

人間でも、信頼していない相手に大事なことは頼めないじゃないですか。頼んだとしても「今どうなっていますか?」「大丈夫ですか?」と、逐一確認したくなりますよね。相手が信頼できる存在なら、こうした確認が不要になり、共同作業をより効率化できます。

東中さんの著書『AIの雑談力』

▲東中さんの著書『AIの雑談力』では、これまでの雑談AI研究の過程に加えて、「AIとの雑談に飽きる理由」や「雑談AIを評価する難しさ」など、研究中のなかで発生した今後手を付けるべき課題にも言及されている

——相手を信頼するのであれば、雑談ではなく、過去の仕事実績から判断できそうな気もしますが。

東中さん:もちろん、過去の仕事実績から能力や誠実さはある程度わかるでしょう。ただ、仕事を任せるには「価値観が合っているか」も大事です。つまり、ある状況に遭遇したときに、自分の代わりに自分と同じような判断をしてくれるかどうか、ということですね。

身近な例だと、「このアプリがおすすめしてくるアイテム、ちょっと自分に合わないんだよな」ということがあるじゃないですか。あれは、自分と、アイテムを提案するAIの価値観が合っていないわけです。

——それなら身に覚えがあります……。確かに「自分のことをわかってもらえてないな」と思いますね。

東中さん:この人に仕事を任せても大丈夫か、自分と価値観が合っているのか。それを推し量る材料として雑談はやはり有効なんですよ。これは人間でもAIでも同じだと考えて、雑談AIの研究に取り組んでいるのです。

AIは言葉の「意味」までは理解していない

——最近はSiriやAlexaなど、音声アシスタントが雑談にも答えてくれるようになりました。東中さんが研究を始めたころから、雑談するAIはどのように進化してきたのでしょうか?

東中さん:雑談するAIの歴史は古く、1960年代には「イライザ(ELIZA)」というカウンセリングに着想を得た雑談をするシステムがありました。相手の発言に「もっと聞かせて」と返答したり、「そうなんだ。○○なんだね」と繰り返したり。

それ以降、しばらくの間ニューラルネットワークなどの機械学習を活用した試行錯誤が続くなか、2017年ごろ、ディープラーニングにより、自然言語処理においても目覚ましい進展が生まれました。機械翻訳の精度が格段に向上したんです。

——外国語の翻訳ソフトのことですね。確かにすごく自然に訳してくれるようになりましたが、それが対話システムとどのような関係が?

東中さん:ディープラーニング以前の雑談するシステムは、裏側で「相手がこう言ったら、こう返す」というルールを一つひとつ、手づくりしていたんですね。これでもある程度なら会話できるものの、雑談は話題の幅が広く、手書きで何千何万とルールを作るには限界があります。

その点で「こう言われたらこう返す」という意味では、対話システムも翻訳もやっていることは基本的に同じなんです。翻訳も以前は「こういう言葉はこう訳す」というルールを作って処理していましたから。

ディープラーニングを用いた言語処理では、膨大な対訳データから「どの入力に対してどの出力が適切か」をAIに学ばせることになります。その結果、まるで言葉の意味がとれたかのような翻訳を作り出せるようになりました。この仕組みを活用すれば、手書きでルールを作成しなくても、ある程度は自然な対話ができることがわかったんです。

——なるほど。「言われたことを理解して、適切な回答を返す」のは、会話でも同じですからね。

東中さん:ただ、AIは真の意味で「言葉の意味を理解しているわけではない」ので、注意が必要です。

AIは「こう言われたらこう返すことが多いよ」というパターンを高精度で学習しているのであって、言葉の意味そのものを理解しているわけではありません。言わば、「人間の雑談をマネして雰囲気で話している」という状態です。ですので、聞いたことがない質問には答えられないし、意味を汲み取ることもできない。

雑談AIが対話する仕組み

▲雑談AIは、相手の発言した内容と学習した膨大な「対話のモデル(=対話に関する統計情報)」を照らし合わせて、その場その場で「相手の発言に対して適切だと思われる返答」をアウトプットする仕組み

東中さん:2022年現在でも、その状況はあまり変わっていません。テキストチャットで人間と短い間であれば会話ができるかな、というくらいでしょうか。音声対話だと全然まだまだですね。

雑談AIよりお掃除ロボットのほうが「自分」がある!?

——では、AIに自然な雑談をさせるために、足りないものはなんなのでしょうか?

東中さん:「共通基盤がない」「自分がない」の2つが課題だと考えています。

「共通基盤」とは、自分と相手のあいだで共有している「前提」のことだと思ってください。人と会話をするとき、相手の話を踏まえて自分の話をしますよね。これは、「さっき聞いたことは理解しているよ」と案に相手へ伝えていることになります。

これを繰り返すことで、2人のあいだに共通の理解が生まれ、これをベースに会話が進みます。これが共通基盤です。AIにもこの仕組みがないと、それらしい返事を貼り合わせたようになってしまうんです。

——話している相手の気持ちを読む、みたいなものでしょうか。

東中さん:そうですね。ずっと一緒にいる人とは、何も言わなくても、思っていることや言いたいことが「あれ」とか「それ」で伝わったりしますよね。これは、相手との共通基盤ができているからです。

同じように、人間とコンピュータもお互いを理解し合えれば、効果的に相手の意図を読むことができるようになるんです。

相手の気持ちを読んだ対話の例

▲仲の良い友達同士で行われるような「あうん」の会話は、お互いの関係性によって築かれた共通基盤によってなせるもの

——では、もうひとつの理由である「自分がない」についても教えていただけますか。

東中さん:AIには「発信したい自分」がありません。あなたはどうですか? と聞かれても、自分の意見がないんですよ。ディープラーニングの仕組み上、誰かが言ったことをどこかから持ってくるしかない。それで「コーヒーはおいしいですよね」とAIがしゃべっても、「飲めるわけないでしょ」となりますし。

——君に味がわかるわけないだろう、と。

東中さん:AIに自分を持たせる試みのひとつとして、「なりきりAI」を作ったことがあります。YouTuberのマックスむらいさんやアニメの登場人物など、いろいろなキャラクターの発言から学習したAIを作ったんです。

結構ちゃんとしゃべれるものができて、会話を楽しんでくれる人もいたんですが、話を詰められると当然ボロも出ます。それに、自分から何も生み出せないから話すことが枯れてしまうんですよ。やはり最終的には「発信したい『自分』がない」に行き着いてしまいますね。

——とはいえ、AIが「自分」をしっかり持つようになったら、それはもうSFの世界ですよね。

東中さん:「人工物に『自分』を感じる」という話だと、お掃除ロボットに愛着を覚える人ってけっこう多いですよね。たまに部屋から脱走したり、コードに絡まって身動きができなくなったり、なんだか一生懸命で微笑ましいじゃないですか。

これって、お掃除ロボットが「ここに行こう」「次はあそこ」と自分で判断して動いているから、見ている人も「がんばってるな」と感じるんだと思うんですね。そう考えると、お掃除ロボットは「部屋を掃除する」という仕事において、自分自身の中に根源的な欲求を持っていて、それを外の世界に発信している……とも考えられませんか?

お掃除ロボット

▲ゴミ箱をひっくり返したりコードに絡まったりと案外トラブルメーカーのお掃除ロボットだが、不思議と「不良品だ!」とはならず、「がんばったね」とねぎらいの言葉をかけたくなる持ち主も少なくないのだとか

——つまり、お掃除ロボットには「自分」がある……?

東中さん:ひょっとしたら、お掃除ロボットを「かわいい」と思うのも、そういった「自分の欲求に一生懸命な姿」に共感しているのかもしれないですよね。

これからのシステムは「信頼」が重要な要素になる

——では、さまざまな課題を乗り越えて、AIが流暢に雑談をできるようになったとき、どのような未来が実現するのでしょうか。

東中さん:人間とAIがチームを組んで、一緒に会話をしながら共同で作業することが増えていくのではと考えています。AIにはAIにしかできないことがあり、人間には人間にしかできないことがある。お互いの長所を掛け合わせた、ハイブリッドなチームが生まれるのではないでしょうか。

——「AIが仕事を奪う」のではなく、「AIと一緒に仕事をする」わけですね。具体的には、どのような作業を一緒にすることになるのでしょうか?

東中さん:今まさに、クリエイティブな作業をAIと共同で行う研究を進めているところです。取り組みのなかのひとつに、AIと話しながら『マインクラフト』(※)できれいな庭を作る、というものがありますね。「ここにベンチかなにか作りましょうよ」とか「花壇があったらいいですね」とか、AIとやりとりしながら庭を作っていくんです。

AIにも目指したい庭のイメージを学ばせているので、向こうから「こうしたい」という提案をしてくる、という状態が理想です。お互いが相手の意見を聞きながら、「じゃあここはこうしよう」と合意を取りつつ進めていく。そうすると、やはり自分1人ではできないようなものができるんですね。同じく開発中のものとして、これと似た仕組みで、AIとキャッチコピーを共同で作る研究も進めています。

※ブロック状に描画される石や木材等の様々な素材を収拾・加工し、広大な自然のなかでサバイバルしていくオープンワールドゲーム。素材を用いて立体オブジェクトを作る、大規模な電子回路を作成するなど、その自由度の高さから幅広いプレイヤーを獲得し、2019年に「世界で最も売れたゲーム」となったことが発表された

——おもしろいですね! そうなると、最初におっしゃっていた「価値観が合う」ことがやはり大事になってきますね。

東中さん:価値観が合うこと、信頼できる相手であることは、AIに限らずシステムの大切な要素になってくるでしょうね。これから先、技術の発展に伴って、医療や介護といった命に関わるシステムも増えていくはずです。そうしたときに、システムはどうやって信頼を勝ち取っていくかが極めて重要になるだろうと思っています。

——その信頼を得る手段のひとつが、雑談であると。

東中さん:そうですね。人間もAIも、仕事や雑談ができる相手でないと、なかなか信頼度が上がっていかないのではと思うんです。価値観が合う仲間と、一緒に何かをして、成果を分かち合う。そうした成功経験を積み重ねた先に、信頼関係が生まれるのだと。

そもそも、これは人間が生きてきたやり方でもあると思うんですよ。「一緒にマンモス倒そうぜ」みたいに、仲間と共同作業をしなければ、生き残れなかったわけじゃないですか。そうなったとき、裏切りそうな人間ではなく、信頼できそうな人と手を組むのは自然な流れでしょう。

雑談の研究は、人間関係の研究とかなり近いところにあります。協力であるとか、信頼であるとか、人間が生きるうえでの重要な要素を含んだ研究のように感じています。

取材・執筆:井上マサキ、イラスト:pum、編集:伊藤 駿(ノオト)