RSS

この記事をすすめる 編集部へのご意見ご感想

  
ソーシャルブックマーク
このエントリーをはてなブックマークに追加

人工知能は心をもてるか?/「人間の心とは何か」を問う

「人工知能」をテーマにトークイベントを開きました

朝日新聞GLOBE×アカデミーヒルズ 


GLOBEとアカデミーヒルズの共催イベント「Breakthrough『突破する力』」第11回が3月7日、六本木のアカデミーヒルズで開かれました。今回のテーマは「人工知能(ロボット)は心を持てるか~AIブームその先へ」。いわゆるディープラーニング(深層学習)の急速な発展で、第3次ブームを迎えた人工知能は、この先、どんな進化をとげるのか。人工知能というけれど、それはヒトの脳とはまるで仕組みが違うのか、似たところはあるか、やがて心をもつようになるのか? 世界的に注目されている脳計算論的神経科学の第一人者、沖縄科学技術大学院大学(OIST)教授の銅谷賢治氏と、最先端のAIベンチャーとして知られるプリファード・ネットワークス社(PFN)の共同創業者で副社長の岡野原大輔氏の二人の対談に、会場は熱気に包まれました。



銅谷教授は、脳のように柔軟で、自ら学習するアルゴリズムの開発と、脳の学習の仕組みの解明に取り組んでいます。人間の心のしくみを理解し、さらにロボット用の脳の開発をしようというのです。プレゼンではネズミ型のロボットを使って学習していく実験の様子をみながら、自主性、情報選択、能動性といった観点から脳と人工知能の違いを説明しました。


岡野原氏は東京大学大学院に在学中に人工知能ベンチャーを設立した経緯などを紹介。NTTやトヨタ自動車、産業ロボットメーカーのファナックなども出資したPFNは、自動運転カーの基盤技術の研究開発や産業用ロボットへのAI応用などに取り組み、次世代のものづくりを支える頭脳集団として、注目を集めています。会場ではAIが搭載された車が自動で街中を走る映像を流し、歩行者や信号、建物、歩道を瞬時に認識する能力に驚きの声が漏れました。


以下に、モデレーターの田中郁也記者や会場、ゲストとの質疑応答の一部をご紹介します。


【会場からの質問】人間が作った頭脳に完全はありうるのでしょうか。想定外の事態にはどう対応するのでしょうか。


【銅谷氏】

完全でないというのは人間も機械も同じ。完全でない人間たちが集まって生きていく仕組みを我々はつくってきました。たとえば民主主義は権力を分散し、一人に集中させない仕組みです。そういう意味では、破滅的なことが起きるのを防ぐ仕組みは人工知能に対しても必要だと思います。

銅谷賢治氏

【岡野原氏】

今の機械学習やディープラーニングというものが完璧ではないということは、私たち技術者が一番よくわかっています。とんでもない間違いをします。人間が得意なことを機械ができなかったり、その逆もあったり、それぞれ強み、弱みがある。僕がよくいうのは「AIを飛行機だと思って下さい」ということ。飛行機は鳥とは全く違う形、ハードウェアで、エネルギーもばんばん使うが、一応人間は機械の限界を理解して使いこなしています。一方、鳥の方がエネルギー効率がよく、優れた部分もある。今のAIもそういう形で使いこなすようになっていくのでは。AIにどういう技術的な限界があるか見極めて使う、という姿勢が大事だと思います。


【会場からの質問】シンギュラリティー(技術的特異点)が2045年くらいに訪れるといわれていますが、どう考えますか?その時、人間は何をして生きていけばいいのでしょうか。


【岡野原氏】

20年後の事は誰も想像できないが、個人的なことを言えば、スーパーインテリジェンスのような、人間をある領域では凌駕する知能が出てくる可能性は十分にあります。一方で人間が機械を作れたのだから、さらに優れた能力を持つ機械がさらに優れたものを作れるかといえば、そんなに単純ではない。どんどんいいものができるという話ではないと思います。

岡野原大輔氏

コンピューターは人間の知能と呼ばれるところを既に置き換えています。どこまで人間だけでできるのかという点はこだわらない方がいいのかなと。技術者自身にもわかりません。


【銅谷氏】

機械が人間を超えるというのはどういう尺度で見て、超えるかということがあると思います。ある部分では人間を超えている部分もある。例えば、人間の脳はインターネットと、PCやマウスなど非常に効率の悪いインターフェイスを介してしかつなげられないが、それがつながっている人工知能というのは、我々以上に多種多様な情報を得られる。人間より非常に有利なポジションにいると思います。


また、デジタルコンピューターで作った知能は、いくらでも保存し複製することができます。人間の場合は人の脳をそのままコピーするということはできないので、いろんな形で伝承したり、試行錯誤して技術を受け継いだりします。それが簡単にできてしまうという点では、人工知能が人間を上回る可能性はあると思います。ただ、そのコピーをできてしまうことが人工知能の弱みになるという可能性もあります。人間はたとえ双子であってもまったく同じにはならない。脳の中でどんどん変わってくる。人のものをコピーすることはできない。だからこそ、一人一人の人間の個性や命が大事にされる。しかし、簡単にいくらでもバックアップをとってコピーできてしまうと、逆に大事にされなくなってしまう可能性があると思います。


つまり、人間は人工知能に愛情のようなものを投写できるかもしれませんんが、いくらでもコピーできるものと思うと、人間に対して抱くような、深いかけがえのない愛情というのは持てなくなってしまうわけです。


【会場からの質問】人工知能が暴走しないかという心配があります。ビルトインスタビライザーのようなものは必ず組み込めるのでしょうか。


【銅谷氏】当然組み込むべきだと思います。人間社会では独裁者がいると非常に大変な事になるというのは経験しているわけで、それはAIでもいえます。例えばある一つのAIに権限を握らせ過ぎると、それは非常に危ない。それを防ぐような人工知能のオペレーティングシステム、そのための決まりはつくっていく必要があると思います。


【岡野原氏】

AIの暴走は技術者が興味を持っていて、いたちごっこではありますが、色々とやってはいます。ただ最も脅威なのは悪意をもってAIを使うこと。これはすぐにやってくると思います。コンピューターネットワークへの同時大量攻撃はすでに起こっていますが、AIに攻撃されてしまうと、人では対応できないので、それに対応するのもAIになると思います。


【田中記者】AIは心を持てるのでしょうか。弱いAI、強いAI、もしくは何でもできるAI、専門的なAIと色々あります。例えば去年トップクラスのプロ棋士に勝ったアルファ碁はある意味、囲碁しかできません。そういうのは弱いAIもしくは専門的AIといえます。心を持てるかというのは汎用AIができた末の話なのか、何かの途中でできる可能性があるのでしょうか。


【銅谷氏】

「AIは心を持てるか」という問いは、「心とは何か」ということと同じようなものです。僕らは人と話している時に多くの場合は相手は心を持っていると思って対応しています。でも何を根拠に心を持っている、持っていないというのかは、はっきりとわかりません。ただ単純に刺激に対して応答しているようなものを我々は心を持っているとはいいません。


感覚情報をそのまま受け取るだけではなく、感覚情報を元に脳内でシミュレーションをして世界を再構成し、その理解に基づいて「この状況でどうすることが相手を一番ハッピーにするか」ということを考え、行動することは人工知能ができる可能性はあります。その場合、人間の持つ心と全く同じものではないかもしれないけれど、人間の心と近いものを持つ可能性は十分あると思います。


でも、僕らは自分のパートナーの気持ちをわかっているようでわかっていない事もあります。そういったとらえどころのないものをそれなりに理解して予測できるような仕組みはだんだんできつつあるので、ある時点で可能になる可能性は十分にあると思います。


【岡野原氏】

技術開発をしていて、人間がものすごい量の処理を無意識にしていると思い知らされます。人間の知能は言語化されているものだけが知能だと思っていますが、実は無意識下でも、ものすごい処理をしていて、もしかしたら無意識のところで出てきた結論を後で意識化しているのではないか、ゾンビ仮説といいますが、そういうのもありえます。


銅谷先生の話にもあったが、AIと人間の脳の両方をつきつめていくと、人間の心の中で実際にどういうことが起きているのかがよくわかってくるのではないかと思います。


【田中記者】いまの技術で足りないものは何ですか?


【岡野原氏】

ひとつよくわかってきたことは、人はとても汎化能力が高いんですね。一例か三例くらいで経験から汎化すると。それがあるせいで変な偏見にもつながりますが、おまじないだとか、なぜか赤いパンツをはいていたら勝つとか、あれも予測モデルなわけですよね。人間はそういうことが得意で、わずか数例で学習をしてしまう。それがまずひとつ、今の機械ではできていないことです。


もうひとつは人間が知識として蓄積しているものは言語化されていて、数学や物理として知識があるわけですが、まだAIはそういうことができていないところがあります。ディープラーニングに人間と同じように「犬はワンと吠える」「ネコはニャンと鳴く」と教える方法はまだ存在しません。人間はものすごい効率の良い学習方法で、わずか10年くらい、大人になるくらいにはみんな知識を持っている。機械の方は圧倒的にそこは苦手で、下手したら1万倍のサンプルを見せないと学習できないものもあります。


【田中記者】

今までの人工知能というのは、きわめて高度なこと、例えば囲碁を打つことはできるが、3歳児のできること、5歳児のできることができない。今の人工知能の足りないところは、脳科学から見たらどこでブレイクスルーできると思いますか。


【銅谷氏】

一つの脳の中に実は学習者がたくさんいて、脳というのはそれ自体で社会というか、複雑系というものかもしれないと思います。ある状況においてはその中のこの部分とこの部分が活動して処理をこなす、また別の状況ではこの部分とこの部分、というように、実際起きていることはMRIなどでわかりますが、ではなぜ必要とされる時に必要とされるものがうまくつながるのかという、つなぎ替え、選択の仕組みというのは脳科学でもあまりよくわかっていません。


それこそがこれからの脳科学が取り扱う非常に大きな課題だと思っているし、その原理がわかるためにはそういった必要なモジュールをどのようにつなげばいいのかという人工知能の方からの理解がたぶん必要になってきます。


それができるようになれば、人工知能が、今は「車の運転を学習しなさい」とある程度決められてやっていますが、いろんなレパートリーの中から自動的に課題に対して必要なものを選んでいく、という重要なステップになっていくと思います。



【銅谷賢治】(どうや けんじ)

1961年東京生まれ.東京大学卒、博士(工学)。東大工学部助手から1991年にサンディエゴに移り、ソーク研究所などで脳科学を学ぶ。1994年から京都のATR研究所にて自ら行動を学習するロボットの開発と、脳の学習のしくみの研究を行う。2004年に沖縄に行き沖縄科学技術大学院大学 (OIST) 先行研究代表研究者、2011年OIST設立とともに神経計算ユニット教授、副学長(研究担当)に就任。2008年Neural Networks誌共同編集長。2011年「予測と意思決定」、2016年「人工知能と脳科学」新学術領域代表。2007年学術振興会賞、塚原仲晃賞、2012年文部科学大臣表彰科学技術賞受賞。2008、2010、 2014年宮古島トライアスロン年代別3位入賞。


【岡野原大輔】(おかのはら だいすけ)

1982年生まれ。東京大学情報理工学系研究科修了、博士(情報理工学)。2006年東京大学大学院在学中に、国際大学対抗プログラミングコンテストで出会った仲間と共に、自然言語処理・機械学習技術分野で事業を行う株式会社Preferred Infrastructureを創業、取締役副社長に就任。2005年未踏ソフト創造事業 スーパークリエータ認定。2006/2007年 NLP若手の会シンポジウム(YANS)最優秀発表賞。2007年東京大学総長賞。2009/2010年 言語処理学会優秀発表賞。2014年3月 IoT にフォーカスしたリアルタイム機械学習技術のビジネス活用を目的とし、西川徹と共に、株式会社Preferred Networksを設立し、現職。


【田中 郁也】(たなか いくや)

1958年生まれ。長野県出身。82年東京大学経済学部卒、朝日新聞社入社。経済部、バンコク特派員、科学医療部、GLOBE編集部、編集委員、中国・清華大学高級訪問学者などを経て朝日新聞オピニオン編集部記者。



Facabookでのコメント

朝日新聞ご購読のお申し込みはこちら

世界のどこかで、日本の明日を考える 朝日新聞グローブとは?

Editor’s Note 編集長から