iedge
  • iedge
スマートホーム(スマートハウス)の記事
2018.09.25
2019.12.26

AIにとって理想的な「教師」は誰か? メルボルン大学のチームが実験で「AIの危険性」に警鐘

記事ライター:Yuta Tsukaoka

実験に使われた「生体ミラー」

たくさんの顔写真が並べられた様子
※画像はイメージです

この実験では「生体ミラー(原文では The Biometric Mirror)」という装置が使われた。これは、1万の顔データを備えた人工知能によって、そこに映された顔から人種・年齢・性格などを推測するというものだ。

都内に住んでいる読者は、JR東日本の主要駅に置かれたディスプレイ型の自動販売機を観たことがあるだろう。あれは本体上部のカメラから今目の前に立っている人物の年齢と性別を判断して人気のある飲料をレコメンドしてくれるが、基本原理はそれと似ている。

ただ違うのが、顔を判断するための元データである。

自動販売機ではおそらく各年齢層の男女の「平均顔」データを元にしているはずだ。一方、生体ミラー実験では「1万人が異なると感じた顔の特徴のデータベース」を元にして、「どの顔に近く、どの顔から遠いのか」を判定し、人種・年齢・性別・性格などを推定するという仕組みである。

 

結果は「想像よりも不正確」

ロボットが四角い穴に丸いブロックを入れようとしている様子
※画像はイメージです

結果、多くの「間違い」が発生した。でもそれでいいのである。

この実験、実は「正確に言い当てる」ことを目的としていないのだ。データベースを元にした機械学習から得られる結果が必ずしも正しくないことを示すための実験だ。

この記事のソースにもなっているBBCの動画を見てみよう。


(video:BBC News Japan/YouTube)

この動画で語られている警告を正しく理解するには、機械学習の原理を知っておく必要がある。

まずは機械学習の成果がもっとも身近に感じられる例を示そう。今、手元にあるスマートフォンで写真アプリ(iPhoneなら「写真」、Androidなら「Google Photo」)を開いて、「猫」と検索してみてほしい。

すると、あなたの持っている写真の中から、猫の写っているものだけが一覧で表示されるはずだ。これが機械学習の成果である。機械学習によって「猫」がどんな見た目をしているかをAIが学んだ結果だ。

この機械学習やニューラルネットワークについて「人間の脳を模倣して何でも学ぶことができる魔法のシステム」という誤解が広まっているが、実はそうではない。

いま主流の機械学習は「教師あり学習」と呼ばれるもので、膨大なデータにいちいち「これは猫が写っている」「これは写っていない」とYES/NOを教えてくれる教師がいることで成り立っている。そして、その「教師」は(少なくとも初期段階では)人間である。

この「教師あり機械学習」の問題点は以前から指摘されていた。

同じように機械学習を取り入れている「Google翻訳」の例が分かりやすい。Googleは翻訳精度を向上させるため、訳文の精度がどれほどのものか、また誤訳であれば正しい訳を入力してほしい、とユーザーに求める。そして何が起こったか。Google翻訳は誤訳を連発するようになったのである。

「息の根を止める」を「Stop the Ikinone」、「Greeen」を「大野智」、「Every Little Thing」を「浜崎あゆみ」……。ネット掲示板やTwitterでこの手の「笑える誤訳」は何度も話題になったので覚えている読者も多いだろう。この原因は、想像の通り。機械学習の「教師」つまり無数のインターネットユーザーによる「悪ふざけ」である。

これが、今回の実験で警告されている「AIの不完全性」だ。

ちなみに、ここでは詳述しないがGoogleはすでにこの問題に対処していて、現在は昔ほど誤訳は多くないので安心してほしい。

 次ページ >
「AI神話」はまだ訪れていない

 

「AI神話」はまだ訪れていない

人型AIのイメージ画像

多くのAIは膨大なデータベースを機械学習によって取り込み、「教師」にそのデータの解釈を学ぶ。つまり、当然ながら教師(=人間)が間違っていればAIも間違うというわけである。

いま、世の中には「AI」「シンギュラリティ」に関する意見や議論が氾濫している。その内容が正しいかどうかはそれぞれだが、少なくとも今のところは映画に登場するような「マザーコンピュータ」は存在しない。

しかし、話題になるあまり多くの人が「AIが人間を超えはじめている」と感じ、一種の信仰心に近い気持ちで「AIは間違わない」と信じつつあるのも事実である。一部では「人間よりもAIのほうが正確な判断を下すので政治家に向いている」と言う人もいる。

繰り返しになるが、AIの学習にはまだ人間の助けが必要であり、その人間は「間違う存在」なのだからAIが完全性を獲得するのはまだ先のことだ。

とかく人間は、よりセンセーショナルな情報を信じやすい。それがAIのような「未知の技術」に関するものならなおさらだ。

少なくともiedgeの読者には、その危険な流れに乗らず冷静な判断をしてほしいと願ってやまない。

<このライターの記事をもっと読む>
MITが「精神的に異常な」AIを作り上げた。 電気羊は悪夢を生み出すか?
トヨタが「レベル4」の自動運転実験開始 自動運転の基礎技術とレベルについて再確認しよう

関連記事

IoT家電とは?おすすめ家電と便利な理由を解説

電子機器やインターネットへの接続技術は、日々進歩しています。 そのため、パソコンやスマホだけでなく、家電をインターネットに接続して使う人が増えてきました。 この記事では、生活の質を底上げするハイテクな ...

続きを見る
スマートホーム(スマートハウス)の記事 2021.09.16

スマートホームハブとは?メリット・デメリットとおすすめのブランド

近年話題のスマートホームは、コロナ禍で在宅時間が増えたことにより、さらに注目を集めています。そんなスマートホームを実現させるために欠かせないものが「スマートホームハブ 」です。本記事では、スマートホー ...

続きを見る
スマートホーム(スマートハウス)の記事 2021.09.02

IoTってどういう意味?どんなことができるの?豊富な事例も紹介

最近よくIoTという言葉を聞くことが増えてきました。 ・IoTって一体どういう意味? ・どんな風に使われているの? ・うちでも使えるかな? IoTについてなんとなく便利そうだけれども、ちょっと難しそう ...

続きを見る
スマートホーム(スマートハウス)の記事 2021.07.26

Qrio Smart Lockなら、鍵をシェアすることができて、スマホで解錠できる!

Qrio Smart Lockなら、まるで鍵を開けるかのようにスマホを操作するだけ Qrio Smart Lockは、スマートロックサービスです。 鍵をドアに設置する際の工事も不要です。鍵につけさえす ...

続きを見る
スマートホーム(スマートハウス)の記事 2019.11.28

これからのスマートホームには欠かせないAIについて知っておこう!

そもそもAIって何? AI(Artificial Intelligence=人口知能)は、人間が行う様々な作業や活動をコンピューターなどで模倣し、人間と同じような知能の実現を目的としたソフトウェアおよ ...

続きを見る
スマートホーム(スマートハウス)の記事 2019.11.28

人の感情に共感する次世代のAIロボット「JIBO」とは?

多くの可能性を秘めた新型AIロボット「JIBO」 JIBOは、アメリカのMIT(マサチューセッツ工科大学)のシンシア・ブリジール准教授により開発されました。 その後、2014年にIndiegogoのク ...

続きを見る
スマートホーム(スマートハウス)の記事 2019.12.03

Copyright© iedge , 2021 AllRights Reserved.