AIによる「即時量刑、即時執行」のシステムが確立した世界
※写真はイメージです
「サイコパス」というアニメをご存知だろうか。
近年のクライムスリラーアニメとしては出色のできの１本だ。この作品の中核にあるのが「シビュラシステム」と呼ばれるAIによって「即時量刑、即時執行」を実現する「ドミネーター」という特殊銃である。ドミネーターは、それを向けた人物の「犯罪係数」を即時に判断し「これから起こりうる犯罪」を予測、その予測をもとにして量刑と執行（場合によっては死刑）を行う。
同じようにシビュラシステムに接続されたカメラが街のあちこちに設置され、すべての住人は犯罪係数を監視されながら生活し、平和な暮らしを送りながらも、自身のメンタルを常に気にかけて暮らしているという世界観設定となっている。
どこか「ブレードランナー」に近い雰囲気を感じさせる作品で、往年のSFファンから若いアニメ好きまで楽しめる作品になっているのでぜひ見てみてほしい。
現実世界でも警察庁がAIによる犯罪捜査・防犯の仕組みの導入を検討している
※写真はイメージです
この「サイコパス」のような世界がすぐに来るとは思えないが、警察庁は犯罪捜査と防犯に使えるAI開発に1億4000万円以上の予算をつけた。
IBMのワトソンに使われた開発費が10億ドルというから決して多い金額ではないが、日本でもっとも有名なAIプロジェクトの１つ「東ロボくん」の予算が3000万円であったことを考えれば国内プロジェクトとしては十分に高額である。
警察庁はいったい何をしようとしているのだろうか。毎日新聞の記事によると、主な目的は以下の３つである。
1.犯罪に使われた車両を不鮮明な監視カメラ画像から正確に判別する
2.金融機関や信販会社から寄せられる「疑わしい金融取引」から事件性の高いものを抽出する
3.大規模イベントを狙ったテロリストをリアルタイムの監視画像から割り出す
1の「車両判別」はAIの得意とする画像認識技術の応用で可能だろう。あらゆる車両の外観データをすべてAIに覚えさせ、不鮮明な画像からでも車種の判定を行おうというものである。
全国に配置されている防犯カメラの画質は設置時期によりまちまちで、また夜間撮影への対応もされていないものがある。これまで「写っていたのに不鮮明で気が付けなかった映像」からも犯罪車両を見つけようという試みだ。
2については多少複雑なシステムを要する。車両の外観データは膨大とはいえ有限なのですべて覚えこませるだけだが、金融取引の「疑わしさ」を判定するには理論的にその理由を検討させる必要があるだろう。AIにとってはまだ苦手分野である。
知識（データ）の詰まった袋から正解のものを瞬時に選び取ることはできても、「正解が混ざっているかどうかわからない」袋から「正解かもしれない」ものを選び取るのは難しいのだ。
他の記事でも触れたとおり、AIには人間の「常識的な」判断、言い換えれば「理論化できない理由による」判断が苦手だ。フレーム問題もあるし、そもそも理論化できないのだからコンピュータであるAIにその理論を教えることができない。
どのように実現するのか、楽しみに見届けたいところである。
最後に、3の犯罪者の割り出し。これはなんとなく冒頭で紹介した「サイコパス」を彷彿とさせるが、どのような理屈で実現するのだろうか。
AIは「疑わしさ」を判断できるか
事件性の高い金融取引の抽出方法でも触れたが、AIが「疑わしさ」を人間のように柔軟に判断できるとは思えない。
同じく毎日新聞の記事によると、AIで行おうとしているのは「大量のカメラ映像を瞬時に解析し、同じ場所を何度も行き来している不審者や長時間置きっぱなしになっている不審物を自動検出する」ことだそうだ。
これなら理解できる。むしろAIの得意分野と言えるだろう。
AIというと、映画に登場するアンドロイドなどのイメージから特定の「誰か」が存在するようなイメージがあるが、実際のところはコンピュータの並列処理であるから「無数の目と脳」を持っている。つまり、人間のように「１組の目と１つの脳」しか持たない存在より、この手の「膨大な目を使って」教えられたフレームに収まるモノや人物を見つけるというのは得意なのである。
たとえば数百のカメラがあったとして、人間がすべてを監視しようとすれば交代要員も合わせてカメラの数×３〜５人は用意する必要があるだろうが、AIであれば１人で ――実際には無数の目と脳で一度に行える。
判断のための教師データとして、人間の警察官が「疑わしい」と判断する理論的な理由 ――同じところを１時間以内に５度以上通った人物、30分以上置きっぱなしの大きなカバン、といったような例を教え込めば、そのフレームに収まるモノを自動検出するくらいは朝飯前である。
AIは犯罪者の逃げ道も作ってしまう
これは裏を返せば、そのフレームから外れるように意図して行動することが可能ということでもある。
画像認識を例にとろう。私たち人間にとってはどう見ても「猫の写真」なのに「巨大な鉄塔の写真」など無関係なものと誤った判断をさせることは、事実として可能である。
AIが「猫」と「鉄塔」を判断するために利用している情報 ――ピクセルごとの色や輝度の配置といった特徴量を逆手にとってハックするという手法である。つまり、猫の画像からAIが「猫と判断するための特徴」を人間の目ではわからないように取り除き、逆に「鉄塔と判断するための特徴」を埋め込んでいくのだ。
話を犯罪捜査に戻すと、当然ながらAIが判定するための特徴量はトップシークレットとなって秘匿されるだろう。
しかし、これさえ手に入れれば犯罪を犯しても ――または犯そうとしていてもAIからは善良な市民に見えるというわけである。
冒頭で紹介した「サイコパス」のような世界がまだまだおとずれない理由はここにある。AIは「なんとなく怪しい」という判断はできず、「怪しさの総和が閾値以上あるかどうか」でしか判断できないから、AIが「怪しさ」を加点するポイントさえ避けていけばいいのだ。少なくとも今のところは。
警察官の仕事は、まだ当分なくなりそうもない。
＜このライターの記事をもっと読む＞
Googleが「AI技術を軍事転用しない」と宣言。しかし、本当に可能なのか？
IoT捜し物デバイス「TrackR」が付属する盗難保険が登場 ―保険商品とテクノロジー
2018.09.06
2019.12.04
