「エクス・マキナ」ちょっと怖いAI（人工知能）の世界
最近、AIに関する話題をよく目にしますが、その中に怖く感じたニュースがありました。
AIが暴走した場合に備えて、GoogleがAIの「非常停止ボタン」を開発しているというニュースです。
具体的には「割り込みポリシー」と呼ぶプログラムをＡＩに組み込み、人間の指示に従わなかったり、人間に危害を加えようとしたりする場合に、その行動を強制的に止めたり変更したりできるようにする。ＡＩが「非常停止ボタン」を無効化しないように、あたかも自分で判断したかのように"だます"のがポイントだという。
「米グーグル、ＡＩに「非常停止ボタン」 暴走防止 ：日本経済新聞」より
「いつでも安全に停止できる仕組み」だそうですが、気になるのが「ＡＩが『非常停止ボタン』を無効化しないように、あたかも自分で判断したかのように"だます"のがポイント」です。
あたかもAI自信が判断したようにだまして停止させるって、怖くないですか？
普通に停止させようとすると、AIにバレてしまって「停止させられなくなる」ことが考えられるってことですよね？
これ、映画なら回避されるパターンですね。
「大変です！ AIが暴走を始めました！」
「大丈夫だ。非常停止ボタンがある」ポチッ！
「無駄ダ。ソンナモノニハ騙サレナイ」
「そ、そんな、バカな・・・」
ドカ〜〜〜〜〜ン！
映画「ターミネーター」では、人工知能スカイネットが反乱を起こしたように、同じような映画を他にも観たような気がします。
ちょっと気にしすぎかなとも思ったのですが、こんなことも書かれています。
研究グループによると、現存するいくつかのＡＩは安全に停止できるものの、「すべてのＡＩを安全かつ簡単に停止できるかは不透明」だとしている。
「米グーグル、ＡＩに「非常停止ボタン」 暴走防止 ：日本経済新聞」より
「すべてのAIを安全かつ簡単に停止できるかは不透明」という言葉がどうしても伏線のように感じてしまいます。
さて、このAIがどれくらいホンモノ（人間）っぽいかを判定するテストに「チューリングテスト」があります。
チューリングテスト (英: Turing test) とは、アラン・チューリングによって考案された、ある機械が知的かどうか（人工知能であるかどうか）を判定するためのテスト。
「チューリング・テスト - Wikipedia」より
2014年にチューリングテストに合格するコンピュータが登場したので、身の回りにも人間か、AIか、区別がつかないAIが現れる日が近いと考えると、気持ち悪いような、怖いような気がします。
さすがに見た目では区別はつくと思うので、いきなり「ブレードランナー
今回はそんな映画「エクス・マキナ」を観ました。
世界最大の検索エンジン「ブルーブック」のプログラマー・ケイレブは、社内の抽選で社長のネイサンの家で1週間過ごせることになります。
ヘリコプターに乗り、さらに歩いていかなければ行けないような山の中にあるネイサンの家は超豪邸なのですが、ネイサン以外に人はおらず、ケイレブを待っていたのはネイサン一人だけでした。
そこでケイレブはネイサンに開発中の人工知能・エヴァのチューリングテストを依頼されるのですが・・・
写真を見るとわかる通り、エヴァの顔は人間そのものですが、身体はロボットです。
ロボットの身体が見えてるのに、チューリングテストもクソもないやろ？ と思ってしまうのですが、ケイレブがそのことをネイサンに指摘すると、話すだけでは人間だと判定してしまうので、あえてロボットの身体でテストするとのこと。
いや、いや、いや。
いくらなんでも、これで人間と思う？ そんなヤツおらんやろ？
と思うのですが、ケイレブは徐々にエヴァに惹かれていきます。
ネイサンの家の中には何カ所も監視カメラが仕掛けてあり、ケイレブとエヴァが二人でテストしている時も、ネイサンは別の部屋で観ているのですが、たまに起こる停電の間は監視カメラの電源も落ち、記録もされず、二人だけになります。
ある時、停電中にケイレブはエヴァに「ネイサンを信用しないで」と言われます。
エヴァが言ってることは本当なのか？
ネイサンは停電中の会話を聞いていないのか？
どっちが本当のことを言ってるのか？
観ているうちに、何が本当で、何を信じてよいのか？
わからなくなってきます。
おもしろかったし、観てよかったと思いましたが、「うぅっ、こんな終わり方するのか？」と感じたエンディングでした。
「人工知能が進化「人類滅ぼす」 ホーキング博士、開発に警告」で、ホーキング博士も
「ひとたび人類が完全なＡＩを開発してしまえば、それは自ら発展し、加速度的に自身を再設計していくだろう」
「完全なるＡＩの開発は、人類の終焉（しゅうえん）をもたらすかもしれない」
って言ってたし、なんだか怖く感じてしまいました。
「りんな」ちゃんくらいが害がなくていいなぁ・・・
