社会

【AIの活用事例と悪用事例】見分けのつかないコラ動画でフェイクニュースが捏造される脅威!「悪のAI論より」

dark-ai-ron

「悪のAI論」という本を読んでいて、これはすごいなと思った技術と、怖いなと思った技術をまとめていきます。

AIってこんなに悪用できるんだ・・・!という純粋な驚きと恐怖を感じました。

正義のAIの活用事例!素晴らしすぎるメリット

まずはAIのメリットについてです。

AIのメリットは色々ありますが、本書の中で個人的に面白いと思ったのが中国でのAIによる顔認証を用いた指名手配犯の追い込みです。

中国ではAIを警察の捜査に利用しており、指名手配犯が監視カメラに移ると、警察はすぐに出動できる体制となっています。

これを活かして、何万人もの人が集まるライブ会場で、そこに訪れた指名手配犯を逮捕した事例がなんどもあるんだとか。

人が何人いようともゲートに備え付けられた顔認証装置が自動で人を判別してくれるという優れものです。

・・・えーなにそれすごい。

でも実は、メリットですごいな!と思ったのはこれだけ。

本書はタイトルに「悪のAI論」とあるように、AIの脅威みたいなところがより詳しいので、今度はAIの悪の活用事例を見ていきましょう。

AIの悪用事例3選!恐ろしすぎるデメリット!

ではAIの悪用事例を見ていきます。

特に怖いなと思ったのは以下の3つです。

  • 殺人ドローンによる自動射殺と顔認証ミス
  • 自動運転車の誤作動
  • フェイクニュースの捏造

それぞれ見ていきます。

殺人ドローンに顔認証ミスで狙われる

まずはドローンと顔認証AIを使った殺人兵器について。

アメリカで実用化されている軍事兵器として、顔認証AIとマシンガンを装着したドローンを飛ばし、キルリストと呼ばれるターゲットを顔認証して狙い撃つという装置があるんだそうです。

まず、キルリストという殺人候補者リストがあるという時点で怖いし、それを自動でドローンがなんの前触れもなく撃ってくるというのも超怖い

さらにこの顔認証ですが、たまに見間違うことがあるようで、AIの誤認識により1月のなんども至近距離からの射撃を受けたと訴え出た人もいる、と本書の中では述べられています。

・・・間違いでドローンに追われるの超怖くね・・・まじで・・・?

自動運転車の誤作動

続いては自動運転車の誤作動について。

運転事故をなくす施策としてアメリカではグーグルカーなどの試運転が開始されていますが、その自動運転車でも事故は起こっています。

例えば、車高の高いトレーラーが障害物として認識されずにそのまま突っ込んだケースとか、自動運転だからと手動運転の場合は付いている緊急時の急ブレーキ機能が外れていたりとか。

自動運転車でハンドルから手を離すと「ハンドルに手を置いてください」と言われますが、言われるだけで止まらなくて事故ったケースもあるようで、これはその事故のあと改善されて、警告を無視すると自動で止まるようになったそうです。

・・・という感じで自動運転もまだまだ課題は多い模様

フェイクニュースの捏造

3つ目はフェイクニュースの捏造です。

正直これが一番身近に怖いなと思いました。

どういうことかというと、最近ではAI技術の進歩により、コラ画像技術もかなり高まっています

それにより、静止画だけでなく、動画の顔だけを別の人の顔に変えたり、声を合成したりすることは、素人でも簡単にできるようになっている。

その結果、なにが起こるかというと、アダルトビデオに芸能人や元恋人の顔を置き換えて流出させたりとか、政治家のスキャンダルを捏造して実際には言っていない発言の動画を作ったりとか、そんなことができるというのです。

もちろんリテラシーの高い人にはそれが嘘だと見抜けるかもしれませんが、群衆を煽ったり個人を陥れたりが自由にできてしまうという点が新たなリスクとなります。

・・・知らぬ間に身に覚えのない証拠動画が取られるかも。怖い!

AIの進歩に伴って、人間側も進化が必要

という悪のAI論という本を読んで、AI怖いなーと思いつつ、でもAI自体が悪いわけではないし、全く辞めるのももったいない。

どうしたものか、と思って人間側もAIの進化に合わせて発達すればいいのか!と思いました。

具体的には、AIを正しく使いこなす心とか、AIによって現代ではコラと見抜けない動画が出てきても、様々な側面からそれを判断し、現実か嘘かを見極める力とか、そんな感じの力が求められるのかなと思います。

リテラシーを高めてAIを使いこなしたいものですね!

ではまた。良い読書ライフを!