【AI?】『悪のAI論あなたはここまで支配されている』平和博:マインドマップ的読書感想文

2019年02月22日

【AI?】『悪のAI論あなたはここまで支配されている』平和博

【本の概要】

◆今日ご紹介するのも、昨日に続いて先日の「未読本・気になる本」の記事にて注目を浴びていた1冊。

当ブログで「AI」というと比較的ポジティブなものが多かったのですが、本書は逆に、「AI」のさまざまな問題点について踏み込んでいます。

アマゾンの内容紹介から。

AIはすでに人類に牙をむいている!会話の盗聴、合成ポルノの自動生成、就職面接での不当評価、ビッグデータを使った世論の操作、キラーロボットの誤作動―現実に起きた事件から、身近に潜むAIの危険を暴く。AI依存社会に警鐘を鳴らす、画期的AIリスク入門。

それにしても新刊でありながら、Kindle版の「29％OFF」というのは、ほとんどセール並みではないか、と……。

Artificial Intelligence & AI & Machine Learning / mikemacmarketing

【ポイント】

■1.スマートスピーカーに悪意のある音声を送る

　カリフォルニア大学バークレー校のニコラス・カーリニ氏とデビッド・ワグナー氏は、NPOの「モジラ財団」が開発したオープンソースの音声認識AI「ディープスピーチ」をターゲットに、人が聞き取り可能な音声の中に、AIだけが聞き取れる悪意ある別の音声コマンド（サブリミナルメッセージ）を埋め込むことに成功した、との論文を公開している。　それによると、人には「Without the data set, the article is useless（データセットのない論文には意味がない）」と聞こえるカムフラージュ音声で、AIには「O.K. Google, browse to evil.com（オーケーグーグル、邪悪サイトにアクセスせよ）」と指示するコマンドを送ることができた、という。
　また、カムフラージュ音声は話し言葉だけではなく、音楽でも同様の攻撃は可能で、ヴェルディの「レクイエム」でも成功した、という。

■2.黒人を「ゴリラ」と誤認識したGoogleフォト

　アルシーン氏がアップロードした写真には、被写体によって「摩天楼」「飛行機」「自動車」「自転車」などのタグが付いた。
　ただし、ガールフレンドが手前、アルシーン氏がその後ろに写ったツーショット写真には「ゴリラ」というタグが付いていたのだ。2人は、ともに黒人だ。(中略)
　さっそくグーグルの責任者、ヨナタン・ズンガー氏がアルシーン氏のツイートに応え、すべての「ゴリラ」のタグの削除や、「ゴリラ」のキーワードでの検索停止などの対応策を表明。同種の問題があったことを認めた。(中略)
　この騒動から2年半が過ぎた2018年1月、「ワイアード」は、4万枚の動物の写真を使って、「グーグルフォト」の画像認識の進展具合を検証する実験を行っている。
　すると、「ゴリラ」「チンパンジー」「サル」といった単語では「検索結果なし」の回答しか返ってこなかった、という。その結果をグーグルに問い合わせると、15年の騒動以降、検索語、タグから「ゴリラ」を外し、「チンパンジー」「サル」もブロックしているとの回答だった。
　つまり、根本的な改善は行われていなかった、ということになる。
「ワイアード」へのグーグルの回答は、画像分類の技術は「完璧からは程遠い」というものだったという。

■3.テスラのドライバー死亡事故

　2016年5月7日土曜日の午後4時36分、ブラウン氏はテスラの「モデルS」に乗り、フロリダ州北部の街、ウィリストンにいた。
　自動運転モード（速度設定、車線維持）を使い、高速道路27号線を東に向かって走行していると、信号のない地方道との交差点で、対向車線から左折しようとするトレーラーがあった。
　ブラウン氏は直進のまま、トレーラーの右側面下に潜り込む形で衝突。その衝撃で屋根がとれたテスラ車は、そのままトレーラーを突き抜け、道路右側のフェンスを2度突き破った後、電柱に衝突。ブラウン氏は死亡する。
　現場の制限速度は時速65マイル（105キロ）だったが、ブラウン氏は事故前に、自動運転の速度設定を時速74マイル（119キロ）にしていたという。(中略)
　一方で報告書は、テスラの自動運転システムが、一般の乗用車や歩行者とは違う、トレーラーのような巨大な連結車両が進路を遮ることを想定しておらず、障害物として認識できていなかったと指摘する。

　
■4.政党がフェイク動画を使う

　2016年の米大統領選でトランプ氏と共和党候補を競った上院議員のマルコ・ルビオ氏は、2018年5月15日に行われた上院情報特別委員会で、テキサス大のチェスニー教授らと同じ懸念を表明している。
　ちょっと想像してみてほしい。外国の情報機関がディープフェイクスを利用して、米国の政治家が人種差別を口にしている様子や収賄をしている様子、といったフェイク動画をつくることができたら、と。
（中略）
　私はこれが、米国、そして西側の民主主義諸国に対する次なる攻撃の波だと信じている。これは、フェイク動画をつくりだすものだが、それがフェイクかどうかは、詳細な分析ののちに初めてわかる。そしてわかった時には、すでに選挙は終わっている。その時には、何百万という米国人がその画像を目にし、それを信じ込もうとしているのだ。

■5.「救命優先順位」を考える

　自動運転車が非常事態に直面した場合、運転を担うAIは、どのように判断することが倫理的と考えられるのか。それを調べるために研究チームが使ったのは、「モラル・マシン」と名付けたクイズ形式のアンケートページだ。(中略)
　結果を見ると、助けるべき優先度では「ペットより人間」「より多くの人数」「高齢者より子ども」が世界的に共通していた。だが個別に見ていくと、中南米では「男性より女性」が顕著であるなど、地域ごとに特徴が見られたという。
　特に欧米、アジア、中南米の3つのブロックを比較すると、その優先度には明確な違いが出ている。
　例えば中南米では、「社会的地位の高さ」「子ども」「女性」の優先度が、残る2つのブロックに比べて突出して高い。
　一方でアジアは「歩行者」「法遵守」の優先度が高かったが、「女性」と「人数」は3つのブロックの中で最も低く、「子ども」を優先する傾向はほぼなかった。
　欧米は「回避しない」が3つの中で最も高かった。

【感想】

◆私たちの身の回りにあるAIに、今どのような問題があって、今後どうなる可能性があるかを示した作品でした。

まず第1章のテーマは、AIによる監視に関するお話。

たとえばアメリカの情報機関、国家安全保障局（NSA）には、テロ対策用のAIシステム（スカイネット）があり、携帯電話の位置情報等からテロ関係者をはじきだしているとのこと。

ところが実際に、テロとは何の関係もないジャーナリストがAIにより関係者と認定されたこともあるようで、運用にはまだ問題がある模様。

また、監視とはちょっと異なりますが、上記ポイントの1番目のスマートスピーカーの件は、今後の犯罪につながりそうな気がします。

割愛した事例では、アマゾンエコーが「誤作動」して、室内の会話を録音し、その音声ファイルを他人に送ったケースがあったのだそう。

エコーは、背後の会話で（起動ワードの）「アレクサ」のように聞こえた言葉で起動。さらにそれに続く会話で「メッセージ送信」の要求を聞き取った。この時点でアレクサは、「誰に？」と大きな声で尋ねる。そして背後の会話から、顧客の連絡先リストにある名前と解釈。アレクサは大きな声で「～さんですね？」と確認する。アレクサはその上で背後の会話を「その通り」と解釈した。

偶然にしても怖すぎますね。

◆続く第2章ではAIの「バイアス」の問題が。

第1章でも監視システムとして登場しているAIの顔認識ですが、上記ポイントの2番目にあるように、どうもまだ得意ではないようです。

あのGoogleでこのありさまですから、他も推して知るべし……。

また、AIを用いた「再犯予測システム」では、白人より黒人を不当に判定しているらしく。

　例えば「再犯予測」後、実際には2年間、再犯のなかった人物が、高い危険度評価を受けていた割合は、黒人が44.9％に対して、白人は23.5％と、2倍近い違いがあった。
　逆に、「再犯予測」後、2年以内に再犯があった人物が、低い危険度評価を受けていた割合は、白人が47.7％と高く、黒人は28.0％と、こちらも2倍近い違いがあった、という。

◆さらに問題なのが第3章にあるAIの軍事協力でしょう。

たとえばテロ対策として、ドローンを用いた殺傷兵器にも、AIによる画像認証システムは使われていますし、こうした直接的な兵器でなくとも、さまざまなデータ解析にAIは利用可能です。

これに関しては、Googleをはじめ、マイクロソフトやアマゾンでも、社員が軍事協力には反対の声をあげているとのこと。

ただ、戦争は他人事の人でも、車の自動運転なら話は別です。

上記ポイントの3番目にあるように、業界最先端と思われるテスラでも、まだこのような事故が起きてしまうとは……。

なお、この自動運転の問題については、何らかの被害が起きることが避けられない際に、どのような選択をすべきか、という問題（いわゆるトロッコ問題）があって、それを検討しているのが本書の第5章になります。

上記ポイントの5番目はそこからのものなのですが、「何が正しいか」という問題以前に、その考えが国によって違うとは考えてもみませんでした。

◆そして、今差し迫った危険としてもっとも身近だと思われるのが、第4章の「フェイク」問題。

ここで登場するフェイク動画、「ディープフェイクス」は、私も知らなかったのですが、下記リンク先にある動画を見ると、とても偽物とは思えません。

誰の顔でもニコラス・ケイジに...AIはどこまで映像内の顔をスワップできるの？ | ギズモード・ジャパン

先の大統領選で、トランプ陣営がフェイスブックを舞台に暗躍したらしいことは知られていますが、上記ポイントの4番目にもあるように、こんな動画が拡散されたら、その比ではないのかも。

ちなみに、そのトランプ陣営によるフェイスブックでのデータ収集は、フェイスブック用の性格診断アプリで行われたそうですから、それは属性も詳しいだろうという……。

フェイスブックのデータ不正共有疑惑「8700万人に影響」 - BBCニュース

AIの問題点が、丸分かりとなる1冊！