野口さん_修正

リープフロッグには、マイナス面もありうる/野口悠紀雄

★前回の記事はこちら
※本連載は第11回です。最初から読む方はこちら。

 リープフロッグには「新しい技術が社会制度に束縛されずに進歩する」というプラスの側面があります。しかし、「社会制度が新しい技術に追いつかず、バランスが崩れる」、「技術の暴走を社会制度が抑制できない」という危険もありえます。

◆中国で顔認証技術を犯罪捜査に利用


 中国における情報技術が危険な方向に進みつつあるのではないかと危惧させる事態が、いくつか生じています。

 第1は、顔認証技術の利用です。

 AI(人工知能)のパタン認識能力が進歩し、個人の顔を見分けられるようになっています。これとデーターベースを突き合わせると、カメラに映った人物が誰であるかを特定できます。

 この技術が中国で急速に発展しています。これを手がけるスタートアップ企業が続々と誕生し、世界で最も進んだ顔認識が可能になってきています。

 顔認証で個人が誰かを特定できるようになると、電子マネーの支払いが簡単になります。QRコードなどを提示する必要がなく、店舗にあるカメラに顔を向けるだけで決済が可能になります。

 この技術を用いれば、無人店舗が可能になるなどのプラスの効果が生じます。中国でも高齢化による人手不足が今後は深刻化すると考えられるので、こうした技術の導入は、大きな意味を持つでしょう。

 しかし、この技術が警察によって利用されると、犯罪捜査に用いられることになります。

 そのような利用が実際になされつつあります。

 警察が特殊なカメラで犯罪者を特定し、逮捕するということです。

 これによって犯罪者の摘発が容易になるという、望ましい側面があります。中国では、そのような評価をする人が多いようです。

 しかし、それが行き過ぎると、国が国民を管理するための道具に用いられかねません。

 ビッグブラザーよりもはるかに効率的な管理が可能になるのです。

 中国では、新疆ウイグル自治区の住民管理にこのような技術が用いられていると、国際人権団体ヒューマン・ ライツ・ウォッチ(HRW)が指摘しています。

◆信用スコアリングで人間を評価する


 第2には、スコアリングの技術です。

 これは、もともとは、電子マネーの利用履歴などから「信用スコア」という点数をAIで算出し、個人の返済能力を評価することが目的でした。

 中国のIT企業アリババの系列会社である芝麻信用(セサミ・クレジット)は、信用履歴、個人の性格、行動や嗜好、対人関係などの指標に基づいて、信用スコアを算出しています。これによって融資の決定を行なうのです。

 しかし、この仕組みは、融資審査以外の目的にも用いることが可能です。

 すでに国家信用システムが作られつつあります。中国政府は、2014年にこのシステムを提案しました。市民の行動を監視してランク付けし、スコアが高いものに恩恵を、低いものに罰を与えるとしたのです。この制度は2020年までに、中国の人口14億人すべてに適用されることになっています。

 ポイント数に応じて、公共交通機関の割引や病院で優先的に診察してもらえるなどの特典が与えられます。

 その半面で、「信頼できない人間」のリストに載せられると、航空機や高速列車の利用を拒否されるなどのペナルティが与えられます。

 国家的なシステムはまだ設計段階にありますが、いくつかの地方自治体は、市民に対する様々な方法を試すために、すでに独自のパイロット版を立ち上げています。

 親の世話を怠る、駐車違反をする、経歴を偽る、列車の切符を転売するといった行為は、信用スコアの低下につながる可能性があります。個人の買い物の習慣や友人関係、余暇時間を過ごす方法などもスコアに影響を与えます。

 信用スコアには、人々に社会的な規律を守らせるという望ましい面があることは間違いありません。

 中国政府はこのシステムの目的は、「より信頼のおける、調和のとれた社会を推進することだ」と主張しています。中国の人々の間でも、「悪い人が少なくなるのだからよいシステムだ」と言う意見が多いようです。

 しかし、このようなシステムは、国によって悪用される危険があります。反政府的な考え方を持っている人を事前に察知し、統制する仕組みとして利用される可能性があるわけです。

◆企業が国からの情報提供要請に抵抗できるか?


 顔認証や信用スコアリングなど、AIによる高度な個人情報の利用は、国家権力が制限されている状態を前提にして運営されなければなりません。

 民主主義国家では、個人情報の利用を巡って国と企業、または個人が対立することがあります。

 アメリカでは、アップルがiPhoneのロック解除に関して司法当局と対立したことがありました。

 2019年12月に海軍施設で起きた銃撃事件に関連して、米司法省はアップルに対し、容疑者が所持していたiPhoneのロック解除に協力するよう求めたのですが、アップルは、これに応じていません。

 同社は、2015年12月にカリフォルニア州サンバーナーディノで起きた銃乱射事件の際も、同様にロック解除を拒否しました。

 アップルは、iPhoneのロック解除に関して、一貫して捜査当局の要請に応じない方針を取っているのです。

 ヨーロッパでも、個人情報の利用を規制しようとする動きが進められています。

 EUは、「一般データ保護規則 (GDPR)」によって、プロファイリングに関する規制(プロファイリング自体ではなく、プロファイリング等の自動処理のみに基づく自動意思決定や、EU域外へのデータ移転を原則として認めないとする規制)を進めようとしています。

  この規制は、2018年5月25日から施行されています。

 プラットフォーム企業と呼ばれる民間企業が詳細な個人情報を収集するのですが、「それを国家権力に渡すことはない」という制度的な保障が必要です。

 しかし、中国では状況は全く異なります。国からの情報提供要求を企業が拒むことは、まずあり得ないでしょう。

 中国の企業は、政府によってコントロールされ、国から多大の援助を受けているのですから、国に協力するのは当然のことでしょう。

 それどころか、顔認識の分野でも信用スコアリングの分野でも、企業と政府が情報を共有している状況のようです。

 マイケル・ペンス米副大統領は、2018年の演説の中で、中国は、ジョージ・オーウェルが小説『1984』で描いた監視国家のようになる危険があると警告しました。

◆技術の暴走を防げるか?


 技術の暴走をチェックするためには、社会的な仕組みが確立されている必要があります。

 ところが、リープフロッグが生じると、技術だけが独立に進歩してしまい、社会制度がそれを制御できないといった問題が生じるわけです。

 どんな技術も、悪用される潜在的な危険性を持っています。

 ですから、悪用を抑止できるような社会的な仕組みがない状態で導入されれば、社会は危険な方向に走る可能性があります。

 新しい技術は必ずしも人間に幸福だけをもたらすとは限りません。

 例えば、飛行機が、人間の移動を容易にし、生活を豊かにしたことは間違いありません。しかし、その半面で、戦争での破壊や殺戮を可能にしました。飛行機が発明されていなかったとすれば、戦争の様相はだいぶ変わったことでしょう。

 こうしたことは、人類の歴史の始まりからあったことです。

 技術と社会制度のバランスを取り、技術の暴走をチェックすることは、大変難しい課題です。進歩が阻害されるのは問題です。他方で、技術進歩が行き過ぎるのも問題です。

 技術の暴走をチェックした結果、進歩が抑制される場合もあり得るわけですが、それが望ましい場合もありうるわけです。

 民主主義社会においては、「進歩が遅れても技術をチェックするほうがよい」という判断がなされる場合がありえますが、独裁社会ではそうした制約は働きません。

(連載第11回)
★第12回を読む。

■野口悠紀雄(のぐち・ゆきお)
1940年、東京に生まれる。 1963年、東京大学工学部卒業。 1964年、大蔵省入省。 1972年、エール大学Ph.D.(経済学博士号)を取得。 一橋大学教授、東京大学教授(先端経済工学研究センター長)、 スタンフォード大学客員教授などを経て、 2005年4月より早稲田大学大学院ファイナンス研究科教授。 2011年4月より 早稲田大学ファイナンス総合研究所顧問。一橋大学名誉教授。2017年9月より早稲田大学ビジネス・ファイナンス研究センター顧問。著書多数。
【編集部よりお知らせ】
文藝春秋は、皆さんの投稿を募集しています。「#みんなの文藝春秋」で、文藝春秋に掲載された記事への感想・疑問・要望、または記事(に取り上げられたテーマ)を題材としたエッセイ、コラム、小説……などをぜひお書きください。投稿形式は「文章」であれば何でもOKです。編集部が「これは面白い!」と思った記事は、無料マガジン「#みんなの文藝春秋」に掲載させていただきます。皆さんの投稿、お待ちしています!

▼月額900円で月70本以上の『文藝春秋』最新号のコンテンツや過去記事アーカイブ、オリジナル記事が読み放題!『文藝春秋digital』の購読はこちらから!

★2020年2月号(1月配信)記事の目次はこちら

この記事が気に入ったら、サポートをしてみませんか?
気軽にクリエイターの支援と、記事のオススメができます!
note.user.nickname || note.user.urlname

記事へのご意見・ご感想をお待ちしています。「#みんなの文藝春秋」をつけてご自身のnoteにお書きください。編集部がマガジンにピックアップします。皆さんの投稿、お待ちしています!

ありがとうございます!
6
シェアしたくなる教養メディア。100年近くの歴史がある総合月刊誌「文藝春秋」が、あなたの人生を豊かに彩るコンテンツを毎日お届けします。

こちらでもピックアップされています

文藝春秋digitalオリジナル無料連載
文藝春秋digitalオリジナル無料連載
  • 330本

“文藝春秋の顔”というべき筆者たちによる「文藝春秋 digital」オリジナル無料連載をまとめました。三浦瑠麗、門井慶喜、中野信子、出口治明、森功、辻田真佐憲、野口悠紀雄、西寺郷太、麻生幾の各氏が交代で執筆します。

コメントを投稿するには、 ログイン または 会員登録 をする必要があります。