神話とトリックスター

「アラジンと魔法のランプ」は「千夜一夜物語」のなかの一つだと思われてるけど、実は後から追加された話なんだそうだ。でも、登場する「ジン」は、実際にアラビア世界に昔からあるモチーフ。一種の精霊のような存在で、イスラム教以前から信じられている。

「アラジンと魔法のランプ」のなかに登場するジンは、ランプの主人の望みを3つまで叶えてくれる。ただし問題があって、ジンには善悪の判断ができないのと、叶えられた望みの顛末まで、この精霊は責任を持たない。彼は彼なりのロジックに対して忠実に行動するので、その存在を善とも悪とも判断することは難しい。

物語の作劇用語で、でこういう存在をトリックスターと呼ぶ。トリックスターは混乱をもたらすことで、主人公が物語を推進するきっかけをつくるので、神話にはよく登場する。有名なのはギリシャのプロメテウスだ。

プロメテウスは、人類のために炎と鍛冶の神「ヘーパイストス」の鍛冶場から火を盗んで、人類に渡した。以降、人類は火を使って文明を築くことには成功したが、結果どうなったかというと、人類は戦争を始めたという結末だ。

トリックスターは行動する存在として、あたかも人間のような登場人物のようにとらえられるけど、神話や言い伝えであることを踏まえると、おそらくコントロールできない世界や運命、人生みたいなもののメタファーなのかもしれない。世界はコントローラブルではないし、大抵のことは狙い通りにいくわけではない。だから人生は面白いのだけど。

Amazonの顔認識技術による誤認識

さて、何故そんなことを思ったかというと、「AIの顔認識が誤認識した」というニュースを見たからです。

Amazon’s Face Recognition Falsely Matched 28 Members of Congress With Mugshots

Amazon’s face surveillance technology is the target of growing opposition nationwide, and today, there are 28 more causes for concern. In a test the ACLU recently conducted of the facial recognition tool, called “Rekognition,” the software incorrectly matched 28 members of Congress, identifying them as other people who have been arrested for a crime.

Amazonの顔認識が国会議員の28人を逮捕歴のある顔写真と誤認識

アマゾンの顔監視技術は、全国的な反対意見のターゲットとなっており、今日では、さらに28の懸念を引き起こしている。「Rekognition」と呼ばれる顔認識ツールを使ったアメリカ自由人権協会(ACLU)による最近のテストでは、ソフトウェアは28人の国会議員を、逮捕歴のある人物として誤認識した。

– – – American Civil Liberties Union(https://www.aclu.org/blog/privacy-technology/surveillance-technologies/amazons-face-recognition-falsely-matched-28)

ACLUによるウェブサイトではこの実験結果を大々的に公開していて、狙い通りだったと書くべきか、もちろん各所で議論を呼んでいる。

ちょっと問題だったのが、有色人種へのバイアスで、議員全体に占める有色人種の割合よりも、誤認識された有色人種の割合のほうが高かったという結果だった。

AmazonのRekognitionはAIによって機械学習されるものなので、実際の犯罪歴をもつデータを学習した結果そうなっている、というのが難しいところだ。学習元のデータにおける、有色人種のデータが足りないか、もしくは有色人種の犯罪歴のほうがデータが多すぎる、ということをこれは意味していて、ブラックボックスだからこそ、僕たちは元の学習データを増やすしか対策が無く、これが事態をより複雑化している。

AIの誤作動は差別か?

AIは人の作業を劇的に効率化するので、とても便利だ。だけど、仕組み上処理プロセスの多くはブラックボックスでコントロールすることが難しい。もちろん対策はあるにはあるけど、まだ発展途上の技術で、今すぐ実世界に適応するのは厳しいんだろうなあと思う。

いくつかのニュースで、アメリカの法的執行機関がAmazonのRekognitionを試験的に導入しているという記事も散見されるけど、実際の運用では人の手で誤った処理を防ぐような仕組みがまだまだ必要なんだろう。その歯止めが効かなくなったディストピアが、映画の「マイノリティ・リポート」みたいな感じなのかもしれません。

ニュースによっては、これを「差別」というふうな表現をしているのだけれど、これを誤作動と呼ぶべきか、差別と呼ぶべきかは難しい問題だ。

便利な技術なのか、僕らの社会を袋小路に追いやる悪魔なのか。ニュースを呼んでいて、トリックスターみたいだな、そう思った。