2022年5月2日月曜日

イーロン・マスク氏の挑戦 ── 公正な人工知能とは何か

言論の自由の絶対的信奉者(Free Speech Absolutist)を自称するイーロン・マスク氏のTwitterの買収が、今全米で議論を巻き起こしている。企業買収が日常茶飯のこの国で本件がこれほど話題になるのは、2021年1月に、現職大統領のアカウントを永久に停止するという挙に出たTwitter社に対する政治的反作用と解釈されたからだ。

マスク氏の考えはこうだ。Twitterは今や公共的な発言の場所になったのだから、そういう公的な存在としては、経営者の好き嫌いである人を締め出したり、恣意的にツイートを削除することは適切ではなく、法律の範囲内で発言の自由が認められるべきだ。

ここで、「法律の範囲内で」という点が議論になりえる。たとえば、殺人予告のような触法行為をどう取り締まるか。これについてマスク氏は、ソースコードが公開されたプログラムに自動判断させるべきであり、非公開の恣意的な基準を使い密室で(”behind-the-scenes”)禁止するツイートやユーザーを決めるべきではない、という趣旨のことを述べている。

TED 2022 におけるマスク氏のインタビュー(12:17あたりからがその発言)

トランプ氏のアカウント永久停止事件

では、アカウントの永久停止に至った問題の大統領発言とは何か。Twitter社は、次の発言が、利用規約で禁じられた「暴力の賛美」に当たると解釈した。

2021年1月8日に、ドナルド・J・トランプ大統領は次のようにツイートした。 

「米国第一、偉大なる米国よもう一度、との標語を掲げる私に投票してくれた7500万人の 偉大なる愛国者たちは、今後も大きな声を持ちづけるだろう。彼らは、いかなる形でも決して、軽んじられることも不公正に扱われることもないだろう。」 

この後すぐに、大統領はこのようにもツイートした。 

「問い合わせを寄せてくれた皆さん、1月20日の大統領就任式に私は行きません。」 

 

On January 8, 2021, President Donald J. Trump Tweeted:

“The 75,000,000 great American Patriots who voted for me, AMERICA FIRST, and MAKE AMERICA GREAT AGAIN, will have a GIANT VOICE long into the future. They will not be disrespected or treated unfairly in any way, shape or form!!!”

Shortly thereafter, the President Tweeted:

“To all of those who have asked, I will not be going to the Inauguration on January 20th.”


この発言がなされたのは1月6日の米国国会議事堂襲撃事件の2日後である。しかし大統領の発言はそれに直接言及しているわけではなく、また、ツイート自体には暴力を賛美する要素は何もない。トランプ陣営が大統領選挙の公正さについて係争中であったこと、また、Twitterが半ば公的な言論の場となっていたことを考えれば、Twitter社によるトランプ氏追放は、反暴力に名を借りた政治的な弾圧だ、との解釈も成り立ちうる。

マスク氏が問題にしている事柄のひとつはおそらくその点であろう。言論の場を提供する企業は、言論が法律の範囲内で行われている限りにおいて、個々の言論への政治的価値判断をすべきではないし、株主価値の最大化の観点で言えば、その必要性も乏しい。


AIは差別的か

マスク氏による今回の買収は、上記の出来事への政治的反作用という観点以外に、アルゴリズムないし人工知能(AI)に、公正さについての判断を任せていいのか、という問題を提起している。

この点に関して、米国のメディアでの議論は少なくとも2つの点で大きな誤解があるように思われる。

第1の点はAIの定義についてである。信頼できるAIとは何かについて議論される時はほとんど常に、人間の意思決定を人間に代わり行うような汎用人工知能(artificial general intelligence)の存在が暗に前提とされているように思える。確かに、もし人間の知的判断が非人間的な何かで置き換えられつつあるのならば、EUのAI 倫理規約が言うように、人間による制御可能性がAI倫理の柱のひとつになることは理解できる。しかし汎用人工知能などこの世に存在しないし、現状、有限の未来にそれができる可能性もない。現代のAIとは、たとえば、買い物サイトにおける商品推薦の程度のものであり、人間の介在なしに何かまともな行動がとれるようなものではないのである。

第2の点は公正さの評価についてである。2016年、調査報道で名高い通信社ProPublicaは、米国の多くの州の裁判所で使われている Northpointe という犯罪者のリスク評価ツールが人種差別的だとの報道を行った。明らかにおかしいと思うような数個の事例において、黒人と白人の犯罪者の写真を並列させ、AIツールの出力の奇妙さを見事に印象づけたその記事は社会的な反響を呼び、以後、「AIは野放しにすると何をするかわからない」との常識がメディアに定着することになった。

しかし同記事を詳しく見ると、3万5千人もの事例を使った網羅的な研究では同種のツールに人種差別の証拠はないと結論されたと書いてある。さらに、批判された側の連邦裁判所が徹底的な反論をするに及び、少なくとも機械学習の学術レベルでは ProPublica の "Machine Bias" レポートの結論は誤りであるということで決着を見ている。そもそも、刑期終了後に再犯を防ぐための支援のレベルを決めるためのツールを、裁判前の逮捕者に適用するなど記事の杜撰さは明らかで、最初から結論ありきの記事だったということである。実務のレベルでも、”Biased Algorithms Are Easier to Fix Than Biased People”、すなわち、AIツールに何か問題があったとしても、それを直すのは偏見を持つ人間を正すよりはずっと簡単だ、というのが合意事項、になるはずであった。

しかし現実はそうなっていない。たとえば ACM Computing Surveys という権威あるサーベイ誌に掲載された ”Trustworthy Artificial Intelligence: A Review” という2022年の最新の論文では、

A risk assessment tool used by the judicial system to predict future criminals was biased against black people [4].

などと堂々と誤った結論が述べられている([4]がProPublica誌の記事)。これはおそらく人文系の研究者により書かれた論文だと思われるが、それが人文系、したがって主要メディア側での常識ということなのだろう。


マスク氏の挑戦

マスク氏のTwitter買収は、少なくとも金銭的観点では成功しそうである。しかし今後の展開は予断を許さない。マスク氏の理想は、少なくとも上に述べた2つの点において、米国の主要メディアの空気とまったく乖離しているからである。すなわち、トランプ的なものに一切の人権を認めないと言わんばかりの彼らの空気と、アルゴリズムに判断をゆだねることを自動的に悪とする空気である。

今後の報道を読み解くガイドとして、いくつかの論点を羅列しておこう。

精度100%の分類器はない

多くの人文系識者は、もしAIが人間の判断を置き換えるのならば、AIは100%の精度を保証すべきだ、という不思議な想定を暗に置いていることが多い。これは2重の意味で正しくない。まず、人間の代わりに自律的に判断をするような汎用人工知能は存在しないし、AIは100%の精度を保証する「水晶玉」でもない。

個別事例(インスタンス)と総体を混同しない

もし完璧な精度が望めないのであれば、あるAIツールが差別的かどうかを知るためには、多くの個別事例から得られる結果の総体を見る以外ない。これは価値判断が統計学的になされるべきことを意味している。しかし ProPublica の記事がそうである通り、活動家マインドのジャーナリストは、同情を引くような少数の個別事例をもってAIツールなり社会制度なりを攻撃するという手法を使う。数個の事例を誤分類したからといって、AIツールの利用がただちに危険ということにはならない(そもそもProPublicaの一件ではAIに最終判断をゆだねているわけでもない)。しかしそのような論理的な反論を、大声で叫び続けることで封じる、というのが活動家の流儀である。

法律はアルゴリズムである

ある AIアルゴリズムがあるとして、それに包括的な inclusiveness を強制するためには、公平性の基準を、定義と変数と変数間の関係からなるある明示的なルールとして記述する必要がある。それは我々が「アルゴリズム」と呼ぶものである。そう書くと、いかにもそこに反人間的要素を持ち込んでいるかのように聞こえるが、実はそれは、現実の法規制(例えば税制)が採用している明示的アプローチと何ら変わるものではない。表面的な記法は別にして、論理的に言えば、法律はアルゴリズムの一種である。

アルゴリズム的に容易にかつ明示的に達成できる包括的な inclusiveness を否定するのは、(1)それを理解する学力が足りてないか(数学アレルギー)、(2)自分の所属するグループに参入障壁を設けて既得権益を守りたいか、のどちらと言われても仕方あるまい。


(本稿を書くにあたり、産業総合研究所の神嶌敏弘博士に丁寧なご教示をいただいた。引用した New York Times の記事と連邦裁判所の反論は博士のご教示による。感謝したい。)


0 件のコメント:

コメントを投稿