2024年3月17日日曜日

AI研究と社会: 過去10年の振り返り

 今から20年前と10年前に、機械学習の研究コミュニティの様相についてコメントをしたことがあります。それをふとしたはずみで思い出し、ある意味定点観測として、AI研究についての2024年時点での雑感を述べます。


2023年6月24日土曜日

潜水艇タイタン号の破壊事故について

Independent紙の記事によれば、タイタニック探索観光の潜水艇沈没事故、カーボンファイバーの疲労破壊が起因になった可能性が高そうです。異常発生を検知すべく、船体からのデータは潜水中は常時監視されていたようですが、残念ながらそれは役に立ちませんでした。一応異常検知の専門家として思うに、この “real-time hull health monitoring system” に、AIなりビッグデータへの過信が寄与しているとすれば、由々しき事態かと思います。

私はカーボンファイバーという素材に知識がないので間違っているかもしれませんが、一般的には疲労破壊は、微細な亀裂が急速に進展することで起こります。亀裂は原子レベルの結晶構造の不整合に起因したりしますので、その存在自体は不可避で、かつ、無数の亀裂のどこが成長するのかは確率的な現象なので、予測は非常に難しいです。できるとしたら、原子レベルからミクロン単位の動的な現象をとらえる計測装置が必要かと思います。たぶんそういうものはない。

以前、こういうことを書きました。

しかし、実際には、データ取得に関する人間の偏見ないし限界という問題が常に付きまとい、長い研究の歴史の結果として「何をデータとして集めるか」という点に合意が確立している分野(画像認識、音声認識、自然言語処理)以外では、特徴量工学を不要にした、という深層学習支持者たちの主張が、どれだけ工学的・実用的に妥当なのかを結論を出すべく、今でも研究の努力が続けられています。これは当然でしょう。普通のカメラで飛行機の写真を撮っても、金属疲労による微細な亀裂は見つかりません。飛行機の破壊を予知するのが目的であれば、相応の計測装置が必要になります。ビッグデータは物理学の壁を超えることはできないのです。特徴量工学を不要にしたとしても、データをどう取得するかについての問い(しいて言えば観測工学)を避けて通ることは絶対にできません。

タイタン号に付けられていたセンサーは、おそらく、ひずみとか圧力とか温度とかそういうマクロ的なセンサーなんだと思います。そういうもので原子レベルの、しかもミリ秒単位で急速に進展する現象をとらえることは原理的にできないと思います。この困難に直接的に対処する手段は、産業応用のレベルでは現代の科学技術をもってしても大変乏しく、たとえば航空機の設計においては、疲労破壊を招かないよう設計上のあらゆる工夫をするのは当然として(窓を丸くするなど)、安全率を大きめにとりつつ、保守において部品を定期的に交換することで何とか対応する、ということになっていると思います。

最近、大規模言語モデルの成功から、AIで何でもできるという楽観が再び世間を席巻しているようです。しかし人間の思考の結果として高度にフィルターされた言語というデータと、物理学的現象からのデータは質が違います。疲労破壊の検知が難しいのは、それがミクロ的スケールからマクロ的スケールまでまたぐ現象だからです。ビッグデータが物理学の壁を越えられない以上、「何を検知しようとしているのか」に対する考察は不可欠で、したがって、計測手段に対する工夫は不可欠です。

今回の痛ましい事故が、AIに対する適切な理解が世間に広まる一助になることを祈ります。



2022年5月2日月曜日

イーロン・マスク氏の挑戦 ── 公正な人工知能とは何か

言論の自由の絶対的信奉者(Free Speech Absolutist)を自称するイーロン・マスク氏のTwitterの買収が、今全米で議論を巻き起こしている。企業買収が日常茶飯のこの国で本件がこれほど話題になるのは、2021年1月に、現職大統領のアカウントを永久に停止するという挙に出たTwitter社に対する政治的反作用と解釈されたからだ。

マスク氏の考えはこうだ。Twitterは今や公共的な発言の場所になったのだから、そういう公的な存在としては、経営者の好き嫌いである人を締め出したり、恣意的にツイートを削除することは適切ではなく、法律の範囲内で発言の自由が認められるべきだ。

ここで、「法律の範囲内で」という点が議論になりえる。たとえば、殺人予告のような触法行為をどう取り締まるか。これについてマスク氏は、ソースコードが公開されたプログラムに自動判断させるべきであり、非公開の恣意的な基準を使い密室で(”behind-the-scenes”)禁止するツイートやユーザーを決めるべきではない、という趣旨のことを述べている。

TED 2022 におけるマスク氏のインタビュー(12:17あたりからがその発言)

トランプ氏のアカウント永久停止事件

では、アカウントの永久停止に至った問題の大統領発言とは何か。Twitter社は、次の発言が、利用規約で禁じられた「暴力の賛美」に当たると解釈した。

2021年1月8日に、ドナルド・J・トランプ大統領は次のようにツイートした。 

「米国第一、偉大なる米国よもう一度、との標語を掲げる私に投票してくれた7500万人の 偉大なる愛国者たちは、今後も大きな声を持ちづけるだろう。彼らは、いかなる形でも決して、軽んじられることも不公正に扱われることもないだろう。」 

この後すぐに、大統領はこのようにもツイートした。 

「問い合わせを寄せてくれた皆さん、1月20日の大統領就任式に私は行きません。」 

 

On January 8, 2021, President Donald J. Trump Tweeted:

“The 75,000,000 great American Patriots who voted for me, AMERICA FIRST, and MAKE AMERICA GREAT AGAIN, will have a GIANT VOICE long into the future. They will not be disrespected or treated unfairly in any way, shape or form!!!”

Shortly thereafter, the President Tweeted:

“To all of those who have asked, I will not be going to the Inauguration on January 20th.”


この発言がなされたのは1月6日の米国国会議事堂襲撃事件の2日後である。しかし大統領の発言はそれに直接言及しているわけではなく、また、ツイート自体には暴力を賛美する要素は何もない。トランプ陣営が大統領選挙の公正さについて係争中であったこと、また、Twitterが半ば公的な言論の場となっていたことを考えれば、Twitter社によるトランプ氏追放は、反暴力に名を借りた政治的な弾圧だ、との解釈も成り立ちうる。

マスク氏が問題にしている事柄のひとつはおそらくその点であろう。言論の場を提供する企業は、言論が法律の範囲内で行われている限りにおいて、個々の言論への政治的価値判断をすべきではないし、株主価値の最大化の観点で言えば、その必要性も乏しい。


AIは差別的か

マスク氏による今回の買収は、上記の出来事への政治的反作用という観点以外に、アルゴリズムないし人工知能(AI)に、公正さについての判断を任せていいのか、という問題を提起している。

この点に関して、米国のメディアでの議論は少なくとも2つの点で大きな誤解があるように思われる。

第1の点はAIの定義についてである。信頼できるAIとは何かについて議論される時はほとんど常に、人間の意思決定を人間に代わり行うような汎用人工知能(artificial general intelligence)の存在が暗に前提とされているように思える。確かに、もし人間の知的判断が非人間的な何かで置き換えられつつあるのならば、EUのAI 倫理規約が言うように、人間による制御可能性がAI倫理の柱のひとつになることは理解できる。しかし汎用人工知能などこの世に存在しないし、現状、有限の未来にそれができる可能性もない。現代のAIとは、たとえば、買い物サイトにおける商品推薦の程度のものであり、人間の介在なしに何かまともな行動がとれるようなものではないのである。

第2の点は公正さの評価についてである。2016年、調査報道で名高い通信社ProPublicaは、米国の多くの州の裁判所で使われている Northpointe という犯罪者のリスク評価ツールが人種差別的だとの報道を行った。明らかにおかしいと思うような数個の事例において、黒人と白人の犯罪者の写真を並列させ、AIツールの出力の奇妙さを見事に印象づけたその記事は社会的な反響を呼び、以後、「AIは野放しにすると何をするかわからない」との常識がメディアに定着することになった。

しかし同記事を詳しく見ると、3万5千人もの事例を使った網羅的な研究では同種のツールに人種差別の証拠はないと結論されたと書いてある。さらに、批判された側の連邦裁判所が徹底的な反論をするに及び、少なくとも機械学習の学術レベルでは ProPublica の "Machine Bias" レポートの結論は誤りであるということで決着を見ている。そもそも、刑期終了後に再犯を防ぐための支援のレベルを決めるためのツールを、裁判前の逮捕者に適用するなど記事の杜撰さは明らかで、最初から結論ありきの記事だったということである。実務のレベルでも、”Biased Algorithms Are Easier to Fix Than Biased People”、すなわち、AIツールに何か問題があったとしても、それを直すのは偏見を持つ人間を正すよりはずっと簡単だ、というのが合意事項、になるはずであった。

しかし現実はそうなっていない。たとえば ACM Computing Surveys という権威あるサーベイ誌に掲載された ”Trustworthy Artificial Intelligence: A Review” という2022年の最新の論文では、

A risk assessment tool used by the judicial system to predict future criminals was biased against black people [4].

などと堂々と誤った結論が述べられている([4]がProPublica誌の記事)。これはおそらく人文系の研究者により書かれた論文だと思われるが、それが人文系、したがって主要メディア側での常識ということなのだろう。


マスク氏の挑戦

マスク氏のTwitter買収は、少なくとも金銭的観点では成功しそうである。しかし今後の展開は予断を許さない。マスク氏の理想は、少なくとも上に述べた2つの点において、米国の主要メディアの空気とまったく乖離しているからである。すなわち、トランプ的なものに一切の人権を認めないと言わんばかりの彼らの空気と、アルゴリズムに判断をゆだねることを自動的に悪とする空気である。

今後の報道を読み解くガイドとして、いくつかの論点を羅列しておこう。

精度100%の分類器はない

多くの人文系識者は、もしAIが人間の判断を置き換えるのならば、AIは100%の精度を保証すべきだ、という不思議な想定を暗に置いていることが多い。これは2重の意味で正しくない。まず、人間の代わりに自律的に判断をするような汎用人工知能は存在しないし、AIは100%の精度を保証する「水晶玉」でもない。

個別事例(インスタンス)と総体を混同しない

もし完璧な精度が望めないのであれば、あるAIツールが差別的かどうかを知るためには、多くの個別事例から得られる結果の総体を見る以外ない。これは価値判断が統計学的になされるべきことを意味している。しかし ProPublica の記事がそうである通り、活動家マインドのジャーナリストは、同情を引くような少数の個別事例をもってAIツールなり社会制度なりを攻撃するという手法を使う。数個の事例を誤分類したからといって、AIツールの利用がただちに危険ということにはならない(そもそもProPublicaの一件ではAIに最終判断をゆだねているわけでもない)。しかしそのような論理的な反論を、大声で叫び続けることで封じる、というのが活動家の流儀である。

法律はアルゴリズムである

ある AIアルゴリズムがあるとして、それに包括的な inclusiveness を強制するためには、公平性の基準を、定義と変数と変数間の関係からなるある明示的なルールとして記述する必要がある。それは我々が「アルゴリズム」と呼ぶものである。そう書くと、いかにもそこに反人間的要素を持ち込んでいるかのように聞こえるが、実はそれは、現実の法規制(例えば税制)が採用している明示的アプローチと何ら変わるものではない。表面的な記法は別にして、論理的に言えば、法律はアルゴリズムの一種である。

アルゴリズム的に容易にかつ明示的に達成できる包括的な inclusiveness を否定するのは、(1)それを理解する学力が足りてないか(数学アレルギー)、(2)自分の所属するグループに参入障壁を設けて既得権益を守りたいか、のどちらと言われても仕方あるまい。


(本稿を書くにあたり、産業総合研究所の神嶌敏弘博士に丁寧なご教示をいただいた。引用した New York Times の記事と連邦裁判所の反論は博士のご教示による。感謝したい。)


2022年3月20日日曜日

「戦争学」概論

 

ロシアのウクライナ侵攻を契機に、ようやく日本でも国際政治のダイナミクスを実証的にとらえる動きが出てきているように見えるのは好ましいことである。ロシアの露骨な侵略行為の前に、日本の文系インテリをいまだに支配しているように見える疑似的なコスモポリタニズムの無力さが誰の目にも明らかになった。武装を放棄すれば、あるいは憲法第9条を持っていれば他国から攻撃されることはないとの念仏信仰のようなものが、長い間日本の「知識」人を支配してきた。過去数10年にわたり、他国の侵攻を許し、自国民を拉致され、あらかさまに核兵器で脅されてきたという明白な事実があっても、彼らの信仰が変わることはなかった。

彼らの平和主義は、「侵略されていないから、侵略されない」という同義反復のようなものだったのだろう。おそらく今後、世間の空気が変わったと悟るや、それが、「(ウクライナが)侵略されているから、(日本も)侵略される(かもしれない)」に変わるのだろう。何も考えていないという意味では同じだが、前提も結論も間違っていた前回に比べれば、前提も結論も事実を反映している分が救いである。これを機に、戦後の日本政治を支配してきた退嬰的な空気が少しでも変わることを願う。さもなくば、古くはユーラシア大陸の大半を支配したモンゴル帝国が今や東アジアの貧困国に没落してしまったように、また、近世に地中海地域に覇を唱えたオスマン帝国が一小国に没落したように、日本も没落の道を転げ落ちてゆくことだろう。

本書は2005年、米国のイラク侵攻が一段落ついた時点で出版された地政学の解説書である。地政学とは、「国際関係の粒度で言えば、地理学的な要件に着目して、諸国の外交政策を理解し、説明し、予測するための学問(At the level of international relations, geopolitics is a method of studying foreign policy to understand, explain, and predict international political behavior through geographical variables.)」と定義される。この情報化社会において、地理的要件がなぜ重要なのかは必ずしも自明ではない。実際、本書をかなり以前に読んだ時は、その点が今ひとつわからず、過去の歴史を俯瞰する方法として有用なのはいいとしても、それが予測能力を持ち得るのかはやや疑問であった。

この点はおそらく、軍事的な考察を必要とする。軍事は物理的な兵力の移動を常に伴う。本書でも繰り返し述べられているように、ハイテク戦争時代であったとしても、土地を面として制圧するには古典的な陸上戦力が必須である。そしてその陸上戦力を送るためには、やはり地理的な制約は第一義的な意味を持つ。例えば太平洋戦争末期の沖縄戦では、米軍は知念半島と嘉手納海岸という2つの上陸予定地点を研究していた(八原博道、『沖縄決戦 高級参謀の手記』、中公文庫、第2章)。長大な海岸線を持つ沖縄本島において、揚陸に適する地点はわずか2か所しかなかったということである。一般人が思うよりもずっと軍事行動の地理的な選択肢というのは狭い。古くから交通の要衝とされる場所にはそうなるだけの地理的ないし軍事的な必然性があり、その観点を無視して国際政治上の選択肢を論ずることはできない。逆に言えば、軍事関連の学問が大学から完全に追放されている日本にあっては、地政学的戦略を構想できる政治家が皆無であるように見えるのも仕方ないとも言える。

本書では冒頭でマッキンダー、マハン、スパイクマン、ラッツェル、ハウスホーファーらの学説を紹介し、地政学的概念を通して、ナポレオン戦争からイラクにおける対テロ戦争まで、歴史上の戦争の性格の変遷を概観する。最後に地政学的なアジア太平洋における現在と近未来像を眺める。ある意味悲しいことながら、17年も前の本だが、最後の章は今読んでも全く古さを感じない。北朝鮮の核武装も、中国の覇権主義も急速な軍拡も当時から明らかなことであった。歴史認識問題を国際政治の道具と使っている状況も同じである。日本の為政者はことなかれ主義に安住し、単に傍観しているだけであった。そして状況はますます悪化する一方である。冒頭に掲げたような空想的平和主義者たちの活動が、こういう状況に至らせることを目的とした戦略的活動であったのなら、それは史上稀に見る成功と言うべきであろう。

ひとつ顕著に変わった現実はロシアの位置である。2005年の当時、ロシアはソ連崩壊の混乱から立ち直り切っておらず、日本では軍事的な脅威とは見なされていなかった。プーチン大統領が一時期北方領土問題の解決に前向きのように見えたのも、日本からの投資を呼び込むという意図があったようである。北方領土問題について著者は、二島返還交渉、四島返還交渉、実力奪還、という3つの選択肢を提示し、憲法上の制約から第3の選択肢が実行不可能であることを断りつつ、「戦争に至ることなく四島を返還させる可能性のある方策は、奪回できるだけの軍事力を背景にして経済協力の利をあたえるという、アメとムチによる圧力をかけることだろう」と述べる。そしてこう付け加える。 
こうして歳月が過ぎて強いロシアが復活してくれば、北方四島問題は解決しないまま、またロシアの脅威におののかなければならない日がくることになるだろう。
現実は著者が危惧した通りに進んでいるように見える。

本書は地政学についての要領の良い解説書として有用であるのはもちろん、21世紀の前半、日本の政治がいかに停滞し堕落していたかを活写する極めて良い歴史的資料になるだろう。

2022年1月29日土曜日

なぜ日本では旧正月は祝われないのか

私の勤務先にはアジアからの出身者がたくさんいます。毎年、多くの東アジア出身者は、1月末から旧正月のことを話題にします。毎年疑問に思っていたことのひとつに、なぜ東アジア諸国の中で日本だけが旧正月をまったく祝わないのか、ということでした。今度職場の文化発表会みたいな催しで、日本の正月について話すことになったのをよい機会に、多少調べてみました。

現代の日本では、1月1日の正月と、2月の節分は完全に別の行事となっていますが、古代は同じ行事でした[飯島 2011]。いずれも旧暦における年越しに関する行事であり、正月は文字通り正月、節分は立春に関係します。それぞれの性格の相異により、次第に行事をふたつに分けるようになったようです。その後、新暦に切り替わったため、正月の方がおおむね1か月早まり、しかし立春は「二十四節気の第1」としての定義があるので [Wikipedia 立春] そのまま残り、今のようにあたかも独立な行事のようになったようです。これらの行事は5世紀ころ唐から伝わり、日本の土着の文化と融合して定着したと考えられます。

以来、正月は太陰暦ないし太陰太陽暦に基づき祝われていましたが、明治維新直後(明治5(1872)年)に太陰太陽暦から太陽暦に改暦されたのはよく知られている通りです。その移行はわずか20日ほどの準備期間でなされたらしく、当然のことながら、当初はほとんど普及しませんでした。国立天文台のウェブサイト [国立天文台] に、旧暦併記にまつわる時系列が完璧にまとめられています(第1次資料も画像で見られます)。明治22年(1889)に新暦の使用状況を全国で調査した「両暦使用取調書」によれば、この時点で、新暦に基づき正月を祝っていたのは東京や京都といった大都市圏だけで、それ以外の地方では旧暦に基づき正月を祝っていました[塙 1995, 下村 2016]。ある意味この時点では、現代の東アジア諸国の状況と似ていたのだと思います。

ではなぜ日本だけで旧正月が急速に廃れたのでしょうか。これについて歴史学・民俗学の分野では必ずしも確立した知見はないようです [平山 2014]。しかし手元の資料から強く推定できることは、明治の終盤から、太陽暦の受容、皇室の神聖化、庶民における国民としての意識の確立、これら3つが絡み合いながら急速に進み、それに伴い、旧暦は旧弊として自発的に忘れられていったということです。明治16年(1883)から、伊勢神宮が唯一の「正暦」の発行元として指定され [伊勢神宮]、また、皇室に由来する祭日が暦に加えられてゆきます [新田 1993]。学校行事もその暦に従って行われるようになり[佐々木 2005]、新暦はいわば皇室の暦となりました。

「正暦」の確立以降も、旧暦がまだ広く使われているという理由から長らく旧暦併記がなされていましたが、明治41年(1908)に帝国議会衆議院で可決された「陽暦励行に関する建議」により、1910年から公式な暦には旧暦が一切記載されなくなります。衆議院で可決されたということは、各地方のリーダーが太陽暦に移行することを望ましい方向と認識していたことを意味します。1910年は韓国併合の年です。日清、日露、三国干渉、などを経て、日本の人々は、帝国主義の世界で生き残るためには国民が一丸となった必死の努力が必要であるということを知り、その切迫感を伴う時代の空気が、彼らをして、多くの地域において、旧暦に基づく行事を何となく後ろめたい旧弊として急速に忘れさせるに至ったものと想像します。

より明示的にまとめると、なぜ日本だけで旧正月を祝わないのか、という問いに対する答えは、太陽暦の受容後、新暦が皇室の暦になったから、ということになります。その意識を徹底する上では学校行事の果たした役割は本質的でした。などと書くと上からの強制か、という話になるのですが現実はどうやら違っていて、国民意識の確立の中で、大多数の日本人は自分で旧正月をやめて新正月に移ったんですね。つい数十年前までは鎖国していたのに、日本中でみんながけなげに一等国になろうと努力したということです。ある意味大したものだと思います。




2021年4月1日木曜日

Alone (邦題 Alone 孤独のサバイバー)

 

リアリティ番組が数多く放映されるアメリカで、今まで見た中でもっとも「ガチ」なサバイバル番組。日本でもAmazonHuluで見られるようだ。

 ゲームのルールは一言で言えば我慢比べである。参加者は、ナイフ、防水シート、寝袋、釣り針、など所定のリストの中から最低限の10点ほどのわずかな所持品を持って、人里離れた海や湖の近くにヘリコプターで降ろされる。Aloneというタイトルは、たった一人でサバイバルを行うというところから来ている。食料はもちろん、テントすらないので、木を切り、石を拾い、住居作りから始めなければならない。最大の問題は食料調達である。もちろん、素人がそういう状況で生き延びられるはずはないので、参加者は皆、例えばサバイバル教室の講師とか、海兵隊員とか、その道のプロである(第1シーズンだけはこの点微妙であるが)。

シーズンにより場所は異なるが、人口希薄なカナダの離島だったり、北極圏だったり、南米パタゴニアの山中だったりする。シーズンは秋に始まり、徐々に冬の季節が忍び寄ってくる。冬は飢えの季節である。当初10人いた参加者は、飢えと孤独に耐え切れず、ひとり、また一人と "tap out” (格闘技でいうギブアップのサイン)してゆく。最後まで耐えた人が、賞金の約5000万円を手にする(北極圏でのシーズン7では1億円)。

参加者にはカメラが渡されており、毎日の行動を記録することが義務付けられている。Tap outは、特別なトランシーバーで行う。1か月を超える頃には、残った参加者の顔には疲労と飢えの色が濃くなる。カメラに向けた状況報告も深刻なものが多くなる。肉体的に極限状況に至るため、後半は定期的にメディカルチェックが行われ、体重がある限度を超えて減少し、医学的に飢餓の状態に陥ったと判断された人は、その場で退場が宣告される。我慢だけでなくて、健康を保つことも重要なのである。

この番組を見ると、いかにかつての人類の生活環境が過酷だったか、いかに農業の発達が革命的なことだったかが分かる。これで思い出されるのはニューギニアで遊兵と化し、10年もの間、山中で原始人同様の生活を強いられた日本兵の手記である(『私は魔境に生きた 終戦も知らずニューギニアの山奥で原始生活十年』)。彼らは、危険を冒して残置された糧秣をなんとか収集して飢えをしのぎつつ、それが尽きると刻苦の努力を通して、なんとか農園らしきものの開拓に成功し、それで何とか明日の希望をつないだのであった。山中、どうしても不足するのが塩分である。同様にフィリピンのルバング島で30年「戦闘」を続けた小野田寛郎氏の場合、海岸や住民の塩田から多少の塩分を入手することができたが、それでも塩は貴重で、「魔法薬」と呼んで珍重している。疲労回復にてきめんな効果があったからである(『たった一人の三十年戦争』)。

 農業の発達、すなわちいわゆる新石器革命以前、人間は文字通りその日暮らしを続けていた。農業の可能性に気づき、数か月という単位で先を見通すようになると、時間と量に関する計算の必要が出てくる。食料に剰余ができると、海の民は肉や毛皮を、山の民は塩や魚を求めて交易が始まる。そのような、人類の何千年かの先史時代に思いを馳せることのできる真のリアリティ番組。