www.adventar.org


[1604.02603] Information, Processes and Games

Twiiterで流れてきた大賞

論文の形式をしているけれども,本人がHandbookだと言っているので本です*1


「情報を得る」とはどういうことなのでしょうか.この問いに答えるには,情報の変化を扱えるような学問,すなわち「情報動力学(Information Dynamics)」が必要となります.このハンドブックでは,情報動力学の構成に向けて,現在までに構築された情報に関する(計算機科学の)理論を振り返り,簡単な解説を与えています.特に領域理論や論理学,ゲーム意味論といった話題に詳しいです.

僕はこのハンドブックを読んで「情報とは何か」という問いに強く惹かれるようになりました.いつか非自明な回答を返せる人間になりたいですね.日々精進. 今日も一日ありがとうございます.

*1:こういうのをサーベイ論文というのかしらん

www.adventar.org

最高

1巻読了後:

最新刊まで読んだ後:

最高.特別になりたいんだけど特別じゃないのが特別で特別になってしまうと特別になれないって百合なんだよな…

評価:尊尊尊尊尊
最高.

www.adventar.org

コンパイラ―原理・技法・ツール (Information & Computing)

コンパイラ―原理・技法・ツール (Information & Computing)

言わずと知れた名著大賞

今年の初めD言語の.NETバインディング作るぞーとなっていた時期があり,まずは簡単に言語自作してからだろうと読んでた.これは完全に気のせいで,ドラゴンブック読んでたの去年の10月だった.まあ気にしないことにしよう.

その時の成果物がこれ
github.com

F#+FParsecでパースして後はC#で意味解析+コード生成..NETはリフレクションが標準ライブラリでカバーされていてバイナリ生成からマシン語の出力まで簡単にできる.で,文とか関数宣言とか変数宣言とかはできるようにして,main関数で1+1とか計算して関数の戻り値がexeのステータスコードになってるぞやったーという所までは到達したんだけど,Hello Worldのために文字列を導入しようとしたら,型の扱い方が良くわかんなくなって無になった.

具体的に読んだ場所は構文解析からコード生成の辺りだったと思う.後半の最適化とかの所は全然読んでない.ドラゴンブックは文脈自由文法でパースしてレジスタマシンのコード生成をする流れなので,PEG*1+スタックマシン*2でやったC±には直接活かせない部分も多かった.基本ブロックを用いた意味解析の所とかは参考になったかな.やっぱりスタックマシンはサイコーだよ,AST舐めてその順に命令発行して終わり!だからね.

評価:✅✅✅
目的には合わなかったけれども勉強にはなった.虎本とか他のコンパイラ本も読んでみたいね.

http://amzn.asia/bWZ8TBe
このURLに意味はあるのでしょうか.決めるのはあなたです.

*1:Parsing Expression Grammar

*2:.NETなので

www.adventar.org

ベイズ統計の理論と方法

ベイズ統計の理論と方法

今年度もっとも訳分からん大賞

昨日の本が確率の哲学について語ったものだとすれば,今日の本は確率の実践についての本だと言えるだろう.統計的推測法の一つであるベイズ推測について,定義から性質・他の推測法との比較までコンパクトにまとめている.

正直コンパクトすぎて理解が追い付かない.論理展開を追う限りでは無茶苦茶なことはしてはいないと思うけど,行間を埋めるのがひたすら大変.これが数学書という奴なのかなあ.やればできる所はまだましだが,3章の途中から完全に数学が分からなくて死んだ.

とはいえ,各章末の問答集や第7章のような定性的なことを記述してある部分は十分理解できるし,深みが深い.統計的推測は全て不良問題であり,恣意的な選択無しには為され得ないという主張は面白かった.最尤推定にしてもベイズ推定にしてもそれを選ぶ必然性は無く,恣意的に手法を選んだのに過ぎないのである.しかし,手法の選択が全く恣意的であったとしても,手法の良し悪しを評価することができる.これこそが統計学の目的であるというのが,この本の大きなテーマである.

本書を読む前の自分は,統計的推測そのものがどういう基盤に立っているのか分からず胡散臭く思っていたのだが,本書の説明はその疑問を晴らしてくれた.その意味で,僕は本書にとても感謝している.また,本書は統計学を推測だけではなく,情報科学における機械学習にも応用できるツールとして説明している.僕はこれまで統計的推測と同様に機械学習に対しても完全に斜に構えていたのだが,本書の立場に触れて否定的な感情は消失した*1.今では機械学習も情報の獲得モデルの一つかなあという気持ちになっている.

評価:📝📝📝📝📝
数学をやりましょう.

*1:scikit-learnとかchainer触ったのもありそう

確率の出現

確率の出現

下半期一番影響がデカかった大賞

人類史上で,確率が今僕たちの知っているような姿として初めて表れたのは1660年頃だと言われている.この時期に,パスカルや(名前忘れた)といった人物が独立に確率概念を形成していったのだ.この本はまさにその確率が登場する瞬間において,どのような状況が確率概念の形成に関わったのかを考察している.

例えば,1660年以前は「probable」という言葉は今我々が使うのとは全く異なる用法であったという.当時は,「(権威のある人間や書物が)裏付けている」という風に使われていたそうだ.このような証言としての「probability」が,錬金術や医術*1と結びつくことによって,(自然が示す)「証拠」という概念が誕生し*2,「証拠」の確からしさが確率へと結びついていく――ハッキングの提示するストーリーは極めて刺激的であり,それでいて彼の提示する「証拠」は論理展開を突飛でないものとしている.

他にも,確率についての様々な哲学的トピックを網羅している.例えば,確率の主観性と客観性についてだ.その中でも一番印象に残っているのは,確率の事象への割り振りには恣意性があるという事実だ.本書では,マクスウェル・ボルツマン統計とボース・アインシュタイン統計のどちらに粒子統計が従うかという問題について,最終的には経験則を持ち出さざることを得ないことから,確率が恣意的に事象に割り振られるということを主張していた.この主張は「確率はいかに定まるのか」という僕が関心を持っていた問題について合理的な回答であり,腑に落ちたのをよく覚えている.この問題の詳しい内容については
pandaman64.hatenablog.jp
を参照のこと.

評価:⭐⭐⭐⭐⭐
良い本だった.

*1:ここで現れるのが物理のような自然科学ではないのにも理由がある.なぜならば,そのような「高級科学」は不確かな証拠概念を採用しようとはせず,第一原因からの推論によって結論を得ようとしていたからだ.

*2:それまでには「証拠」という概念すら存在しなかったのだ!

二個振ると偶数の方が多く出るサイコロはあるよという話

探偵ナイトスクープという番組で確率の話をしていたらしい.
nanigoto.hatenablog.jp


成田理論の説明はリンク先を見てもらうとして,番組の解説ではサイコロの例を出して理論を反駁していた.つまり,次の図のように(偶数)-(奇数)と(奇数)-(偶数)という出方があるから,和について偶数と奇数は同じ確率で出るという主張だ.

f:id:pandaman64:20161024231306p:plain

ところが,同じようなサイコロでも偶数の和が多く出るようなものが存在することが分かっている.それも目の出方が偏っているものではない,つまり公平なかつ偶数の和が多く出るサイコロだ.まずは次のような設定を考えよう.6つに区切られた箱に玉を入れてよく振ってあげる.すると玉は各仕切りに等しい確率で見つかるだろう.これを原始的なサイコロとして扱おう.もしくは,1から6番までの番号を振ったルーレットに玉を投入してよく回すと考えてもよい.

ここに図が入る***

同じ玉をもう一個この箱に加えて振れば,二つのサイコロを同時に振る状況が作れるだろう.果たしてこのときの結果はどうなるだろうか.

箱や玉が君の指でつまめるほどの大きさならば結果は君の予想通りだろう.しかし,玉として極めて小さい微粒子,それも光子や陽子といったボース粒子を使うと話は変わってくる.

ボース粒子を使ってこのサイコロの実験をした場合は,出目の組み合わせについて等確率でサイコロの値が決まる.つまり,(1)-(1)という目と(2)-(3)という目は等確率に出るのだ.このとき,下図に示すように各組み合わせを数えれば,和が偶数になるのは12通りで奇数になるのは9通りとなり,結局偶数の和が出る確率は4/7で奇数よりも大きい.

f:id:pandaman64:20161024232230p:plain

そんな微小な世界の話なんて我々には関係ないと思うかもしれない.しかし我々だって細かく見れば原子の集まりである.一体どうして微粒子が従う確率の法則*1と巨大なサイコロの従う確率法則が違うといえるだろうか?我々が素直に信じている確率の割り振り方*2は一体どこからやってくるのだろう?

結局,これらの確率の割り振りの確からしさは実験によって確かめるしかない.サイコロを何百回,何万回と振ったら我々のよく知る法則(古典的な法則)が出てくるが,対照的に微粒子を扱う実験では奇妙な組み合わせへの割り振りに現象が支配される(量子的な法則).もちろん,サッカー選手は十分大きい対象であるから従う確率法則はサイコロのものと同一だろう.でも,それは実験によって確かめられるものなのだ*3.この点では,実際に統計を見てみる姿勢は素晴らしいといえよう*4

我々は微粒子に還元可能であるというのに,その微粒子の従う法則とは全く違う見た目の法則に支配されるという事実はいつ見ても興味深い.『小さくて単純なものがたくさん集まってびっくりするようなことをおこしてしまう!』ということなんだろうなあ.
http://www.gakushuin.ac.jp/~881791/d/1610.html#20


ご意見・ご感想・訂正などはコメント欄または@__pandaman64__までお願いします.

元ネタ:イアン・ハッキング『確率の出現』
確率という概念が現れる時代(1660年頃)についての科学史書.医術や錬金術などの「低級科学」とみなされてきた学問がいかに確率の形成に関わってきたかに詳しい.本編で出てきたボース粒子等の確率的性質が実験事実であることについては数行割かれているのみだが,自分にとっては本書の中でも一二を争うほど極めて響いた部分である.

*1:微粒子にはフェルミ粒子というのもあるが,それらもやはり我々のよく知っているサイコロとは全く違う振る舞いをする

*2:各順列に等確率を割り振るやり方

*3:これを説明する理論あるんでしょうか?

*4:実際は選手の背番号の分布も関わってきそうだ.その場合は古典的な解釈で正しく導けることもあるだろう

科学哲学の話


四次元時空の哲学 --相対的同時性の世界観 [21世紀叢書]

四次元時空の哲学 --相対的同時性の世界観 [21世紀叢書]

この本は,相対論を認めて「同時刻の相対性」(観測者によって同時な事象が異なること)から,未来が決定的であると論証している*1

論証の流れは次のような感じ:

  1. 適当な運動をしている,自分と同時点の他者を考える.
  2. 彼から見て,彼と未来の自分が同時点である.
  3. したがって彼にとって自分の未来は既に生起済みである.
  4. つまり未来は決定的である(もう既に起こってしまっているのだから).

まあこれは地球から見てロケット内の時計が遅れるのと,ロケットから見て地球の時計が遅れてるのと同じようなパラドックスなので,次のように考えれば解決する.

結局,自分も彼もその系の中では因果の問題はなにも生じてなくて,両者を総合した見方でパラドックスが起こるということは,そのような見方をとるのがおかしいということだ.言い換えれば,「自分にとって」未来だとか,「彼にとって」現在という括弧の中を考えずして,過去とか未来を語るのがいけないということ.

突然実在の話をしているが,これはこの本で決定性の前に

自分→自分と同時である他者→運動している他者と同時である未来(過去)の自分→未来(過去)の自分と同時である全ての存在

という同じ流れで過去・未来の実在を論証しているからだ.この論証の「基本法則」として

「私から距離を隔てた場所に、他社が実在する。」
この命題を否定したら、客観性を前提とした科学が成立しない。

とか書いてあって,こう,科学的実在論争とはなんだったのかという気持ちになった.

*2

僕は実在論が嫌いで,なぜかというと実在論者や「反実在論者」*3の唱える「実在」の意味が分からないからだ.「反実在論者」は人間と同じくらいのサイズで観察可能な物は実在して,微小で観察不可能な物(原子とか電子とか)は実在しないと言うのだが,しかし何故君たちは自分の目や脳を信頼できるのかねという疑問が湧き出てくる.原子は目には見えないけれども,君の目だって世界を正しく写し取っているとは限らないし,神経を通じて脳が像を解釈していく過程で何かが捻じ曲がっていてもおかしくない.錯視なんかはその一例だし,水槽の中の脳みたいに見えるすべては幻想かもしれないのだ.

もちろん,「自分の認知能力に限界はあるかもしれないが,原子や電子みたいな見えないものよりは見えるものの方が信頼できる」という主張もできるだろう.しかし,日々そういった観察不可能な物に対して実験を繰り返している技師や科学者にとっては,手足で物を掴むのと同じように,実験装置で原子をいじっているようにも感じられるだろう.彼らにとって原子は実在しているのだろうか.もしそうなら,実在とは,単に「その物に慣れている」以上の意味を持たないのではないか?

実在論者が唱える「実在」は,もっと不明確で分からない.「反実在論者」は観察可能/不可能を通じて実在を決めているからまだ意味が掴めるのだが,実在論者は単に「実在する」しか言わないからマジで訳分かんねえ.もっと例を挙げるなりして明確にしてくれ.





ここら辺は理論の実在性の話.理論の実在性とは「科学法則は(近似的に)真である」という主張のことだ.理論の実在論とは「悲観的帰納法」という厳しい反論があって,擁護するのは大変.僕もあんまり擁護する気にはなくて,それよりも,議論のスコープ(枠組み)を考えるのが良いんじゃないのかなーと思っている.ニュートン力学は人間と同サイズぐらいの物質については極めてよく当てはまるし,熱素論も温度の違う2物体が接触して温度が等しくなるという現象をうまく説明している.これは「理論がうまくいく範囲なら理論は真」ということしか言ってないように見えるかもしれないが,「理論がうまくいく範囲がある(つくれる)」という存在の主張だと考えれば割とポジティブだと思う.

今の相対論とか量子力学だって,将来的には全く異なる理論によって置き換えられはするのかもしれないけれども,とはいえ置き換える法則は相対論や量子力学のスコープでは彼らを再現するような結果を導きだすだろう.そのスコープでは彼らは十分真だろうし,彼らが措定するような実在は実在するとみなして問題ないんじゃないのかなあ.

ここまで書いて自分の考えが構造実在論にかなり近い気がしてきた.でも実在って嫌いなんだよな.

おまけ


高々可算個の間違いがあるとも言える.量子論の話に入っていくのだがすっげー不安.

*1:まだ最初しか読んでないのでここからどんでん返しするのかもしれないが

*2:なんでですます調になってんだろ

*3:科学的実在論の話でよく出てくる反実在論者の人たちのこと.僕は彼らとは異なる立場の反実在論者なので括弧つきで書いている