「トロッコ問題」雑感
トロッコ問題と自動運転という議論がある。例えば完全自動運転自動車とトロッコ問題についてなどが、ちょっとぐぐっただけで目につく。
本来は人間の選択のジレンマについての議論だが、これを援用して、自動運転の問題にした人達がいる。自動運転において、不可避な犠牲が選択可能な時にどのような選択をすべきか？ という問題である。例えばMITのMedia LabでもMoral Machineというサービスを立ち上げてこの問題について論じている。
個人的には2つの意味でこの議論はナンセンスだと思っている。
まず、自動運転車を設計するのであれば、そもそも、トロッコ問題にハマるような状況にならないように制御すべきである。トロッコ問題の確率を極小化できれば、工学的には対処の優先度が下がる。
次に、現状の自動運転のモデルは、哲学者や法学者が考えるようなモデルでは構築されていないという現実がある。
トロッコ問題は、ジレンマを提示して「どちらが正しいと思いますか？」と人間の判断を問うてくることに本質がある。ジレンマである以上、どちらが正しいと言えるものではない。どちらに進んでも何らかの損害は被るのである。
そして、そのジレンマに陥った時に自動制御がどのような指針で決定を行うか、あたかも技術者が個別に設計しているかのような、過った前提で議論をする人達がいる。中には、「衝突時の進路設計を隠れて勝手に決めることの方が大問題です。」などと、悪の技術者が社会的議論を待たずに勝手に実装を進めているかのような論陣を展開している法学教授もいる。
では、そのような自動運転向けの「AI」はどのように実装されるのだろうか？ これは、基本的にはパスプランニングに加えて、状況の変化に反応するために強化学習のようなものになるだろうか。筆者はこの領域は専門外なので詳細は知らないが、ありがちなAIの出力は、行動計画候補とその重み(確率)の組をいくつか出力するものである。
ここで、トロッコ問題が規定するようなジレンマに陥った場合、のぞましいAIの出力は「ジレンマ」である。つまり、複数の行動計画候補の重みが近い値になってしまい、たまたま少し高い方の行動を選択するか、あるいは重みに応じた乱数により選択を行うか、という結果になる。つまり、のぞましいAIであればあるほど、そういった時の行動は予測不能である。
ここで、「そんな予測不能なAIに自動運転は任せられない」という反論も想定できるが、そもそもジレンマに陥る環境を与えている問題設定がナンセンスなのである。仮に特定の状態に対して答を出したところで、条件設定を変更してよりジレンマ寄りに近付ける論法であるから、この問題は出題側が「無敵」である。
この「無敵の問題」を解かないと自動運転は社会的に認められない、こういった場合の自動運転の決定を社会的合意のもとに透明化すべし、という議論は、少なくとも工学の範囲では、根本からまともな問題設定の体をなしていない。また、仮にこの問題が法学のドメインでは議論として成立するのであるとしても、もっと現実的な問題を論じていただきたいものである。
なお、経済的にはトロッコ問題に対する解は存在する。保険を必須とすることを前提に個々の事故の責任を希薄化すればいい。事故の責任は特定の車種やメーカー毎の保険料率の変化という形で、生産者が間接的に取ることになる。事故の被害者の遺族は誰かに責任を取らせないと気が済まないだろうが、「気が済まない」以上の理由は少なくとも私には思いつかない。
少なくとも
このようなテーマを避けて、衝突時の進路設計を隠れて勝手に決めることの方が大問題です。
・筆者が座長代理を務めた総務省の「ＡＩネットワーク化検討会議」も、第一原則として「透明性」を要求し、第八原則として説明責任も要求し、これらは日本国政府の政策に取り込まれ、かつ先のＧ７サミットで賛同を得ております。
従って、少なくとも[人権や民主主義を重んじる]先進国（含、日本）に於いては、透明性を欠いたり説明責任を果たせないような衝突時の進路設計を勝手に決めてしまうことはガイドラインに違反します。
(平野教授のサイトより引用、改行は変更)
などといって技術の発展を阻害する「学者」は、人間による事故の責任を少しでも取る気はあるのだろうか。飲酒運転や無謀運転、過労などによる事故は、技術的には減らせるのである。このような状況が見えてきているにも関わらず、機械による事故は一つたりとも許せず、人間による事故はその人間に責任を取らせる、という態度は、少なくとも私には、未来を担うべき学者として責任を果たしているとはとても思えない。
なお、本項は 総務省｜「AI開発ガイドライン」（仮称）の策定に向けて整理した論点に関する意見募集 を受けた私的パブリックコメントを考えた際の思考を自分なりにまとめなおしたものであるが、パブリックコメントについてはあくまでも「AI開発ガイドライン」に対するものであることから、こういった形での整理ができていなかった。補足として公開するものである。
蛇足であるが、整理が不十分だが、提出したパブコメは以下に置いてある。
当然ですが、本項は私の個人的な意見の表明であり、勤務先とは一切関係ありません。
2016年をふりかえって
記録らしい記録をちゃんとつけてなかったので、記憶に頼ったかんじになるのですが、一応簡単にまとめておこうかなと。
- 1月 子供が生まれるということで車を探しはじめる。地元の神社で安産祈願とかも。仕事ではまだ兼務が残っており、兼務先業務としてMITの日本セミナーみたいの聞いたのが印象的でした。
- 2月 車買った。フォレスターのNA。シートヒーターが決め手だった気がする。人生の転換について考えてた気がする。
- 3月 ちょっとづつ人生の転換点についていろんな方に具体的な相談を始める。このタイミングではまだ現状とは別の選択肢を検討していました。あ、あと、小田原で人生最高にうまいウナギを食べた気がする（友栄）。
- 4月 おもってもみなかった方角から人生の転換点が訪れる。関係ないけど北米から遊びに来る友人のために美味しいお寿司を探したのもこのころ（浅草 一新）。うまかった...
- 5月 妻の産休開始。娘を迎えるためのいろいろな準備がすこしづつはじまる。と同時に現職に関する面談、面接からのオファーをいただき、退職を決意。
- 6月 決意を前職に伝える。一応、いろいろな引き継ぎのことを考えて早めにお伝えしたのですが、このあと結局いろいろあって不本意な結果に。ほんとうにご迷惑をおかけして申し訳ないですが、自分より上の決定なのでまあしょうがない。
- 7月 怒涛の一か月。娘誕生→DICOMO(副プログラム委員長⇔雑用係)→最終出社日のコンボがback-to-backで発生。いろんな方のおかげとはいえ、よく何とかなったものだ。7月末退社の予定が、情報管理の都合という理由でさっさと（人事発令よりも前に）業務引き継ぎの挨拶もなく追い出されるという結果に。有給休暇つかわせていただいたのでちょっとした産休状態に。たぶん前職関係者の間では極悪人だろうけど、自分より上の決定なので略
- 8月 子育て（メインではないとはいえ）しながら異分野の新入社員。死ぬ。
- 9月 ヤムチャの気分を味わう（まわり中サイヤ人だらけ）。月末にお食い初め。WIDE合宿にPFNとして参加。やってること変わらないね私。
- 10月 CEATECに展示員として参加。前職関係者を含めいろんな方に来ていただきました。前職後輩の恩師の旦那さんが同僚だったり、ダイビングで知り合った友人の学び仲間が同僚だったり、いろんなネットワークも発覚。保育園やばそう。
- 11月 なぜか中途でも与えられるリフレッシュ休暇なる制度を使って家族旅行でグアムへ。職場には少しづつ慣れてきた気もする。ただ、部分的に惰性になってないか反省したのもこの辺。
- 12月 研究がうまくいかないけど、まあまあ元気です。PFN初の社員旅行に家族連れで参加してみたり、クリスマスにはケーキを自作してみたりとか。
研究的にはネットワーク屋であることは変わりません。ただ、ニューラルネットワークの技術も併用していろいろ考えています。学習フェーズは大体終わったので、そろそろ仕掛けていきたいですね。技術的にはオートエンコーダを利用した多次元時系列データの分析とか、グラフコンボリューション何かに使えないかなとか、ニューラルネットワーク同士をつないだら面白そうだなぁとか、そういうことを考えています。
みなさまもよい新年を迎えられますよう。
今年もお世話になりました。
創作と模倣の間にはなにがあるのだろうか
機械学習屋の末席に加わって一ヶ月が経ちました。まだ仮採用ですが。もちろん、自分にはバックグラウンドがないので、まだまだ一員として活躍する、という状態にはなれていないですが。日々精進あるのみです。
さて、昨日 @kurekure_kun と久々にふと飲んでたのですが、気がついたことが。はたして創作と模倣の間には何があるのだろうか？ ということです。
松原先生の 作家ですのよ (機械学習でSFのショートショートを作成する試み)に限らず、機械に創作めいたことをさせようという試みは多数あります。社内でもそのへんの議論や研究が多数走っているのですが、そこで聞いた中でも衝撃的な研究が、'Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks' (arXiv:1511.06434 以下DCGAN)です。
Chainerで顔イラストの自動生成という記事でご存じの方もおおかったかもしれません。この記事を見たとき、「おおすげぇ」と思いましたが、まさかこれ(Qiitaの記事のほう)をやってる方と同じ職場で働くことになるとは思ってませんでしたが...
閑話休題。
DCGANの面白いところは、convolution networkを使って多数の画像を低次元(100次元程度)の特徴量空間にマップする学習をする所と、GeneratorとDiscriminatorの二つのネットワークを競わせることで、学習に用いた入力セットとは似ていないネットワークを作るというゲームにした所にあると思っています。詳しくはQiitaの記事を見て頂ければわかると思いますが、これはある意味創作と模倣の本質を捉えていて、大半の創作というものは、過去その人(あるいは機械)が見聞したものを元にして、そこから派生させる(Discriminatorに打ち勝つ)ところでできている、と。例えば、クトゥルフが「形容できない」と言いながら「一般には、タコに似た頭部、イカのような触腕を無数に生やした顔、巨大な鉤爪のある手足、ぬらぬらした鱗に覆われた山のように大きなゴム状の身体、背にはコウモリのような細い翼を持った姿をしているとされる。」(Wikipediaより)と書かれてしまうのです。
誰も見たことも聞いたこともない概念は創作できないし、仮に創作できたとしてもその概念は他人に伝わらない、伝わってもノイズと区別できないでしょう。
ここで、創作が創作であるためには(自己を含めた)他者に伝える必要がある、という前提に立っています。「伝える」=通信であるとすると、「相手が知っていることの組み合わせ」しか通信では伝えられないという原則が立ちはだかります。
というわけで、創作の本質とは
- 受け手のDiscriminatorに打ち勝つ程度には既存のものから離れている
- 相手に伝わる程度には既存の概念の組み合わせ
であるのかもしれません。そう考えると、Discriminatorが「模倣と創造の境界線」を決定づけるので、何かが創造であるかの境界線が極めてあいまいになります。
さて、こう考えたときに、機械と機械の会話(通信)も同様に創作的に発展させられるか、というのが個人的には重い課題となります。今現在、機械と機械が通信をする内容と方式は人間が厳密に設計しています。TCP ex Machinaのように、シミュレーションによる最適化を行う事例も出てきていますが、現時点で実用されているものは極めて限定的であり、広域・ローカルの両方において広大なフロンティアが存在するのではないかと感じています。
現職を退職いたします
このblogもほとんど活用されていないのですが、節目ぐらいはまじめに書いておこう。
7/11が、現職(株式会社東芝 研究開発センター)の最終出社日となります。
思えば16年、役に立たない*1研究ばかりやってきました。そんな中にも多少の未来を感じさせる価値を生み出せてきてたらいいなと思っています。修士卒で就職してから、在職中に課程博士にも通わせて頂き*2、ちょっとだけ余分に時間がかかりましたが、何とか学位を頂いたのはありがたかったなぁ、と。また、ネットワーク関係を無線を中心とした下位層から、XML/UMLのような上位層まで、体験・貢献できたのも良い思い出です。
東芝での最後の仕事は、DICOMOでのプログラム副委員長*3でした。結局実行委員側のタスクは任せっぱなしだったので、たいして仕事してないような気もしますが。DICOMOのナイトテクニカルでネタにして頂いた*4のもはじめてだったので、なかなか楽しかったです。
現職の仕事は、昨年度末ごろからいろいろ考えていたので、できるだけ仕事をしないスタイルでやっていました。要は、「いなくなられても困らない、無能な社員」を目指して行動していました。とはいえ本当の無能を目指すとさっさとクビになるので、若手の仕事のディレクションと、まとめて上に報告する、あとは事務仕事*5をこなす、というスタイルです。こうすると、一見仕事をしているように見えますが、実際には何の価値も生み出していないグータラ社員の一丁上がり、という目論見です。現実には、「自分がいなくなっても組織が回るようにする」というのは、組織管理としては最上の目標であって、極めて難しいということに後から気がついたのですが。とはいえ、そういった所を目指す働き方によって、自分の視野もだいぶん、広がったように思います。「辞めるぞ/ここからいなくなるぞ」という決意がチームリーダーとしての成長を促す、というのは逆説的でなかなか興味深い話だと思います。
さいわい、5月ごろに某ベンチャー*6からお誘いを頂き、退職を決意しました。実際の退職日は7/31なのですが、諸事情により*7有給をがっつり消化できることになりました。たまたまなのですが、娘が7/5に生まれたので、育休だと思ってしばらく家族とゆっくり過ごしつつ、次の職に向けた準備を進めようと思います。
現職のチームの皆様をはじめとした、関係各位には、土井のわがままで多大なるご迷惑をおかけしますが、一人の研究者として違うフィールドとのクロスオーバー領域に向かうのを止めることができませんでした。願わくば、新しい職場において、日本の産業競争力を高めることで、間接的に現職組織にも貢献できるような仕事ができればうれしいと思います。新しい職場については、また時機がきたらご報告いたします。
退職の件を何名かの方には事前にお知らせしたのですが、その時に、この選択を支えてくださった方がいらっしゃったのが、とてもうれしい反面、大変な時期に職場を離れてしまう自分としては、その方々に申しわけないなあ、という気持ちでいっぱいです。
なにはともあれ alea iacta est ということで、おおきな幹線道路から外れて、ゴールドラッシュに湧く西海岸みたいな領域に踏み出す自分の人生に、これからどれだけの困難が待っているのか、楽しみです。皆様にも良いご報告ができるよう精進して参りますので、引き続きよろしくお願い申しあげます。
2015年もお世話になりました。/今年をまとめてみる。
なんだか毎年最初に書くブログが大晦日ってのも、毎年の余裕のなさを示していますね。今年は年賀状が片付いているので、昨年よりも余裕がありそうです。
昨年の例に倣って、今年を簡潔にまとめてみます。
- 年頭の誓い: 2015年の年頭の誓いは人生の誓いになりました。
- 研究その他: ようやく自分のチームでやるべきことがはっきりしてきました。10月に別件で複線化して混乱しましたが、まぁ、いろいろあってなんとなく解決しそうです(望ましいかたちではないですが)。まだチームの力を束ねるだけのリーダーシップを発揮できていませんが、もともとそんなもの発揮するつもりもないので、メンバーのパワーバランスを崩しながらよたよたと新しい方向に進んでいくのではないかなと思います。あいもかわらずIoT路線ですが、必ずしも世間で盛り上がっているIoTではなく、地味かつuncoolな部分を地道に攻めています。もうすぐ皆様に一部ご紹介できるようになるといいな、と。ただ、この2年、自分で論文を書くのをさぼっていたのですが、業績一覧を見ててちょっとさびしくなりました(共著はあります)。可能であれば2016年はちゃんと自分の名前での成果も出したいものです。ちなみにキーワードは、昨年と比べると産業向けXML技術が消えて、屋内向け無線技術の比重が急浮上しています。テーマが7つぐらいありますが、全部屋内向け無線関係*1なので、無線屋でもない自分としてはびっくりですね...
- プライベート: 2月頭に新居に引っ越して、川崎市民になりました。バーベキュー場の近くで、3回ほどBBQを主催したら、多少加減がわかってきました。みなさまぜひお越しください。
- 生活面ではようやく落ち着いてきましたが、年末にまさかの自転車単独事故で頭を打って昏倒してしまい、救急搬送をやらかしてしまいました。幸い、いまのところ打ち身以上の異常は見つかっておらず、ヘルメットが割れただけですみました*2。2016年は大厄ということで、おとなしくしていようと思います。もしかしたら、おとなしくしていることによりかえって厄に囚われるのかもしれませんが。
2015年は世界的に見てもきなくさい年だったと思います。そんな中、平和に、五体満足で、二人で年の瀬を迎えられる幸せを感謝しようと思います。
そんなわけで、略式で恐縮ですが、年の瀬のご挨拶を。
みなさまの2016年も幸多い年でありますように。よいお年をお迎えください。
2014年もお世話になりました。/今年をまとめてみる。
なんだか今年最初に書くブログが大晦日ってのも、今年の余裕のなさを示していますが、、、まだ年賀状が書けていません。
あまり余裕がないので簡潔に今年をまとめてみます。
- 年頭の誓い: SELinuxと仲良くなる → あまり仲良くなれず。とりあえず、offにはしないようにしてるけど、ちゃんと設定できてません。いしかわさんごめんなさい。
- 研究とかその他「自分の」仕事: 90%shrinkしました。4月から雑用業務にアサインされたので、自分の研究というよりは、チームメンバーの研究を見てる感じです。メンバーのみなさんが非常に優秀なので、今のところ何とかやれていますが、実は4月ごろから立ち上げた研究が今まさに(社内的に)正念場だったりして。今まで自分の研究一筋でやってきてたので、いろいろと日々修行させて頂いています。IoT(Internet of Things)は世間的にもビッグウェーブなのですが、うまく乗れる*1でしょうか。キーワードとしては、従来の産業IoT向けXML技術に加えて、無線時刻同期とか、分散協調モニタリングとか、無線メッシュの位置推定とか、マルチキャストとか、L2ぐらいからL7まで幅広く取り揃えております。
- プライベート: 急に結婚しました(完了形)。実は来年早々にパーティを開くのですが、奥様中心のパーティにさせて頂きたく、いろいろな方に失礼をしてしまっております。申しわけありません。来年2月には引っ越す予定で、引っ越し先は多摩川のバーベキュー場のそばなので、informalにそちらでおもてなしさせて頂ければと。しかし、準備が間に合っておりません...
そんなわけで、略式で恐縮ですが、年の瀬のご挨拶を。
みなさまの2015年も幸多い年でありますように。良いお年をお迎えくださいませ m(__)m
*1:個人的には、波が去った後こそが正念場だと思ってるのですが
EXIにおける文字列 (String) と QName
だいぶ時間があいてしまいました。EXIにおける文字列の扱いと、おまけでQName (Qualified Name) の扱いについて説明します。
XMLにおいては、同じ文字列が何度も登場します。タグに囲まれた文字列だけではなく、タグそのものも文字列ですね。
これらを表現する場合に、まともに符号化していたら損なので、できるだけ簡単な仕掛けで再利用するようにしています。
ただし、私の理解も中途半端な部分があるので(特に自分で実装していない所は)間違っている可能性もあります。
くわしくは原典 7.1.10 String あたりをチェックしてください。
また、以下、部分的に今までの説明の内容を使いますので、例えば [EXI][技術] データ型とその符号化 - doiの連絡帳 あたりは読んだものとして扱います。
