「機械学習と公平性に関する声明とシンポジウム」が1月9日午後6時～8時30分、一橋大学の一橋講堂で開催で参加してきました。１階の約500名の座席の70%程が埋まり、関心の高さを感じました（江間有沙先生の確認で企業に勤務する人が最も多かったようです）。
「オープニングおよび声明に関して」では「機械学習と公平性に関する声明」を人工知能学会 倫理委員会、日本ソフトウェア科学会 機械学習工学研究会、電子情報通信学会 情報論的学習理論と機械学習研究会で共同して出すことになった背景説明がなされました。
神嶌 敏弘 先生による「機械学習と公平性」の講演は「機械学習を限定的に考えての内容」としてよく理解できました。佐倉 統 先生による「社会の中の技術を考えるために」はプレゼの結論で「どこを人間が判断し、どこをAIが担当するか」の役割分担を意識的に設計する必要がある。」としたように、シンポジウムのテーマの機械学習に絞らず、AI全般に言及していたように思えました。江間 有沙先生による「AI公平性に対する研究者コミュニティの社会的責任」の講演はAI研究に関する倫理的な面などを含めた様々な組織の取組み状況を概観するものだったように思います。そしてパネルディスカッションは期待が大きかっただけに尻つぼみのように思えました。つい「研究費を申請する立場としてマイナスになることはいえないのかな」等と考えてしまいました。
今日、AIは製品やサービスを売るための「キャッチフレーズ」であり、マスメディアの伝え方もその中味について吟味されていません。以前のblogで人工知能関係の蔵書について書きましたが、第二次人工知能ブームはエキスパートシステムに牽引されていて、「他の人の知らないknow-howを持っていて素晴らしい仕事をしている人たちがエキスパートシステムにそのknow-howを入れることがあるのだろうか？」などとブームに対して冷ややかに見ていた私がいました。多変量解析の問題（Garbage In Garbage Out 等）と同じ限界が機械学習にもあると思います。
MicrosoftのAIチャットボットTay、グーグルの「ヘイト監視AI」などの問題のように、black boxといえるAIシステムから出力された結果を単純に信じることは、詐欺にひっかるのと等しい場合もあります。お気をつけください。