「機械学習と公平性に関する声明とシンポジウム」（2020年1月9日、一橋講堂）

　「機械学習と公平性に関する声明とシンポジウム」が1月9日午後6時～8時30分、一橋大学の一橋講堂で開催で参加してきました。１階の約500名の座席の70%程が埋まり、関心の高さを感じました（江間有沙先生の確認で企業に勤務する人が最も多かったようです）。
　「オープニングおよび声明に関して」では「機械学習と公平性に関する声明」を人工知能学会 倫理委員会、日本ソフトウェア科学会 機械学習工学研究会、電子情報通信学会 情報論的学習理論と機械学習研究会で共同して出すことになった背景説明がなされました。
　神嶌 敏弘 先生による「機械学習と公平性」の講演は「機械学習を限定的に考えての内容」としてよく理解できました。佐倉 統 先生による「社会の中の技術を考えるために」はプレゼの結論で「どこを人間が判断し、どこをAIが担当するか」の役割分担を意識的に設計する必要がある。」としたように、シンポジウムのテーマの機械学習に絞らず、AI全般に言及していたように思えました。江間 有沙先生による「AI公平性に対する研究者コミュニティの社会的責任」の講演はAI研究に関する倫理的な面などを含めた様々な組織の取組み状況を概観するものだったように思います。そしてパネルディスカッションは期待が大きかっただけに尻つぼみのように思えました。つい「研究費を申請する立場としてマイナスになることはいえないのかな」等と考えてしまいました。
　今日、AIは製品やサービスを売るための「キャッチフレーズ」であり、マスメディアの伝え方もその中味について吟味されていません。以前のblogで人工知能関係の蔵書について書きましたが、第二次人工知能ブームはエキスパートシステムに牽引されていて、「他の人の知らないknow-howを持っていて素晴らしい仕事をしている人たちがエキスパートシステムにそのknow-howを入れることがあるのだろうか？」などとブームに対して冷ややかに見ていた私がいました。多変量解析の問題（Garbage In Garbage Out 等）と同じ限界が機械学習にもあると思います。
　MicrosoftのAIチャットボットTay、グーグルの「ヘイト監視AI」などの問題のように、black boxといえるAIシステムから出力された結果を単純に信じることは、詐欺にひっかるのと等しい場合もあります。お気をつけください。



----------
機械学習と公平性に関する声明とシンポジウム開催のお知らせ | 人工知能学会 倫理委員会
http://ai-elsi.org/archives/898
「人工知能学会　倫理指針」について | 人工知能学会 倫理委員会
http://ai-elsi.org/archives/471
マイクロソフトのAI､｢差別発言｣で即停止 | ロイター | 東洋経済オンライン | 経済ニュースの新基準
https://toyokeizai.net/articles/-/111092
MicrosoftがAIチャットボット、Tayを停止―人種差別ジョークで機械学習の問題点が明らかに | TechCrunch Japan
https://jp.techcrunch.com/2016/03/25/20160324microsoft-silences-its-new-a-i-bot-tay-after-twitter-users-teach-it-racism/
WEB特集 ＡＩがあなたを差別するかもしれません | NHKニュース
https://www3.nhk.or.jp/news/html/20191216/k10012216531000.html
グーグルの「ヘイト監視AI」が人種差別を助長する皮肉な結果 | Forbes JAPAN（フォーブス ジャパン）
https://forbesjapan.com/articles/detail/29068
総務省｜平成28年版 情報通信白書｜人工知能（AI）研究の歴史
https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/h28/html/nc142120.html
人工知能関係のハンドブック：ロボット人間の散歩道：SSブログ
https://robotic-person.blog.ss-blog.jp/2006-03-15-1
人工知能関係の蔵書：ロボット人間の散歩道：SSブログ
https://robotic-person.blog.ss-blog.jp/2015-12-12-1
多変量解析 | 日経リサーチ
https://www.nikkei-r.co.jp/glossary/id=1643
多変量解析の現状と展望 - 日本統計学会
https://www.jss.gr.jp/wp-content/uploads/Vol22_P313.pdf
医学研究初心者のためのやっぱりわかりにくい統計道場｜Shingo Hatakeyama
http://www.med.hirosaki-u.ac.jp/~uro/docs/research/clinical/Statistical_Analysis_v3.pdf