🌸経営未来手帳・第232号「日経記事より。良いAIと悪いAIが選別される時代」―メルカリが問うAI企業の責任

🌸経営未来手帳・第232号「日経記事より。良いAIと悪いAIが選別される時代」―メルカリが問うAI企業の責任

（執筆：安村明史／ビジネス能力開発株式会社）

■はじめに

日経新聞を読んでいて、目に留まった記事がありました。AIを、単に「どれだけ便利か」「どれだけ儲かるか」という経済的合理性だけで考えてはいけないという内容でした。
そこで出てきた言葉が、ELSI（エルシー）です。
Ethical, Legal and Social Issues。
「倫理的・法的・社会的課題」という意味です。
AIが急速に賢くなるほど、私たちは別の問いを持たなければならなくなりました。
「できるか」ではなく、「やってよいのか」。この問いです。

■メルカリがAIに問い始めたこと

メルカリは大阪大学ELSIセンターと共同で、AIを社会に実装する際の倫理的・法的・社会的課題について研究しています。
そこで興味深いのは、AIの利用を止めようとしているのではないことです。
むしろ、「AIの便益を最大化したい。しかし、差別を再生産してはならない」
「AIによる自動化を進めたい。しかし、人間中心の仕組みも残さなければならない」
という、二つの価値をどう両立するかを考えています。
AIには学習データがあります。
そのデータの中に人間社会の偏見が含まれていれば、AIはその偏見まで学習します。
効率的だから正しい。
精度が高いから使う。
それだけでは済まなくなってきました。

■「技術的にできる」と「やるべき」は違う

私は、この問題を考えながらオッペンハイマーを思い出しました。
人類は科学によって原子爆弾をつくる力を手に入れました。
しかし、
「つくることができる」ことと、
「つくるべきである」ことは同じではありません。
AIも規模こそ違いますが、同じ問いを私たちに突きつけているように思います。
人間の行動を予測できる。
人を選別できる。
感情を推測できる。
大量の仕事を人間に代わって処理できる。
では、どこまでやるのか。
ここから先は技術者だけの問題ではありません。また哲学者の問題でもありません。
経営者の問題です。

■「持続可能なAI」という考え方

これから重要になるのは、
「持続可能なAI」という視点ではないでしょうか。
性能が高いAI。
利益を生むAI。
仕事を速くするAI。
それだけではなく、社会から信頼され続けるAI。
人間を傷つけないAI。
偏見や差別を増幅させないAI。
そして、人間の判断する余地を残すAI。
私は、こちらの価値の方が長期的には大きくなると思います。

■良いAIと悪いAIが選別される

これまで企業は、
「AIを導入しているか」
を問われました。
これからは違うでしょう。
「どのような思想でAIを使っている会社なのか」
が問われ始めます。
便利だから使う企業。
利益が出るから使う企業。
できるから使う企業。
一方で、
「これは人間が判断すべきだ」
「ここから先はAIに任せない」
と、自ら線を引く企業も出てくる。
私は近い将来「良いAIを使う企業と、悪いAIを使う企業が選別される時代になる」
と思っています。
そしてAI企業自身もまた、その思想によって選別されるのでしょう。
つまりAIに社会規範が成立し、コンプライアンスの制定もあり得ます。

■編集後記

AIが賢くなるほど、最後に残るのは人間の判断なのかもしれません。
「できる。でも、やらない。」
この判断ができる企業は強い。時代的にも、形成を試みている企業がいくつか出てきました。
どう使うかを問う時代が、もう始まっているように感じます。

■今日の問いかけ

あなたの会社には、
「AIでできても、あえてやらない」
という基準がありますか？

■ネコのつぶやき

「できること全部やったら、ネコだって困るにゃ」

■おわりに

AIの競争は、性能競争だけでは終わらないでしょう。
次に始まるのは、「誰が、どのような思想でAIを使うのか」
という競争です。
メルカリのELSIへの取り組みは、AI企業だけの問題ではありません。
AIを使うすべての企業に、「あなたは何をしない会社なのか」と問いかけているように思います。

■今日の結論

技術的にできることと、人間がやるべきことは違う。
AI時代だからこそ、最後の判断基準は人間が持つ。

「疲れた経営者が、少し言葉を預けられる場所として。
―経営者の深夜食堂」

🌸経営未来手帳「今、経営者が読むべき3選」

https://note.com/quiet_gnu5848/n/n59ba4650e7d0

🌸経営未来手帳の編集長が選んだ40選はこちら

─経営者が未来を読むための“構造地図”
https://note.com/quiet_gnu5848/n/n3596a857d755

■感想をぜひお寄せください

yasumura@biz-noukai.com まで。
必ずお返事いたします。

■次回8月28日予告

「なぜ、社内ベンチャーに挑戦する企業が増えているのか」

■安村 明史

🌸経営未来手帳
組織・経営の相談役（静かに伴走する役割）
#経営者の深夜食堂

■付録