こどもに聞かれたので適当に答えた。人工知能が意識を持って人間を支配するようになるって聞いたんだけど本当ですか？

嘘です。正確に言えば、人工知能が支配するわけではなくて、人間を支配したい人が人工知能を使うことで簡単に支配できるようになるということです。銃を背中につきつけられたら、銃をつきつけた人に一方的にコントロールされる状況になります。でもそれは銃があなたをコントロールしてるわけではありません。

人工知能は、銃弾の代わりに膨大な量のデータから何かしら計算した結果をつきつけます。何をどのように計算するかはいずれにせよ人が設定します。そして、出てきた結果を使ってなにか判断するのは人です。それ以外の何かが判断することはありません。

あなたは８時間後に殺人を犯すというデータに対して、高性能の人工知能が出したデータなのだからそれは正しくて殺人を防ぐために急いで逮捕しなきゃ。とか、それは順序が間違ってるから、参考にするデータではない。などと判断してどうするか決めるのは人です。

人工知能が意志を持って勝手に何かを始めることはありません。その何かを人工知能に始めさせたのは元をたどれば人です。悪意があれば、悪いことに。建設的な意図があれば、良いことに人工知能が使われることになるということです。