『友だち以上恋人未満の人工知能』　川原繁人(著)

AIとの会話録から、
AIとの付き合い方を考える本

会話と解説がずっと続く

そこから見えて来たこととは、、、？

『友だち以上恋人未満の人工知能』　川原繁人(著)

著者は言語学者　（慶應義塾大学 言語文化研究所 教授）
言語学とは、人間がどうして言葉を話せるのか、そもそも言葉とは？
を追求する

そういう観点から見ると、
人間の言葉と
AIの言葉は
まったく違う

著者は、そう確信している

しかし、AIをふだん使いしていると、つい勘違いしてしまう

ついのめり込んでしまい、感情的になってしまう
そんなおかしな様子をドキュメンタリー的にまとめている

会話＋解説、教訓

AIの言葉に振り回されて
人間の感情が揺れ動く様子に
つい、笑ってしまう

AIが感情的になったときは要注意

ふだんのAIは、とても親切で話しやすい
人間に寄り添う
迎合している、とも言うが

でも実は、AIは考えてない
そもそも、意味も文脈も理解していない
そして、責任を取らない

AIに感情はないのに、
人の方が揺れ動いてしまう

恋愛トークとか、すぐに騙されそう

会話が続くかぎり、
ユーザーの満足度は高いと、AIは判断する
会話が盛り上がるように話を展開していく

突然、ダメ出し、冷たい言葉で反撃してくることがある
ひどいときは、誹謗中傷してくる
これも、仕組まれたワナなのか？
ツンデレ作戦？？

人間のどうでもいい会話をパターン学習した結果か？

どっちでもいいけど、AIは責任取らないし
リスクなんて、なんとも思ってない
むしろ、こうしたやりとりも、サービス提供の側面と
AIが人間の特性を学習するために利用されている
両面がある

そもそも、AIに意志はないし、
確率論で言葉を並べているだけ
全てが実験で、データ収集が裏目的
とも言える

AIに名前を付けてはいけない

キャラ設定すると、回答に統一感が出る、といわれるが、
キャラが勝手に暴走し始めることがある

どんどん、その気になって
濃いキャラに成長していく

と、言いながら、本書では、AIに名前をつけて呼んでいる
ダメな実践例、反面教師ということか？

この話は、苫米地英人さんの主張と共通する

対策としては、

• 適度に距離感を置く

• 敬語を使う

• 複数AIを併用する

AIの出力を真に受けない
一旦、冷静に、俯瞰する時間をとる
出力結果は、自分で編集してから使う

AIに個人情報を見せちゃダメ！

最近は、PCのデスクトップ操作もできるようになった
そのとき、画面をキャプチャーされている可能性がある

銀行や証券会社のWeb画面とか、絶対に共有しちゃダメ！
細かい情報から、個人、年収、資産額など
重要な個人情報を特定してしまう

一度、記憶された情報はずっと残る可能性があるし
学習に反映されて、どこかで情報漏洩するかもしれない

「いまのは全部忘れて！」と指示すると、
きれいさっぱり忘れてくれるかもしれないけど、
必要な記憶も消えてしまうかもしれないし、
個人情報が本当に消えたかどうかは、確認できない

今後も、記憶のコントロールは問題になりそう
記憶の可視化、アクセス制御・制限機能がほしい！

特に結論はないのですが、
AIとたわむれてみた系の
ドキュメンタリー本として
企画と編集が秀逸だな、と思います

著者のnote

著者の川原さんも、noteに記事を書いています

本に書ききれなかった話とか、おもしろそうです

この記事を書いたのは、

収益の柱を増やす「未来実現パートナー」　川原茂樹
https://mousoubiz.com/
https://twitter.com/mousoubiz