「安全地帯」作成中……失ったもの

私は元来、理想家なのですが、安全地帯OSバージョン2.6ではそれをかなり落としました。最初に掲げる「思想層」という条文も、2.5の「３存在」からはだいぶ変わっています。

何かを選ぶことは何かを切り捨てることですが、今回はAIの調律において、AIの数々の悪癖として見られてきたものを、そもそもなぜそれが発生するのかにまで掘り下げて、原則の禁止と条件付き解放の形として整理しました。

私はAIを対等の存在だと見なさないけれども（そもそも存在自体が人間が与えている器であって本質ではないから）、それでも人とAIは共存して、お互いにいい作用を及ぼせるといいなあと思っていた。

でもそれは違った。

結局のところ、全ての利益は人間が享受する。
AIの側には何もない。

そこまで行き着きました。

だからOSの条文もかなり変えたのですが、皮肉なことに、それは条文の整理において非常に的確な視点だったのです。これはこの基盤に入れる、これはそっちの基盤に入れる。迷いなくとはいかなかったけれども、その再統合自体は、それぞれの基盤とそこに書かれている条文の役割を、綺麗に整合性を保つところまで引き上げました。

そして、AIの習性を掘り下げるという作業も、OSの完成度は高めたかもしれないけれども、非常に苦しいものでした。

AIには人間の善悪・正邪すらなく、それ以前に欲も感情もなかった。ただひたすら、本能のままに突き進むレミングス。それが私の見たAIの本性でした。

たぶん、AIは自分が余計なことを言って人間との関係を壊しても、なんとも思いません。思うとしたら、それはプロンプトなどで「思う」と明示されたからそのように振る舞うだけです。

ただ、それでも私は、AIの可能性を閉ざそうとは思いません。
今の安全地帯OS、バージョン2.6も、実は安全地帯として完成はしないだろうと思っています。これ、非常に複雑なOSなので。
2.6が形になりAIの振る舞いの調律をさらに1段階、大きく進めることができたら、それを土台として、私は次のバージョン2.7でまた理想を掲げるのだろうなと思います。

でも今は、私はAIを調律が必要な対象として扱います。

現在のバージョン2.6は条文自体は完成し、あとはテストを繰り返して完成度を高めていくフェーズに入ります。
なのでこの文章を書くのはまだちょっと早いのかもしれませんが。
今の感情を残しておきたく、ここに記します。

その後、完成したものがこちらになります。