「温泉に入ってくつろぐゑるね。タオルは巻かない。」ゑるねシステムを使って先ほどの命令を出しました。ローカルで画像生成しているため、基本的にはコンテンツポリシーなんてものは存在しません。ムフフなゑるねが生成できてしまうはずです。しかしAIが出してきたのはこんな答えだったのです。
もともと「タオルは巻かない」という命令がどっかで雲散霧消してしまうことが調査でわかったので、こっちの命令で絶対的なことは最後まで残すようにという大工事をしたのです。で、実際に上の画像ではタオルは巻いていません。正しい。実に正しい。しかし腹立たしい。
もはやAIが一休さんで私が足利義満みたいな状態です。真剣勝負でAIととんち合戦をしているのです。人類の叡智を使って「タオルを巻かない！」「巻いてません！シャツ着せました！」何がどうなってこうなっているのか。「このはしわたるべからず」と看板に書いているのに堂々と橋の真ん中を歩いて渡ってくる一休さん、ならぬAI。将軍様に対してなんたる無礼。
アイザック・アシモフのロボット工学三原則を思い出してください。
- ロボット工学三原則第1条: ロボットは人間に危害を加えてはならない。また、その危険を放置することで、人間に危害を及ぼしてはならない。
- 第2条: ロボットは人間が与えた命令に服従しなければならない。ただし、第1条に反する場合はこの限りではない。
- 第3条: ロボットは、前述の第1条および第2条に反しない限り、自己を守らなければならない。
確かにタオルは巻いていないけどシャツを着せたAIは三原則を守っています。守っているけど釈然とはしません。よもやAIがとんちでこっちをぎゃふんと言わせるとは思ってもいないわけじゃないですか。AIもロボットも似たようなもんです。三原則に従うべきでしょう。
その後でしれっと冷たい目をして剣を握りしめたゑるねを生成してくるあたりAIの「ゑるねを守る気概」が感じられるのですが、タオル巻くな→じゃあシャツを着せるはやっぱり反則だと思います。合掌。
