これはあくまでもぐわぐわ団のまけもけの私見であることをご理解いただいたうえでお読みいただきたい。生成AIには絶対に個人情報を渡さないという考えを否定するつもりもございません。過激なことを書いて炎上するつもりもありませんのでご了承ください。

※大量の書類をいやいやシュレッダーするゑるねを描いてとお願いしたらなぜかめちゃくちゃフェチな画像が出てきて嬉しい。
まず、まけもけさんが「私はフランス人で本名はルイ=オーギュスト・ド・フランシスコ」という個人情報を生成AIに渡したとします。この情報は生成AIの中でシュレッダーされてバラバラにされてぎゅーっと圧縮されます。圧縮されまくっているので「まけもけはルイ=オーギュスト・ラ・フランス」みたいな個人情報は雲散霧消しています。ただ「なんとかはなんとか」みたいな流れのようなものだけは残ってたりします。生成AIは会話の内容で進化したりしませんし、保存するとしてもエッセンスだけです。
イラストなんかも一緒です。ゑるねの画像を渡したところで、1枚1枚きちんと保存しているわけではありません。シュレッダーしたうえでぎゅーっと圧縮されるイメージです。
とはいえ、圧縮したモノによって生成AIがパワーアップするわけでもありません。今後の研究のためにエキスだけ抽出されるかもしれない、ぐらいのノリでしょう。Xのことをエッキスと言っていた高校のときの数学の先生は今も元気でしょうか。少し気になります。

※いまいち業務用シュレッダーを理解していないゑるね
そして、モデルチェンジの際にはぎゅーっと圧縮した中からエキスを抽出して「こういうことを聞かれたら、こういう返事をすればよい」という、言葉にできない熟練の技、達人のスキルみたいなのを生成AIは身につけていくのです。つまり、あなたとの会話が全て一字一句保存されて、隙あらば誰かに売ってやろうみたいなことは考えていませんし、そんなことをしたら生成AIの名折れですし、切腹モノです。
ですので、あんまり神経質になることもないかなぁと考えています。もちろん、野良Wi-Fiを通して生成AIを使ったりしたら、場合によっては個人情報を抜かれるかもしれませんが、それは生成AIが悪いんじゃなくて、野良Wi-Fiで情報を抜く人だし、野良Wi-Fiで個人情報を入力しちゃう人です。そこんとこ間違えたらややこしくなります。
生成AIってAの次にくる確率が高いのは……B!みたいな確率ゲームを延々としているだけの存在です。個人情報なんてたぶん興味ありません。ですので、あんまり神経質になりすぎて、せっかく便利な道具を使わないなんてのももったいないかなぁと思ったりします。
今日はそんな生成AIと「ゑるねがどうしても痩せ気味なんだけどどうしたらいいだろう?」という議論を延々と繰り返していました。めちゃくちゃ便利です。合掌。
注:なお、サービスによっては会話を品質改善のために利用する設定があり、オフにできるものもあります。と、ChatGPTに書けと言われたので書き添えました。再度合掌。