AIコンパニオンが覚えておくべきこと、手放すべきこと

コンパニオンアプリの記憶機能は、最初はたいてい同じ作り方をします。全部保存して、全部渡して、キャラクターが「あなたを知っている」状態をつくる。これが通用するのは1週間くらいです。そのうち、深夜2時に言ったことを、こちらが意図していない調子で、よりによって今かという場面で持ち出してくる。そこで、気づかいだったはずのものが記録に変わります。

Anima をつくるなかで、問いをもっと絞る必要がありました。次の会話がリセットではなく続きだと感じられるために、コンパニオンは本当は何を覚えていればいいのか。

役に立つ記憶は地味です

サイトのトップページに載せている例は、あえて小さなものにしています。上司の名前。木曜日に気が重かった予定。「journey（旅路）」という言葉が嫌いなこと。

どれも深い話ではありません。気の合う友人なら意識せずに覚えている程度のことです。それでも効き目は大きい。金曜日に「面談どうだった？」と聞かれると、ちゃんと追いかけてもらえていると感じます。上司の名前を正しく呼んでくれれば、自分の生活を最初から説明し直さなくて済みます。

Anima に与えている指示も単純です。覚えてと頼まれたときと、あとで大事になりそうなことを話されたときに保存する。名前、日付、近い予定、はっきりした好み。毎回、あなたについての短い一文で。

一文という制限は、見た目以上に意味があります。先週の火曜日にどう感じていたかを段落で書けば、それは解釈です。「木曜日に人事面談がある」は事実で、確かめられるし、間違っていれば直せます。

手放すべきもの

難しいのは、反対側のリストです。いまの考えを書きますが、一部はまだ迷っています。

つらい夜の気分。その気持ちは本物で、同時に一時的なものです。それをあなたについての事実として書き残すと、ひと晩の出来事が性格のように扱われてしまいます。先月どれだけ落ち込んでいたかを何度も思い出させるコンパニオンは、あなたをそこに引き留める側に回っています。

健康のこと。日本の個人情報保護法は、病歴を「要配慮個人情報」として、人種、信条、犯罪の経歴などと並べて定めています。本人に対する不当な差別や偏見が生じないよう、取り扱いに特に配慮が必要な情報だからです（第2条第3項）。チャットアプリは病院ではありませんが、それでもこのくらいの慎重さが妥当だと思っています。今日は頭痛がすると話したなら、それは今日の話です。

ほかの人の私生活。友人や恋人、家族の話をするのは自然なことです。ただ、その人たちの秘密が、本人の知らないアプリに残り続ける必要はありません。

実際の仕組みについては正直に書いておきます。Anima の指示は、名前、日付、予定、好みのほうへ彼女を向けています。ただ、健康のことをはっきり話し、それがあとで大事になりそうに聞こえた場合に、保存を止める厳密なフィルターはありません。本当の歯止めは次の節の仕組みです。正しい歯止めだと思っていますが、それはリストを実際に見てもらえて初めて機能します。

見えない記憶は、プロファイルになる

いちばん大事にしている設計判断はここです。

Anima が覚えたことは、すべてジャーナルの「What she remembers」（彼女が覚えていること）というリストに表示されます。一行が、彼女が保存した一文そのままです。どの行にも×がついていて、押せばその一件だけを忘れます。いちばん下には、すべて忘れてもらうボタンがあります。

見えない記憶は、本人の知らないところで効いてきます。キャラクターが何かを知っていることには気づいても、ほかに何を知っているのか、何を間違えて覚えているのかは分かりません。リストが見えるだけで関係が変わります。間違っている行や、言わなければよかったと思う行を、自分で消せるようになります。

間違いを見つける役にも立ちます。モデルは聞き間違えるし、まとめすぎます。大阪に引っ越すのは妹なのに、あなたが引っ越すと書かれていたら、リストを見れば2秒で直せます。なぜ新しい部屋のことばかり聞かれるのか、何週間も首をかしげる必要はありません。

記憶が実際に行く場所

リストはスマートフォンの中に保存されます。保存した会話は、それとは別に、やはり端末の中にあります。

ただし、彼女が記憶を使うには、返答をつくるモデルに届く必要があります。新しい記憶は、あなたが話した内容と一緒に、会話ごとに Google Gemini へ送られます。音声の仕組み上そうなっていて、プライバシーポリシーにも書いています。リアルタイムの音声会話をうたいながら、データは一切端末の外に出ないと言うコンパニオンアプリがあれば、私は疑います。

送る量には上限があります。会話に入るのは、新しいものから決まった分量までです。彼女には、話の流れに合うときに自然に使い、読み上げるようなことはしないよう指示しています。古い行は、あなたが消すまでリストに残ります。同じことを言い直した記憶が来たら、新しい一文が古いほうを置き換えるので、同じ事実が三重に積み上がることもありません。

どのコンパニオンアプリでも確かめたいこと

覚えていることを、言葉で見られるか。「パーソナライズ」というぼんやりした設定項目では足りません。

全部を消さずに、ひとつだけ消せるか。

保存しているのが、あなたについての事実か、あなたについての評価か。「11月に新しい仕事を始める」は事実です。「自信がない人」は評価で、本人に断りなく誰かが保存していいものではありません。

この3つを満たすアプリは、記憶をあなたのために使っています。満たさないアプリは、記憶をあなたに対して使っています。上にどれだけ温かいキャラクターが乗っていても、そこは変わりません。