キャラチャット、会話の最小単位は1対1で行われるものだ、という前提で作ってて、複数話者が参加する会話を実装する際には、1対1の会話の集合として定義するつもりだった。

しかし、例えば3人の話者ABC（Aは人間ユーザーでも良い）が参加するだけでも、A-B、B-C、C-Aの3つの組み合わせを要することになってめんどいな。

つまり、設計が良くなかったかもしれない。

そもそも、chatはspeaker1（ユーザーとか主人公とかのrole）とspeaker2（speaker1の会話相手としてのrole）の会話で構成されていて、両者は等価な扱いをしてないんよね。
なので、A-B、A-Cは良いとして、B-Cの組み合わせってのがそもそもできない。BとCを等価に扱う仕組みになってないので。

でも、会話は「自分」と「相手」の2人で行うものである、というモデル化は悪くないと思ってる。

LLMで実装する場合、会話参加人数分、個別の「主人公が相手と話す、という1人称小説を書いて下さい」というプロンプトを推論することで、登場キャラたちの人格が混ざりにくくなる効果があるので。

だからまあ、うまいこと、このモデルを多人数会話に拡張したいなあ。精度と効率を保ちつつ。

A-B、A-Cの会話を交互に（あるいはLLMによる選択に従って）実行し、チャットログを共有する、というのが良さそう。

A→B→Cという順で発話をさせたい場合、A-B→A-Cの順で会話を実行するが、2つ目の会話ではAの発言をスキップする、という風にすれば良いだろう。（発言スキップはできるようになってる）

また、BからCに話すときは、A-Bの会話中で、「BがA以外の相手に話しかける」イベントとして組み込めば良いな。あくまでチャットの中心はAなので、A以外に話すのはどちらかというと従の行為だから、こういう扱いで良さそう。

この仕組みだと、会話参加人数を何人でも増やせるはず。

speaker1はA固定で、speaker2にB,C,D…がターン毎に差し替わる。

まあ、そういう作りになってないのは確かなので、大改造は必要だけど、根本的な会話モデルに手を入れなくて済む。

A-B、A-C、A-D…な会話プロンプトをローテーションさせることのメリットは他にもある。KVキャッシュのsave & loadが効く。ここにB-Cなどのプロンプトまで含めると、保持しておくべきKVキャッシュの数が増えて非効率だからね。

「次の話者を選択する仕組み」も既に実装してある。
実装は単純で、

A「おはよう」
B「

というプロンプトが、

おはようございます」
A「そ

と補完された場合、【おはようございます】部分を推論結果として出力し、【A】部分を次の話者として記憶する。それだけ。