人数より采配かな、と思っています。
采配がしっかりできるなら人数の多いアンソロ・合同誌でも問題なく出すことが出来るかな、と。

本のコンセプトやテーマの明確化をし、NG例を具体的に挙げる。
原稿の仕様やテンプレートの詳細を用意し、ミスを極力減らす。
ページ数の管理も合わせて進捗のリマインドなどもこまめに行い、締め切り直前のバタバタを減らす。
早めの締め切りを設定しつつデッドラインも設定しておき、一次締め切りに間に合わなかった人への救済も用意する。
編集は思ってる以上に大変なので十分な期間を設ける。
デッドラインにも間に合わなかった人は掲載しない旨を最初から明言して、きっぱり断る。
厄介な人を抱え込みたくなかったら公募制ではなく依頼制にする。

今回は主催が初心者で副主催が経験者なら、副主催がこのあたりの切り盛りのサポートをしてあげるべきなんですが、たぶん「言って終わり」程度だったんじゃないでしょうか。
「いや、教えたじゃん」みたいな。
副主催という立場も、主催になって矢面に立つのが嫌だったから変わり身として立たせたようなものだと思います。
や、主催の人が「やりたい」と言って純粋にサポートするつもりだったのかも知れませんが、まぁそれでもサポート不足だったからこそ問題が水面下で起こってたんでしょうけども…。
また淡々と事務的に進めても、感情がそれを邪魔するのも人間の性です。
言い方が悪いとか、言葉の行き違いだとか。
特に締め切り前などでヤキモキする頃合いのやり取りは揉め事の火種になりやすいです。

おまけに今はコロナもあって、本をいつ出すべきか、という話もあります。
アンソロであれば発行を見送って次のイベントにしたり、それがズルズルになってしまったり。

どちらにせよ、主催は未経験なのに大きな合同アンソロに手を出すべきではなかったですし、副主催もサポートが十分できないのに主催を焚き付けたり調子に乗らせたのが誤りだったかな、と客観的に思います。

>>3人体制(ほぼ初心者＋仲良しの経験者2人)でやるようなアンソロは、資金の問題を全く抜きにした場合、参加者は何人程度が最適解だと思われますか？
結果的に采配がなかったわけなので、人数的には10人以下にすべきだったかな、と思います。
やれて6-9人が関の山だったように感じます。

＞3人体制(ほぼ初心者＋仲良しの経験者2人)
お話を聞いてる限りその3人の内訳・性格を前提にするなら主催陣3人＋ゲスト2.3人の合同本から作った方がよさそうでしたね。
ページ数はあまり関係ないと思いますが、一人当たり3-12P程度が平均化と思います。

他の方が仰っているのと同意見で、あと私は責任感の無さが原因だったのではないかと思います。
同人誌発行やアンソロ執筆経験は最低限必要としても、初めてのアンソロ主催でも責任感のある人なら自分の管理できる人数を誘って計画性をもって進め、連絡をこまめにすることはできます。
そういう主催さんに当たったこともありますが平和に終わりました。

未経験の主催は「副主催が教えてくれるだろう、やってくれるだろう」
副主催は「自分は副だし責任あるのは主催だろう」
で、だれも責任もって管理していなかったのではないかと感じました。

同人誌発行2回目で大人数アンソロ主催とはかなり思い切りましたね…。
そうでなくても主催たちの性格や進行に問題がありそうですが。
炎上に巻き込まれる前に辞退されてよかったですね。

私はそこそこ小さい村でしか活動したことがないので参考になるかわかりませんが、
10〜15人でもかなり大人数なアンソロだな、という印象でした。
実際それくらい集まると5センチくらいの厚みにはなりますし、迫力があります。
トピ主さんが誘われた時点で15人ということは、最終的に2倍くらいと想定すると、30人の原稿をチェックし、ミスがないかを確認し、お返事をし、印刷所に入稿して、お礼を用意して…などの準備の大変さは計り知れません。
そのあたりの雑務やサポートをするのが副主催なはずですが、その辺りの連携が取れていなかったのかもしれませんね。

そもそも30人のチームをまとめあげるのは仕事に置き換えてもものすごい規模と思いますので、
ましてや同人経験の浅い方が主催をするのは無理があったんじゃないかなと思いました。
副主催合わせて、仲の良い5〜6人で合同誌でも出した方がよかったのでは・・・。
少なくとも合同誌経験があれば、炎上することもなかったんじゃないかと思います。

個人的には経験則の浅い方が主催するアンソロには出ないようにしているのですが、
それが実際正しかったのかもしれない…とこのトピを読んで思いました…