レイヤー兼字書きの知人がいるので、自分ももしこんなことがあったら…と思い読みました。

まず｢BL要素を出してくるレイヤーが苦手｣という感覚はレアケースではないと思います。
そもそも「BLが苦手」や「レイヤーが苦手」という方もいますし、「2次元イラストは好きだけどコスプレ写真は無理」という方もいるので、BL表現についても「2次元で見るのはいいけどコスプレ写真だと無理」というのも当然あると思います。

今回の件については、ご友人のレイヤーさんが不注意な点が多かったように感じました。トピ主さんとの友人関係に安心して、配慮が欠けてしまったのではないしょうか？
友人であっても「BL要素のあるコスプレ写真は大丈夫か？」などと一度確認したほうがいいですし、同カプでも解釈違いで読めない方もいるので、要望も聞かずに「在庫あるから今度あげるね｣は軽率かなと…。

友人レイヤーさんは、今まで特にトラブルがなくて気付かなかっただけで、悪気はなかったのかもしれませんが、私の知人（レイヤー兼字書き・二次創作ＢＬ）は、本を頒布する際や、同ジャンルの初対面の方に接する際、上記のような点をかなり慎重に確認していました。本人同士が仲良くなれても、作品に対する好みの違いはどうしてもあるので、お互いに配慮できないとトラブルの元ですよね。

それと、友人レイヤーさんは酷く怒ってしまった、とのことですが、本当に100％怒っていて悪口も広めてしまうような人柄なら、好みの異なる人とは付き合えないタイプなのでしょうから、今後はお付き合いを控えて、自衛のために根回しもしたほうが良いかなと思います。
でも実は「怒っている」という感情は20％くらいで、内心は友人であるトピ主さんに拒絶されたように感じて、傷ついたり悲しかったりする感情が80％くらいなのかもしれません。それでも悪口を広められては困りますけどね…。
アンソロの主催者さんには、友人レイヤーさんの悪口にならないように説明するのが賢いと思います。一例ですが「BL要素のあるコスプレ写真が苦手なことをずっと黙っていたことが、かえって友人レイヤーを傷つけてしまった。友情は大切にしたいと思っているが、今は友人レイヤーから距離を置かれているので、沈静化するまでしばらく様子を見ている状況だ」とか…。

コスプレイヤーの文化はよく知らないのですが、投稿を読んで「コスプレイヤーをキャラと見なして萌えることができない」というのは理解できます。コスプレをする方というのはあくまでも姿を借りるものであって、キャラになりきることとは一線を引くものだと思っていましたので「自分がなりきったキャラに萌えない相手を非難する」というのはちょっと筋が違う感じもします。
トピ主さんの「コスプレイヤーした友人は友人であって、その人の”性的な雰囲気を伴った”写真を見るのが無理である」という主張の説明で良いのではないかと思いました。

個人的には、共通の友人にはトピ主さんからも説明されたほうがいいように感じました。私だったら関係者それぞれから話を聞いたほうが判断しやすくなるだろうと思うので…。結果的にその方と疎遠になったとしても、トピ主さんが我慢しないと付き合えない相手であったのなら、それは仕方のないことかもしれないですね。アンソロが無事に発行されるようお祈りしております。