登場人物
トピ主：サークル参加、他サークルの委託本あり
レイヤー：売り子
委託主：トピ主のスぺに本を委託してる

①レイヤーに売り子を頼む
②レイヤー、勝手にコスするキャラを決める（後からDM相談ということは「どのキャラで売り子しようか？」ではなく「このキャラでいい？」といった相談？）
③そのキャラが委託された本に出てくるキャラ（メインCPではない）で、トピ主の取り扱いCPとは異なる
④トピ主「うちはABでスぺ取ってるからCコスの売り子は浮く」
　レイヤー「AかBのコス売り子がいいなら他のレイヤーに売り子頼んだ方がいい」
⑤レイヤーがトピ主のスぺを自分のスぺみたいに告知してる、モヤモヤ

ってこと？

売り子がレイヤーでなおかつ本も作っていて、その人の本を委託することになったってことですかね？
で、トピ主の本がABだとしたらレイヤーの本はCDで、レイヤーはCかDのコスプレをすると勝手に決めてSNSでも言っちゃったと。
当然トピ主のサークルが配置されてるのはAB島なので、CかDのレイヤーが売り子してたら浮いちゃう、とレイヤーが文句？を呟いたので、トピ主は「CD島で売り越したいなら他のサークルさんの売り子したほうがいいよ」と遠回しに伝えた（が、レイヤーはそのままトピ主のスぺで売り子をするつもり）
謝礼は渡してるので（売り子をしてもらう代わりに委託をするという取引関係ではないため）委託をやめてもいいだろうか、という質問かなと解釈しました。

上記の通りなら、委託を断ったらいいと思います。他にももやもやしてるみたいなのでそのレイヤーさんに売り子を頼むのはこれっきりにしたほうがいいんじゃないかなと思いました。

トピ主が売り子(レイヤー）を依頼→売り子さんも本を頒布予定(トピ主のスペ)→コスをするのはいいけど、売り子さんがトピ主に相談もなくキャラを決め、事後報告でトピ主に報告→しかしトピ主の本のABとは関係ないキャラ→売り子がAB島とは関係ないキャラだから浮く！と呟く→トピ主、売り子に遠回しで言うも理解されず→トピ主のスペなのに売り子が自分のスペかのように扱っているのがモヤモヤ→すでに謝礼(委託)は渡してるけど、スペに売り子の本を置くのを断りたい

まではわかった。委託する本がスペとは違うCPなのであれば断った方がいいと思う…じゃないとトピ主に火の粉がきそう。
違うキャラのコスならまぁまだ許容範囲かな。というか浮くと分かってるならなぜ違うキャラのコスに決めたし。

ごめんなさい、文章が上手くまとまっておらず申し訳ないです。整理の方ありがとうございます。
概ね皆さんがまとめてくださった通りで、私と売り子の2人になります。

私はABとCメインで活動、売り子さんはグッズ中心で本は2冊目、傾向は全く違います。
全体的にカップリングにこだわりが強くないジャンルだとは思います。

過去のイベントで売り子募集してからのお付き合い
キャラは私のサークルに無理に合わせないでも大丈夫とは言っていた
↓
売り子さんが本出そうかな、と悩んでたので
私「新刊あるならスペースに置くよ」と申し出る
↓
売り子さん「DもしくはEのコスプレの予定です(初めは私の所で置いてる本に近いキャラ…仲のいいグループの一人か兄弟)」と連絡が来る
↓
売り子さんがSNSで
「Fのコスがいいかな！」といきなり呟き始めてた※相談されてないキャラ
配置が出て
売り子さん「自分の新刊のF(グループにたいしてFの攻括り)と全然違う！浮く！(みたいな誤解がとれるニアンス)」
↓
私「ごめんね、Fの配置の近くがいいなら、その系統の本を出してるサークルさんの売り子をやった方が良い」
売り子「(そういう意味ではなく、自分が浮いてしまう、Fの新刊があるからどう来てもらうか～みたいなニアンス？だったらしい)」
↓
売り子さんが私のスペースを自分のスペースのように宣伝してしまう

別に宣伝は構わないしありがたいけど、せめて○○で置いてますなど誤解が無いようにはして欲しかったのと
どのキャラやってくれても構わないけど…事前に相談くらいはして欲しかったな…と。
ジャンル柄、お客さんに絡まれる事も多くて。あしらってくれるのは上手いんですけど、すごくもやもやして終わった感じでした。

説明が不十分でしたらすみません、次、頼むのはちょっと悩んでる所です。
色々丁寧に回答頂いてありがとうございます。

トピ主が落ち着いたようで何よりです

個人的には「新刊あるなら委託受けるよ」と無償で引き受けちゃったのが、売り子に「おっこいつ利用できるやんけ！」と思わせてしまったのではないかな～…と思います
トピ主的には売り子やってくれるしという善意の申し出だったかもしれませんが、その結果売り子側を「私は売り子してあげてるしトピ主から置いていいって言ってきたし！」とつけあがらせてしまったのではないかと…
スペース代を全額トピ主が払っている以上、そこは紛れもなくトピ主のスペースですからね
「新刊置いてやるから半額場所代よこせや」とまではいきませんが「私はきちんとスペース代を払っている、あなたはあくまでも「依頼された売り子」なんですよ」という意識をトピ主自身が持ってないと調子に乗らせてしまうかと

その売り子の方にはもう頼まない方がいいですし、相手に（必要な分）強く言えないと思うのでしたら他の方にでも売り子ではなく買い子を頼んだ方がよろしいのではと思います

だいたい合っててよかった。
売り子さんに謝礼を渡してさらに委託も、だとトピ主さんに負担が偏りすぎだと思いますが、トピ主から今回は委託するんだから謝礼なしねとも言いづらいだろうし、そこはレイヤーさんが委託させてもらうなら売り子代は要らないよって言うところなんじゃないかな…と思いました。
もちろん全然気にしない人もいるだろうしそういう人とは相性いいんだろうけど、トピ主さんとは確実に価値観が違うので（ちなみに私もこのレイヤーさんには頼みたくないです）、早めに疎遠になったほうがいい気がします。
なるべく波風を立てたくないなら今回は穏便に終わらせて、すぐに他の売り子を探して、次からは他の人に頼むことにしたんだ今までありがとう！ってさらっと伝えたらいいんじゃないでしょうか。