会社員が仕事の一貫で作ったものの著作権は、会社に帰属します。
それとは違い、フリーランスで依頼した場合は、著作権譲渡するかしないかの取り決めがあるはずです。
著作権譲渡ありならトピ主さんが自由に改変したり、同人誌の表紙以外に再利用したりできます。

自分で作り直すんじゃなく、ラフと完成品が変わらないことに不満を持っている旨を伝えるのが先決だと。
仮に自分で作り直したとしても、完成品から連想しない・似ないデザインにしないとまずいと思います。

大筋は問題ないならリテイクの相談をしてみたらいいんじゃないでしょうか
ディティールアップしてほしい部分を具体的に書くのもトピ主の状況なら難しくないだろうし
デザインの場合ラフと完成品でパッと見同じなのはよくあることだから、ラフと明確に違いが出るくらい作り込んでほしい部分があったならそれは伝えるべきだったね

最後の一行は言われて嬉しいデザイナーはいないと思う、けど仕事としてそれなりの値段で受けてたら多少言われても仕方ないことではある
言い方考えてあげて〜〜とは思うけどもう頼む気ないなら別に言ってもいいと思うよ

入稿締切の都合でここからデザイナーにリテイクやってもらって……というのが時間的に厳しいです……。
仕上がり自体はイメージ通りなのですが技術面が追い付いていないのだなと思うような微妙さなので、リテイクをお願いしたところで恐らく納得のいくものになる気がしません。
「クオリティが足りないので使えません、こちらで作り直します」この部分はもっとオブラートに包みます、わかりにくくてすみません……

最後の一言ははっきり言って構わないと思います。
だってもう使う気はないんでしょう？
破格の値段でやってもらった、とかの事情でもない限り、仕事は仕事。クオリティが足りない時は言ってもいいです、というか、言いましょうよ。
その過程で、自分で作り直して発表する旨、許可を取ってください。できないならリテイク。リテイクしないのならトピ主さんが作り直して発表。
一方的にデザイナーに有利なわけないっしょ。

お金払うならクオリティに満足いかないので使いませんってはっきり言って良いと思うし
その上で多分技術的に足りて無さそうだし、期間も無いのでこちらで手直しして出したいんですけど良いですかって聞けば良いと思うな
その時、クレジットはいりますか、とかね
こちらで手直しさせてくれないならお金払いません、だと多少揉めそうだけど
そこまでの労働にはきちんと対価払う気あるなら妥当な発言だと思うけど

違うサービスですが似たような場で依頼を受注しているものです
金銭のやりとりが発生してる以上は正式にビジネスの場ですし、お互いデザイナーと顧客の立場です
皆さん仰られてるように、タダや値下げを要望する訳ではなくキチンと支払いをされるなら「使えない」という部分は顧客としてハッキリ伝えて大丈夫です（真っ当な評価なので）
こちらで作り直していいかどうかは著作権の問題になるのでサービスの規約を確認するかデザイナーに承諾頂く必要があるかもしれません

実は原稿をしていくうちに内容と表紙のイメージが少しズレてきた
金銭はそのまま支払うが今後こちらで表紙の修正、作り直しをしても大丈夫か？と伝えてみるのはどうだろう
トピ主は微妙な表紙そのまま使いたくないだろうしリテイクも無理なら作り直しの許可貰うぐらいしかできることがないような