まずどうして無償で、しかも表紙なんて重大な案件を受けたのかと思うのですがそこはトピ主も後悔しているようですね…
あくまで有償依頼でかつ私個人の話になりますが

・リテイク回数は制限がなければいくらでも来るかと思います。依頼主は自分の思う通りの物を求めているのは確実なので、制限がないのであれば「あれがいい、これがいい」はほぼ無限に沸いてきますし最悪根本から変えろと言われる可能性もあります。

・私はラフ段階でのリテイクは2回、完成時での細かい修正は1回のみとさせて頂いております。でなければ上記に書いた通り何度もリテイクを頼まれる可能性があることと、こう言った制限を付けることでダラダラと「やっぱあれがいい」などと言われずに修正箇所をまとめて簡潔に依頼主から伝えてくださるからです。

正直仲のいい人の為になりたいと言う気持ちで無償依頼を受けたトピ主の気持ちも分かりますが、実際トピ主が辛い思いをしているなら無理はするべきでは無いかと。
ただここで「やっぱり描きません」は確実に相手から反感を買うので、今からでも遅くないのでトピ主の事情も説明しつつリテイクの回数を制限かけても良いかと思います。
長文失礼しました。

AIに断り文書いてもらった　自分ならこれで終わらせる
ただトピ主さん性格的に相手が粘ってきたら結局断れないんじゃないかなと思います
あと一点一回限りリテイク受け付けして…とかって結局ずるずるいくパターンになりそうで心配です頑張って断ってください
-----
Aさんへ

お世話になっております。同人誌の表紙とイラストの作成を依頼していただき、ありがとうございます。
私はAさんの作品に感銘を受けて、無償でお引き受けしたのですが、正直なところ、数十回ものリテイクを繰り返すことには精神的にも時間的にも限界を感じています。
私はプロの絵描きではありませんし、Aさんのご希望に沿うことができる自信もなくなってきました。
大変申し訳ありませんが、これ以上のリテイクはお断りさせていただきたいと思います。
今までお送りした最新版のイラストをご使用いただくか、他の方にお願いするか、ご判断ください。
私としては、Aさんの作品が素晴らしい同人誌として完成することを心から願っています。
どうぞご理解いただけますようお願い申し上げます。

ここではおかしいって言う人が多いけど、ない話じゃないよ。企業同士の仕事でもあるし、システムとかでもある。
依頼者はとんでもない常識知らずだ！となってしまいそうだけど、ヒートアップせずこれからの対応を考えた方がいいと思うよ。

まず、これまで受けたリテイクの日時と内容を書き出す（簡潔に。感情は入れない）。
書き出せたら、リテイクの内容が変更（依頼者由来。事前に伝えてなかった希望があったとか、気が変わったとか）か修正（トピ主さん由来。ミスがあって対応が必要になったこと）かに分ける。

ここまでできたら、テキストで「リテイクが想定よりも遥かに多いため降りる」などを伝えて、辞退する。やり取りは音声厳禁。必ず後で双方が確認できる媒体で。

事前にリテイク回数を指定してなかったから何もかも受け入れないといけないわけじゃないよ。
事前に伝えてなかったこちらも悪いと思いこれまでは受けてきましたが、という方向に持っていこう。

ある程度突っ込まれるところは分かると思うから（それを言われると辛い…って思うところがそうです）もし「ここまでやり取りしたのに今更降りるとかひどい！」と言われたらこう返す、というテキストも作っておきましょう。
相手の意見を封じるためではなく、自分の希望を通すにはどんな返しが良いか？という頭で用意すると◯です。

後からやり取りを周囲に見られても良いように、という点を意識して下準備をし、やり取りを行って下さい。平常心、平常心。

もしも不安で、頼れる人もいないのならば、コミッションサイトを探してみましょう。同人問題の経験がある弁護士に相談して、下準備を手伝ってもらって下さい。頼れる人がいると本当に気持ち的に楽ですよ。
※弁護士に依頼する、したことは絶対に誰にも言わない。相手にも。トピの状況だと、表面に出すと厄介なことの方が多いです。

頑張ってね。

無償で表紙込み10枚、リテイク10回以上ははっきり言って異常です。
舐めてるし蔑ろにしてるし描くまでの大変さもわかってないしスリーアウト、交代です。
普通は10回もやりませんが、よほどトピ主さんを舐めきってるんでしょうね、
押せば折れるチョロい絵描きだとしか思われてません。

「あと一回だけ」ではまた更になんだかんだ10回以上ずるずるリテイク求められますよ。
自分なら体調不良とか突発的なことで時間が取れなくなったといってもう全てを断ち切ります。
図々しい人に成功体験を与えてはなりません、次の被害者を生まないためにも頑張って断ってください。
無償で表紙込み10枚リテイク10回以上の話を10人にしたら20人ドン引くレベルなので。

…弁護士がと言っている人がいるが…民間何たらに頼むとか生活保護とかなら安く済むかもしれんが…色々すげーめんどうなんだよなぁ。
そして基本消耗しているから証拠とかとったり集めたりできないし、精神的に限界の事が多い…酷な話よ。
それは置いて置いて、カラー付きのイラストって相場的にバストアップ背景無しでも３０００からみたいなんだよね。

ラフの段階でこれでOKこの構図とこのレイアウトでとなって、その後、色指定とか決めて…となるはずなのだけれど…。
ラフでのリテイク無制限の人はいるけれど、色塗って完成段階に入っている状態でのリテイクは3回までとかみたい…。

リテイク無制限とか悪意のある人がいるという事を考えられてない、頭の中お花畑の人なんだろうなぁ～と思ってしまう。

自分もしょぼくれた絵でキャラクターと物語を作ったりするから、大変さは理解できるつもりではある。
だからこそ、自分は商業イラストレーターはやりたくないし、無理ですというスタンスなんだけれど…依頼が来た時の事は妄想的に考えてはいるから、相場やら他の人はどんな条件をつけて依頼者さんに接しているんだろうなと調べたりはしていた。

イラストの相場や依頼などで検索するとそう言った事を書いてくれているサイトはあるし、ココナラとか見てみるのがいい。

プロのイラストレーターも無名の時は無償で受けていたんだから、お前も苦労しろ！みたいな事を言う人もいるが…正直…阿呆だと思っている。相場は安易に崩したらあかんし、なまじうまい人が相場より安くやってしまうと、依頼人もアレだからそれを指針にしだす。
イラストの相場については依頼人もそうだが、依頼を受ける描き手側も把握してないと言うのが問題だな～と、やりすぎて安くしたりロハで受けたりし続けると、好きな事を仕事にしているのだからと買い叩かれたアニメーターと同じ轍を踏むことになってしまう。

しかし…詳細な依頼内容はわからないけれど、カラーで10枚タダで描いてもらって10数回のリテイクとは恐れ入る。
厚顔無恥とはこの事だろうなぁ。

トピさんは一度受けた依頼だからやり遂げたいみたいな責任感があるのは良いけれど…相手の方はどうなんだろうね…。
自分ならお前人がヘラヘラしてるからって調子乗ってるやろ？ええ加減にせぇよ？みたいに言って降りるか、今まで描いた中から選んでもらって、それで満足してもらうかなぁ。

そんでその枚数で無償とか流石にありえないので、飯とかなんか奢ってもらったほうが良いですよ。一回とかじゃなく何度か。