神奈川県で遺留分に強い営業時間中な弁護士一覧

仰るとおり、相続人が①お母様、②お兄様、③ご相談者様の３名であれば、遺留分割合は1/8になります。
1/12になるとしたら、他にきょうだい（異母きょうだい含む）がいる場合が考えられます。

応じない場合に相手方代理人がどのように争うつもりなのかは定かではありませんが、遺産分割協議書への署名に応じる必要はありません。
相手方に代理人が就いている以上、ご相談者様がご自身で対応するのは難しいかと存じますので、ご相談者様もお近くの弁護士に相談・依頼した上で、遺留分侵害額請求権を行使して、金銭の回収をはかるべきです。

①親御様の相続が開始したのが2019年7月1日より後
②親御様の相続人はご相談者様・姉・兄の3名のみ
③親御様の遺産は姉が相続した土地建物のみ
④亡くなった姉には子供がいない
以上を前提にご説明します。前提が変わる場合、回答内容も変わりますのでご留意ください。

姉が相続した土地建物は、姉の相続人である夫が相続します。
ですので、「家と土地は嫁に出た姉の夫になってしまうのですか。」というご質問に対する回答としては、姉の夫のものになる、という回答になります。

他方、ご相談者様は、姉に対する遺留分侵害額請求権（土地建物の価額の1/6の金額）をお持ちでした。なお、16年前にご相談者様が受けた事業資金の援助は、持戻しの対象外です（遺留分の計算に当たっては、相続人に対する生前の贈与は相続開始から10年前までしか遡りません）。
そして、姉の夫は、相続によって、姉から、土地建物だけでなく、遺留分侵害額請求を受ける者としての地位も受け継いでいます。
ですので、ご相談者様としては、姉の夫に対して、遺留分侵害額請求権を行使し、土地建物の価額の1/6にあたる金銭を支払うよう求める他ありません。

ご相談者様が把握していなかった被相続人名義の土地（私道）があることが判明し、その価額が約700万円であるという理解でよろしいでしょうか。
そうであれば、当然、その土地も、遺留分算定の基礎となる財産額に加えることになります。

お母様がご自身の意思でされた贈与については、それ自体を覆すことはできません。
ですが、生前贈与された土地以外に財産がないなど、ご相談者様が相続で取得される財産が、遺産全体の４分の１に満たない場合（※）には、遺留分侵害が生じますので、再婚相手らに対して、生じている遺留分侵害の金額の金銭の支払いを請求できます。
※法定相続人が①ご相談者様と②再婚相手のみである場合
具体的な事情をお伺いして遺留分侵害の有無などを検討する必要がありますから、一度お近くの弁護士に相談されることをお勧めいたします。

お父様がお亡くなりになられたとのこと、ご愁傷さまです。
判明している土地以外にどれくらいの遺産があるかは、ある程度調査をすることが可能ですが、仮に５００万円（土地の分）だけだとすると、遺留分侵害額（義母に請求できる金額）は１２５万円になります。
「弁護士費用を引いてプラスになれば弁護士さんに依頼したい。」とのことですが、事務所によって計算方法も異なるので一概には言えませんが、弁護士費用が１２５万円より大きくなる（トータルでマイナスになる）ことはまずないのではないかと思います（少なくとも当事務所ではマイナスにはなりません）。
また、ご依頼する段階で、通常は弁護士から費用の見積もりも出してもらえるかと思いますので、もしそれでマイナスになりそうであれば、依頼をしなければ良いです。

調停を申し立てるかどうか、調停が不成立になった後に訴訟を提起するかどうか、及びそれらを行うタイミングは全て相手方の判断（と代理人の仕事の早さ）次第です。相手方がどのようにご相談者様との間でこの件を進めていくか（進めていきたいと思っているか）にもよるので、一概に「このようなタイムスケジュールになる」といったご説明をするのは難しいところがあります。

>亡くなった父の自宅を売却して遺留分にあてようと思っています
とのことですので、相手方がご相談者様のその旨の提案に応じ、双方で合意に至る（その際には売却のスケジュール等を細かく詰めることになるでしょう）ことができれば、そもそも調停・訴訟には至らないのではないかと思います。

>5月の初めに内容証明郵便が弁護士から届き、回答書を一週間後に出しましたがその後何も言ってきません
とのことで、中々返信が来ないことにご不安を抱いているものと思いますが、一度、ご相談者様の方から催促の連絡を入れてみるのも良いのではないかと思います。