死後離縁手続きについて。

＞祖母曰く、弟が結婚し子供が出来た後もし弟が早くに亡くなった場合、嫁、子供、姉である私に相続がいってしまうから、そうなった時必ず揉めるから今のうちに離縁をしてほしいと養子縁組離縁届けを持ってきました。
＞嫁子供がいるのなら私に相続はないのでは？と思いましたが要は私に取られる事を心配してのことでした。

あなたの理解が正しいです。
弟さんに子供が居れば、全て子供に行きます。
妻もいれば妻と子供に行きます。

以上のケースでは貴女は弟さんの相続人になりません。

あなたに相続権が発生するのは。
弟さんに妻がいるけど子供がいない場合です。

その場合でも、弟さんが遺言書で「すべての財産を妻に相続させる」と遺していればすべて妻の物になります。
兄弟姉妹の相続には遺留分はありませんので、遺言の通りになります。

＞離縁するのが嫌なら裁判になるよ。
＞そうなった場合あなたが必ず負けますからね、負けた方がお金払う事になりますから、とまで言われました。
＞また裁判になってしまった場合私は100%負けてしまうのでしょうか？

養親の親族からは審判も裁判もできません。

養子縁組の当事者の一方が死亡した後に他の一方が死亡した当事者と離縁しようとするとき（死後離縁許可）は，家庭裁判所の許可が必要です。

そして、申立人となれるのは「養子縁組の当事者」だけです。

親族からは審判申し立ても裁判できませんのであなたが負けることもありませんし、お金を払うことにもなりません。

＞遺言書には弟に家や土地を相続させるとなっていても遺留分はもらえるのでしょうか？
はい、今回の場合の相続人には遺留分が認められていますので、法定相続分の半分の相続権利があります。
ただし、遺留分の請求権利は相続開始と自己の相続権利が侵害されたことを知った時から１年以内です。

養父の相続が開始され、遺言の内容を知った時から１年経過している場合、法的には既に請求できる期間を過ぎていますので、弟さんが任意に応じない限りは難しいです。

お父様の気持ちを大切に今まで通り生活されるのが良いかと思います。

参考、
裁判所ＨＰ
死後離縁許可
http://www.courts.go.jp/saiban/syurui_kazi/kazi_06_10/

遺留分減殺による物件返還請求調停
http://www.courts.go.jp/saiban/syurui_kazi/kazi_07_13/index.html