司法書士の荒川です。

rikakoさん、詳細な情報が分からないのですが、分かる範囲でお答えします。
司法書士の荒川です。
まず、権利書を渡して貰っても、それを持っていても実際はあまり意味がありません。
借金の担保として義理の弟が所有している不動産に（根）抵当権等を設定することが必要です。そのためには設定の準備をし、お母様と義理の弟に署名、押印をしてもらい義理の弟の印鑑証明書と、当該物件の権利書を付けて管轄の法務局に登記の申請をすることが必要です。なお、弟の押印する印鑑は実印です。
万一、遅延した場合は担保権に基づく差押え、競売が可能です。
ただし、ここでいくつか問題があります。
　1.弟の借金が多いことから推察すると、その不動産には既にいくつか担保権が設定されている可能性があること。その場合、競売して、競売代金のの配当は先に担保を設定している方が優先しますので、換価代金のほとんどが、先順位の担保権者に配当されて終わりということになります。アバウトに言うと、競売の申立をした人に配当を優先することはありません。そこで、担保に入れても良いと弟が言ったとしたらその物件の全部事項証明書を法務局で取得して、乙区欄をよく見て下さい。担保権が設定されていれば、お母様がそれを担保にしても実際はあまり意味がないことになります。ただし、すでに設定されている担保権で担保されている債権の残りがごくわずか等であれば担保権の設定は意味があります。
　2.その不動産を実際に競売にかけることが可能かどうかの問題があります。たとえば、そこに弟や弟の家族が住んでいる等の事情があれば、法的には可能でも、競売なり、競落されると、その家から出ていかねばならなくなることを、お母様が良しとするかということです。

　以上のようなことから、担保権の設定をするより、最寄りの公証役場にお母様と弟が出向き金銭消費貸借契約を結ぶのが、よりベターかと思います。もし、延滞等になった場合、公証役場で手続をし、弟の預金や給料等を割合簡単に差押え出来ます。担保権の設定及び競売の手続に比べかなり費用は少額ですみます。
　何かお手伝いできることがあれば、御相談下さい。少し離れていますが、親戚等もrikakoさんの近くにもいますので、訪問を兼ねて出張も可能です。