Dicséretes az igyekezet, de így szerintem nem (szerintem sem) igazán lehet célba érni.

Sajnos a számítógép mindig racionális számokkal dolgozik (kettedes törtek), és még kerekít is.

A számítógépet természetesen lehet arra kérni, hogy egészekkel dolgozzon, és ezt te is nyilván tudod. Magát a feladatot szerintem eleve úgy kellene felírni, hogy a "racionális szám" műfaja helyett valóban csak egész számok szerepeljenek benne, azaz pl.

2(r/s)²-r/s+1 = (p/q)²

és a feladat ebben a felírásban az lehetne, hogy megfelelő egészeket találjunk. A módját persze én sem tudom, de ezzel legalább a "brute force" korrekten (számábrázolási és kerekítési zűröktől mentesen) meg tud birkózni.