Систему решил таким способом:
В каждом уравнении х"2+у"2 перенёс в одну сторону, соответственно уравнял оставшееся. Получилось nxy+a=mx+my+b. Потом перенёс числа в сторону nxy. nxy+(a-b)=mx+my. Сократил на m. Это по-любому получится, в 2х вариантах минимум проверял. Итог - (n/m)xy+(c/m)=x+y. Возвёл в квадрат обе части.получил (n/m)"2х"2у"2+2(n/m)cxy+c"2=x"2+y"2+2xy. Заменяем в этом уравнении x"2+y"2 на то, чему оно равно в первом уравнении (nxy+a). Получаем квадратное уравнение вида: (n/m)"2x"2y"2+((c/m)-n)xy+(c"2+a)=0. Решаем как квадратное, находим xy. Лично у меня было 2 ответа. Соответственно написанное далее нужно делать 2 раза, для каждого ответа.
Теперь берём формулу (n/m)xy+(c/m)=x+y и находим по ней x+y. Выражаем одну из переменных как другую+число. Пихаем в первое из исходных уравнений, заменяя одну переменную на другую+число и xy на то число, которое вы рассматриваете. Получаем квадратное уравнение для 1 переменной. Решаем. Получаем два ответа для 1 переменной. По этой же (n/m)xy+(c/m)=x+y формуле находим вторую переменную. Получаем некий ответ (ответы).
П.С. Писал 2 вариант вроде (точно не помню, в уравнении фигурировали цифры -47, -49, 7 и 14), квадратное уравнение для 2 случая xy не решилось. Получил 2 ответа из первого. Ответы точно не помню.
П.С. Если кто скажет точное условие - решу, хотя по вышенаписанному каждый может сам себя проверить.