.(Умальчика было 80р. он купил x карандашей по 10 рублей. за штуку. обозначив число рублей, оставшихся у мальчика, буквой y, задайте формулой зависимости y от x. какова область определения этой функции?).

На карандаши мальчик истратил 10 * Х рублей, поэтому у него осталось

Y = 80 - 10 * X.  Поскольку Х и Y - неотрицательные целые числа, то

Х ∈ [ 0 ; 8 ] ,  Х ∈ Z  или  Х = { 0 ; 1 ; 2 ; 3 ; 4 ; 5 ; 6 ; 7 ; 8 }

80-Х*10=У
Вроде так...

X+y=80
xy=10
это система
x+y=80
x=80-y
(80-y)*y=10
80y-y^2=10
-y^2+80y-10=0
D=80^2-4*1*-10=640
x1=-80+80/2*-1=-2
x2=-80-80/-2=-80