La circunferencia,

Lo primero que debes hacer es calcular los vértices de los triángulos, si deespejas la "y" en cada ecuación obtienes una función y si las iguales obtendrás el valor de "x" donde se encuentran los vértices:
Las funciones después de despejar son estas:
y1=(4/3)x
y2=(8/3)-(4/3)x
y3=0
Los puntos que salen son:
(0 ; 0) para las funciones y1 e y3
(1 ; 4/3) para las funciones y1 e y2
(2;0) para las funciones y2 e y3.
Entonces ahora utilizando la ecuación de la circunferencia
(x-a)² + (y-b)² = r²
Donde el punto (a, b) es el centro de la circunferencia y r es el radio.
Pues de esa forma obtienes un sistema de ecuaciones poniendo el valor de cada punto, por ejemplo para el primer resulta la ecuación
a² + b² = r²
(1-a)² + ((4/3) -b)² = r²
(2-a)² + b² = r²
Si igualas la primera y la tercera obtienes el valor de a, pero de todas formas, si miras los valores de los puntos observarás que no existe una circunferencia que pase por los tres puntos ya que la distancia entre cada par no es la misma.
Puedes probar con una elipse, se puede conseguir un ajuste a los tres puntos con una elipse considerando el centro el punto (1,0)