Hola
nicolasbelg Bienvenido al foro.
Tu problema se reduce a determinar los extremos de la función distancia desde el punto

y los puntos

, es decir

tales que

, supongo tienes una errata en tu enunciado.
Mira
aquí, encontrarás la información que necesitas.
Una sugerencia puedes trabajar con la distancia al cuadrado

los extremos serán los mismos y será más cómodo el calculo.
Saludos