Попытайтесь исправить условие. Чтобы исследуемая величина была функционалом, а не числом как у вас:
![$$H(x)=\int_a^bF(x(t))dt$$ $$H(x)=\int_a^bF(x(t))dt$$](http://fx.ifz.ru/tex2.php?d=120&i=%24%24H%28x%29%3D%5Cint_a%5EbF%28x%28t%29%29dt%24%24)
, где F- данная функция,.
Чтобы связь была нетривиальной, оставаясь при этом голономной (не зависящей от производных явно):
![$$G(t,x(t))=0$$ $$G(t,x(t))=0$$](http://fx.ifz.ru/tex2.php?d=120&i=%24%24G%28t%2Cx%28t%29%29%3D0%24%24)
- х должна быль вектор-функцией от t, иначе неинтересно, достаточно численно решить уравнение связи и узнать корни, как функции параметра t, выбрать из них оптимальный
Наконец, краевые условия, значения в точках a и b нужны бы. И все равно неинтересно, к алгебраическим уравнениям сводится. Вот если бы F зависела не только от x(t), но и от t и производных х по t, тогда это ЗАДАЧА. Слова"задача Лагранжа" ничего мне не говорят, какая задача, Лагранж тут ко всему руку приложил, дайте ссылку. откуда Вы взяли это название