Не могу вспомнить, где эта задача решена в литературе. Попробуем заново. Рассмотрим вершину номер 4, при нумерации по кругу.Она может участвовать в треугольнике 345, тогда ни в каком другом, и число способов разбить оставшийся 10-угольник
![$$T_{10}$$ $$T_{10}$$](http://fx.ifz.ru/tex2.php?d=120&i=%24%24T_%7B10%7D%24%24)
. Или она может участвовать в треугольнике 456, или в треугольнике 234, или в обоих одновременно, по формуле включения-исключения число способов, в которых так будет,
![$$2T_{10}-T_9$$ $$2T_{10}-T_9$$](http://fx.ifz.ru/tex2.php?d=120&i=%24%242T_%7B10%7D-T_9%24%24)
. И так для всякого числа n вершин
![$$T_{n+1}=3T_n-T_{n-1}\\T_3=1,T_4=2$$ $$T_{n+1}=3T_n-T_{n-1}\\T_3=1,T_4=2$$](http://fx.ifz.ru/tex2.php?d=120&i=%24%24T_%7Bn%2B1%7D%3D3T_n-T_%7Bn-1%7D%5C%5CT_3%3D1%2CT_4%3D2%24%24)
Получается 1597.Есть и общая формула с корнями из 5 во всяких местах)