Самое известное программисту применение рекурсии — задачи на вычисление чисел Фибоначчи или факториала.

Вычисление чисел Фибоначчи — самая известная программисту задача, которую не надо решать ни за экспоненциальное, ни за линейное время.

Их не из-за приобретения банкомата поймали

Не соглашусь, если идёт речь о продакшн серверах

п. 3 Суммируем площади всех треугольников, которые образуются всеми двумя соседними точками многоугольника и точкой, нахождение которой мы проверяем.

Настоящая площадь — площадь из п. 1

Нет, работает для невыпуклых тоже

А почему бы не использовать подсчет площади:
1) Считаем площадь многоугольника (векторным произведением)
2) Считаем площади всех треугольников, которые образуются всеми двумя соседними точками многоугольника и точкой, нахождение которой мы проверяем.
3) Суммируем площади
4) Если сумма равна настоящей площади, то точка внутри или на многоугольнике, нет — снаружи