Из точки х0 делаем два шага как в методе наискорейшего спуска (рис. 6) и получаем точку х2.
Из точки х2 идем не по антиградиенту, а по направлению х2-х0(рис. 7).
Находим х3 как точку минимума функции в этом направлении и вычисляем антиградиент в ней.
Проверяем условия окончания счета и, если они не выполнены, повторяем пункт 1, используя х3 вместо х0.
В методе наискорейшего спуска информация об уже пройденных точках не хранилась и никак не использовалась. А в методе параллельных касательных надо запоминать пройденные точки, так как они используются для выбора направления спуска. Эта идея использования информации, полученной в процессе поиска минимума, для ускорения сходимости лежит в основе многих методов оптимизации.