Спасибо, я, кажется, понял, где в этом рассуждении дырка. Из-за того, что если в P выводимо, "в P выводимо A", то в P выводимо A, хочется считать, что в P выводимо утверждение "в P выводимо A -> A".

На самом деле, это верно для A, выводимых в P, но вовсе не для всех A. В частности, теорема Гёделя как раз говорит, что если A=false, то утверждение "в P выводимо false -> false", может быть выводимо в P если и только если в P выводимо false.

Ошибка в этой схеме как раз в использовании "в P выводимо false -> false".