Довольно существенная ошибка при таких параметрах точности.
Следует ещё раз убедиться, что все проекции маркеров расставлены правильно (на панели Опорных Точек не должно быть больших ошибок в пикселях для каждого маркера - в пределах 0.5 - 1 pix ещё терпимо), что камеры отключены на пенели Опорные Точки и не участвуют в оптимизации.
Ещё раз оптимизировать выравнивание, если что-то изменилось - проекции, координаты маркеров, например.
Если ошибки по-прежнему большие даже после выполнения этих действий, можете прислать нам файл проекта, мы попробуем разобраться в чём там дело.