Добрый день,
Какую камеру Вы используете и какие параметры выбираете при калибровке объектива?
Я бы рекомендовал включать либо все параметры, либо все за исключением K4, B1 и B2.
Если это не помогает получить стабильный результат калибровки, пожалуйста, пришлите фотографии, которые Вы используете, на support@agisoft.com.