Проверка: задаем тестовую форму зеркала (т.е. мы точно уже знаем, что должно будет получиться у алгоритма, восстанавливающего волновой фронт), задаем параметры маски и получаем пред- и зафокальные гартманнограммы. Потом обрабатываем их, восстанавливаем поверхность зеркала и проверяем: насколько точно это восстановление сработало. Если будет погрешность процентов 5 и меньше - берем алгоритм на вооружение; если нет - пробуем следующий.

Я сначала эту модель делал в октаве, но там получалось слишком грубо и медленно: этот вариант (даже еще не оптимизированный) за 5 минут выдает то, что октава считала бы неделю!