где F и Δf – измеряемые во время сканирования сила и сдвиг резонансной частоты колебаний, f0 и k — резонансная частота колебаний свободного зонда и его динамическая жесткость. Два последних параметра определяются в процессе калибровки каждого зонда и считаются постоянными в процессе дальнейшей работы. Используя данное выражение можно построить зависимость, H/E2 (и соответственно, H или E если хотя бы одна из этих величин известна), как функцию глубины или координат поверхности. Ниже приведены примеры измерения зависимости твердости от глубины, для измерения на плавленом кварце, а также карты твердости для стекловолокна в эпоксидной матрице. В обоих случаях значения модуля упругости были известны из других источников.
В основе стандартного метода наноиндентирования, реализованного на основе ISO 14577 лежит способ определения твердости и модуля упругости по данным наклона разгрузочной кривой, максимальной нагрузки а также глубины индентирования. На сегодняшний день существует ряд методов, совмещающих осциллирующие колебательное движение с внедрением индентора в образец, что позволяет измерять модуль упругости и твердости в зависимости от глубины. Аналогичный подход может быть использован для получения карт упругих свойств материла.
В приборах «НаноСкан» реализован метод многоциклового нагружения с частичной разгрузкой, которой также позволяет получать зависимость твердости и модуля упругости от глубины индентирования, однако следует заметить, что у все эти методы используют информацию о форме индентора, а значит сильно подвержены влиянию шероховатости на измеряемый результат. Предлагаемая методика динамического измерения твердости существенно меньше подвержена влиянию неровностей поверхности, однако требует априорной информации о значении модулю упругости, так как фактически позволяет измерять величину H/E2. Конечная зависимость, позволяющая производить данной величины по экспериментальным данным выглядит следующим образом: