2.2.7. Статистическая обработка результатов исследований

Весь полученный цифровой материал обрабатывался методом вариационной статистики по соответствующим биометрическим алгоритмам с использованием критерия Стьюдента [45].

Формулы для расчетов:

Среднее арифметическое

Среднее квадратичное отклонение (σ):

Средняя ошибка среднего арифметического (m):

Критерий Стьюдента (t):

где ∏ - число членов вариационного ряда,

X_i- числовой результат отдельного определения,

- величина абсолютного отклонения каждого из членов вариационного ряда от среднего арифметического,

- величина квадрата абсолютного отклонения каждого из членов вариационного ряда от среднего арифметического

t -показатель существенной разницы.

Различия принимались за достоверные, если есть различия между сравниваемыми величинами при p < 0,05. Статистическую обработку проводили с

помощью персонального компьютера в среде математической программной среды MatLab-S^^^^M №146229).

Для оценки разности двух дисперсий использовался критерий Фишера [45]. Для чего определялось расчетное значение дисперсий двух показателей в каждом диапазоне:

Принято брать отношение большей дисперсии к меньшей. Затем формулируется условие нулевой гипотезы. Мы принимали в нашем случае нулевую гипотезу - равенство дисперсий, альтернативную их неравенство. Расчетное значение Fφ сравнивается с табличным значением F_ct,если Fφ>F_ct,то нулевая гипотеза должна быть отвергнута.