СТАТИСТИЧЕСКАЯ ОБРАБОТКА ДАННЫХ ФИЗИОЛОГО-БИОХИМИЧЕСКИХ ИССЛЕДОВАНИЙ МЕТОДОМ ПОПАРНЫХ СРАВНЕНИЙ
В физиологических и биохимических исследованиях встречаются случаи, когда, несмотря на несоответствие сравниваемых выборок нормальному распределению, они могут быть обработаны по параметрам нормального распределения или распределения Стьюдента благодаря возможности сопоставления пар измерений [1].
Для примера приводится статистическая обработка данных опытов по изучению действия винной кислоты на биосинтез витамина С в проростках ячменя. Взяты варианты: листья ячменя, находящиеся на растворе винной КИСЛОТЫ (Ху), И контрольные ЛИСТЬЯ (Ху):
Таблица З
Уровень витамина С в листьях ячменя, мкг/г
| На растворе винной кислоты | Контроль | d | d2 | Ed2 |
| 114,7 | 99,7 | 15,0 | 225,0 | |
| 132,9 | 100,1 | 31,8 | 1011,2 | |
| 140,6 | 114,4 | 26,2 | 686,4 | 4686,0 |
| 129,6 | 102,5 | 27,1 | 734,4 | |
| 120,5 | 86,9 | 33,6 | 1129,0 | |
| 120,5 | 90,5 | 30,0 | 900,0 |
Х,= 126,5; Х2=99,0; D= 27,5; D2 = 756,25
d - разница между парными значениями сравниваемых величин;
D - разница между средними арифметическими сравниваемых сово
купностей.
Средняя квадратичная ошибка различий, наблюдаемых между парными
Критерий достоверности:
Для уровня значимости Р=0,05 и числа степеней свободы п=5 табличное значение критерия достоверности t=2,57 (см. приложение, табл. 9). Полученное в опыте /=12,39 значительно больше табличного, значит, существующие различия между этими двумя вариантами опыта достоверны.
Литература
1. Методы биохимического анализа растений. / Под ред. В.В. Полевого, Г.Б. Максимова. Л.: Изд-во ЛГУ, 1978. С.174-176.
Приложение
Таблица 1
Разбавление концентрированных кислот
(плотность H2SO4- 1,84, НС1 - 1,19, HNO3 - 1,42)
| H2SO4 | НС1 | HNO3 | |||
| Требуемая плотность | Кол-во кислоты (мл), добавляемое к 100 мл воды | Требуемая плотность | Кол-во кислоты (мл), добавляемое к 100 мл воды | Требуемая плотность | Кол-во кислоты (мл), добавляемое к 100 мл воды |
| 1,15 | 15 | 1,04 | 24 | 1,10 | 23 |
| 1,20 | 21 | 1,06 | 41 | 1,15 | 39 |
| 1,25 | 28 | 1,08 | 65 | 1,20 | 61 |
| 1,30 | 36 | 1,10 | 99 | 1,25 | 94 |
| 1,35 | 46 | 1,12 | 151 | 1,30 | 150 |
| 1,40 | 57 | 1,14 | 250 | 1,35 | 281 |
| 1,45 | 70 | - | - | - | - |
| 1,50 | 85 | - | - | - | - |
| 1,55 | 104 | - | - | - | - |
| 1,60 | 128 | - | - | - | - |
Таблица 2
Разбавление этилового спирта водой при 15,6° С (количество мл воды, которое нужно добавить к 100 мл исходного раствора)
| Требуе мая концентрация, % по объему | Исходная концентрация спирта, % по объему | ||||||||
| 90 | 85 | 80 | 75 | 70 | 65 | 60 | 55 | 50 | |
| 85 | 6,56 | ||||||||
| 80 | 13,79 | 6,83 | |||||||
| 75 | 21,89 | 14,83 | 7,20 | ||||||
| 70 | 31,05 | 23,14 | 15,35 | 7,64 | |||||
| 65 | 41,53 | 33,03 | 24,66 | 16,37 | 8,15 | ||||
| 60 | 53,65 | 44,48 | 35,44 | 21,47 | 17,58 | 8,76 | |||
| 55 | 67,87 | 57,90 | 48,07 | 38,32 | 28,63 | 19,02 | 9,74 | ||
| 50 | 84,71 | 73,90 | 63,04 | 52,43 | 41,47 | 31,25 | 20,47 | 10,35 | |
| 45 | 105,34 | 93,30 | 81,38 | 69,54 | 57,78 | 46,09 | 34,46 | 20,90 | 11,41 |
| 40 | 130,80 | 117,34 | 104,01 | 90,76 | 77,58 | 64,48 | 51,43 | 38,46 | 25,55 |
| 35 | 163,28 | 148,01 | 132,88 | 117,82 | 102,84 | 87,93 | 73,08 | 58,31 | 43,59 |
| 30 | 206,22 | 188,57 | 171,05 | 153,61 | 136,04 | 118,94 | 101,71 | 84,54 | 67,45 |
| 25 | 266,12 | 245,15 | 224,30 | 203,53 | 182,83 | 162,21 | 141,65 | 121,16 | 100,73 |
| 20 | 355,8 | 329,84 | 304,01 | 278,26 | 252,58 | 226,98 | 201,43 | 175,96 | 150,55 |
| 15 | 505,27 | 471,00 | 436,85 | 402,81 | 368,83 | 334,91 | 301,07 | 267,29 | 233,64 |
| 10 | 804,54 | 753,65 | 702,89 | 652,21 | 601,60 | 551,96 | 500,59 | 450,19 | 399,85 |
Пример: чтобы получить 70%-ный спирт из 90%-ного, следует к 100 мл 90%-ного спирта добавить 31,05 мл воды.
Таблица З
Фосфатный буфер 0,1 М
| pH | 0,2 М раствор Na2HPO4, мл | 0,2 М раствор NaH2PO4, мл |
| 5,8 | 8,0 | 92,0 |
| 6,0 | 12,3 | 87,7 |
| 6,2 | 18,5 | 81,5 |
| 6,4 | 26,5 | 73,5 |
| 6,6 | 37,5 | 62,5 |
| 6,8 | 49,0 | 51,0 |
| 7,0 | 61,0 | 39,0 |
| 7,2 | 72,0 | 28,0 |
| 7,4 | 81,0 | 19,0 |
| 7,6 | 87,0 | 13,0 |
| 7,8 | 91,5 | 8,5 |
| 8,0 | 94,7 | 5,3 |
Двузамещенный фосфат натрия (Na2HPO4'2Н2О), относит, мол.
масса 178,05; од- нозамещенный фосфат натрия (NaH2PO4 ' Н2О), относит, мол. масса 138. Объем раствора доводят дистиллированной водой до 200 мл.Таблица 4
Ацетатный буфер 0,2 М
| pH | 0,2 М раствор ацетата натрия, мл | 0,2 М раствор уксусной кислоты, мл |
| 3,6 | 0,75 | 9,25 |
| 3,8 | 1,20 | 8,80 |
| 4,0 | 1,80 | 8,20 |
| 4,2 | 2,65 | 7,35 |
| 4,4 | 3,70 | 6,30 |
| 4,6 | 4,90 | 5,10 |
| 5,0 | 5,90 | 4,10 |
| 5,2 | 7,00 | 3,00 |
| 5,4 | 7,90 | 2,10 |
| 5,6 | 8,60 | 1,40 |
| 5,8 | 9,10 | 0,90 |
Ацетат натрия (CH3COONa . ЗН2О), относит, мол. масса 136,09
Таблица 5
Трис НСІ-буфер 0,05 М
| pH при температуре | 0,2 М раствор трис, мл | 0,1 М раствор НС1, мл | |
| 23°С | 37°С | ||
| 9,10 | 8,95 | 25 | 5,0 |
| 8,92 | 8,78 | 25 | 7,5 |
| 8,74 | 8,60 | 25 | 10,0 |
| 8,62 | 8,48 | 25 | 12,5 |
| 8,50 | 8,37 | 25 | 15,0 |
| 8,40 | 8,27 | 25 | 17,5 |
| 8,32 | 8,18 | 25 | 20,0 |
| 8,23 | 8,10 | 25 | 22,5 |
| 8,14 | 8,00 | 25 | 25,0 |
| 8,05 | 7,90 | 25 | 27,5 |
| 7,96 | 7,92 | 25 | 30,0 |
| 7,84 | 7,73 | 25 | 32,5 |
| 7,77 | 7,63 | 25 | 35,0 |
| 7,66 | 7,52 | 25 | 37,5 |
| 7,54 | 7,40 | 25 | 40,0 |
| 7,36 | 7,22 | 25 | 42,5 |
| 7,20 | 7,05 | 25 | 45,0 |
Трис, относит, мол.
масса 121,14. Объем раствора доводят дистиллированной водой до 100 мл.Таблица 6
Охлаждающие смеси
| Вещество | % вещества в смеси со льдом | Температура смеси, °С |
| NH4C1 | 20 | -15,5 |
| NH4NO3 | 31 | -26 |
| NH4NO3 | 16 | -14 |
| NaCl | 24 | -21 |
| СаС12'2Н2О | 55 | -40 |
| Спирт этиловый | 50 | -24 |
| Твердая углекислота | - | -78,8 |
| Твердая углекислота с | - | |
| этанолом | от -72 до -115 | |
| Твердая углекислота с | - | |
| ацетоном | -80 | |
| Жидкий азот | - | -196 |
| Жидкий азот с ацетоном | - | до -150 |
Таблица 7
Индикаторы
| Название индикатора | Интервал рн | Окраска | Способ приготовления |
| Тимоловый синий | 1,2-2,8 | Красная - желтая | 1) 0,1% в 20%-ном спирте 2) 100 мг + 4,3 мл 0,05н. раствора NaOH + вода (до 100 мл) |
| Метиловый оранжевый | 3,1-4,4 | Красная - оранжево-желтая | 0,1% в воде |
| Бромфеноло- вый синий | 3,0-4,6 | Желтая - синяя | 1) 0,1% в 20%-ном спирте 2) 100 мг + 3 мл 0,05 н. раствора NaOH + вода (до 100 мл) |
| Метиловый красный | 4,2-6,2 | Красная - жёлтая | 0,1% в 20%-ном спирте |
| Бромтимоло- вый синий | 6,0-7,6 | Жёлтая - синяя | 1) 0,05% в 20%-ном спирте 2) 100 мг + 3,2 мл 0,05 н. раствора NaOH + вода (до 100 мл) |
| Феноловый красный | 6,4-8,0 | Жёлтая - красная | 1) 0,1% в 20%-ном спирте 2) 100 мг + 5,7 мл 0,05 н. раствора NaOH + вода (до 100 мл) |
| Фенолфталеин | 8,2-10,0 | Бесцветная -малиново - красная | 0,1% в 20%-ном спирте |
| Тимолфталеин | 9,3-10,5 | Бесцветная - синяя | 0,1% в 90%-ном спирте |
Таблица 8
Плотность некоторых органических жидкостей при комнатных температурах
| Жидкость | Температура, °С | ||
| 16 | 20 | 24 | |
| Этанол | 0,797 | 0,791 | 0,788 |
| Метанол | 0,799 | 0,795 | 0,792 |
| Ацетон | 0,796 | 0,792 | 0,787 |
| Этиловый эфир | 0,718 | 0,713 | 0,709 |
| Бензол | 0,882 | 0,879 | 0,876 |
| Хлороформ | 1,484 | 1,476 | 1,468 |
| Уксусная кислота | 1,062 | 1,058 | 1,054 |
| Муравьиная ки- | |||
| слота | 1,225 | 1,221 | 1,217 |
Еще по теме СТАТИСТИЧЕСКАЯ ОБРАБОТКА ДАННЫХ ФИЗИОЛОГО-БИОХИМИЧЕСКИХ ИССЛЕДОВАНИЙ МЕТОДОМ ПОПАРНЫХ СРАВНЕНИЙ:
- Методы статистической обработки результатов исследований
- Статистическая обработка результатов исследования.
- 3.3. Подготовка, предварительный анализ информации и выбор методов обработки данных
- 8. Методы обработки материалов исследования
- Статистическая обработка результатов
- Возможности обработки данных
- 7. Сбор статистических данных для оценивания параметров эконометрической модели
- § 27. Основания и порядок обработки персональных данных работника
- 2 Статистическая обработка информации
- § 28. Ответственность за нарушение законодательства при обработке персональных данных работника
- 4.4.3. Статистические методы контроля качества
- Приложение 13. Статистическая отчетность ФЕДЕРАЛЬНАЯ СЛУЖБА ГОСУДАРСТВЕННОЙ СТАТИСТИКИ ПОСТАНОВЛЕНИЕ от 27 июля 2004 года N 33 Об утверждении статистического инструментария для организации статистического наблюдения за деятельностью предприятий на 2005 год
- 3.3 Метод парных сравнений
- Интерпретация данных спирографического исследования
- Статистические методы распознавания.
- Обработка результатов полевых исследований
- Анализ данных рентгенологического исследования.
- 8. Примеры обработки результатов исследования скважин со снятием кривой восстановления давления.