ГЛАВА 5. МОНИТОРИНГ ЭФФЕКТИВНОСТИ ПО РЕЗУЛЬТАТУ ИТ-ОБУЧЕНИЯ
Оценка эффективности ИТ-обучения проведена на основе:
• индивидуальных оценок степени владения ПК по методике, разработанной на кафедре МЕДСтат и Инф РМАПО Т.В.Андреевой (2003), предусматривающей оценку при входном контроле имеющихся навыков, а также прироста возможности работать на ПК по завершении учебы по мнению самого обучающегося (индекс успешности) и по объективным параметрам итогового зачета (индекс результативности).
Наш вклад в развитие методики заключается в мониторировании вопроса в исследовательском плане. К оценкам среди прошедших компьютерную подготовку в 2001-2002г.г. добавлены периоды 2007- 2008г.г. и 2010-2011г.г.; «индекс успешности» и «индекс результативности» учтены в едином «индексе эффективности» как произведении двух составляющих;
• оценок по результатам комплексного анализа с применением в социологическом исследовании подходов работы в фокус-группах. В профессионально однородных аудиториях, имеющих широкий спектр целей обучения ИТ-технологиям при ПП, специализации и др, обсуждались вопросы и систематизировались мнения по информатизации в здравоохранении.
Обучение информационным технологиям, на наш взгляд, в течение ближайших лет, не сможет исключить раздел «компьютерной грамотности», поскольку будут проявляться все новые соискатели возможностей не только приобрести, но и улучшить свои знания и, главное, навыки работы на компьютере. Являясь быстро обновляемой технологичной научной сферой, информатика будет предлагать все новые решения, и находить все новых слушателей для профильных циклов обучения.
Наиболее информативным представляется критерий не отсутствия умений работать на ПК, а наличия соответствующих навыков, поскольку именно по приросту индивидуальных возможностей делается суждение о потенциале «человеческого ресурса».
Среди прошедших «входной контроль» для компьютерной подготовки 189 слушателей в 2007-2008г.г.
и 79 - в 2010-2011г.г., соответственно, 40,7% и 48,1% имели навыки работы на ПК. Общая структура степени владения ПК на уровне входного контроля среди обучавшихся отражена на рис. 16.Из представленных данных видно, что все еще велико представительство лиц, оценивающих свой уровень работы на ПК, как фактически нулевой («не умею» или «знаю только клавиши»). Во все годы наблюдения число этих слушателей превышало 50% и стоявшая перед преподавателями учебная цель заключалась в том числе и в раскрытии
потенциала учащегося. Так, в 2010-2011г.г. почти 1/3 из числа обучавшихся, знавших, по их мнению, только клавиши, на деле проявили себя на определенном уровне реальной работы за компьютером. И таким образом, к 2012г. почти 60% (59,1%) из тех, кто имел учебной целью «компьютерную подготовку» как минимум начальными навыками работы на ПК владели.
Рисунок 16. Структура слушателей циклов компьютерной подготовки по субъективным оценкам исходной подготовки (в %)
По завершении обучения критерии субъективной оценки достигнутого результата (индекс успешности обучения) и объективной оценки - проверка приобретенных умений (индекс результативности) достигли уровней, граничащих с максимально возможными. Общая эффективность обучения (Indo6 х Інйф) также была высокой (табл. 13).
Таблица 13
Динамика результатов подготовки медицинских работников (в % относительной шкалы)
| Индексы (в % относительной шкалы) | Периоды обследования | ||
| 2001-2002 | 2007-2008 | 2010-2011 | |
| Успешность | 97,5 | 99,0 | 99,1 |
| Результативность | 84,1 | 99,3 | 95,8 |
| Эффективность ИТ-обучения | 82,0 | 98,3 | 94,9 |
Персональный контроль за ИТ-обучением по индивидуальным оценкам используется при «компьютерной подготовке» постоянно - от цикла к циклу, от года к следующему.
Получаемые результаты позволяют мониторировать уровень обучения в любом разрезе профессиональных групп и характера учебных циклов. Представляется, что этот контроль является определенной планкой в оценке уровня обучения. И как показывают цифры - высоких результатов обучения.Помимо целевой «компьютерной подготовки» в ИТ-обучении все более активно включается тематика, касающаяся профессиональных аспектов деятельности - электронных медицинских документов, электронных ресурсов, дистанционных технологий.
Для структурирования проблемы участия медицинских работников в информационных процессах отрасли, проведен комплексный анализ с применением в социологическом исследовании подходов работы в фокусгруппах. С профессионально однородными аудиториями обсуждались вопросы и систематизировались мнения по информатизации в здравоохранении.
Материалы этого исследования опубликованы в статье В.Г.Кудриной, Т.В.Андреевой, Н.Г.Дзерановой «Оценка потребности и возможностей использования информационных технологий персоналом системы здравоохранения» (Врач и информационные технологии, 2011, №6. - С.15-23).
В результате изучения и обобщения индивидуальных точек зрения представилось возможным получить профессиональные «срезы» об уровне потребности и личном вкладе во внедрение информационных технологий.
В целом было сформировано 12 фокус-групп в 2007-2008 и 20102011 учебных годах. Их участниками стали 249 человек, работавших в системе здравоохранения. Фокус-группы представлены организаторами здравоохранения (25,3%), средними медицинскими работниками (СМР) - медицинскими статистиками (27,3%), врачами клинических специальностей (12,1%), преподавателями и научными сотрудниками (4,8%) и немедицинским персоналом отрасли (2,4%), а также обучавшимися в системе послевузовского профессионального образования аспирантами (28,1%). Структура участников фокус-групп приведена на рис. 17. Больше половины участников исследований проходило циклы повышения квалификации - тематическое усовершенствование (53,8%), меньшее число - профессиональную переподготовку (18,9%), а также общее усовершенствование и специализацию (27,3%) (рис.
18).
Рисунок 18. Структура форм обучения в системе ППМО участников дискуссий и социологических опросов (в %)
Выбор для исследования периода 2010-2011г.г. связан с выходом после учебного 2007-2008 года большого числа регламентирующих документов, ставших основой информационного развития отрасли (363-ФЗ от 27.12.2009; 63-ФЗ от 6.04.2011; Приказ МЗСР РФ №364 от 28.04.2011 и др.). Особо следует выделить документы, изменяющие сформированные ранее порядки деятельности в связи с переходом к страховой медицине и работе с персональными данными (363-ФЗ от 27.12.2009; 313-ФЗ от 29.11.2010). Суть реформ заключается в том, что формируются новые деловые процессы в отрасли, принципиально изменяются отношение к информации о пациенте и порядок регистрации медицинских данных, создается новый документооборот - электронный. Участие в деловых процессах специалистов в зависимости от должности различно. Но владение информационными технологиями необходимо всем.
Свои мнения слушатели не только высказывали в дискуссиях, но и конкретизировали в анкетах (Приложение 5). Число опрошенных позволило обеспечить среднюю степень достоверности оценок, что достаточно для суждения о ситуации. В ходе дискуссий и по открытым ответам анкеты определено, в частности, что крайне редко причиной ранее не реализованной возможности владения ПК было отсутствие технического оснащения. Участники дискуссий и опросов пришли к общему мнению, что не было потребности уделять особое внимание ПК, так как это не было зафиксировано в должностных требованиях.
Динамика использования ПК в работе медицинского персонала изучена в ходе наукометрического анализа. Сопоставлены балльные оценки по уровням потребности во внедрении ПК на рабочих местах, выставленные участникам дискуссий в группах в 2007-2008 и 2010-2011г.г. (рис. 19). Рассчитанные в процентах относительной шкалы (табл. 14) итоговые показатели потребности в применении ИТ оказались наибольшими (максимальными - 100% относительной шкалы)среди немедицинского персонала, обеспечивающего ИТ-процессы.
Подчеркнем, что немедицинский персонал не был в настоящем исследовании целевой первичной аудиторией, но его деятельность способствовала раскрытию потенциала медицинских работников.За 3-х летний период уровни потребности изменились по всем группам участвовавших в дискуссиях специалистов - показатели в процентах относительной шкалы превысили 90% в 2010-2011г.г. и темп роста составил 106,6%. Наибольший темп роста отмечен по профессиональным группам персонала, обеспечивающего ведение медицинской статистики (СМР - медицинские статистики) и среди врачей- клиницистов, все более активно вовлекаемых в работу с электронными медицинскими документами (соответственно, 117,6 и 114,8%).
Рисунок 19. Балльная оценка потребности во внедрении ПК у участников дискуссий и социологических опросов
Таблица 14
Динамика показателей потребности во внедрение ПК (в % относительной шкалы)
| №№ | Профессиональные группы | Периоды исследования | Темп роста (в %) | |
| 2007-2008 | 2010-2011 | |||
| 1 | Аспиранты | 100,0 | 92,3 | 92,3 |
| 2 | Организаторы здравоохранения | 89,0 | 96,1 | 108,0 |
| 3 | Врачи-клиницисты | 84,0 | 96,4 | 114,8 |
| 4 | Научные сотрудники и преподаватели | 87,5 | 97,7 | 111,7 |
| 5 | СМР-медстатистики | 77,1 | 90,7 | 117,6 |
| 6 | Немедицинский персонал | 100,0 | 100,0 | 100,0 |
| Итоговый показатель (ИП) | 89,6 | 95,5 | 106,6 | |
Предприняты попытки развить в группах 2010-2011г.г.
дискуссию по перспективам внедрения современных информационных технологий в здравоохранении, представленным в Федеральном законе «Об обязательном медицинском страховании в Российской Федерации» (2010) - «в целях перехода на полисы обязательного медицинского страхования единого образца, в том числе обеспеченных федеральным электронным приложением универсальной электронной карты, внедрение телемедицинских систем, систем электронного документооборота и ведение медицинских карт пациентов в электронном виде» (ст.50, п.3, пп.2). Были высказаны квалифицированные мнения и конкретные предложения лишь по ведению медицинских карт пациентов и электронному документообороту в части формирования статистическогоучета по первичным данным. Приложения универсальной электронной карты аудитории не понятны.
В ряду своих профессиональных интересов телемедицинская составляющая информационной деятельности остается в стороне. Аудитория объясняет это невозможностью передачи официальной информации о пациентах по каналам связи.
Интересно соотношение ответов на вопросы по телемедицинским технологиям.
Не ответили на вопросы, касающиеся дистанционного обучения и телемедицинских консультаций в 2007-2008г.г. - 4%, в 2010-2011г.г. - 2% участников дискуссий. Среди ответивших доля имевших личный опыт интерактивной работы (учеба, консультации) в целом велик, но в периоды исследований немного снизилась в 2010-2011г.г. по сравнению с 2007- 2008г.г. (до 88% с 95%) (рис. 20).
Учтем, что группы респондентов различны по персональному составу и результаты анкетирования не отражают динамику интерактивного опыта в одних и тех же коллективах, а лишь являются характеристиками меры. Показатель в диапазоне 88-95% отражает общий высокий уровень владения телемедицинскими технологиями.
Важную информацию несет сумма ответов на вопрос о понимании задач телемедицины. Учтем в положительной зоне ответы «Да» и «Скорее да». Уровень роста проникновения в проблемы телемедицины вырос в 2010-2011г.г. до 62% по отношению к 46% в 2007-2008г.г. (рис. 21). Переход границы в 50% является важным фактором поддержки инновационной инициативы медицинской общественностью.
Рисунок 20. Характеристика личного опыта участия в дистанционном обучении и телемедицинских консультациях (в %)
Рисунок 21. Степень понимания проблем телемедицины (в % относительной шкалы)
Изучение потребности работающих в отрасли здравоохранения врачей, среднего медицинского персонала и немедицинских кадров во внедрении на рабочих местах персональных компьютеров (ПК) и современных информационных технологий (ИТ) имеет практическую значимость, если эти потребности связаны с оценкой возможностей персонала внедрять информационные технологии в практическом здравоохранении.
Уровень навыков работы на ПК определен по самооценкам участников дискуссий и социологических опросов по алгоритму, использованному при изучении потребности персонала отрасли внедрять ПК на своих рабочих местах. В выбранных шести профессиональных группах по той же системе оценок рассчитаны балльные характеристики (рис. 22).
Итоговые оценки (в данном случае самооценки) в относительной шкале в среднем составили в 2007-2008гг - 74,3% и в 2010-2011г.г. - 83,5%, с темпом роста показателя 112,4%, и с наибольшими значениями по группам врачей-клиницистов, организаторов здравоохранения и СМР - медицинских статистиков, соответственно, 130,1; 120,0; 119,3% (табл. 15).
Рисунок 22. Показатели владения навыками пользования средствами вычислительной техники (в относительной шкале, %)
Динамика показателей самооценки навыков работы на ПК (в % относительной шкалы)
Таблица 15
| №№ | Профессиональные группы | Периоды исследования | Темп роста (в %) | |
| 2007-2008 | 2010-2011 | |||
| 1 | Аспиранты | 75,0 | 74,3 | 99,1 |
| 2 | Организаторы здравоохранения | 68,0 | 81,6 | 120,0 |
| 3 | Врачи-клиницисты | 66,1 | 86,0 | 130,1 |
| 4 | Научные сотрудники и преподаватели | 75,0 | 84,1 | 112,1 |
| 5 | СМР-медстатистики | 70,1 | 83,6 | 119,3 |
| 6 | Немедицинский персонал | 91,7 | 91,7 | 100,0 |
| Итоговый показатель (ИП) | 74,3 | 83,5 | 112,4 | |
Разрыв между уровнем потребности во внедрении ПК и самооценками владения информационными технологиями имеет позитивную тенденцию к уменьшению от общего уровня в 15,3% в 2007- 2008г.г. до 12,0% в 2010-2011г.г. (табл. 16). Наибольшая разница между показателями отмечена, что неудивительно, среди аспирантов, а в системе дополнительного образования среди организаторов здравоохранения, в чьи должностные квалификационные требования в настоящее время не входит владение ПК и работа с информационными технологиями.
Таблица 16
Динамика неудовлетворенной потребности во внедрении ПК (в % относительной шкалы)
| №№ | Профессиональные группы | Потребности | Возможности | Неудовлетворенная потребность | |||
| 2007 2008 | 2010 2011 | 2007 2008 | 2010 2011 | 2007 2008 | 2010 2011 | ||
| 1 | Аспиранты | 100,0 | 92,3 | 75,0 | 74,3 | 25,0 | 18,0 |
| 2 | Организаторы здравоохранения | 89,0 | 96,1 | 68,0 | 81,6 | 21,0 | 14,5 |
| 3 | Врачи-клиницисты | 84,0 | 96,4 | 66,1 | 86,0 | 17,9 | 10,4 |
| 4 | Научные сотрудники и преподаватели | 87,5 | 97,7 | 75,0 | 84,1 | 12,5 | 13,6 |
| 5 | СМР-медстатистики | 77,1 | 90,7 | 70,1 | 83,6 | 7,0 | 7,1 |
| 6 | Немедицинский персонал | 100,0 | 100,0 | 91,7 | 91,7 | 8,3 | 8,3 |
| Итоговый показатель (ИП) | 89,6 | 95,5 | 74,3 | 83,5 | 15,3 | 12,0 | |
Издержки этой ситуации руководители, медицинские
администраторы осознают в полной мере. Присутствие в группе организаторов здравоохранения врачей-статистиков не изменило общей картины неудовлетворенной потребности, и ее мы оцениваем как резервы для самоподготовки в процессе работы врачей-организаторов
здравоохранения.
Общая характеристика владения «софтом» приведена на рис. 23. Для 63,8% оно ограничено офисными программами, 14,0% отметили владение специальными профессиональными программами (фактически это и есть ИТ) и единицы (2,0%) статистическим пакетом. Самооценку «продвинутый пользователь» дали лишь некоторые аспиранты. В целом работают с вычислительной техникой 85,5%, не пользуются ею в работе 14,5% слушателей.
Интересны результаты сопоставления оценок соответствия навыков работы на ПК профессиональным требованиям самими участниками исследования и привлеченными экспертами - профессорами кафедры МЕДСтат и Инф РМАПО - на основе анализа анкет. По заключениям экспертов, лишь у 12,4% участников исследования уровень владения ПК ниже, чем требует практическая работа. Самооценки более критичны - 24,9%. Можно предположить, что внешнее оценивание носит относительно общий характер и «не привязано» к конкретному рабочему месту. Сам персонал более реалистичен, «встраивает» себя в должностные рамки и уже на этой основе определяет соответствие предъявляемым требованиям. Фактически речь идет о самоаттестации специалистов. И в целом представляется, что роль аттестации на соответствие должностным обязанностям и в перспективе аккредитации на соответствие профессиональным требованиям имеет большой потенциал роста самооценки. Статистически это подтверждает выявленная взаимосвязь
между потребностью персонала в развитии новой информационной среды и активностью включения в эту работу именно в должностном аспекте: коэффициент корреляции рангов (р) в 2007-2008г.г. составил +0,93, в 2010- 2011г.г. - +0,87.
Рисунок 23. Характеристика участников дискуссий и социологических опросов по используемым программным средствам (в % к итогу)
То, что именно служебные обязанности побуждают персонал к активному включению в информационные процессы, вполне логично. Как следует из определения «должность - это служебное место, связанное с исполнением служебных обязанностей и определенной ответственностью» (www.glossary.ru). «Обязанность» и «ответственность» - нормы, побуждающие к действию. Вместе с тем, работая в должности, следует понимать, что разрешение на деятельность дается по специальности.
«Специальность» - вид занятий в рамках одной профессии, требующий конкретных знаний, умений и навыков, приобретенных в результате образования и обеспечивающих постановку и решение профессиональных задач (www.glossary.ru). Согласимся, что «решение профессиональных задач» - нормы очевидности, а не особой ответственности. Не всегда осознается, что от специальности и подтверждения принадлежности к ней в первую очередь зависит занимаемая должность. Для того, чтобы стимулировать развитие у персонала потребности и возможностей внедрять современные медицинские и организационные информационные технологии, следует
уделять равнозначное внимание как непрерывному медицинскому образованию на последипломном его этапе с подтверждением профессионального статуса, так и индивидуальной «точечной» подготовке на стажировках, тренингах, семинарах, мастер-классах и т.п. для развития квалификационного уровня.
Такой подход сможет обеспечить наиболее эффективное ИТ- обучение, ориентированное на запросы практического здравоохранения, системы ППМО и федеральных государственных образовательных требований, а также на учет личных мотивов к профессиональному развитию медицинских работников.
Еще по теме ГЛАВА 5. МОНИТОРИНГ ЭФФЕКТИВНОСТИ ПО РЕЗУЛЬТАТУ ИТ-ОБУЧЕНИЯ:
- Клинико-лабораторный мониторинг эффективности длительной терапии аторвастатином у больных с инфарктом миокарда
- Клинико-лабораторный мониторинг эффективности длительной терапии аторвастатином у больных с инфарктом миокарда
- Кудрина В.Г., и др.. Эффективность обучения медицинских работников информационным технологиям. - М.: ИД «Менеджер здравоохранения»,2013. - 244 с., 2013
- Глава 9. Кривая обучения РАРП
- 3.7. Оценка эффективности и отдаленных результатов лечения
- Результаты эмпирического исследования психологических факторов эффективности профессиональной деятельностимастеров-консультантов
- Глава 30 Последипломное обучение врачей детской онкологии
- Глава 12. Обучение ультразвуковой хирургии катаракты
- Результаты опроса по блоку «Показатели эффективности/ неэффективности совладающего поведения»
- Глава 13. Обучение пациента пользованию контактными линзами
- Глава 2. Некоторые вопросы обучения робот-ассистированной хирургии
- Результаты собственных исследований Глава 3. Результаты обследования ортодонтических пациентов с заболеваниями тканей пародонта
- О мониторинге ЧС
- Глава 7. Управление эффективностью