Контроль качества обучения при аттестации: компетентностный подход - Виктор Звонников

6. Содержание каждого задания теста должно удовлетворять требованию значимости. Необходимо включать в тест только те элементы содержания, которые являются наиболее важными, ключевыми элементами курса.

7. Содержание каждого задания теста должно быть логически корректным. Корректность означает, что при правильном выполнении задания испытуемые приводят или выбирают только запланированные разработчиком ответы.

8. Каждое задание тестов должно обладать высокой содержательной валидностью. Коэффициент точечной бисериальной корреляции между результатами репрезентативной выборки испытуемых по каждому заданию и суммой баллов по тесту должен быть не меньше 0,3.

9. В гетерогенном полидисциплинарном тесте содержание каждого гомогенного субтеста должно удовлетворять требованиям к качеству гомогенного теста.

10. Каждый субтест полидисциплинарного теста должен обладать содержательной независимостью от остальных субтестов гетерогенного теста. Результат по каждому гомогенному субтесту должен быть снабжен содержательно-независимой интерпретацией, которая в совокупности с другими соответствует общей цели создания полидисциплинарного теста.

11. Качество содержания и размерность пространства измерений междисциплинарного гетерогенного теста, состоящего из междисциплинарных заданий, необходимо обосновывать путем применения методов многофакторного анализа. Для этого из матрицы интеркорреляций между заданиями должны быть выделены независимые факторы, а в каждом факторе со значимыми нагрузками выделяются непересекающиеся подмножества заданий междисциплинарных тестов.

Общие требования к форме представления тестовых заданий во всех видах тестов представлены ранее (см. Основные подходы к разработке измерителей).

7.4. Требования к статистическим характеристикам теста

Итоговые тесты, используемые для целей аттестации, обязательно должны проходить процедуру статистического обоснования качества. При представлении результатов обоснования на сертификацию необходимо указать теоретическую базу (классическую теорию или IRT), использованную разработчиком для статистического обоснования качества теста.

1. Статистические данные о результатах выполнения задания должны включать: распределение ответов испытуемых (в процентах) по выделенным кодам и/или баллам; процент испытуемых, не приступавших к выполнению задания; значения точечно-бисериального коэффициента по каждому коду или баллу, включая группы не приступавших к выполнению задания, выполнивших задание неправильно, выполнивших задание частично и полностью выполнивших задание правильно.

2. Тестовое задание с выбором ответов должно сопровождаться оценками качества работы дистракторов, которые необходимо получать в долях испытуемых, выбравших каждый дистрактор, и в виде бисериального коэффициента корреляции. Дистрактор считается работающим, если доля испытуемых отлична от нуля, а бисериальный коэффициент принимает отрицательное значение и значимо отличается от нуля.

3. Тестовое задание должно иметь статистическую оценку трудности в долях правильных ответов испытуемых, в процентах правильных ответов или в шкале логитов, если использовалась современная теория конструирования тестов.

4. Тестовое задание должно иметь оценку валидности, полученную с помощью индекса дискриминативности, точечного бисериального коэффициента или параметра дифференцирующей способности.

5. Распределение статистик по каждому варианту теста должно удовлетворять критериям правдоподобности при проверке гипотезы о нормальном распределении эмпирических результатов (для нормативно-ориентированных тестов).

6. Распределение индивидуальных (сырых) баллов должно иметь правостороннюю асимметрию (для критериально-ориентированных тестов).

7. Для комплекта вариантов теста необходимы нормы, включающие среднее значение сырых баллов, дисперсию с указанием временного промежутка действия норм. Среднее значение должно быть в центре распределения индивидуальных баллов, дисперсия должна значимо отличаться от нуля без нарушения нормальности распределения.

8. Для комплекта вариантов теста необходимо указать надежность с указанием метода оценки; надежность не должна быть менее 0,8.

9. Для комплекта вариантов теста необходимо указать результаты экспертного оценивания содержательной валидности теста.

10. Для аттестационных тестов требуется обоснование параллельности вариантов с указанием необходимых для обоснования статистик. При использовании якорных тестов для компоновки вариантов приводится процедура выравнивания вариантов.

11. Для полидисциплинарных тестов, состоящих из отдельных гомогенных субтестов, необходимо выбрать и обосновать основания для определения относительных весов при суммировании баллов испытуемых по отдельным субтестам в процедуре подсчета итогового балла.

12. Для гетерогенных междисциплинарных тестов, состоящих из комплексных междисциплинарных заданий, необходимо определить и обосновать основания выбора шкал: описание использованных методов многомерного шкалирования и результаты факторного анализа.

13. Число заданий любого варианта теста не должно быть менее 25.

7.5. Требования к характеристикам тестовых заданий компьютеризованного банка

1. Каждое задание банка должно иметь индивидуальный номер и храниться в форме, позволяющей управляющей программе извлекать его из банка для компьютерной сборки теста или тематической распечатки.

2. Каждое задание банка должно иметь код тематической принадлежности и код контролируемого элемента содержания.

3. Каждое задание банка должно быть отнесено к определенному уровню сложности и иметь статистически полученную устойчивую оценку параметра трудности.

4. Для каждого задания банка указывается время его выполнения, полученное статистическим путем.

5. В качестве необходимой характеристики задания в банке должен присутствовать эталон правильного ответа и критерии оценивания выполнения задания.

6. В банке должен быть предусмотрен индикатор отнесенности задания к недействующим.

7. При наличии в банке заданий с идентичной логико-тематической структурой их необходимо маркировать так, чтобы при сборке варианта исключить попадание родственных заданий в один вариант.

8. При использовании заданий с числовыми или символьными переменными (фасетные задания) каждое значение из массива должно маркироваться как отдельное, так как подстановка разных значений изменяет трудность задания.

9. Тематическая структура банка должна соответствовать нормативным документам по каждой учебной дисциплине.

10. В банке для каждого задания должно быть выделено не менее двух уровней содержательной маркировки. Один из них указывает на тематическую принадлежность, а другой фиксирует проверяемые знания или умения (уровень деятельности).

11. Технология сборки теста должна предусматривать возможность генерации вариантов как в ручном, так и в автоматическом режиме по заданной спецификации теста. В технологии должна быть предусмотрена возможность корректировки теста после компьютерной сборки.

12. В технологии генерации вариантов теста необходимо учитывать содержательную принадлежность заданий и статистические оценки параметров заданий, позволяющие осуществить определенную композицию вариантов теста.

13. В рамках технологии генерации вариантов теста необходимо предусмотреть опцию варьирования – автоматической перестановки ответов (с обязательным перемещением правильного ответа) для заданий закрытого типа.

14. После сборки вариантов теста должен формироваться сопроводительный лист, в котором указываются технологические характеристики вариантов, последовательность расположения заданий в варианте и другие характеристики.

7.6. Порядок сертификации тестов

Процедура сертификации ПТМ состоит из трех этапов. На первом, подготовительном этапе, заказчик (разработчик ПТМ) и Центр сертификации согласовывают все условия, необходимые для проведения работ по сертификации. Данный этап начинается с заполнения и высылки в адрес Исследовательского центра заявки на сертификацию и информационной карты сертифицируемых ПТМ. В рамках предварительного этапа производится согласование объема и стоимости работ, а также дополнительных условий. Первый этап завершается подписанием договора на проведение работ по сертификации, предоставлением заказчиком необходимых материалов для сертификации и оплатой работ по сертификации.

Второй этап включает в себя работу экспертной комиссии и подготовку заключения по результатам экспертизы. По результатам экспертизы качества ПТМ Центр сертификации выносит решение о выдаче сертификата качества ПТМ либо о выдаче свидетельства о несоответствии ПТМ требованиям к качеству ПТМ. По согласованию с заказчиком в рамках дополнительного соглашения могут быть подготовлены содержательные рекомендации по доведению характеристик ПТМ на необходимый уровень.