Анализ валидности в современными исследователями. Критерии валидности, применяемые к качественным исследованиям

Понятие валидности было введено в широкое употребление в психологию Кэмпбеллом (Campbell) и Стэнли (Stanley) в 1960-е годы в отношении результатов исследования, точно репрезентирующих характеристики феномена, подлежащего описанию или объяснению. В общем плане валидность представляет собой соответствие результатов исследования тому, что изучалось в нем. Проблема соответствия изучаемого избранному исследовательскому и теоретическому инструментарию остается дискуссионной и сегодня в силу сложности и многогранности самого объекта - социальнопсихологической феноменологии. В социальной психологии представлены десятки определений валидности, часто пересекающихся с другим, не менее важным понятием, надежности, определяемой как точность исследовательского инструментария и его способность давать стабильные показатели. Также следует отметить, что проблема валидности чаще всего обсуждается в контексте экспериментальной социальной психологии.

Предложенное определение валидности относится к установлению научной строгости и обоснованности выводов исследования и подчеркивает относительный характер истинности знания в социальных науках. Как отмечает Элена Дзуки, в любом научном исследовании исследователь должен уметь находить ответы на, про крайней мере, следующие вопросы: 1)

существует ли зависимость между двумя переменными; 2)

носит ли эта зависимость причинный характер; 3)

является ли данная зависимость значимой; 4)

действительно ли процедуры измерения и наблюдения относятся к исследуемым конструктам; 5)

могут ли быть обобщены причинные зависимости, выявленные в ходе исследования (1997, с. 24).

Нахождение ответов на данные вопросы крайне важно, прежде всего, по той причине, что исследователь часто не задумывается над тем соответствуют ли избираемые им методы и процедуры особенностям изучаемого явления, можно ли говорить по полученным результатам о их адекватности и т.п. По отношению к поставленным вопросам можно говорить о нескольких типах валидности: внутренней и внешней валидности; валидности статистических выводов и процедур исследования; конструктной и экологической валидности. 5.

Внутренняя валидность.

Внутренняя валидность - степень, в которой результаты исследования позволяют сделать причинно-следственные выводы о влиянии одной переменной на другую. Большинство социальнопсихологических исследований эксперименталистского толка заинтересованы в выяснении того как социальные силы, воздействующие на индивида влияют на его социальное поведение и принятие решений. В этом аспекте одним из самых важных типов валидности, является определяющий отношения между зависимыми и независимыми переменными. Эта валидность связана с особым процедурами, которые позволяют определить, насколько выводы, сделанные в данном исследовании, достоверны. После того, как установлено существование зависимости между переменной X и переменной Y, необходимо решить, какая из переменных является причиной, а какая следствием, то есть определить направление данной взаимосвязи. Если Y наблюдается после X, то можно сказать, что X является причиной Y.

Однако может оказаться, что отношение зависимости между X и Y вызвано третьей переменной С. Для установления внутренней валидности необходимо рассмотреть все возможности влияния третьей переменной С на переменные X и Y и исключить их. Считается, что исследование обладает внутренней валидностью, если доказано, что существует зависимость причинно-следственного типа между зависимыми и независимыми переменными.

В отношении внутренней валидности часто возникает два вопроса:

Первый вопрос связан выяснением наличия реального влияния. Ответ на этот вопрос предполагает выяснение того, имеем ли мы основания для вывода о наличии различий в измерении зависимой переменной (т.е., существуют ли реальные статистические различия?).

Второй вопрос связан с выяснением того действительно ли эффект связан с влиянием данной переменной или чего-либо другого? Если различия принимаются как статистически значимые, то можно ли делать вывод о том, что они являются следствием прямого влияния исследуемой переменной.

Причины снижения внутренней валидности исследования: 1)

Смешение переменных. Это одна из наибольших опасностей для валидности эксперимента. Если в ходе эксперимента какой-либо случайный фактор (неэкспериментальная переменная) взаимодействует с зависимой переменной и это взаимодействие не может быть измерено отдельно от взаимодействия зависимой и независимой переменных, то влияние случайной и независимой переменных неразличимо. Проблема смешения переменных является особенно острой в тех исследованиях, где экспериментатор не может контролировать независимую переменную. 2)

Изменения, связанные с испытуемыми. При проверке зависимых переменных изменения, произошедшие между двумя моментами наблюдения, могут быть вызваны не независимыми переменными, а изменениями, произошедшими с самими испытуемыми (например, событиями личной жизни, изменением тех или иных свойств личности и т.д.), то есть факторами «зрелости» и «истории».

Под «зрелостью» понимаются изменения, которые произошли с испытуемым между моментом пред-теста и моментом пост-теста и которые не были связаны с влиянием независимых переменных. Например, в экспериментах по моторной координации у испытуемых может наблюдаться ее улучшение за счет тренировок в период между экспериментами. Данное влияние нельзя смешивать с влиянием независимой переменной. Под фактором «истории» подразумеваются события, которые произошли с испытуемыми и которые повлияли на результаты эксперимента. 1)

Влияние пред - теста. Пред-тест вызывает изменения у испытуемых, и, следовательно, результаты эксперимента в некоторых случаях могут в основном зависеть от него, а не от зависимой переменной. 2)

Изменение навыков исследователя. Например, исследователь, спустя некоторое время, может стать более опытным в наблюдениях и, следовательно, по- другому интерпретировать поведение испытуемых.

Кроме того, на исследователя могут влиять такие факторы, как усталость, что может привести к ошибкам в экспериментах. 3)

Регрессия к среднему. Это явление наблюдается тогда, когда индивиды подвергаются повторным испытаниям относительно одной и той же переменной. Установлено, что если испытуемые получили в первом испытании результаты, по величине близкие к высшим показателям шкалы, то при повторном эксперименте их результаты снижаются и становятся ближе к средним показателям, в то время как испытуемые, которые получили в первом испытании результаты, близкие к низшим, при повторном измерении достигают лучших показателей. Регрессия к среднему наблюдается также в случае ошибок, связанных с изменением переменной. 4)

Отсев. Известно, что в ходе исследования некоторые испытуемые покидают группу. Оставшиеся испытуемые, естественно, отличаются от выбывших.

Предположим, что исследуется два метода модификации поведения для контроля за весом тела. Группе 1 предписана диета. Кроме того, испытуемые первой группы должны ежедневно записывать в дневник все, что они едят, точно взвешивать все блюда и подсчитывать калорийность пищи. Группе 2 была просто предписана диета. Вполне обоснованно можно предположить, что некоторые испытуемые группы с более обременительным заданием выйдут из эксперимента. В конце эксперимента процент испытуемых с высокой мотивацией в этой группе будет больше. У испытуемых с более высокой мотивацией больше вероятность похудения. Поэтому исследователь может прийти к ошибочному выводу о том, что условия в первой группе более эффективны для похудения. 2.

Внешняя валидность.

Под внешней валидностью понимается возможность обобщения результатов исследования, то есть генерализации выводов, полученные на экспериментальной выборке, на всю генеральную совокупность. Социальные психологи стремятся к получению выводов, генерализируемых на очень широкую социальную общность, часто исходя из идеи о наличии универсальных закономерностей глобального характера. Результаты исследований с высокой степенью генерализируемости, соответственно, обладают и высоким уровнем внешней валидности. Внешняя валидность существенно зависит от способа формирования выборки.

Существует три основных типа выборки:

Случайная выборка. Например, результаты исследования группы подростков, сформированной случайным способом, будут справедливы с некоторой степенью вероятности для всех подростков данной национальности. Однако такое исследование может оказаться очень сложным и дорогостоящим, так как выборка должна быть многочисленной и однородной.

Гетерогенная (неоднородная) выборка. В

соответствии с целями исследования выделяются различные группы населения, на которых предполагается получить результаты исследования. Затем анализируется случайная выборка с тем, чтобы убедиться, что она содержит достаточное количество представителей каждой группы.

Выборка типичного случая. Например, дается определение среднего молодого белоруса. Для исследования используется выборка, состоящая из индивидов, удовлетворяющих этому определению. В этом случае, если проводится эксперимент со студентами университета, например, на способность к ведению переговоров, то нельзя рассчитывать на то, что полученные выводы будут применимы для глав государств. Тем не менее, в той же социальной психологии основные выводы получены именно на студенческих выборках, что создает основания для их критики.

Внешнюю валидность снижает также несоответствие между явлениями, наблюдаемыми в лаборатории, и явлениями в естественных условиях. Трудно определить, имеет ли место выявленная зависимость только в лаборатории или она наблюдается и вне лаборатории. Внешняя валидность обеспечивается неоднократным проведением эксперимента в гетерогенных условиях.

Можно говорить, как минимум, о четырех основных возможностях ограничений генерализации результатов исследований или внешней валидности: 1)

Случится ли то же самое с другими группами людей или со всеми людьми то что получено на экспериментальной выборке? 2)

Случится ли то же самое в других местах? 3)

Будет ли то же самое в другое время? 4)

Будет ли то же самое при других типах измерений?

Первый вопрос был связан Брахтом (Bracht) и Глассом (Glass) с популяционной, а второй с экологической валидностью к рассмотрению которых мы и приступим. 3.

Популяционная валидность.

Популяционная валидность обозначает степень генерализируемости результатов исследования на население. Вспомним как часто у нас вызывали состояние напряжения отдельные журнальные статьи о том, что повышенный радиационный фон таким-то образом отражается на новорожденных (приводя примеры детей-уродов и т.п.). точно такое же впечатление создавалось от отдельных экспериментальных «находок» в отношении той или иной биологической подоплеки криминальности, аддиктивности и т.п.

Кончено возможность широких обобщений варьируется от исследования к исследованию, но часто воспринимается как само собой разумеющееся присутствие того или иного признака у всего населения, что столь же часто противоречит реальным фактам и столкновением с очевидностью того, что не все лица «кавказской национальности» криминальны и социально опасны и т.п. безусловно, внешняя валидность крайне важна для прикладных исследований, направленных на выяснение того, как та или иная система воздействия «работает» в принципе и менее заинтересованных в выяснении того, как она реализуется в специфических условиях и в определенных субкультурах и контекстах. С определенной степенью уверенности можно говорить о том, что популяционная валидность становится особенно актуальной сегодня в связи с попытками нахождения оптимальной пропорции идиографии и номотетики или итики и имики, т.е. уникально-специфичного и общего для различных групп населения. По-крайней мере многими исследователями отмечается необходимость отхода от ориентации на выявление абсолютно универсальных закономерностей. Этот вопрос актуален и в контексте проблемы «оживления» социально-психологического знания, предполагающего его соотнесение с тем, что происходит в реальной жизни людей и связываемого с экологической валидностью 4.

Экологическая валидность.

Под экологической валидностью понимается соответствие результатов исследования и используемых процедур и инструментов изучению и объяснению феноменологии в реальных условиях ее существования. Большой проблемой лабораторных экспериментов является генерализируемость их результатов на обстоятельства реальной жизни, естественно происходящих в условиях повседневной практики человека.. исследование обладает высокой экологической валидностью если его результаты подтверждаются в полевых исследованиях. Но и это не дает гарантий для автоматического признания результатов экологически валидными, т.к. предполагает и генерализацию на другие обстоятельства и контексты. Обвинения в адрес многих исследований в низкой экологической валидности часто связаны с невозможностью их повторения в обстоятельствах реальной жизни. Карлсмит (Carlsmith) предложил обозначать высоко экологические исследования термином «мирской реализм», экспериментальные, т.е. проводимые в искусственных условиях, при помощи термина «экспериментальный реализм» (1976). Примерами такого рода исследований являются оригинальное лабораторное исследование конформности Соломона Аша и известные эксперименты Стэнли Милгрэма., вызвавшие целую бурю дискуссий по проблеме психологической этики. Следует отметить и то обстоятельство, что в определенных ситуациях люди ведут себя в реальных условиях так же, как и в лабораторных (например, новорожденные или пассажиры самолета), в то время как в других обстоятельствах они демонстрируют выраженные отличия. Точно так же как одни люди сохраняют постоянство и в реальной жизни и в лаборатории, в то время как другие, демонстрируют выраженные отличия. При всем критическом отношении к экологической валидности классических социально-психологических экспериментов у них нельзя отнять главного достоинства - объективности в ее классическом понимании, обеспечивающей как однозначность трактовок, так и воспроизводимость, т.е. подтверждаемость. Последняя непосредственно связана со статистической валидностью. 5.

Валидность статистических выводов.

Этот тип валидности соответствует проверке статистической значимости зависимости между двумя переменными. Такие выводы всегда являются вероятностными. Тем не менее, в обыденном сознании часто присутствует своеобразная идеализация статистического подтверждения. У исследователей формируется доминанта статистического подтверждения, начисто перекрывающая усилия по валидизации полученных данных.

Можно говорить о двух типах ошибок: выводе о том, что зависимость является значимой, в то время, когда это не соответствует действительности; или выводе о том, что значимая зависимость между переменными отсутствует, в случае когда она, наоборот, имеется.

Существуют некоторые факторы, которые могут снижать валидность статистических выводов: 1)

слабая чувствительность исследований, которая проявляется при недостаточной по численности выборке или при большой изменчивости в сравниваемых группах, то есть испытуемые являются слишком разными и сильно отличаются друг от друга относительно некоторых переменных; 2)

низкая надежность методик измерения или процедур манипулирования переменными, которые используются в исследовании; 3)

факторы помех, присутствующие в условиях эксперимента; 4)

нарушение принятых правил проведения и обработки, которые установлены для различных статистических методов.

Стратегия повышения валидности статистических выводов состоит в уменьшении вариативности ошибки путем применения, например, схемы исследования с повторными пробами или использования однородных групп. Более подробное рассмотрение схем исследования будет представлена в разделе, посвященном методу эксперимента. Статистическая состоятельность исследования может диагностироваться как на стадии проектирования исследования (например, проверка расчета величины выборки), так и после исследования для оценки его результатов. 6.

Валидность процедур.

Третий тип валидности - это валидность процедур, которые позволяют варьировать и измерять переменные. Даже необходимость определить в операциональных терминах концептуальные переменные, значимые для исследования, уже является источником риска. Действительно, «перевод» понятия на уровень конкретных операций может неадекватно отразить теоретические положения исследования.

переменные, связанные только с определенными

операциями, производимыми в данном исследовании. 2)

переменные, связанные с экспериментальными

условиями косвенно, например, с ожиданиями исследователя.

Часто исследователь неосознанно стимулирует ответ, который он ожидает получить. Избежать этого можно, используя стратегии невмешательства в исследования и соответствующие методы измерения. При этом испытуемые не должны знать, что за ними наблюдают, что позволяет снять нежелательную мотивировку по отношению к эксперименту.

2. Конструктная валидность.

Этот тип валидности подобен внутренней валидности и подразумевает соответствие между полученными результатами и теорией, которая лежит в основе исследования. Для того, чтобы оценить конструктную валидность, необходимо исключить другие возможные теоретические объяснения результатов. Если есть сомнения в том, насколько экспериментальные результаты соотносятся с теоретическими, необходимо спланировать новый эксперимент, который позволит выбрать одно из нескольких теоретических объяснений результатов. Этот тип валидности наиболее трудно получить, потому что имеются многочисленные теории, с помощью которых можно объяснить соотношение переменных, полученное в эксперименте.

Рассмотрим две причины снижения конструктной валидности. Первая - слабая связь между теорией и экспериментом. Действительно, во многих психологических исследованиях даются нечеткие операциональные определения теоретических понятий. Вторая причина определяется тем, что, во- первых, испытуемые очень часто начинают играть роль «хорошего» объекта исследования и ведут себя таким образом, чтобы «подыграть» экспериментатору, и во-вторых, тем, что у испытуемых, особенно в экспериментах, замеряющих их интеллектуальные способности или эмоциональную стабильность, развивается высокая тревожность в отношении ожидаемой оценки.

Необходимо решить, какой тип валидности является главным для данного исследования. Действительно, процедуры, используемые для повышения одного типа валидности, могут снижать другие типы валидности.

Например, для повышения валидности статистических выводов исследователь должен использовать максимально разнородные объекты, снижая таким образом возможность ошибки. При этом внешняя валидность уменьшается.

Тип приоритетной валидности зависит от типа проводимого исследования. Например, если в экспериментальном исследовании устанавливается причинно-следственная зависимость между переменными, то в этом случае внутренняя валидность является основной. Наоборот, при вычислении корреляционных связей между переменными невозможно установить направление причинно-следственных отношений, поэтому в данном случае внутренняя валидность не представляет интереса по сравнению с другими типами валидности.

С понятием валидности связано понятие контроля. Под контролем понимается любое средство, используемое для исключения возможности снижения валидности исследования. На практике исследователь проверяет, какие факторы могут снизить валидность исследования и какие методы могут быть использованы для нейтрализации этих факторов.

Различают шесть основных методов контроля. 1.

Одним из наиболее часто используемых методов контроля является проведение эксперимента с группой испытуемых, которые не подвержены влиянию исследуемой переменной и которые сравниваются с испытуемыми, подверженными этому влиянию. Например, исследуется две группы относительно независимой переменной. Группа 1 получает воздействие и называется экспериментальной. Группа 2 не получает воздействия и называется контрольной. Результаты экспериментальной группы сравниваются с результатами контрольной группы. Если две группы были одинаковыми до экспериментального воздействия, то любое различие между ними, зафиксированное после эксперимента, может быть отнесено за счет этого воздействия. Пред-тест Экспериментальное

воздействие Пост

тест Группа 1 (экспериментальная) Да Да Да Группа 2 (контрольная) Да Нет Да Таблица Х.Х. Эксперимент с контрольной группой.

В данной таблице представлена экспериментальная группа 1, в которой проводился пред-тест, то есть предварительное измерение. Затем осуществлялось экспериментальное воздействие

и, наконец, проводился пост-тест. Контрольная группа 2 подвергалась только пред-тесту и пост-тесту и не получала экспериментального воздействия.

Однако для некоторых измерений данная процедура не имеет смысла. Например, при исследовании двух методов преподавания можно использовать группу, которая посещает только лекции, и группу, которая посещает лекции и семинары. Это дает возможность определить, какой метод обучения лучше, не используя группу, которая никогда не посещала лекций. 2.

При втором методе контроля контрольная группа не используется, но имеются две группы испытуемых, которые подвергаются воздействиям, различным по форме или интенсивности. Таким образом, каждая группа используется в качестве контрольной для другой. Вместо того, чтобы группу 1 подвергать воздействию, а группу 2 использовать в качестве контрольной, обе группы подвергаются воздействиям, различным по форме и интенсивности, например, в них используются два различных метода преподавания (см. Табл. Х.Х.). Пред-

тест Экспериментальное

воздействие Пост

тест Группа 1 (экспериментальная) Да 1 Да Группа 2 (контрольная) Да 2 Да

Таблица Х.Х. Эксперимент с группами, подвергающимися воздействиям различной интенсивности. 3.

Третий метод контроля - каждый испытуемый подвергается всем экспериментальным воздействиям. В данном случае вместо контрольной группы имеется только контрольное воздействие, то есть испытуемые служат для контроля самих себя. Данные эксперименты проводятся на одном испытуемом. Третий тип контроля используется в некоторых областях психологии, например, в исследованиях ощущений и восприятия. 4.

Четвертый тип контроля - преобразование помех. Если факторы, которые мешают в эксперименте и влияют на результаты являются трудно устранимыми, то они могут рассматриваться экспериментатором как независимые переменные.

Например, при сравнении студентов-психологов дневного и вечернего обучения факторы, которые определяют разницу между этими группами (студенты вечернего отделения старше, относятся к социальной группе рабочих, устают и т. д.) могут рассматриваться как помехи. Однако эти факторы могут быть преобразованы экспериментатором в независимые переменные. 5.

Пятый способ контроля - статистический контроль. Существуют специальные процедуры статистического контроля, которые осуществляются в основном на уровне данных. 6.

Шестой метод контроля - метод повторения. Он заключается в повторном проведении эксперимента. Количество повторений определяется экспериментатором.

Повторение может быть непосредственным, то есть

эксперимент повторяется без изменений. Но такой тип контроля используется редко, так как является примитивным. Напротив, если повторный эксперимент проводится на испытуемых различного типа или в нем используются различные операциональные определения теоретических понятий, то такой эксперимент может рассматриваться как эффективный метод контроля. Совпадение результатов первого и последующих экспериментов позволяет утверждать, что эксперименты взаимно подтверждаются.

Способы сравнения измерений Имеется два основных способа сравнения. 1.

Сравнение внутри объекта исследования, когда различные испытуемые подвергаются воздействию различных значений независимой переменной, то есть двум различным воздействиям, или один испытуемый подвергается воздействию, а другой нет, и т.д. 2.

Сравнение между объектами исследования, когда одни и те же испытуемые подвергаются воздействию каждого из значений независимой переменной.

Начнем с рассмотрения первого типа, то есть сравнения внутри объекта исследования. В объекте выделяется несколько групп испытуемых. Разные группы подвергаются различным по величине значениям независимой переменной. Этот способ может использоваться как для экспериментальных, так и для корреляционных исследований. Данный подход создает проблемы для внутренней валидности. Действительно, спрашивается, можно ли изменение, которое наблюдается в независимой переменной отнести за счет самой переменной, или это изменение уже определяется существующими различиями в группах испытуемых. Тогда необходимо до манипуляции с независимой переменной сформировать группы испытуемых, которые максимально подобны между собой. Чтобы уменьшить разницу между группами испытуемых при сравнении внутри объектов исследования, то есть в подгруппах, используются три различных метода. 1.

Первый метод - это контроль посредством постоянства, который называется также К-методом. Выбирается только одна величина характеристики субъектов, и все группы имеют эту величину. Например, пол - решено провести исследование всех женщин, то есть выбирается одна величина одной или более характеристик. При этом существует уверенность, что все группы, все индивидуумы показывают эту величину. 2.

Второй метод - это контроль посредством каузальной вариации, так называемый R-метод. В данном случае меняются случайным образом характеристики субъектов, которые могли бы повлиять отрицательно на результаты. Посредством привлечения многочисленных субъектов можно постулировать, что характеристики субъектов распределяются внутри каждой группы согласно тому же самому распределению, которое наблюдается в генеральной совокупности. При достаточно большом количестве объектов исследования вполне вероятно, что вступает в действие закон нормального распределения. 3.

Третий метод - это метод парного контроля, или М- метод. В данном случае субъекты приписываются к различным группам согласно данным систематических изменений их характеристик. Речь идет о систематическом распределении субъектов по группам, при этом следят, чтобы испытуемый, обладающий определенной характеристикой, был представлен также в другой группе и т. д. Следовательно, испытуемые попарно объединены в двух группах или уравнены относительно переменной, которая, как считается, может повлиять на результаты. Таким образом, например, в эксперименте можно предположить, что уровень образования может повлиять на результаты, если в каждой группе будет одинаковое количество лиц с низким, средним и высоким уровнями образования. Таким образом, испытуемые выровнены относительно одной переменной (в данном случае уровня образования).

Второй способ сравнения измерений - сравнение между объектами исследования. Одни и те же испытуемые, как отмечалось выше, подвергаются воздействию каждого значения независимой переменной. Это более чувствительное измерение, потому что разница между независимой переменной не может быть отнесена за счет разницы между самими испытуемыми. Однако данный подход не может использоваться в следующих случаях: 1)

когда независимая переменная исследуется корреляционным методом, например, при установлении зависимости между полом испытуемых и их творческими способностями; 2)

когда при сравнении на всех уровнях имеется риск изменить ответ испытуемого по сравнению с тем, каким мог бы быть ответ, если бы испытуемый не был подвергнут другим воздействиям.

Валидность метода. Валидность метода исследования и диагностики (буквально означает “полноценный, пригодный, соответствующий”) показывает, в какой мере измеряется то качество (свойство, характеристика), для оценки которого он предназначен. Валидность (адекватность) говорит о степени соответствия метода своему назначению. Чем ближе раскрывается в диагностике тот признак, для обнаружения и измерения которого предназначен метод, тем выше его валидность.

Понятие валидности относится не только к методике, но и к критерию оценки ее качества, критерию валидности. Это основной признак, по которому можно практически судить о том, является ли данная методика валидной.

Выделяют несколько видов валидности диагностических методик.

Теоретическая (концептуальная) валидность определяется по соответствию показателей исследуемого качества, получаемых с помощью данной методики, показателям, получаемым посредством других методик (с показателями которых должна существовать теоретически обоснованная зависимость). Теоретическую валидность проверяют по корреляциям показателей одного и того же свойства, получаемым при помощи разных методик, связанных с одной и той же теорией.

Эмпирическая (прагматическая) валидность проверяется по соответствию диагностических показателей реальному жизненному поведению, наблюдаемым действиям и реакциям испытуемого. Если, например, с помощью некой методики мы оцениваем черты характера у данного испытуемого, то применяемая методика будет считаться практически или эмпирически валидной тогда, когда мы установим, что данный человек ведет себя в жизни именно так, как предсказывает методика, т.е. в соответствии с имеющейся у него чертой характера.

Внутренняя валидность означает соответствие содержащихся в методике заданий, субтестов, суждений и т.п. общей цели и замыслу методики в целом. Она считается внутренне невалидной или недостаточно внутренне валидной тогда, когда все или часть включенных в нее вопросов, заданий или субтестов измеряют не то, что требуется от данной методики.

Внешняя валидность – это примерно то же самое, что и эмпирическая валидность, с той лишь разницей, что в данном случае речь идет о связи между показателями методики и наиболее важными, ключевыми внешними признаками, относящимися к поведению испытуемого.

Очевидная валидность описывает представление о методе, сложившееся у испытуемого, т.е. это валидность с точки зрения испытуемого. Методика должна восприниматься обследуемым как серьезный инструмент познания его личности, чем-то схожий с медицинским диагностическим инструментарием.

Прогностическая валидность устанавливается с помощью корреляции между показателями методики и некоторым критерием, характеризующим измеряемое свойство, но в более позднее время. Л. Кронбах считает прогностическую валидность наиболее убедительным доказательством того, что методика измеряет именно то, для чего она была предназначена.



Содержательная валидность определяется через подтверждение того, что задания методики отражают все аспекты изучаемой области поведения. Содержательную валидность часто называют “логической валидностью” или “валидностью по определению”. Она означает, что методика валидна по мнению специалистов. Обычно она определяется у тестов достижений. На практике для определения содержательной валидности подбираются эксперты, которые указывают, какая область (области) поведения наиболее важна.

Из описания видов валидности следует, что не существует какого-либо единичного показателя, с помощью которого устанавливается валидность диагностической методики. Тем не менее разработчик должен представить весомые доказательства в пользу валидности предлагаемой методики.

Легко заметить прямую связь валидности с надежностью. Методика с низкой надежностью не может обладать высокой валидностью, поскольку неверен измерительный инструмент и нестабилен тот признак, который он измеряет. Такая методика при сопоставлении с внешним критерием может в одном случае показать высокие совпадения, а в другом – крайне низкие. Понятно, что при таких данных никаких выводов о соответствии методики своему назначению сделать невозможно.

Выведение коэффициента валидности – трудоемкая процедура, не обязательная в тех случаях, когда методика используется исследователем в ограниченных пределах и не предполагается ее применение в широком масштабе. К коэффициенту валидности предъявляют те же требования, что и к коэффициенту надежности: чем более методически совершенен критерий, тем выше должен быть и коэффициент валидности. Низкий коэффициент валидности чаще всего отмечается при акцентировании внимания на второстепенных аспектах.

Надежность метода исследования. Надежность – один из критериев качества результата в диагностике, относящийся к степени точности и устойчивости показателей диагностируемого признака. Чем больше надежность методики, тем свободнее она от погрешностей измерения. В самом широком смысле надежность – это характеристика того, в какой степени выявленные у испытуемых различия по результатам проведения методики являются отражением действительных различий в измеряемых свойствах и в какой мере они могут быть приписаны случайным ошибкам.

В теории диагностики понятие надежности имеет два значения: надежность методики как определенного инструмента (к примеру, пользуясь метром, мы уверены в том, что он остается неизменным, какие бы измерения мы ни производили) и относительная неизменность объекта диагностики (мы должны быть уверены, что в обычных условиях измеренная величина останется неизменной).

Понятие надежности связано с точностью измерений, вернее, с оценкой погрешности и определением на этой основе истинного значения величины.

Существуют три основных приема для оценки надежности диагностической методики.

Прием ретеста, или повторной диагностики, позволяет обработать одни и те же задания, выполненные одними и теми же испытуемыми в разное время, и просчитать взаимосвязь результатов, выраженную в коэффициенте самокорреляции.

Прием деления пополам – подборка однажды выполненных заданий делится пополам (например, в первый полутест входят задания с нечетным порядковым номером, а во второй полутест – с четным), затем устанавливаются результаты каждого испытуемого по обоим полутестам и вычисляется коэффициент корреляции между полученными результатами.

Прием параллельного теста – для измерения одних и тех же знаний конструируются два различных набора заданий, которые по своему содержанию напоминают близнецов; оба параллельных набора заданий предлагаются непосредственно друг за другом или при удобном случае.

Во всех случаях при коэффициенте корреляции методик r > 0,7 методика считается надежной (о коэффициенте корреляции см. в разд. 4.2).

В тестовой методике принято учитывать три коэффициента надежности:

1) коэффициент стабильности, или постоянства, – показатель корреляции между результатами первого и повторного испытаний одним тестом одной и той же выборки испытуемых;

2) коэффициент эквивалентности, или коэффициент корреляции, результатов тестирования одного и того же контингента испытуемых с помощью вариантов одного и того же теста либо разными, но эквивалентными по форме и цели, тестами;

3) коэффициент внутреннего постоянства, или внутренней однородности, который соответствует корреляции результатов частей теста, показанных одними и теми же испытуемыми.

3. Классификации методов педагогического исследования

Существует несколько классификаций методов педагогического исследования. В зависимости от основания классификации методы исследования в педагогике подразделяются на:

· эмпирические и теоретические;

· констатирующие и преобразующие;

· качественные и количественные;

· частные и общие;

· методы сбора эмпирических данных, проверки и опровержения гипотез и теории;

· методы описания, объяснения и прогноза;

· специальные методы, используемые в отдельных педагогических науках;

· методы обработки результатов исследования и др.

К общенаучным методам (используются разными науками) относятся:

· общетеоретические (абстракция и конкретизация, анализ и синтез, сравнение, противопоставление, индукция и дедукция, т. е. логические методы);

· социологические (анкетирование, интервьюирование, экспертные опросы, рейтинг);

· социально-психологические (социометрия, тестирование, тренинг);

· математические (ранжирование, шкалирование, индексирование, корреляция).

К конкретно-научным (конкретно-педагогическим) относятся методы, которые в свою очередь подразделяются на теоретические и эмпирические (практические).

Теоретические методы служат для интерпретации, анализа и обобщения теоретических положений и эмпирических данных. Это теоретический анализ литературы, архивных материалов и документов; анализ основных понятий и терминов исследования; метод аналогий, построение гипотез и мысленного эксперимента, прогнозирование, моделирование и др.

Эмпирические методы предназначены для создания, сбора и организации эмпирического материла - фактов педагогического содержания, продуктов воспитательной деятельности.

К эмпирическим методам относятся, например, наблюдение, беседа, интервьюирование, анкетирование, методы изучения продуктов деятельности учащихся, школьной документации, методы оценивания (рейтинг, педагогический консилиум, самооценка и т. д.), методы измерения и контроля (шкалирование, срезы, тестирование и т. п.), а также педагогический эксперимент и опытная проверка выводов исследования в условиях массовой школы. Как теоретические, так и эмпирические методы обычно используются в комплексе с математическими и статистическими методами, которые применяются для обработки данных, полученных в ходе исследования, а также для установления количественных зависимостей между изучаемыми явлениями.

Математические методы применяются для обработки полученных методами опроса и эксперимента данных, а также для установления количественных зависимостей между изучаемыми явлениями.

Наиболее распространенными математическими методами , применяемыми в педагогике, являются:

· регистрация – выявление наличия определенного качества у каждого члена группы и общий подсчет тех, у кого данное качество имеется или отсутствует (например, число учеников, активно работающих на занятии, и число пассивных);

· ранжирование (ранговая оценка) – расположение собранных данных в определенной последовательности (в порядке убывания или нарастания каких-то показателей) и соответственно определение места в этом ряду каждого исследуемого (например, составление перечня наиболее предпочитаемых одноклассников);

· шкалирование – введение цифровых показателей в оценку отдельных сторон педагогических явлений; для этой цели испытуемым задают вопросы, отвечая на которые они должны выбрать одну из указанных оценок (например, в вопросе о занятии какой-либо деятельностью в свободное время выбрать один из оценочных ответов: увлекаюсь, занимаюсь регулярно, занимаюсь нерегулярно, ничем не занимаюсь).

Статистические методы применяются при обработке массового материала – определения средних величин полученных показателей: среднего арифметического, медианы – показателя середины ряда, подсчет степени рассеивания около этих величин – дисперсии, коэффициента вариации и др.

Вопрос о степени доверия полученным в исследовании резуль­татам волнует не только самих исследователей, но и практических ра­ботников образования. В методологии психологии и педагогики разработано немало критериев и методов оценки качества иссле­довательского процесса и получаемых результатов исследования.

Критерии и показатели в оценке методов исследования. Надеж­ность методов психолого-педагогического исследования во многом зависит от критериев и показателей, по которым происходит изу­чение выбранного для исследования образовательного феномена.

Критерий (от греч. kriterion – средство для суждения) – это признак, на основании которого производится оценка, определе­ние или классификация чего-либо. В диагностике критерием является переменная величина, принимающая разные значения в различных случаях или в разные моменты времени в рамках одного случая. Критерии дают возможность судить о состо­янии объекта исследования.

Показатель (indicator – то, что доступно восприятию, то, что «показывает» наличие чего-либо) – это некоторая величина или качество переменной (критерия), которое может проявляться у конкретного объекта, т.е. это мера проявления критерия, его ко­личественная или качественная характеристика, по которой су­дят о различных состояниях объекта; это внешне хорошо различи­мый признак измеряемого критерия. Можно сказать, что показа­тель выполняет роль эмпирического индикатора критерия.

Принято считать, что количество критериев должно состав­лять не менее трех, а по каждому критерию следует выделять как минимум три показателя. Только тогда можно говорить о полном отображении объекта и предмета диагностики и проявлении каж­дого соответствующего критерия.



Определение критериев и признаков объекта позволяет осуще­ствить переход от абстрактного уровня его описания к конкретным наблюдениям.

Общие требования к методам исследования. Чтобы исследование не превратилось в самоцель, а ста­ло средством совершенствования образовательной практики, каж­дая методика должна иметь следующие составляющие:

– описание, обеспечивающее ее адекватное использование в точном соответствии со стандартами: предмет диагностики, сфе­ра применения, контингент испытуемых, процедура применения;

– подробные сведения о процедуре разработки методики, полученных при этом данных о надежности и валидности;

– однозначное описание выборки стандартизации и характе­ра диагностической ситуации в обследовании;

– процедура подсчета баллов и интерпретации должна быть описана с однозначной ясностью, позволяющей получить иден­тичные результаты при обработке одинаковых протоколов разны­ми пользователями руководства.

В начале XX в. в психологии были официально признаны и при­няты требования, предъявляемые к понятиям и методам исследо­вания и диагностики в наиболее развитых современных науках, – требования операционализации и верификации.

Под операционализацией понимается требование, согласно ко­торому при введении новых научных понятий необходимо четко указывать на конкретные процедуры, приемы и методы, с по­мощью которых можно практически удостовериться в том, что явление, описанное в понятии, действительно существует. Операционализация предполагает указание на практические действия или операции, которые может выполнить любой диагност, чтобы убедиться в том, что определенное в понятии явление обладает именно теми свойствами, которые ему приписываются.

Требование верификации означает, что всякое новое понятие, вводимое в научный оборот и претендующее на получение стату­са научного, обязательно должно пройти проверку на наличие методики экспериментальной диагностики описанного в нем яв­ления. Качество результатов диагностики при этом принято оце­нивать по общепринятым критериям объективности, надежно­сти, валидности и др.

Объективность характеризуется корреляцией (совпадением или согласованностью) между результатами, полученными двумя оце­нивающими лицами. Необходимо, чтобы коэффициенты корре­ляции в этом случае были близки к единице (r = 1).

Для большей объективности обработки данных рекомендуется в анкетировании, тестировании, наблюдении использовать кос­венные (диагностируемые факты не называются, а предполагают­ся), альтернативные (с несколькими вариантами ответов) вопро­сы. В целях обеспечения объективности проведение, обработка и интерпретация (оценка) результатов работы должны быть строго нормированы.

Стандартизация –это единообразие процедуры проведения и оценки выполнения диагностического метода. Стандартизированность в диагностике – это неизменность заданных вопросов и задач, точность соблюдения испытуемыми инструкции, а диагно­стами – способов вычисления и интерпретации полученных показателей. Сопоставимость в педагогической диагностике допус­кает более широкое сравнение результатов тестирования с дан­ными других научно-практических методов: наблюдения, беседы, анализа продуктов деятельности (письменных работ, рисунков, поделок), поведения и общения.

Объективность проведения измерений требует, например, что­бы все учащиеся были подвергнуты одному и тому же испытанию в аналогичных условиях (испытание должно длиться для всех оди­наковое количество времени; необходимо следить за тем, чтобы учащиеся не списывали друг у друга в процессе выполнения рабо­ты и т.д.).

Стандартизация предусматривает унификацию инструкций ра­бочих бланков, способов регистрации результатов, условий про­ведения обследования. Унифицированные задания для всех испы­туемых, одинаковый отрезок времени диагностирования, четкое описание критериев оценки, равные условия взаимодействия ис­пытуемых с диагностом – основа объективности результатов диа­гностики.

Об объективности интерпретации можно говорить в том слу­чае, если несколько лиц одинаковым образом описывают одни и те же результаты при обработке данных, устанавливают одни и те же взаимосвязи, так как при оценке разными людьми одной и той же работы испытуемого с открытыми вопросами (свободной формой конструирования ответа) может отличаться субъектив­ность обработки данных.

Надежность метода исследования. Надежность – один из кри­териев качества результата в диагностике, относящийся к степе­ни точности и устойчивости показателей диагностируемого при­знака. Чем больше надежность методики, тем свободнее она от погрешностей измерения. В самом широком смысле надежность – это характеристика того, в какой степени выявленные у испы­туемых различия по результатам проведения методики являют­ся отражением действительных различий в измеряемых свой­ствах и в какой мере они могут быть приписаны случайным ошибкам.

Существуют три основных приема для оценки надежности диа­гностической методики.

1. Прием ретеста, или повторной диагностики, позволяет обра­ботать одни и те же задания, выполненные одними и теми же испытуемыми в разное время, и просчитать взаимосвязь результа­тов, выраженную в коэффициенте самокорреляции.

2. Прием деления пополам –подборка однажды выполненных за­даний делится пополам (например, в первый полутест входят за­дания с нечетным порядковым номером, а во второй полутест – с четным), затем устанавливаются результаты каждого испытуе­мого по обоим полутестам и вычисляется коэффициент корреля­ции между полученными результатами.

3. Прием параллельного теста –для измерения одних и тех же знаний конструируются два различных набора заданий, которые по своему содержанию напоминают близнецов; оба параллельных набора заданий предлагаются непосредственно друг за другом или при удобном случае.

Во всех случаях при коэффициенте корреляции методик r >0,7 методика считается надежной.

В тестовой методике принято учитывать три коэффициента надежности:

коэффициент стабильности, или постоянства, – пока­затель корреляции между результатами первого и повторного испытаний одним тестом одной и той же выборки испытуе­мых;

коэффициент эквивалентности, или коэффициент корреля­ции, результатов тестирования одного и того же контингента ис­пытуемых с помощью вариантов одного и того же теста либо раз­ными, но эквивалентными по форме и цели, тестами;

коэффициент внутреннего постоянства, или внутренней од­нородности, который соответствует корреляции результатов час­тей теста, показанных одними и теми же испытуемыми.

Валидность метода. Валидность метода исследования и диа­гностики показывает, в какой мере измеряется то качество (свойство, характеристика), для оценки которого он предназна­чен. Валидность (адекватность) говорит о степени соответствия метода своему назначению. Чем ближе раскрывается в диагностике тот признак, для обнаружения и измерения которого предна­значен метод, тем выше его валидность.

Понятие валидности относится не только к методике, но и к критерию оценки ее качества, критерию валидности. Это основной признак, по которому можно практически судить о том, является ли данная методика валидной.

Такими критериями могут стать следующие:

– поведенческие показатели – реакции, действия и поступки испытуемого в различных жизненных ситуациях;

– достижения испытуемого в различных видах деятельности – учебной, трудовой, творческой и др.;

– самоорганизация, данные, свидетельствующие о выполне­нии различных контрольных проб и заданий;

– данные, получаемые при помощи других методик, валид­ность или связь которых с проверяемой методикой считается до­стоверно установленной.

Чем выше коэффициент корреляции методики с критерием, тем выше валидность.

Выделяют несколько видов валидности диагностических мето­дик.

1. Теоретическая (концептуальная) валидность определяется по соответствию показателей исследуемого качества, получаемых с помощью данной методики, показателям, получаемым посред­ством других методик (с показателями которых должна существо­вать теоретически обоснованная зависимость). Теоретическую ва­лидность проверяют по корреляциям показателей одного и того же свойства, получаемым при помощи разных методик, связан­ных с одной и той же теорией.

2. Эмпирическая (прагматическая) валидность проверяется по соответствию диагностических показателей реальному жизненному поведению, наблюдаемым действиям и реакциям испытуемого. Если, например, с помощью некой методики мы оцениваем чер­ты характера у данного испытуемого, то применяемая методика будет считаться практически или эмпирически валидной тогда, когда мы установим, что данный человек ведет себя в жизни имен­но так, как предсказывает методика, т.е. в соответствии с имею­щейся у него чертой характера.

3. Внутренняя валидность означает соответствие содержащихся в методике заданий, субтестов, суждений и т.п. общей цели и за­мыслу методики в целом. Она считается внутренне невалидной или недостаточно внутренне валидной тогда, когда все или часть включенных в нее вопросов, заданий или субтестов измеряют не то, что требуется от данной методики.

4. Внешняя валидностъ –это примерно то же самое, что и эмпи­рическая валидность, с той лишь разницей, что в данном случае речь идет о связи между показателями методики и наиболее важ­ными, ключевыми внешними признаками, относящимися к по­ведению испытуемого.

5. Очевидная валидность описывает представление о методе, сло­жившееся у испытуемого, т.е. это валидность с точки зрения ис­пытуемого. Методика должна восприниматься обследуемым как серьезный инструмент познания его личности, чем-то схожий с медицинским диагностическим инструментарием.

6. Конкурентная валидность оценивается по корреляции разрабо­танной методики с другими, валидность которых относительно измеряемого параметра установлена.

7. Прогностическая валидность устанавливается с помощью кор­реляции между показателями методики и некоторым критерием, характеризующим измеряемое свойство, но в более позднее вре­мя.

8. Инкрементная валидность имеет ограниченное значение и от­носится к случаю, когда один тест из батареи тестов может иметь низкую корреляцию с критерием, но не перекрываться другими тестами из этой батареи. В этом случае данный тест обладает инкрементной валидностью. Это может быть полезно при проведе­нии профотбора с помощью психологических тестов.

9. Дифференциальная валидностъ может быть проиллюстрирована на примере тестов интересов. Тесты интересов обычно коррелиру­ют с академической успеваемостью, но по-разному для разных дисциплин. Значение дифференциальной валидности, так же как и инкрементной, ограничено.

10. Содержательная валидность определяется через подтверждение того, что задания методики отражают все аспекты изучаемой об­ласти поведения. Содержательную валидность часто называют «ло­гической валидностью» или «валидностью по определению». Она означает, что методика валидна по мнению специалистов. Обыч­но она определяется у тестов достижений. На практике для опре­деления содержательной валидности подбираются эксперты, ко­торые указывают, какая область (области) поведения наиболее важна.

11. Конструктная валидность демонстрируется полным, насколь­ко это возможно, описанием переменной, для измерения кото­рой предназначается методика. Конструктная валидность включа­ет в себя все подходы к определению валидности, которые были перечислены выше.

Существует прямая связь валидности с надежностью. Ме­тодика с низкой надежностью не может обладать высокой валид­ностью, поскольку неверен измерительный инструмент и неста­билен тот признак, который он измеряет.

С.А.Белановский, [email protected]

В широком смысле слова валидность, т.е. обоснованность метода, означает соответствие получаемых с его помощью эмпирических данных основным целям исследования. Вопрос о валидности качественных методов в предшествующие годы был сильно запутан специалистами по математической статистике, которые распространили весьма специфичные статистические критерии валидности на классы задач и исследовательских ситуаций, не имеющих ничего общего с идеальными объектами типа вынимаемых из корзины разноцветных шаров, которыми оперирует теория вероятности.

Прежде, чем перейти к описанию качественных исследований, особенно групповых, следует охарактеризовать их отличия от количественных исследований. Чтобы понять эти отличия полнее, необходимо разобраться в том, что, собственно говоря, является «ошибкой» исследования.

Количественные социологические исследования являются разновидностью исследований, в основании которых лежит математическая теория вероятности. В числе аксиоматических предпосылок этой теории имеется весьма важная предпосылка о том, что различия между анализируемыми объектами ограничены фиксированным набором дискретных признаков. К примеру, шары, лежащие в корзине, различаются по цвету, размеру и нарисованным на них цифрам. Люди, соответственно, могут различаться по своим демографическим признакам, установкам и тд., причем важно отметить, что в любом конкретном анкетном опросе набор признаков ограничен числом квантифицированных вопросов анкеты, а все прочие возможные признаки предполагаются идентичными.

Основным критерием, характеризующим исследование статистического типа, является надежность, т.е. воспроизводимость полученных результатов. Если провести повторный опрос по той же методике в той же самой социальной группе, и результаты обоих опросов будут идентичны - значит, они надежны. Сегодня никто не оспаривает тот факт, что при правильно проведенном массовом репрезентативном опросе с помощью формализованных анкет автоматически достигается высокая степень воспроизводимости результатов. Однако вопрос их валидности этим далеко не исчерпывается.

В математической социологии валидность исследования принято трактовать как степень соответствия средства измерения тому, что подлежало измерению . Словарь поясняет далее, что в строгом смысле слова валидизация возможна лишь при наличии независимого внешнего критерия, но такая ситуация в социологии является редкостью. Во всех остальных случаях валидность результатов количественных опросов является не более чем гипотезой, оценка степени правдоподобия которой не имеет ничего общего с математическими и статистическими процедурами. Низкая степень правдоподобия многих неявных содержательных гипотез, латентно закладываемых исследователями в формулировки и структуру формализованных вопросов, а порой и полное отсутствие такого правдоподобия, является очень серьезной и плохо осознанной проблемой.

Таким образом, статистическую надежность результатов количественных исследований не следует путать с их надежностью и обоснованностью в широком смысле этого слова. Строго говоря, количественные исследования надежны лишь в той мере, в какой саму проблему надежности удается свести к ее статистическому толкованию. Если такое сведение не удалось или в принципе невозможно, количественные данные становятся крайне ненадежной основой для выводов.

Сравнивая количественные и качественные методы с точки зрения их валидности, следует прежде всего отметить, что сферы их валидного применения не совпадают друг с другом. Это делает бессмысленным обобщенное сравнение их по критерию валидности. Существуют классы задач, в которых количественные методы обладают высокой, а качественные низкой валидностью. Вместе с тем существуют - и этот аспект обычно слабо подчеркивается даже в специальной литературе - другие классы задач, в которых указанное соотношение прямо противоположно.

В задачу нашего учебника не входит рассмотрение вопросов методологии качественных методов вообще. Специфика фокус-групп, а также индивидуальных глубоких интервью, если они проводятся большими сериями, состоит в том, что к ним, по крайней мере теоретически, также применимы статистические критерии обоснованности, хотя и иные, чем в количественных исследованиях.

Текстовые расшифровки серии групповых интервью, проведенных на определенную тему, образуют массив первичных данных объемом в несколько сотен страниц. Этот массив вполне пригоден для анализа с применением статистических методов как с точки зрения его размеров, так и с точки зрения разнородности. Разнородность массива обеспечивается участием нескольких десятков респондентов, что уже дает основания для приблизительного распределения однотипных ответов по трехчленной или пятичленной шкале: явное меньшинство, меньшинство, примерно поровну, большинство, явное большинство. Главное, однако, состоит не в этом. Специфика массива первичных данных групповых интервью состоит в том, что:

  1. Единицей анализа является не респондент, а высказывание. Поскольку каждый респондент является носителем многих высказываний, это, как минимум, на порядок увеличивает массив первичных аналитических единиц, делая его статистически значимым.
  2. В задачу качественных исследований не входит определение численности или удельного веса носителей той или иной точки зрения в обществе или его сегменте. По отношению к такому классу проблем качественные методы невалидны.

Задачей качественных методов является формирование списка так называемых «гипотез существования», т.е. списка мнений, оценок или высказываний, существующих в обществе и, предположительно, имеющих не нулевую степень распространения. При этом, как отмечает Д.Темплтон, предпочтительнее ошибиться, выявив несуществующий или малозначимый фактор, чем упустить высокозначимый.

Математический аппарат, приспособленный для решения задач подобного типа, в принципе хорошо известен. Он используется в лингвистке при составлении списков звуков и слогов, а также частотных словарей слов и словосочетаний. Этот же аппарат используется и в социологических исследованиях, осуществляемых с помощью контент-анализа. Применительно к последнему случаю математическая постановка задачи выглядит примерно так: «Имеется кандидат в президенты А, о котором пишут в газетах. Требуется составить как можно более полный список эпитетов, которыми авторы статей характеризуют данного кандидата. Какой объем газетных текстов следует изучить, чтобы с вероятностью 95% число невыявленных эпитетов не превысило 5% ?»

Как и подавляющее большинство прикладных статистических задач, данная задача не решаема без определенных предварительных знаний о характере частотного распределения искомых эпитетов, а также без некоторых априорных допущений. В зависимости от практического удобства выбора той или иной системы допущений сама постановка задачи может варьироваться. Углубление в этот вопрос выходит за рамки нашей темы, поскольку в прикладных исследованиях, осуществляемых с помощью метода фокус-групп, статистический аппарат, подобный описанному выше, если где-то и применяется, то лишь в узкоспециальных исследованиях, далеких от сферы применения маркетинговых фокус-групп. Основных причин этому видится две. Первая - применение такого аппарата сильно удорожает исследования, а коммерческий заказчик не склонен оплачивать математические «красоты», если они никак не влияют на конечные выводы. По ряду причин, которые будут описаны ниже, и заказчики, и исследователи считают вполне достаточной ориентацию на следующий субъективный критерий: если количество новой информации, получаемой от каждой следующей группы, резко упало, исследование следует прекращать.

Вторая причина гораздо более фундаментальная. Она связана с тем, что сегодня строго операциональное и поддающееся автоматизации вычленение из текстов смысловых единиц возможно только на уровне слов и устойчивых словосочетаний. Вычленение, группировка и тапологизация более сложных смысловых единиц, осуществляемые на аналитической стадии качественного социологического исследования, могут выполняться только человеком на основе еще не изученных бессознательных интеллектуальных алгоритмов. Быстрый прогресс в развитии компьютерных программ автоматизированного перевода дает возможность предположить, что с течением времени станет осуществимым автоматизированное распознавание все более сложных смысловых единиц. Однако на практику фокус-групповых исследований эта работа пока не оказывает никакого влияния. При изучении литературы по маркетинговым фокус-группам мы ни разу не встречались с упоминанием о применении контент-анализа в какой бы то ни было форме. В области академических исследований такие упоминания имеются , однако изучение данного вопроса требует специальной работы. Отметим здесь же, что в начале 90-х годов наиболее современной работой по методам компьютерного контент-анализа считалась работа Вебера .

Резюмируя, обратимся к вопросу определения областей валидное™ количественных и качественных исследований. Выше было показано, что эти области принципиально различны, поскольку радикально различны решаемые ими классы задач. Область валидного применения формализованных опросов только на первый взгляд кажется беспредельной или очень широкой. На самом деле она ограничена выявлением степени распространенности тех или иных знаний, мнений или установок, которые:

    а) должны быть известны заранее, т.е. до проведения опроса;

    б) не должны быть навязываемой респонденту фикцией или псевдосуждениями, не свойственными его сознанию.

Для выявления самого факта существования знаний, мнений или установок количественные методы непригодны, что хорошо видно из следующего сравнения результатов опроса.

А. Количественное исследование

Вопрос: Что Вы предпочитаете - яблочный пирог или шо­коладный кекс? (% к числу опрошенных)

    Яблочный пирог - 26%

    Шоколадный кекс - 22%

    И то, и другое - 43%

    Затрудняюсь ответить - 9%

Б. Качественное исследование

Вопрос: Что Вы предпочитаете - яблочный пирог или шоколадный кекс?

Ответ: Я не знаю. Я люблю и то, и другое.

Вопрос: Хорошо, если Вам надо взять что-то одно, что это будет? Подумайте.

Ответ: Конечно, пироги различаются. Если у меня будет возможность взять яблочный пирог моей мамы, то я предпочту его любому шоколадному кексу. Если необходимо взять какой-то яблочный пирог, то я точно не знаю.

Вопрос: От чего еще может зависеть Ваш выбор?

Ответ: Например, это зависит от того, что я ем на обед. Если у меня полный обед, я думаю, что возьму яблочный пирог. Яблочный пирог - это большой деликатес в моей семье. Но если на обед я ел что-то легкое, типа рыбы, то лучше взять кекс. Если холодно, я не откажусь от шоколадного кекса [б3] .

Приведенный диалог хорошо иллюстрирует тот факт, что простой ответ «Я выбираю яблочный пирог» зависит от многих факторов, в данном случае - от того, кто приготовил этот пирог, от степени голода, плотности обеда, температуры окружающей среды. Этот список, вероятно, может быть продолжен. Но, как и во многих других случаях, число таких факторов или, по крайней мере, наиболее распространенных из них, по-видимому, не очень велико. Задачей качественного исследования, как уже говорилось, является выявление списка этих факторов с разумной степенью полноты. В этой области качественные исследования обладают высокой степенью валидности. Определение частотного распределения действия выявленных факторов в изучаемой популяции - дело количественного исследования. Важны, однако, две оговорки:

    а) с практической точки зрения затраты на проведение количественного исследования могут превышать ожидаемый риск от принятия волевого решения, основанного на менее точной информации;

    б) адекватная трансформация выявленных факторов в вопросы формализованной анкеты часто затруднена или невозможна, причем часто чрезвычайно трудно бывает даже определить возможную степень этой неадекватности.

Эти обстоятельства нередко снижают валидность количественных исследований до такой степени, что их проведение становится нецелесообразным.

Лишь в тех случаях, когда гипотеза о валидности формулировок вопросов формализованных анкет выглядит обоснованной или правдоподобной, количественное исследование может дать валидный результат, позволяющий принять решение, основанное на более точной информации.

§ 2.2. Группа как модель социума

В большинстве исследуемых человеческих проблем доминирующим является социальный аспект. Людей можно понять либо через их взаимоотношения друг с другом, либо через их собственное внутреннее содержание как индивидуумов. Метод индивидуального интервью при определенных условиях может свести к минимуму действие первого фактора, побуждая опрашиваемого всматриваться в себя. В противоположность этому группы обеспечивают, в основном, социальный контакт. В исследованиях, посвященных изучению способов, которыми взаимодействуют люди и идеи, этот аспект становится особенно важен. Еще на заре своего существования социология показала, что личные мнения людей формируются не в изоляции, причем огромную роль в их формировании играют первичные группы, общение шлицом к лицу».

Группа, созданная для проведения интервью, является, конечно, весьма искусственной моделью общества, но все же групповое взаимодействие обязывает участников, выражая свои мнения, отвечать при этом на мнения других. Это является весьма существенным фактором, где большинство (включая и самих исследователей) имеют ограниченную способность для самонаблюдения и самоанализа, равно как и ограниченную способность для словесного выражения своего понимания проблем, которые у них есть. Часто в интервью люди формируют ответы на вопросы, которые они, в действительности, никогда не задавали себе сами. В обыденном поведении так много организуется и мотивируется на подсознательном или полусознательном уровне, и в нем так много привычного и автоматического, что даже организованно мыслящий человек обладает весьма ограниченным проникновением в свои собственные установки и мотивации. В группе людям может помочь, с одной стороны, собственное взаимодействие с другими членами группы, а с другой - наблюдение и вылушивание других взаимодействующих людей.

Социодинамика, управляющая групповым процессом, описана психологом Вернером, который разработал модель этого процесса. Согласно Вернеру, он включает в себя три стадии: 1) недифференцированной общности; 2) дифференциации; 3) иерархической интеграции .

Когда группа собирается впервые, то ее члены рассматриваются модератором и самими участниками как недифференцированное целое. Группа представляет собой 8-10 человек, сидящих вокруг стола без какой-либо социальной структуры, организующей личные взаимодействия. Между членами группы не наблюдается никакого различия, за исключением их внешности. На этом этапе группа представляет собрание людей, не идентифицированных индивидуальными характеристиками или отношениями друг к другу.

От этапа недифференцированной общности процесс очень быстро переходит к тому, что каждый член группы становится отличим от других. Участников группы просят идентифицировать себя относительно своего взгляда на продукт или услугу, подлежащие обсуждению; они могут выступать в роли сторонников, противников или занимать среднюю позицию между этими ролями.

Дифференциация неизбежно происходит также и по характеристикам, которые напрямую не связаны с обсуждаемым вопросом. Достаточно быстро между членами группы обозначаются различия, связанные с личностными характеристиками доминирование или уступчивость; открытость или замкнутость; агрессивность или застенчивость. Различия, связанные с отношением к обсуждаемому предмету, вместе с личностными различиями образуют основание, на котором строится окончательный этап процесса.

После того как члены группы дифференцировались, можно увидеть постепенное возникновение истинного лица группы, т.е. системы взаимоотношений, образующих некую социальную структуру. Доминирующие члены группы, стремящиеся к ведущим ролям, могут выдвигать наиболее сильные аргументы «за» или «против» обсуждаемого продукта. Остальные члены будут пытаться высказывать свое мнение менее прямым и категоричным образом. Самые уступчивые вообще не будут высказываться до тех пор, пока не получат одобрения со стороны лидеров. Постепенно участники осознают свое сходство с некоторыми другими участниками и объединяются на этой основе. Таких неформальных объединений обычно возникает два или три. Во главе каждого из них стоит свой лидер. Процесс структурирования группы носит название иерархической интеграции.

Иерархически интегрированная группа всегда выдвигает как лидеров, так и их последователей, причем как среди сторонников, так и среди их противников. Это моделирует процесс взаимодействия, происходящий в более широком социальном окружении за пределами группы. Как уже говорилось, одна из основных ценностей группового интервью состоит в том, что группа в качестве микрокосма, моделирует большое общество. Лидеры в групповом интервью, скорее всего, явля­ются лидерами и в своем собственном социальном окружении; последователи лидеров в данной группе, скорее всего, являются последователями подобных лидеров и в своей социальной среде.

Таким образом, в групповом интервью происходят два важных процесса:

  1. Дифференциация участников в связи с их отношением к обсуждаемому предмету.
  2. Интеграционные социальные процессы, по которым формируются эти отношения, становятся очевидными, наглядными, а не подразумеваемыми.

Описанные выше механизмы позволяют модератору при проведении группового интервью не предпринимать никаких специальных усилий для развития иерархической структуры группы. Лидеры мнений естественным образом должны сами появляться в том случае, когда им это разрешают. Процесс выдвижения лидеров должен контролироваться, так как давление доминирующего поведения может подорвать развитие группы, необходимое для получения объективной информации.

Концепция иерархической интеграции, акцентирующая позитивную роль лидерства, вступает в определенное противоречие с предшествующей системой взглядов на групповой процесс, в рамках которых лидерство рассматривалось как вредное явление, а каждый участник должен был получить равное время и равные возможности. Ныне эта точка зрения считается устаревшей. Блокирование процессов иерархической организации группы разрушает методические основания для ее проведения. Только в том случае, когда происходит иерархическая интеграция, появляется возможность проверки на прочность структуры потребительских взглядов в окружении, которое наиболее приближено к ситуации, когда люди выражают друг другу свое мнение и в соответствии с ним принимают решение. Процедура индивидуального интервью обычно не подвергает взгляды респондента столь жесткому и реалистичному тесту. В сравнении с индивидуальным интервью иерархически интегрированная группа создает окружение, в котором, как отмечает Аксельрод, неожиданные разоблачения совмещаются со свободой респондентов поддерживать друг друга .

Модераторы и опытные наблюдатели часто отмечают, что результатом иерархической организации становится проявление признания социальных ролей внутри каждой группы. Респонденты могут принять эти роли на основе своих личностных черт и социальной позиции, занимаемой ими вне группы, часто сопровождая роль, которую они собираются играть, выразительными комментариями и жестами. Так как каждая группа представляет собой вновь возникающий микрокосм, в котором два или три лица могут конкурировать в лидерстве, то динамика группового процесса, несомненно, должна формировать эти роли в ходе обсуждения. Каждый индивид получает свое место в формирующейся структуре отношений, и это место признается другими участниками.

Существует еще один аспект группового взаимодействия, важный с методической точки зрения. В индивидуальных интервью язык: используемый респондентом, часто сильно отличается от естественного. Этот эффект выражен тем сильнее, чем более велика социальная дистанция между интервьюером и опрашиваемым. Усилия по минимизации этого искажения, в общем, являются неэффективными. В групповом интервью эта проблема снимается сама собой. Язык группового обсуждения всегда естественен, и интервью не в состоянии его изменить.

Итак, появление лидеров в групповом интервьюировании является нормальным процессом, и его не следует подавлять. Вместе с тем следует подчеркнуть, что квалифицированное ведение группы требует непрерывного управления ее развивающейся социальной структурой. Модератор должен видеть, какие отношения развиваются естественно, но он не должен при этом отказываться от права арбитра. В отличие от антрополога, пытающегося взглянуть на культуру с почти невидимой точки наблюдения (играя роль наблюдателя, не принимающего участия), модератор группы должен проявлять свой авторитет, т.е. время от времени вмешиваться в процесс, происходящий в группе, чтобы не была сведена к минимуму ее информационная ценность. Главы, описывающие специфическую технику ведения групп, дают указания, как пользоваться этим авторитетом.

§ 2.3. Подходы к анализу групповых интервью

В основе осмысления и анализа материалов фокус-групп и большинства других качественных методов лежит так называемая концептуальная триангуляция, т.е. соотнесение друг с другом разных систем взглядов. Концептуальную триангуляцию не следует путать с методической триангуляцией, которая означает сочетание различных методов при исследовании одной и той же конкретной проблемы.

Число возможных концептуальных триангуляции зависит от числа точек зрения на соответствующий вопрос. Эти точ­ки зрения, или системы взглядов, могут принадлежать либо к обыденному, либо к научному мышлению, т.е., следуя терминологии Б.Халдера, представлять собой концептуальные конструкции либо первого, либо второго порядка [б8] . Обыденные точки зрения различаются в зависимости от принадлежности людей к разным субкультурам, а также в зависимости от других факторов, вплоть до индивидуальных стилей мышления. Научные точки зрения или, лучше сказать, разработанные наукой концептуальные трактовки также различаются прежде всего в зависимости от принадлежности ученого к той или иной научной дисциплине, затем к той или иной школе и, наконец, в зависимости от индивидуальной системы научных взглядов. Если рассматривать концептуальные взаимодействия на уровне различий в индивидуальных стилях мышления, то число таких взаимодействий окажется бесконечным, в результате чего возникает термин «бесконечная триангуляция» . Если ограничить рассмотрение в обыденном мышлении только взаимодействиями культур и субкультур, а в научном - смежными дисциплинами и научными школами, то число возможных концептуальных взаимодействий резко сократится, но все же останется достаточно велико. Но если свести вопрос к проблеме взаимодействия стилей мышления, свойственных различным субкультурам (как обыденным, так и научным), к обмену мнениями по какому-то конкретному предмету, то число релевантных точек зрения становится обозримо и обычно даже невелико.

Когда в процессе группового обсуждения сталкиваются две или более точки зрения, этот процесс может быть назван триангуляцией между конкурирующими или сосуществующими точками зрения в обыденном сознании. Процесс такого взаимодействия уже описан нами выше. В данном параграфе мы будем условно рассматривать групповую точку зрения как единую, чтобы определить, с позиций каких иных систем взглядов она может быть изучена.

В маркетинговых фокус-групповых исследованиях имеются три основные ролевые позиции: респонденты, организация-заказчик и исследователь. Исследователи, как уже говорилось, могут принадлежать к разным научным школам. Не менее важно, что один и тот же исследователь может анализировать результаты обсуждения с точки зрения разных непересекающихся систем взглядов (например, психологическая теория и маркетинг). Кроме того, у исследователя имеется своя компонента обыденного мышления, которая тоже задействована в анализе. Взаимодействие между системами взглядов заказчика и исследователя есть несомненный и очень важный элемент, который играет значительную роль на протяжении всего фокус-группового исследования. Ниже будет показано, в чем конкретно это проявляется. Однако здесь мы ограничимся описанием взаимодействий мышления заказчика и исследователя с мышлением респондентов. Поскольку указанные взаимодействия односторонни (взгляды респондентов являются объектом изучения с позиций внешних наблюдателей), мы будем называть эти системы взглядов аналитическими подходами к изучению мнений, или просто подходами. Перечислим основные подходы, с позиций которых анализируются мнения участников групп,

Менеджерский подход. Б.Калдер неточно называет его «феноменологическим», обозначая этим термином анализ взглядов потребителей с точки зрения взглядов производителей или, в более широком смысле, с точки зрения заказчиков исследования. Исследователь в этом случае выполняет функцию ретранслятора, обеспечивая коммуникацию между этими системами взглядов. По образному выражению Аксельрода , фокус-группы дают производителю шанс побыть в плоти и крови потребителя, поставить себя на его место и посмотреть на свою продукцию его глазами. Поскольку основные аспекты обыденного знания разделены в обществе по социальным классам и группам, многие черты этого знания не являются едиными. В большей части случаев как заказчик, так и специалисты-исследователи принадлежат к социальным слоям, интерсубъективность (социально обусловленные мнения) которых не совпадает с той, которая характерна для представителей изучаемых сегментов рыночного или электорального пространства.

Иллюстрацией к сказанному, а также примером, иллюстрирующим силу метода фокус-групп, может служить высказывание Темплтон о том, что если язык и мышление респондентов не слишком загрязнены ожиданиями исследователей, то многие их слова могут произвести шоковое впечатление на заказчиков. Так, производитель дорогостоящей косметики, предназначенной для женщин среднего возраста, был буквально потрясен, услышав, как одна из участниц обсуждения назвала его увлажняющий крем «жиром» . Гринбаум сообщает о другом случае, когда высокопоставленный менеджер корпорации был настолько возмущен высказываниями одной респондентки, что в нарушение всех правил подкараулил ее у выхода и устроил ей большой разнос [б5] . Действия этого менеджера, конечно, нельзя назвать эффективной маркетинговой стратегией, но они показывают, что благодаря процессам триангуляции для разработки таких стратегий могут возникать довольно сильные мотивации, которые необходимо лишь направить в нужное русло. Применительно к своему примеру Темплтон ставит вопрос так: «Что должны узнать потребители о данном изделии, чтобы они перестали называть его жиром?».

Маркетинговый подход. Хотя трудно сказать, является ли маркетинг научной дисциплиной, он, во всяком случае, включает в себя определенную систему представлений о топономии рыночного пространства, т.е. о конкурирующих человеческих потребностях, динамике спроса, сегментах рынка, конкурентной борьбе между продуктовыми категориями и внутри них ("межвидовая" и «внутривидовая» борьба) и т.д. По нашему мнению, специфичный угол зрения на маркетинговые проблемы, формирующийся у исследователей, непосредственно работающих с фокус-группами потребителей, недостаточно представлен в учебниках по маркетингу и, вообще, по-видимому, плохо отрефлексирован. Последнее дает основания отнести маркетинговые знания не к научному, а скорее к очень специфичному обыденному знанию, спонтанно формирующемуся в «модераторской субкультуре». Во всяком случае, опрошенные модераторы и авторы учебников по фокус-группам единодушны в мнении о том, что, с одной стороны, рост их общей квалификации в очень большой степени зависит от роста понимания ими маркетинговых проблем; с другой стороны, - что стандартные курсы обучения маркетингу оцениваются как полезные, но не дающие нужной квалификации.

Так или иначе, маркетинговая квалификация помогает исследователю адекватно понимать как заказчика, так и респондентов, служить эффективным коммуникатором между ними (это сродни работе переводчика) и, наконец, вносить свою лепту в итоговые выводы. Эта «лепта» не является информацией, полученной от респондентов или заказчиков, а скорее является аккумулированным опытом прошлой работы модераторов.

Политологический подход. Этот подход используется вместо маркетингового в тех случаях, когда предмет исследования связан не с товарами, а с имиджами политических деятелей и политической рекламой. Этот ракурс политологии является системой представлений о топонимии электорального пространства. Структура и функциональные свойства электорального и маркетингового пространств имеют черты как сходства, так и различия. Данный вопрос относится к числу малоизученных.

Не имея возможности подробно изложить систему политологических взглядов на политические процессы, приведем цитату, в известной мере характеризующую специфику этих взглядов.

"Важнейшей чертой политического лидера является то, что его общение с последователями редко является непосредственным. Это означает, что между лидером и публикой появляется такой специфический элемент, как имидж. Таким образом, в качестве лидера мы имеем не некоторую реальную личность, а некоторый искусственный конструкт, который может обладать практически любыми заданными характеристиками, соответствующими ожиданиям публики. Задача политического консультанта, работающего над формированием имиджа лидера -- обозначить и стимулировать желательные ассоциации так, чтобы избиратели поверили, что кандидат осуществит их мечты, надежды и потребности. Политические кампании как способ построения имиджа политака организуются таким образом, чтобы на выходе он оказался наделенным в глазах публики определенным набором качеств, которые делают его достойным лидерского поста" .

Клинический подход- Этот подход основан главным образом на использовании проективных методик, ориентированных на выявление неосознаваемых форм мотивации. Указанные методики, в свою очередь, опираются на совокупность психологических теорий, сформированных в основном в клинической психологии и психиатрии и перенесенных затем на область нормального функционирования психики. Сам термин «клинический подход» возник как отражение связи этого подхода с указанными теориями, а также с практикой клинической психотерапии.

Специфика клинического подхода состоит в том, что он опирается не на какую-то одну научную теорию и даже не на одну научную традицию, а на сложный конгломерат наслаивающихся друг на друга разнородных концепций и систем взглядов. Объективная проверка этих концепций и выводов, делаемых на их основе, сильно затруднена, что вносить работу клинического психолога заметный элемент субъективизма и подмены анализа высказываний респондентов анализом элементов собственной системы мотиваций .

Интерпретация высказываний респондентов с позиций клинического подхода связана, таким образом, с определенным риском, однако с практической точки зрения этот риск может быть оправданным, если возникает необходимость в обобщении случаев поведения, которые невозможно объяснить прямым путем на основе самоотчета опрашиваемых лиц. Фрейдистский тезис о том, что самоотчет часто является лишь ширмой, скрывающей истинные причины поведения, находит свое подтверждение в различных случаях маркетинговой и рекламной практики. Во всяком случае, остается фактом, что клинический подход оказывает глубокое влияние на практиков, проводящих маркетинговые исследования с помощью качественных методов, включая и тех, кто первоначально не имел опыта работы в области клинической психологии. Влияние клинического подхода на стиль проведения фокус-групп и на интерпретацию результатов за последнее десятилетие сильно возросло.

Социологический подход. Существование такого подхода не упоминается ни в одном учебнике и ни в одной публикации, что ставит вопрос о самом его существовании. В случае отрицательного ответа возникает парадокс: метод группового интервьюирования, генетически связанный с методической традицией социологических опросов, оказывается никак не связан с традицией теоретической социологии.

В маркетинговых фокус-группах интерпретирующая роль социологических теорий, несомненно, проявляет себя менее явно, чем роль менеджерского, маркетингового и клинического подходов, хотя влияние теорий малых групп и социологии знания, в т.ч. феноменологической, на наш взгляд, может быть прослежено. Влияние прочих областей социологической теории является, по-видимому, более опосредованным, но и оно, по-видимому, существует. О наличии такого опосредованного влияния свидетельствует то, что для работы модератора или аналитика фокус-групп в равной степени считается желательным базовое образование как социолога, так и психолога.

Ограниченность списка аналитических подходов при использовании фокус-групп связано, на наш взгляд, с ограниченностью сфер применения этого метода. В частности, это под­тверждается тем, что число областей применения индивидуальных интервью более велико, соответственно более велик и список концептуальных подходов, выполняющих интерпретирующую функцию. В зависимости от направленности исследования такую функцию могут выполнять самые разные социологические, психологические, лингвистические и иные подходы, включая и различные подсистемы обыденного знания.

Если в будущем метод фокус-групп распространится на новые предметные области, в том числе в рамках академических исследований, соответственно возрастет и число возможных концептуальных триангуляции.

В моей почте накопилось достаточно вопросов, где есть просьбы дать совет как обеспечить достоверность и валидность качественного исследования. Когда в 90-х гг. мы начинали регулярные полевые исследования с применением качественного подхода, сама постановка вопроса об их валидности и достоверности была неожиданной, т.к. эти понятия использовались в основном для количественных исследований.

В широком смысле и чаще всего, под валидностью понимают степень соответствиивсего того, что исследователь делает, изучая свой предмет,тому,что с этим предметом (явлением) происходит в действительности. В количественных исследованиях это обозначает правильность измерения (конструктная валидность) и внятность логических связок между причинами и следствиями (внешняя и внутренняя валидность).

Тем, кто связал в своем вопросе валидность и достоверность, возможно, будет интересно познакомиться со взглядами известных методологов качественного подхода, например, Линкольна, Губы или Паттона, которые трактовали валидность в качественных исследованиях именно как достоверность.Правда, отождествить полностью валидность и достоверность не получается из- за разных подходов авторовк пониманию достоверности. Например, к внутренней валидности еще как-томожно отнести конвенциальную достоверность, как результатконвенции разных исследователейотносительно соответствия выбранных имиметодовцелям и задачам исследования илиобщее согласие с операционализациейосновных понятий и с интерпретацией смысла полученных данных.

Другой подход обеспечения достоверностиуже претендует на объективность, т.к.требует подтверждения результатов исследования сведениями, полученными из разных источников, включая документы, статистику или «свидетельства независимых экспертов».Особое место в вопросе о достоверности качественных исследований занимает необходимость тщательного обоснованияпереноса моделей соц. механизмов и выводов на более широкийсоциальный контекст.

Разберем вопрос о валидности и достоверности на примере, который как-топрижился в нашей «школе-студии полевого исследователя» .

Пример .

Перед исследовательской группой поставлена задача, изучить случай жестокого обращения персонала детского дома с подопечными, понять причины и дать, по возможности,прогноз о вероятности распространенияэтого негативного явления в других заведениях. Для исследователей эта тема новая, только у одного из них был опыт участия в исследовании причин «дедовщины» в армии. Срок исследования – 2 месяца. Группа выбирает качественный метод исследования – интервью и наблюдение, т.к. знания предмета исследования и продуктивных гипотез, годных для проверки в анкетном опросе практически нет.

Посмотримна исследовательский процесс с т.з обеспечения достоверности результатов и их соответствия «реальности»как картину развертывания симптомов «невалидности» и «недостоверности» качественного исследования.Понимание того, что считать невалидностью и недостоверностью в исследовании, должно помочь пониманию того, что делает результаты исследования достовернымии валидными.

Симптом 1.

Первое, что может с самого начала создать проблемы с валидностью и достоверностью– это отсутствие конвенции в исследовательской группе относительно терминов и понятий, их операционализации, теоретических рамокпониманиясоциальных механизмов жестокости, факторов ее возникновения, представлений об институциональном устройстве детского дома, вопросов выборкии проч.Обычно, это проблема неумения или нежелания заняться методической рефлексией своих представлений по теме исследования до выхода в «поле».

Чтобы ни говорили сторонники идти в поле без гипотез, «с чистого листа», невозможно представить полное отсутствие у них обыденных и научных представлении об этом явлении. Особенно умиляет, когда они предъявляют до выхода в поле гайд. Представьте себе список вопросов,за которыми не стоят никакие предположения об изучаемом феномене. Откуда тогда в гайде вопросы о контроле работы персонала, о материальном обеспечении заведения илио контингенте воспитанников?

Это значит, что мы видим первый симптомразвития «недостоверности».Получается, что не вникнув с суть проблемы,исследователи кидаются в поле, не имея достаточного научного и исследовательского багажа по данной проблематике. Они не согласовали ключевые исследовательские вопросыи первичные гипотезы, не построили модели выборки, чтобы избежать «ложного снежного кома». Онине отработали навыки ведения интервью, наблюдения, фиксирования вопросов с учетом специфики объекта и т.п.

Чаще всего этот симптом проявляется в затруднениях исследователя объяснить, зачем он задает эти вопросы, и что будет делать с ответами, почему решил опросить именно этих респондентов, а не других.Если бы время полевого этапа было не ограниченопарой недель, то можно было бы использовать антропологический метод «вживания», т.е. постепенное неторопливое знакомство с объектом исследования.Систематические наблюдения, многократные интервью, случайные беседы,полевые дневники помогли бы выстроить гипотезы, подобрать адекватные инструменты исследования, задуматься над теорией, наметить выборкуи проч.

Но т.к. для этого времени нет, то в результате мы видим, что исследователь сочиняет вопросник как список похода в супермаркет«что бы еще не забыть спросить, вдруг пригодится». Причем, каждый член группы, не смотря на наличие «общего гида», часто задает свои собственные вопросы, называя все это глубинным интервью.Выборка, в этом случае,это случайные «захваты» респондентапо принципу «кого найдем – кто согласилсяотвечать». В результате высокийриск появления «ложных снежных комьев» и «ложной насыщенности», когда в конце исследования выясняется, что опросили не тех, кто нужен или упущены ключевые респонденты по данной теме.Например, много интервью с воспитанниками и администрацией, но отсутствует мнение членов опекунского совета, следователя, проводившего расследование,представителей органов соц. защиты – кураторов заведения и т.п.

Первую проблему Паттон (Patton) называетпроблемой методической строгости(rigorous methods).В нашем случае - это прозрачностьлогики использования методов исследования, соблюдение правил применения и общих принципов выбранного метода в соответствии с ресурсами времени, целями и задачами исследования.

А вторая проблема – это проблеманаличия необходимого знания, навыков, умения, опыта, продуктивности самого исследователя.Паттон наличие такого «бэкграунда» точно обозначил как «достоверностьсамого исследователя» (credibility of the researcher). Это очень важно для понимания специфики понятия достоверность в качественных исследованиях, т.к. дает ответ на вопрос, на основании чего мы должны доверять субъективности исследователя;

Симптом2

Предположим, что все трудности полевого этапа преодолены. Исследователи опросили всех «игроков на этом поле» , согласно своей модели (например, такой какнаша «восьмиоконная выборка»). Они опросили экспертов по насилию детей, администрацию дет.дома, воспитателей, опекунов, самих воспитанников, представителей правопорядка и т.п.В результате стал понятен социальный механизм, который привел к данному случаю. Основные факторы: слабый контроль надзирающих органов за воспитательной работой персонала, нарушения в отборе воспитателей, сокращение бюджета на содержание воспитанников, закрытость заведения от общественности, отсутствие возможности для изоляции (перевода) воспитанников с девиантным (отклоняющимся) поведением, вследствие психосоматических нарушений.

Можно ли доверять этим результатам? Ответ отрицательный.Т.к. согласно К. Попперу теория не фальсифицирована.Нужны доказательства, что именно эти факторы связаны с случаем жестокости.Как их добыть? Очевидно, нам придется отправиться в детдом, где не было подобных случаев и убедиться, что там отсутствуют выделенные нами факторы.Если они не обнаружатся или будут проявляться в значительно меньшей степени, то уровень конвенциальной достоверности к результатам значительно возрастет. Кстати, Максвеллназывал такое установление взаимосвязи между используемыми понятиями «теоретической валидностью».

Симтом 3.

Установлениеустойчивой взаимосвязи между указанными факторами, обнаруженная в двух случаях является важным шагом для обеспечения достоверности всего исследования, но недостаточным для распространения на другие объекты. Мы можем считать, что у нас появилась теория среднего уровня, но надо ее проверить другими методами. В идеале это должна быть методическая триангуляция с применением количественно –качественного подхода. Например, анализ статистики по уголовным делам по сходным случаям, анализ тематический статей в СМИ и Интернете,изучение специальной литературы, экспертный опрос.В общем, мы должны достигнуть подтверждения своих результатов данными из других источников, т.е. «confirmability» и возможности переноса данной объяснительной модели на другие объекты (transferability) по Губе и Линкольну.

Симптом 4.

Предположим, что анализ вторичных данных и экспертное мнение подтвердило наши выводы относительно данного случая, но одной из задач исследования является прогноз на вероятность возникновения новых случаев в различных регионах РФ.Дать такой прогноз – это подвергнуть свою «теорию» наиболее жесткой проверки на достоверность.

Для этого мы отправляемся к чиновникам из министерства посоц. политике, финансов и проч. центральных гос. учреждений курирующих дет. дома и спрашиваем их не на предмет «случаев жестокости», а об изменениях в планируемом бюджете, контроле, решением кадровых вопросов, т.е. по тем факторам, которые мы выявили. Если узнаем, что по факту все останется на прежнем уровне, то идем к экспертам, способным прокомментировать данную ситуацию и дать свой прогноз на ее развитие.Экспертами могут выступать не только гос.служащие, но и представители НКО, журналисты, которые компетентны в данной теме.

Соединяя эти данные, мы делаем прогноз, который может претендовать на достоверность исследования.В случае, если прогноз подтвердится, это можно считать важным свидетельством валидности исследовательских процедур и достоверности полученных данных и выводов. В случае, когда прогноз не подтвердился совсемили частично, то следует пересмотреть свои подходы иимеющиеся модели.

1) Однако бывает так, что методически все выполнено «строго»и «достоверность исследователей»достаточна для решения данных задач, но появились новые обстоятельства, новые факторы, которых не было в период проведения исследования или на тот момент они были малозначимы.Этоважновыяснить, не только для оценки продуктивности исследования, но и для того, чтобы, какписалПаттон, неутратить«philosophical belief in the value of qualitative inquiry». Убежденность исследователя в правильности методологических позиций качественного подхода в исследованиях, егополное принятие теоретических парадигм, на которых базируются эти методы, по мнению Паттона, также является условием достоверности качественного исследования.