Метод экспертных оценок в социологических исследованиях

      Построение  с помощью экспертных оценок шкалы - одна из двух возможных процедур измерения  активности фона наряду с математико-статистической обработкой данных по показателям базовой модели за период основания прогноза.

      Применение  процедур второго типа возможно в  том случае, когда исследователь располагает полными и достаточно надежными данными, характеризующими динамику как профиля так и фона. Если же таких данных в распоряжении исследователя нет - а это типичная ситуация для прогнозирования в социологии, - ему приходится прибегать к опросу экспертов. Кроме того, экспертные оценки необходимы как вспомогательный, контрольный метод и в том случае, когда возможно применение математико-статистических процедур.

      Шкалированный опрос экспертов был использован  в работе Б.С. Батыгина для построения системы показателей образа жизни. Выбор экспертного метода обосновывается применением эмпирического определения значимости показателей, разработанных в современной социологии и статистике и основанных на построении многомерных моделей, на данном этапе построения системы затруднено. Экспертные оценки используются, как правило, в ситуациях, когда точность информации, необходимой для принятия решения, относительно невелика. Притом, при выборе данного метода сыграли определенную роль соображения экономичности и простоты экспертизы.

      Опрос экспертов обнаружил гораздо  больше нерешенных теоретических и методологических проблем, чем достоверных решений, однако, несмотря на приблизительность оценок он удобнее и экономичнее более сложных техник статистического определения значимости показателя⁹.

      При рассмотрении роли экспертного метода в разработке методики сбора информации необходимо подчеркнуть также тот факт, что шкалы высшего для социологического измерения типа - интервальные - строятся исключительно на основе экспертных оценок в технике парных сравнений (шкала Терстоуна), равных интервалов и последовательных категорий¹⁰. Работа с экспертами широко применяется и в других случаях, когда мы обращаемся к выборочной группе из массива обследуемых для того, чтобы глазами будущих испытуемых проверить соотносительную значимость оценок, придаваемых пунктам шкалы.

      Различные процедуры с использованием экспертных оценок все чаще применяются при разработке методике ГОЛ (групповой оценки личности). В качестве примера можно привести исследование, проведенное социологической лабораторией Киевского университета, при составлении банка шкал для измерения творческой активности был использован один из вариантов экспертного опроса, разработанный в рамках подхода к изучению частоты поступков.

      Процедура состояла в том, что от группы экспертов (21 человек) требовалось указать личностные свойства и поступка своих знакомых и друзей, которых, по их мнению, можно назвать творчески активными личностями. Эти черты и поступки должны были служить примером проявления творческой активности или отражать ее наличие у данного человека. Затем группе экспертов (31 человек) предлагалось оценить по полученному списку качеств известных им творчески активных людей, используя следующую шкалу: 5 - качество, присущее полностью; 4 - присуще отчасти; 3 - выражено очень слабо; 2 - отсутствует полностью. Кроме того, эксперты могли указать на неприменимость качества для оценки конкретного человека или на отсутствие достаточных знаний о его проявлении. Полученные ретроспективные оценки усреднялись, что давало возможность вычленить те качества личности, по которым наблюдалась высокая согласованность мнений экспертов.

      На  втором этапе исследования экспертам  было предложено из списка качеств  отобрать такой необходимый и  достаточный их под-набор, который, по их мнению, наилучшим образом  характеризует творческую активность личности. Чаще всего (более чем в 50% случаев) назывались следующие качества: наличие собственного взгляда на вещи, разносторонность интересов, критическое отношение к себе, упорство и целеустремленность, способность оставит след в духовном мире другого человека; постоянная готовность дойти до самой сути; постоянное переосмысление известного; целостность личности; постоянное самообразование; способность пожертвовать отдыхом ради работы.

      После того, как методические документы  подготовлены, они должны пройти стадию логической проверки и практического апробирования - пилотажа. Перед социологом встает задача определить, насколько методика соответствует целям исследования, позволяет ли она проверить выдвинутые рабочие гипотезы, направлена ли именно на тот аспект предмета исследования, которого касаются гипотезы, например, измеряет ли шкала потребностей в общественно-политической деятельности именно эту потребность, не смешивая ее с потребностью в лидерстве, стремлением к достижению карьеристских целей и т.п. Проверка готовой методики на надежность, устойчивость и обоснованность выполняется параллельно двумя способами: о помощью логического анализа и пробного использования ее на микровыборке - пилотажа. В первом случае можно с успехом применять опрос экспертов: в форме консультаций по поводу подготовленных методик (свободное интервью, реже - "мозговая атака" и обмен мнениями), а также с помощью заочных методов - от сбора мнений до дельфийской техники. Наиболее эффективны здесь обмен мнениями и формализованный заочный опрос экспертов¹¹.

      В процессе пилотажа методик применение экспертных методов ограничено, поскольку здесь подготовленные и логически проверенные документы проходят практическую апробацию. Однако и тут возможно привлечение экспертов, во-первых, для определения численности и состава пилотажных групп, во-вторых, для обсуждения, итогов пилотажа, внесения исправлений и дополнений в документы. Но наиболее эффективен здесь обмен мнениями.

      В упомянутом исследовании по изучению и прогнозированию социальных потребностей молодежи экспертный метод применялся для проверки на обоснованность подготовленного опросника. В соответствии с требованиями метода "известной группы" по установленной на одной из сессий "мозговых атак" выборке были определены две группы респондентов - с высоким и низким уровнем изучаемой художественно-эстетической потребности¹².

      Обоснование выборки завершает разработку программы. На этом этапе необходимо принять решение о том, каким будет исследование - сплошным или выборочным. Затем, если исследование выборочное, надо определить способ и соответственно ему объем выборки. Что касается последнего, то тут роль экспертов минимальна: для определения объема выборки существуют детально разработанные статистические процедуры. Однако эксперты могут быть полезны для определения способа отбора - операции, требующей учета многих особенностей предмета исследования и связей в нем. Коллективное решение этой задачи, безусловно, поможет избежать ошибок репрезентативности и, следовательно, систематических ошибок в результатах исследования. К сожалению, этот момент учитывается далеко не всегда. Обоснование выборки остается пока одним из слабых звеньев в практике наших социологических исследований.

      Когда программа готова, наступает этап полевого исследования, состоящий из двух последовательных частей - отбора единиц наблюдения и сбора информации. Процесс отбора проходит без участия экспертов, которые уже определили наилучший его способ. Что же касается сбора эмпирических данных, то здесь вновь открываются широкие возможности применения экспертных методов. Очень часто оказывается: ту информацию, которая собирается в ходе массового анкетного опроса или интервьюирования, со значительно меньшими затратами средств, сил и энергии можно получить, используя другие методы, в том числе экспертные. Так, при изучении социальной активности в различных ее формах (трудовой, обществен политической, познавательной, творческой и т.д.), а также дисциплинированности, ответственности экспертные оценки с успехом могут заменить громоздкие анкеты, с помощью которых зачастую получают ненадежную и трудно интерпретируемую информацию. 

      Область применения. 

      Экспертный  опрос наряду с традиционными  методами сбора информации может широко применяться и в других областях социологических исследований. Так, например, В.З. Докторов справедливо указывает, что использование данного приема весьма эффективно при изучении общественного мнения¹³.

      Чем обусловлено обращение к экспертам? Заключения специалистов, связанных  в силу своей повседневной профессиональной деятельности с изучением состояния и динамики общественного мнения могут дать надежную и точную картину, не уступающую по своей достоверности массовым опросам.

      Поскольку общественное мнение всегда предметно, поскольку в нем всегда содержится отношение к той или иной проблеме, постольку статусом эксперта могут быть (при известных ограничениях) наделены, во-первых, специалисты, занимающиеся исследование различных аспектов этой проблемы, во-вторых, представители социальных институтов, призванных решать ее в интересах всего общества, и, в-третьих, лица, ответственные за формирование общественного мнения по данной социальной проблематике.

      В основе изучения рациональной составляющей общественной мнения лежит идея сопоставления  суждений  профессионального, специализированного сознания и сознания массового. Поскольку первые выступают в качестве эталона рационалистического, научного отношения к проблеме, постольку степень близости ответов населения к реакциям экспертов служит индикатором компетентности, развитости общественного мнения.

      Экспертные  оценки были использованы в исследовании актуальных проблем внутритеатрального управления в связи с проведением  комплексного социального эксперимента по перестройке театрального дела. Прежде чем приступить к нововведениям, группе исследователей было поручено изучить мнения руководителей театров Москвы, входящих в систему Министерства культуры РФ. Целью опроса было выяснить, что именно и каким образом они хотели бы усовершенствовать.

      Поскольку социально-культурные цели театра достигаются при ограничениях, заданных финансовым планом, постольку существует два вида его деятельности: художественно-творческая и производственно-экономическая. Первой руководит главный режиссер, главный художник, режиссеры-постановщики, помощники главного режиссера по литературной части и по труппе, второй - директор, его заместители, заведующий художественно-постановочной частью. Первая группа именовалась "художественными", а вторая - административными руководителями.

      В восемнадцати театрах Москвы было опрошено 13 главных режиссеров, 16 директоров, 9 их заместителей, 11 режиссеров-постановщиков, 12 заведующих художественно-постановочной частью, 13 помощников главного режиссера по литературной части, 5 помощников главного режиссера по труппе, 6 главных художников. Группа «художественных» руководителей была представлена 48, а группа "административных" - 37 респондентами.

      Эксперты - участники опроса - высказывали  свое мнение относительно роли директора и главного режиссера в решении основных вопросов деятельности театров, оценивали целесообразность различных моделей внутритеатрального управления, перспективы создания театральных объединений и др.

      На  третьем этапе исследования осуществляется обработка информации - сложная, трудоемкая и зачастую дорогостоящая процедура. Большое значение имеет определение оптимальной стратегии обработки. Как проверить гипотезы, с помощью каких статистических методов? Какие статистические показатели и критерии следует применить в каждом конкретном случае? Ответить на эти вопросы исследователь должен раньше, чем массив информации будет переведен на машинные носители и введен в компьютер. Строго говоря, стратегия обработки данных, хотя бы в общих чертах, должна быть ясна еще во время подготовки процедурной части программы, так как характер методических документов, применяемые в них шкалы самым непосредственным образом связаны с методами обработки собранной с их помощью информации. Участие экспертов в определении путей решения этой задачи должно оказаться чрезвычайно полезным, однако пока наша социологическая практика таким опытом не располагает. Можно лишь предположить, что наиболее эффективным в данном случае очные методы опроса экспертов, особенно прямая мозговая атака и обмен мнениями.

      На  этапе ручной обработки и кодирования  возможностей использования эксперта гораздо меньше. Но и здесь следует обращаться к специалистам, например, при выборе способа кодирования или в спорных случаях, когда вероятна различная интерпретация записей, содержащихся в методических документах. Форма опросов экспертов в этом случае - свободное интервью и в отдельных случаях "обмен мнениями".

      Завершающий этап исследований - анализ результатов. Он начинается с проверки гипотез: подтвердились ли они эмпирическими данными. Иногда для этого достаточно просмотреть соответствующие таблицы, отпечатанные на компьютере. Так бывает в случае четкого соответствия гипотез, методических документов и стратегии обработки, что в социологической практике пока встречается редко. Чаще полученные данные допускают различные толкования, поэтому вопрос о подтверждении или опровержении гипотезы оказывается совсем не простым. Его можно решить с помощью экспертов. Наиболее пригоден здесь метод "обмена мнениями" ("отнесенной оценки").