Определение границ модели

Определение границ модели

Определение границ модели или исследования – это один из самых сложных вопросов как моделирования, так и любого исследования. И предельный вопрос заключается в том, как с первого раза, а не методом проб и ошибок, понять – что и в каком виде включать в модель или в исследование? Особенно сложно ответить на этот вопрос тогда, когда модель для такого рода объектов, как целевой объект-прототип, создается или впервые, или опыт создания моделей подобного рода небольшой, или и того хуже – устоявшийся негативный.

Ясно, что в описанной ситуации невозможно создание какого-то универсального детерминированного регламента, на основе которого можно было бы аргументированно определить границы любой модели или границы любого исследования. На этом этапе проектирования можно опереться лишь на экспертные оценки. А вот уже для получения наиболее надежных экспертных оценок могут и должны быть разработаны необходимые регламенты.

Здесь я в общих чертах опишу только некоторые технологии и регламенты определения границ моделей и оценки того, насколько полно они исполнены.

1           «Поляна»

Этот регламент ориентирован, в первую очередь, на применение одним экспертом. В основе этого регламента лежит технология, похожая на широко известный эвристический метод – «морфологический ящик».

Согласно этому регламенту, эксперт формирует таблицу, в которой по одной оси записываются аспекты (составляющие модели), а по другой – задачи.  Затем в каждой ячейке таблицы проставляется оценка в соответствии с, так называемым, принципом пропорциональности.

Согласно принципу пропорциональности оценок, всё исходное множество оценок делится на три группы. Первая группа (наивысшие оценки) составляет примерно 10% от общего количества оценок, вторая группа (самые низкие оценки) – тоже примерно 10%, а все остальные оценки – это оставшиеся 80%, которые делятся внутри группы по тому же принципу 10-80-10. И так до тех пор, пока не будут распределены все оценки. Пропорции могут быть изменены, в зависимости от конкретики регламента.

Важнейшей спецификой этого подхода является то, что оценки расставляются так, чтобы принцип пропорциональности выполнялся одновременно, как по столбцам, так и по строкам.

Вариант такой таблицы приведен на следующей иллюстрации.

 
Определение границ модели
 
Каждая задача в приведенной таблице имеет оценку важности (градиент зеленого).

На основании оценок в ячейках и на основании оценки важности задач формируется интегральная оценка выполнения регламента пользователем, которая (оценка) отражает то, в какой степени интегральная оценка отличается от максимально возможной для этой таблицы. Полученная оценка является хорошим основанием для принятия решения о качестве решения задачи определения границ модели или исследования.

Необходимо сразу отметить, что описанный подход, являясь достаточно простым по своей сути, весьма непрост в реализации, и действительно заставляет проектировщика модели выложиться максимально, что и требуется на этапе концептуального проектирования. При этом, будучи вынужденным рассматривать каждый возможный аспект модели и их различные группировки с разных сторон, увязывая их с задачами и между собой, проектировщик волей-неволей максимально глубоко, насколько он вообще способен, продумывает вопросы целесообразности включения в модель тех или иных аспектов. Но если проектировщик не сможет или не захочет выполнять задачу качественно, это сразу скажется на автоматически рассчитываемом значении интегрального показателя качества выполнения регламента.

В заключении необходимо отметить следующее: эффективность описанного здесь метода базируется на том, что необходимость выполнения заданного регламента, да еще и при наличии формализованной автоматической оценки качества его исполнения, противопоставляется подсознательному естественному стремлению любого человека к экономии энергии, и в первую очередь – когнитивной. Эта экономия провоцирует закончить работу, постоянно соблазняя проектировщика различными «отговорками». А такой регламент как раз и стимулирует выполнить работу до конца – максимально качественно.

 2           Групповая экспертная оценка

 Если имеется возможность привлечения группы экспертов для решения задачи определения границы модели или исследования, то сама технология решения задачи может быть намного более простой, чем описанная выше «Поляна», поскольку нет необходимости стимулировать работу отдельного исполнителя – члены группы (если группа подобрана правильно) сами будут друг друга стимулировать вполне достаточно.

В качестве основы технологии получения групповой оценки может быть использована одна из множества  известных технологий экспертных оценок. При этом каждый эксперт может дать свои оценки необходимости включения тех или иных аспектов из общего списка, который формируется экспертами же.

Расстановка оценок экспертами осуществляется также на основе метода пропорциональных оценок.

Оценкой качества выполнения регламента является в таком случае комплексная величина, которая включает оценку пропорциональности конечных оценок и их согласованности (например, дисперсию), а также уровень компетенций экспертов по каждому потенциальному элементу модели.

Процесс формирования оптимального набора элементов, включаемых в модель, итерационен. Эксперты от итерации к итерации могут развивать множество элементов модели, корректировать свои оценки.

Несмотря на высокую распространенность такого рода групповых экспертных методов, они имеют ряд недостатков, ключевым из которых является достаточно всё-таки слабый механизм стимуляции экспертов к максимально качественному выполнению своей работы. Если экспертная группа сформирована так, что не все необходимые роли в ней реализуются, группа может не найти в себе силы для того, чтобы максимально качественно решить задачу.

 

3        Экспертная игра

 

Технологии применения экспертных игр для решения сложных задач анализа в условиях высокой неопределенности известны давно, однако, в силу сложности их реализации, широкого распространения они не получили. Тем не менее, сегодня в России активно работает несколько групп экспертов, которые достаточно интенсивно применяют игровые технологии как для прогнозирования, так и для синтеза решений.

Анализ известных подходов, которые применяются сегодня для экспертно-игровых исследований показывает, что практически все они базируются на организации процесса коллективного мышления через его регламентацию и технологизацию. При этом есть и такие подходы, которые ориентированы на коллективную «накачку интегратора», который, в свою очередь, в итоге, и синтезирует решение.

Однако ни один из таких подходов, к сожалению, не может быть эффективно использован для решения задачи определения границ модели или исследования в силу того, что ни один из них не позволяет получить формализованную оценку качества его исполнения.

В связи с тем, что известные подходы не применимы, разработан регламент специализированной игры, результатом которой является обоснованное подмножество из определенного множества, где множество – это все потенциально возможные элементы модели, а подмножество – это те из них, которые необходимо включать в модель.

Технологически игра представляет собой многопользовательскую компьютерную игру, в которой игроки делают ставки некоторой игровой валютой. Выигрыш каждого игрока рассчитывается по сложному алгоритму, детали которого обширны и требуют отдельного рассмотрения, но в целом логика этого алгоритма направлена, в первую очередь, на достижение следующего:

·       Максимизация вероятности выявления наиболее компактного и при этом наиболее значимого подмножества элементов, включаемых в модель.

·       Стимуляция экспертной группы находить нетривиальные решения вместо достижения «серенького компромисса».

·       Возможность получения формализованной оценки качества исполнения регламента.

Аудит прогнозов

Аудит прогнозов

Как оценить качество прогноза, не вдаваясь в его содержание?

Задача эта лишь на первый взгляд кажется парадоксальной и бессмысленной. На самом деле, это и есть – самая правильная постановка задачи. Дело в том, что, как правило, тому, кто в состоянии оценить содержательное качество прогноза, тому чужой прогноз-то и не нужен – у него и своих компетенций опять же, как правило, достаточно, чтобы сформировать такой прогноз. Прогноз (как знание о будущем) представляет ценность, в первую очередь, для тех, у кого отсутствуют собственные компетенции для его формирования.

Но как без компетенций оценить качество прогноза?

Только за счет оценки каких-то технологических его характеристик!

А для этого необходимо иметь соответствующую систему критериев.

Что может входить в эту систему критериев?

В качестве примера критериев можно привести следующее: безоговорочное наличие вероятностных характеристик у всех результатов.

Даже одно это требование уже позволит существенно повысить качество прогноза. Причем повышение качества идет, в первую очередь, за счет того, что разработчик прогноза вынужден решать задачу прогнозирования более глубоко. Если же ввести еще и требование наличия таких же характеристик для параметров второго уровня – для тех параметров, от которых зависят конечные, то выполнение такого требования будет достаточно для значительной части прогнозов. А если те же требования ввести еще и для третьего уровня, то этого будет достаточно практически для всех прогнозов в области экономики, политики, стратегии и т.п.

Необходимость предоставления заказчику отчетливой картины вероятностей результатов прогноза, побуждает разработчика намного глубже и ответственнее прорабатывать все аспекты объекта исследования.

Если к требованию предоставления характеристик вероятности еще добавить и требования, связанные со структурой перечисленных трех уровней, то задачу формирования технологических требований к прогнозу можно было бы считать решенной.

Если бы не одно «но!» …

Откуда и как взять эти вероятности?

Если вводить требования к качеству прогноза, то необходимо, кроме всего прочего, прорабатывать и вопросы о том, как они могут и должны быть реализованы. А это тогда уже не просто система требований, а то, что когда-то называлось «типовой проект», со всеми необходимыми методиками, примерами и множеством соответствующих учебников и детальных частных методических рекомендаций. Ну и конечно же со множеством научных публикаций, содержащих обоснования этих методик и технологий. Причем это должно касаться и тех вопросов, которые научное сообщество до сих пор старалось обходить. Например, вопрос аргументированного обоснования границ модели/исследования. То же касается содержания моделей, подходов к оценке их адекватности в тех случаях, когда невозможно сопоставить их с объектом-прототипом. То же касается оценки источников данных и самих данных на предмет их достоверности. И т.д. и т.п..

Но любая дорога начинается с первого шага. И этим первым шагом могут и должны стать оценки вероятностей реализации искомых значений параметров, исследуемых в прогнозе.

И удивительно, что до сих пор этого нет.

Вероятно это связано с тем, что прогнозирование, как деятельность, сегодня узурпировано агитаторами и пропагандистами, для которых важна не точность прогноза, а то, какие эмоции он вызовет у целевой аудитории. Дело это тоже нужное – никто с этим спорить не собирается. Однако здесь о другом разговор.