Нож в яме
Хорошо. Раз уж разговор зашёл о футурологии, добавлю и я свои пять копеек в этот громкий, но довольно нестройный хор.
Забавно слушать, как нам обещают то цифровое рабство, то сто лет жизни и личного цифрового раба в придачу. И это статистически (и даже сущностно) нормально. Людям хочется либо пугаться, либо утешаться. Страх, как известно, хорошо «продаётся» и заодно ставит говорящего чуть выше слушающего: «Ты не знал, а я тебе сейчас объясню, насколько всё плохо». Потому и пугают много. С другой стороны, будущее и правда меняется слишком быстро, и хочется хоть какой-то моральной зацепки — что будет хоть что-то не совсем ужасное. Поэтому и придумывают всякие чудесные чудеса в будущем.
Но если отвлечься от записных футурологов и просто посмотреть на те сферы, в которых ты действительно что-то понимаешь, картина получается интереснее.
Я программист. И с этой точки зрения могу сказать довольно определённо: через два-три года такой, как я, будет нужен заметно меньше. Хотя я, смею думать, программист хороший. Раньше я мог писать код почти не думая — рука набита, куски вылетают и работают зачастую практически с первого раза. А сейчас я всё чаще просто рисую блок-схему или диаграмму, кидаю картинку интерфейса, наговариваю голосом хотелки и говорю: «Сделай». Да, он делает часто (но уже далеко не всегда) хуже меня. Но делает за пять–пятнадцать минут. А я бы делал неделю. Место под солнцем для таких, как я, ещё есть. Но скоро его станет меньше.
Но я ещё и кибернетик. И вот здесь начинается более интересное. Что я вижу?
Системы управления в ближайшее время накроет серьёзная проблема. И связана она не с тем, что искусственный интеллект «заменит всех», а с тем, что он резко повышает прозрачность там, где система исторически жила за счёт конструктивной неопределённости.
Возьмём простой пример. Когда-то в министерстве, отвечающем за стратегическое развитие, скопилось около пятидесяти тысяч программ от регионов и муниципалитетов. Четыре человека в департаменте занимались этими проектами. «Четыре человека, Карл!» Ясно, что обработать вручную эти мегатонны текста попросту невозможно. Но сегодня сделать ИИ-агента, который за двадцать секунд проверит любую стратегическую программу хотя бы по технологическим критериям — наличие целей, связь задач с целями, описание рисков, системы мониторинга и управления — технически несложно. То есть совсем несложно. И теперь представьте картину: губернатор привозит в центр своё детище на флешке, а девочка в министерстве вставляет флешку, нажимает кнопку и через полминуты губернатор получает вердикт «не пойдёт». С подробным обоснованием, от которого уже не отвертишься.
Сам по себе такой аудит не страшен. С имитацией все давно научились жить — без этого начальниками не становятся. Страшнее другое.
Большие системы управления на верхних этажах построены на конструктивной неопределённости. А она всегда идёт в паре с системой сдержек и противовесов. Министр устраивает между подчинёнными соревнование, они доказывают, кто из них не верблюд, а он смотрит на эти подковёрные баттлы и решает, кому благоволить.
Оно же тае всегда было, так есть и было бы так дальше. Меньший чиновник бежит к большему с красивым прожектом — не проектом, а именно прожектом. Потому что если ввязаться в настоящий проект, это сразу делает тебя уязвимым: начал делать — появилось к чему придраться. А прожект позволяет и начальство ублажить, и потоки организовать, и конкурентов по возможности подвинуть (чай, потоки-то не резиновые). А начальство эти прожекты иногда выбрасывает "в общую яму" — вроде как нож пленникам: деритесь, кто победит. Знакомая механика.
А теперь представьте, что появляется инструмент, который любой такой прожект за двадцать секунд раскладывает по косточкам и пишет, почему это ерунда, — так, что крыть уже нечем. Если такой нож бросить в яму — все прожекты просто тут же и… увянут.
А на прожектах система в значительной степени сегодня и живёт. Но не на чистом распиле, конечно. Нужна хотя бы видимость деятельности, нужны люди, которые хоть что-то делают в рамках пусть даже самого завирального прожекта. И за счёт этих людей система хоть чуть-чуть двигается. И люди, которые хоть что-то могут, выживают — может, когда-то и пригодятся для чего-то действительно серьезного. Но убери прожекты — вымрут. И выяснится, что оставшиеся умеют только пилить, грести под себя, часть — только спекулировать, а остальным остаётся лапу сосать или друг друга грабить.
Я это обсуждал с нейросетями, предварительно прокачав им контекст. Ответ, который из них получилось выжать, сводится к простому: да, это действительно опасная вещь. И она, похоже, неизбежна. Потому что прозрачность будет расти. А система, построенная на определённом типе непрозрачности, в какой-то момент может просто перестать работать. Это как лишить двигатель смазки.
Что-то похожее уже наблюдалось. Когда в четырнадцатом–пятнадцатом в Крым начали заходить серьёзные средства, выяснилось (и это мнение людей, которые тогда реально смотрели, как эти средства расходуются в конкретных сферах), что на месте плохо понимали, как в новых условиях эти деньги осваивать. Не в смысле «работать», а в смысле привычных схем. Поэтому огромные деньги просто… стали колом.
Теперь представьте, что прозрачность станет системной. Система управления тоже может стать колом. А система управления, которая стала колом, — это примерно как человеку голову отрубить.
Что с этим делать? Это же "цунами" и от него не прятаться !
Но ...
Если не можешь противостоять — возглавь!
В принципе, да - это работает. Но дело в масштабе проблем. Конкретную проблему с аудитом прожектов верхний уровень ещё может взять под контроль. Но таких точек напряжения будет много. И главное — у нас нет проработанных (а уж тем более испытанных) представлений, как совместить новые инструменты прозрачности с необходимостью люфтов. Системе как воздух нужны параллельные, не до конца прозрачные контуры договаривания. Без них она становится хрупкой. Такова актуальная культура управления.
Тут надо особо отметить, что культура управления — это не только частный случай системы ценностных установок родительского общества. Это ещё и целый набор институциональных ловушек, формирующих, кроме всего прочего, положительные и отрицательные обратные связи, которые работают на неформальном уровне: на полуправдах, на договорённостях, на том, что нельзя произнести вслух. Убери это резко — и выяснится, что людей, способных и желающих работать в полностью прозрачной системе, где нельзя ни соврать, ни «заработать», может оказаться очень и очень намного меньше, чем требуется.
Это уже не вопрос «что будет через двадцать лет». Процесс начался. Цифровизация и рост прозрачности — вещь быстрая. А смена культуры — это (если не прогонять систему через 37-й год) дело долгое. И очень вероятностное.
Раньше система управления умела отбиваться: проект создания системы стратегического планирования, например, она успешно нейтрализовала. Ситуационные центры — тоже. Борьба была относительно честной — по понятным правилам. Но уже сейчас правила меняются быстрее, чем система успевает выработать иммунитет.
В какой-то момент она может просто захлебнуться. И тогда управлять будут те, кто умеет строить прозрачные контуры. Что само по себе не катастрофа. Катастрофа — если при этом будет уничтожен тот самый люфт, на котором система держала равновесие между инерцией и обновлением. Как в живом организме: убери процесс отмирания старого — получишь онкологию. Убери возможность имитации и манёвра — получишь замороженную конструкцию, которая выглядит правильной, но при этом не способна действовать.
И что делать?
Рвать на себе волосы? Или куда-то когти? А некуда — везде одно и то же.
И когда система станет колом, то ой как много найдётся желающих этим воспользоваться. Может получиться очень и очень нехорошо.
Но есть, правда, одна идейка. Можно подумать, например, о том, чтобы такую систему повышения прозрачности аккуратно и быстренько запустить… не у себя.
Но об этом стоит подумать отдельно.
Хотя чего нам-то думать? Пусть думают те, кто занимается гибридными войнами — они за это зарплату получают. Или у них тоже прожекты, и им не до всякого "теоретизирования"?
← ко всем текстам