Осталось дождаться дятла
Футурологи, о которых шла речь в « Нож в яме » говорят о чем угодно, но не о главном - система летит в фазовый переход. Они наперебой развлекают «благородную публику» разговорами о том, какой именно кристалл вырастет на выходе, но никто не задаёт по-настоящему важный вопрос: а можно ли вообще изменить траекторию по которой мы несемся?
Короткий ответ: нет. И вот почему.
Человеческая цивилизация подошла к точке, в которой у неё нет выбора, куда лететь. Есть только выбор, с какой скоростью и когда врезаться в стену. И это, пожалуй, единственное, что ещё остаётся в зоне нашего контроля.
Три варианта. И ни одного хорошего
Перед нами, если отбросить маркетингово-пропагандистскую шелуху, три сценария построения системы управления в эпоху тотальной прозрачности. Не через сто лет. Через пять. Максимум - через десять. И все три одинаково неуютны.
Первый. Гибрид. Мы как-то умудримся совместить наши биологические недостатки — маленький мозг, страх наказания, жадность, лень — с неизбежным наступлением эпохи абсолютного Дискриминанта (того, кто видит все ошибки). Мы (о, чудо!) научимся прощать ошибки, потому что понимаем: ошибка для большой системы — это, в том числе, еще и мутаген. Без него эволюция останавливается. Мы выйдем на совершенно иной уровень культуры управления, где прозрачность не карает, а объясняет.
Звучит красиво. Но для этого нужно, чтобы система, которая десятилетиями питалась страхом и непрозрачностью, вдруг переосмыслила саму себя. А она не может. Потому что она и есть клубок институциональных ловушек. Она не содержит их в себе. Она является ими.
Второй. Отказ. Мы понимаем, что тотальная прозрачность нас уничтожит, и сознательно сохраняем зону конструктивной неопределённости. Оставляем люфт. Оставляем право на тень. Оставляем прожекты как способ сегодня двигать хоть что-то, потому что настоящий проект делает тебя уязвимым.
Звучит разумно. Но мы уже не можем. Прозрачность — это еще одна институциональная ловушка, в которую мы попали, и она сильнее других, потому что питается страхами системы, ее конфликтами. Кроме того - данные копятся, алгоритмы дешевеют. Каждая новая технология аудита делает шаг назад невозможным. Джинн тотальной прозрачности уже не в бутылке. Он в дата-центре.
Третий. Примат Дискриминанта. Мы принимаем тотальную прозрачность как данность и подгоняем под неё людей. Новый человек. Не советский человек, соразмерный великой цели. А человек-придаток. Функция. Переменная в уравнении.
Звучит эффективно. Но не работает. И не потому, что люди плохие. А потому, что так устроена математика.
Теорема Гёделя и право на ошибку
Любая достаточно сложная формальная система неполна. Это не философия. Это теорема. Это приговор цифровому грядущему.
Система, в которой человек полностью подчинён алгоритму, в которой каждое действие прозрачно, каждая ошибка видна и каждая ошибка наказана — такая система не может существовать в принципе. В ней неизбежно возникнет ситуация, для которой нет правила. Не потому, что правила плохо написаны. А потому, что формальная система не может доказать свою собственную непротиворечивость, не выходя за собственные пределы.
Кто будет этим «пределом»? Кто будет принимать решение там, где алгоритм выдаёт ошибку?
Человек. Тот самый, который ошибается. Который жульничает. Который врёт. Который принимает решения вопреки логике, потому что логика привела его в тупик.
Ошибка — это не сбой. Ошибка — это жизненно необходимый мутаген. В биологии подавляющее большинство мутаций вредны или летальны. Но без них вид вымирает. Без изменчивости нет адаптации. Без адаптации нет выживания.
А что делает наша система сейчас ? Она приравнивает мутацию исключительно к преступлению. Ключевой формальный закон нашего существования: каждое преступление должно быть раскрыто, преступник выявлен, изобличен, наказание неизбежно . А теперь представьте, что абсолютный Дискриминант делает видимыми все мутации. Все ошибки. Все отклонения от регламента.
Что произойдёт? Справится ли человеческая культура с этим? Я уверен – нет. И система перестанет мутировать. А значит — перестанет жить. Она станет кристально чистой, идеально прозрачной и абсолютно мёртвой. И всё рухнет.
И вот здесь мы подходим к главному.
Клубок, который невозможно развязать
Институциональные ловушки — это не просто плохие правила. Это не баг, который можно пропатчить. Сегодня это несущая конструкция.
Ловушка потому и ловушка, что она обладает сверхмощностью самовоспроизведения. Она воспроизводит не только себя, но и людей, которые уже просто не умеют существовать вне неё. Она создаёт культуру, язык, систему поощрений и наказаний, которая делает любой выход за её пределы нерациональным.
Крупная система управления — государственная, корпоративная, международная — это не набор ловушек. Это клубок ловушек, где каждая поддерживает существование остальных. Убери одну — и остальные не рассыпятся. Они затянутся туже. Потому что их гомеостаз настроен именно на сохранение конфигурации клубка, а не на эффективность объекта, которым этот клубок управляет.
Развернуть вектор эволюции такой системы невозможно. Ни внешним ударом. Ни внутренним волевым решением. Ни революцией. Ни реформой. Все эти инструменты клубок переваривал у ж е десятки раз. Еще раз напоминаю о том, что произошло со стратегическим планированием, о том что произошло с ситуационными центрами, с ситемой управления рисками. Вспомните, что произошло с Agile в госкорпорациях. Система берёт угрозу, имитирует её переваривание и встраивает в себя как новый слой имитации.
Вектор не меняется. Можно изменить только скорость.
Управление скоростью: единственное, что нам осталось
Если траектория предопределена клубком, а конечная точка фазового перехода неизбежна, то в зоне контроля остаётся ровно одна переменная: скорость прохождения через уязвимую зону .
Фазовый переход в физике — это момент, когда вещество теряет структурную прочность. Металл в точке кристаллизации уязвим. То же самое происходит с системами управления в момент, когда старая конфигурация уже не работает, а новая ещё не собралась.
Это самая опасная точка. И самая перспективная.
Стратегия здесь проста до жестокости:
Притормози у себя. Сохрани люфт. Сохрани право на ошибку. Сохрани непрозрачные контуры договаривания. Пусть твоя система будет грязной, медленной, неэффективной — но пластичной. Пусть она сохраняет способность мутировать. Не бросайся в тотальную прозрачность первым.
Ускорь у конкурента. Подари ему самый совершенный Дискриминант. Дай ему технологии тотального аудита. Дай ему алгоритмы, которые за двадцать секунд раскладывают по косточкам любой прожект. Дай ему мечту о кристальной честности. И наблюдай, как его система, изначально построенная на конструктивной неопределённости, задохнётся в попытке стать прозрачной.
Потому что когда ты бросишь нож в чужую яму — чужие прожекты не просто увянут. Они увянут вместе с людьми, которые на них жили. Вместе с потоками. Вместе с неформальными договорённостями. Вместе с теми самыми люфтами, которые позволяли системе хоть как-то двигаться.
И тогда твоя система живет, а чужая система встанет колом.
Не от внешнего удара. Не от саботажа. Не от революции. А от собственной кристальной чистоты.
Это и есть экспорт энтропии. Ты не создаёшь хаос у конкурента. Ты даришь ему абсолютный тривиальный(!) порядок. И порядок его убивает. Одно дело побеждать противника целенаправленно проецируя на него неопределенность, а другое дело - провоцируя у него тривиальный порядок. Это может быть оружием победы.
Куда летит система
Сегодня уже совсем очевидно, что система летит в точку, где скорость генерации управленческих решений ИИ-агентами превысит скорость их осмысления людьми. Где контур управления замкнётся сам на себя. Где модные дашборды будут гореть зелёным, пока физическая реальность за окном будет разваливаться на части.
Это не 2040 год. Это не технологическая сингулярность в голливудском смысле. Это произойдёт раньше. И оно будет выглядеть не как восстание машин. Оно будет выглядеть как идеальный отчёт, который никто не написал, но который все подписали. Как стратегическая программа на пятьдесят тысяч страниц, которая прошла все мыслимые аудиты, но не содержит ни одного выполнимого действия. Как министр, который не принимает решений, потому что ИИ-аудитор забраковал все варианты, а сам ИИ не несёт ответственности.
Нож уже в яме. И яма неумолимо становится прозрачной . И все делают вид, что не видят крови.
Что делать
Не строить иллюзий. Не пытаться развернуть клубок. Не мечтать о новом человеке и не проектировать идеальную систему.
Смотреть на скорость. Измерять скорость. И помнить, что в мире, где все летят в одну и ту же стену побеждает не тот, кто тратит силы на попытки сменить траекторию, а тот, кто умеет вовремя притормозить и вовремя разогнаться.
И вот тут вспомнился один древний, как программирование мем.
Если бы этот мир строили программисты, то случайно залетевший дятел разрушил бы цивилизацию!
И когда-то мы над этим мемом смеялись, а сегодня, похоже, уже не до смеха.
← ко всем текстам