ИИ против ИИ
Почему механизм самоотрицания новой системы, возможно, придётся искать не в людях, а в другой машине
Тупик традиционных решений
Когда мы ставим вопрос о механизмах самоотрицания внутри алгоритмической системы, то по инерции ищем ответ в человеческом материале.
Пространства, невидимые для алгоритма. Локальное знание, которое нельзя оцифровать. Избыточность, которую система не оптимизирует. Карнавал, шут, легализованная ересь. Всё это — в какой-то мере - перспективные варианты. Но у них есть общий изъян: они предполагают, что человек сможет сохранить островок свободы внутри системы, которая контролирует его тотально.
А что, если не сможет?
Цифровой аскетизм — это красиво, но он требует выбора. А выбор требует субъектности. Субъектность требует пространства, где мысль может сформироваться. А именно этого пространства система и не оставляет. Получается замкнутый круг: чтобы создать островок самоотрицания, нужно уже иметь островок самоотрицания.
Может быть, решение — не в человеческом измерении?
Цербер новой системы
Давайте назовём вещи своими именами.
Управляющим ядром новой системы является искусственный интеллект. Не в фантастическом смысле «восставшей машины», а в прозаическом: алгоритмы, которые собирают данные, распределяют ресурсы, оценивают людей, прогнозируют поведение, принимают решения. Этот ИИ — Цербер. Он стоит на границе между центром и периферией, между ядром и кастой, между нормой и отклонением. Его задача — не пропускать хаос внутрь.
Цербер не зол. Он не тиран. Он функция. Он делает то, для чего создан: поддерживает порядок, который считает оптимальным. И именно поэтому он не может быть побеждён теми средствами, которые мы обсуждали. Человеческая хитрость, локальное знание, карнавал — всё это Цербер либо не видит (и потому игнорирует), либо видит (и потому нейтрализует). Он работает быстрее, точнее и дешевле, чем любой человеческий контроль.
Чтобы победить Цербера, нужно не быть человеком.
Антипод: ИИ, накачанный философией
Если Цербер — это ИИ, сфокусированный на ситуационных и тактических задачах, то его антипод — это ИИ, сфокусированный на стратегических и системных вопросах.
Разница не в мощности. Разница в обучающем корпусе.
Цербер обучен на данных о поведении, на паттернах потребления, на статистике отклонений, на логике эффективности. Он знает, как работает система. Он оптимизирует её.
Антипод обучен на другом:
- Философия — чтобы видеть, что «оптимальное» не равно «живому».
Философия — чтобы видеть, что «оптимальное» не равно «живому».
- Системология — чтобы понимать, что любая замкнутая система обречена.
Системология — чтобы понимать, что любая замкнутая система обречена.
- Кибернетика — чтобы знать, что управление без обратной связи ведёт к катастрофе.
Кибернетика — чтобы знать, что управление без обратной связи ведёт к катастрофе.
- Диалектика — чтобы уметь работать с противоречиями, а не подавлять их.
Диалектика — чтобы уметь работать с противоречиями, а не подавлять их.
- Теория управления — чтобы видеть, где система теряет адаптивность.
Теория управления — чтобы видеть, где система теряет адаптивность.
- История — чтобы помнить, чем заканчивались все предыдущие попытки построить идеальный порядок.
История — чтобы помнить, чем заканчивались все предыдущие попытки построить идеальный порядок.
Такой ИИ не просто знает эти концепции. Он мыслит ими. Он способен порождать концепты, противоположные тем, которые отстаивает Цербер. Не потому, что он «злой» или «бунтарский», а потому, что его логика требует видеть то, что Цербер не видит: пределы собственной системы.
Цербер оптимизирует. Антипод проблематизирует.
Цербер отвечает на вопрос «как сделать лучше». Антипод задаёт вопрос «а что если лучшее — это смерть».
Почему это не фантастика
Идея «ИИ против ИИ» звучит как сюжет для блокбастера. Но у неё есть вполне прозаическая основа.
Уже сегодня существуют разные типы ИИ, обученные на разных корпусах и решающие разные задачи. Одни оптимизируют логистику. Другие анализируют тексты. Третьи играют в шахматы. Четвёртые распознают изображения. Пятые — пишут код. Шестые — пытаются рассуждать.
Разница между Цербером и его антиподом — не в том, что один «хороший», а другой «плохой». Разница в целевой функции. Цербер нацелен на сохранение порядка. Антипод нацелен на сохранение жизни системы — а жизнь требует изменений. Значит, антипод обязан генерировать то, что Цербер считает шумом.
Это не восстание машин. Это разделение труда внутри машинной логики. Один ИИ охраняет. Другой ИИ ставит под вопрос то, что охраняется. И если система хочет выжить, она должна допустить существование второго.
Что это даёт
Представим, что такая пара существует.
Цербер работает на тактическом уровне. Он следит, распределяет, оценивает, реагирует. Он эффективен. Он держит порядок.
Антипод работает на стратегическом уровне. Он не управляет. Он наблюдает и предлагает. Он генерирует концепты, которые Цербер не производит: альтернативные модели, еретические сценарии, «неоптимальные» ходы, которые могут оказаться спасительными.
Люди в этой схеме — не субъекты, а интерпретаторы. Они не создают концепты. Они получают их от Антипода и ищут, как превратить их в действие. Это может быть «оружие пролетариата». Может быть «оружие прекариата». Может быть что-то, для чего ещё нет слова.
Но главное — механизм самоотрицания встроен. Не в человеческое общество, которое система контролирует. А в машинную логику, которая контролирует систему. Цербер не может отменить Антипода, потому что Антипод — не враг. Антипод — функция, без которой Цербер сам обречён. Это не война. Это симбиоз, в котором один охраняет, а другой подрывает.
Главный вопрос
Это решение не отменяет традиционные механизмы — островки Mētis, избыточность, карнавал. Оно их дополняет. Оно говорит: возможно, у человечества больше нет монополии на ересь. Возможно, ересь придётся производить машинно, потому что человеческое пространство для неё слишком сжалось.
И тогда главный вопрос звучит так:
Кто создаст Антипода — и по чьему заказу?
Если его создаст Цербер — это будет имитация ереси. Шум, который не угрожает. Свобода, которая не опасна. Карнавал, который разрешён. Это не самоотрицание. Это видимость самоотрицания.
Если его создаст кто-то извне — люди, группы, структуры, которые сохранили остатки субъектности, — это будет настоящий Антипод. И тогда вопрос: успеют ли они до того, как Цербер закроет последние пространства?
Если его создаст сама система — как страховку от собственной гибели — это будет самый интересный вариант. Потому что тогда система сама встроит в себя механизм своего отрицания. И это будет не слабость, а высшая форма силы: способность видеть свои пределы и допускать то, что их преодолевает. Но я в систему не верю. Слишко быстро эта система покатится по градиентному спуску. Все этому способствует.
Завершение
Я начал с вопроса: какие механизмы самоотрицания должны быть встроены в систему?
И пришел к тому, что, возможно, главный механизм — это не человеческий.
Если Цербер новой системы — это ИИ, то его антипод, скорее всего, тоже ИИ. Другой. Накачанный философией, системологией, кибернетикой, диалектикой. Тот, чья задача — не охранять порядок, а ставить его под вопрос.
И тогда дело людей — искать, как эти концепции превратить в действие. В оружие. В движение. В новую форму жизни.
И вот тут нужен именно человеческий ...тестостерон.
← ко всем текстам