Что русскому хорошо, то и для ИИ будет полезно
Что такое хорошо и что такое плохо?
Хотя, нет - это слишком просто … тут всё "очевидно" : "Крошка сын к отцу пришел и с просила кроха ..."
Давайте копнем глубже: «Что делать, когда не знаешь, к чему это приведет ?»
Ну или еще глубже – что такое «добро» и что такое «зло» ?
Разделение добра и зла — ключевой вопрос, от ответа на который зависят все наши действия. Каждый человек, каждая культура, каждая религия и каждая идеология отвечают на него по-своему. По-своему на него отвечает даже каждое составляющее нашего «Я».
При внимательном рассмотрении проблематики добра и зла (а равно и проблематики рациональности, аксиологии, дихотомии) возникает совершенно очевидное понимание: дихотомия всегда контекстуальна. Одно и то же действие на одном горизонте оценки может восприниматься как негативное, но стоит изменить этот горизонт, и оценка может легко смениться на прямо противоположную. При дальнейшем расширении горизонта оценка может вновь стать негативной, и так — теоретически — до бесконечности.
И главная проблема в том, что, во-первых, у нас обычно не хватает времени и ресурсов на такую оценку; во-вторых, при расширении границ оценки возрастает вероятность ошибок из-за нехватки информации. Граница понимание мира расширяется, и на определённой границе какие-либо однозначные оценки становятся просто некорректными.
В науке эта проблема коррелирует с вопросом выбора границы исследования: где остановиться? Мы всегда(!) искусственно упрощаем мир, разбиваем его на объекты и системы, чтобы нам было проще с ним работать. Но мир всё-таки един, и наше разделение — лишь костыль, вызванный тем, что наши органы восприятия крайне примитивны по сравнению с тем миром, в котором мы живём. Поэтому, где провести правильную(!?) границу «исследования», чтобы оценить долгосрочные последствия действия — мы этого не можем знать, в принципе. И поэтому, как правило, мы принимаем волюнтаристское решение о том, где остановиться, а соответственно – волюнтаристские решение о том, что есть «хорошо», а что есть «плохо».
Тем не менее существует и более рациональный/совершенный подход. Он связан с пониманием того, как меняется достоверность решения — уверенность в его качестве — в зависимости от горизонта оценки. Когда мы вынуждены выбирать между двумя альтернативами (взаимоисключающими целями или решениями), очень часто оказывается, что траектории достижения той и другой альтернативы на начальном этапе идентичны. И если этот общий участок достаточно велик, он даёт нам время на снятие неопределённости. Соответственно необходимость принятия конкретного решения можно отодвинуть до момента прихода к развилке: мы идём до развилки, а там, может, станет понятнее, куда свернуть. В стратегическом планировании это один из стандартных приёмов — изначально вычленить точки слияния или аттракторы и точки бифуркации, а потом уже решать … как решать.
Но далеко не всегда это возможно - далеко не всегда есть общие составляющие траекторий к альтернативам, поэтому чаще мы используем другой способ: создаём резервы (в самом широком смысле). Это дает нам следующее : если по мере снижения неопределённости возникнет необходимость резко изменить уже сделанный выбор … дальше объясню на примере выбора пункта прибытия в условиях слабо известной дорожной обстановки в городе …, мы должны иметь возможность свернуть на дорогу, ведущую к пункту Б, без существенной потери эффективности движения к нему и без существенного ущерба движению к изначально выбранному пункту А. Если пункт А — это изначально(!) добро, а пункт Б — зло, то в ситуациях, не вписывающихся в известные догматы и ориентиры, мы должны закладывать для себя такой резерв – пусть это будет ситуационный резерв, резерв траекторный – называть это можно по-разному.
Если внимательно посмотреть на окружающий мир, можно увидеть, как это происходит. Даже когда преступника осуждают к высшей мере наказания, в нормальном цивилизованном обществе (в нормальных условиях его существования) приговор не приводится в исполнение немедленно. Даётся достаточно много времени (иногда много лет) — резерв, чтобы человек, если он действительно невиновен, мог это доказать.
До сих пор человечество на всех уровнях — от управления государствами до индивидуального самоуправления — располагало достаточно большим (по современным меркам) временем на обдумывание, на то, чтобы иметь возможность понять, что правильно, а что нет. Однако сегодня ситуация изменилась радикально: сегодня в скорости и качестве принятия решений мы должны конкурировать не только друг с другом, но и с искусственным интеллектом, который всё чаще выступает как субъект, а не только как объект/инструмент.
Отсюда неизбежно возникает очевидный вопрос: как заставить искусственный интеллект быть этичным? Попытки ограничить его решения человеком, встроить человека в контур принятия решений искусственным интеллектом для ревизии, возможно эффективно реализуемы где-то на стратегическом уровне - там есть время. Но на тактическом уровне цикл управления просядет моментально, и нас обыграют на всех полях. Эффективная «рукопашная» корректировка решений искусственного интеллекта человеком в контуре оперативного и тактического управления — иллюзия.
Необходимо искать подходы, которые не требовали бы вмешательства человека и в то же время не были бы катастрофичны для человечества. Об этом думали давно: три закона робототехники Айзека Азимова — именно об этом. Однако сам Азимов очень быстро понял, что это не работает. Работать может только глубокий просчёт последствий. Но, как я уже говорил, эффективный глубокий зачастую просчёт невозможен: такие границы есть и у человека, и у искусственного интеллекта.
Чтобы рациональность искусственного интеллекта не диссонировала с нашей этикой, он должен принимать решения, опираясь на то, что любое решение — лишь приближение в условиях высокой неопределённости и ограниченных ресурсов на сбор информации, анализ, прогнозирование, синтез и оценку последствий. Искусственный интеллект находится в той же системе проблем и ограничений, что и мы. Решение можно принимать только временно и лишь ориентировочно, создавая резервы для радикального его изменения по мере уточнения обстоятельств и снятия неопределённости.
То, что я излагаю, — основа кибернетики, и это совсем не новелла для тех, кто занимается системами управления. Но как это реализовать? Ведь речь идёт, по сути, о создании культуры для искусственного интеллекта.
А что такое культура?
Есть кибернетическое понимание феномена культуры, почти идентичное философскому: культура — это система механизмов проекции глобальных целей на моментальные решения субъекта. Ясно, что ни один субъект не в состоянии постоянно думать о большом, но как-то он должен сверять конкретные действия с глобальной целью — или с целью вида, потому что мы существа социальные - закон убунту — «я живу, потому что живы все» — главный закон нашего существования. Как спроецировать это на ежесекундные решения? Заставлять человека всё время думать о глобальном невозможно – он просто не в состоянии будет действовать – будет только думать. Значит, нужны некие догматы как границы и ориентиры, постоянно определяющие общий вектор выбора. Да, при этом в моменте каждый выбор может быть неоптимален, но статистически, как показывает история, вектор в целом получается достаточно рациональным. Это и есть культура — система механизмов, поддерживаемая литературой, искусством и прочим.
И что же тогда делать с искусственным интеллектом? Водить его в Большой театр? Смешно. Речь не об этом. Но какие-то догматы и ориентиры нужны. При этом, как я уже говорил, три закона робототехники не работают. Догматы придумать, судя по всему, невозможно, но можно придумать метадогмат: если искусственный интеллект всегда будет закладывать в любое решение резерв для перехода к альтернативному варианту цели или решения в любой момент без существенных потерь, вероятность совершения им непоправимых ошибок резко уменьшится.
Когда я это формулировал, возникла забавная мысль. Есть разные культуры. Есть, например, древняя иранская культура: скрупулёзная, дотошная, любящая конкретику. Есть похожая на нее - западная культура (стремящаяся опереться на римскую). И есть культура русская (в том числе преемница древнегреческой через византийскую), которую часто характеризуют как неконкретную. И тогда в контексте сказанного выше возникает вопрос: а не является ли эта «не конкретика» следствием того же, что я предлагаю сделать с искусственным интеллектом? Может метадогмат русской культуры «Не надо принимать конкретных решений — они всегда ошибочны, поэтому закладывай всегда резерв, чтобы, когда поймёшь, что ошибался в изначальной оценке, легко сменить решение» - это не просто гибкость, это ещё и широта, и методическая глубина? И она ведь есть в нашей культуре, -согласитесь! И получается, что я, как носитель русской культуры, предлагаю сделать искусственный интеллект по-русски ? Ну да, выше себя не прыгнешь …
Хотя … а почему бы и не сделать по-русски? Распишем дата-центр под хохлому. Научим нейросеть играть на балалайке, петь скабрезные частушки. Добавим в архитектуру ИИ водку, пельмени и квашеную капусту на закуску , плюс обнимашки с медведями. Ну и девок красивых ! Почему-бы нет? Культура — это комплекс. Если есть некий ключевой стержень, остальное прирастает само – «самонарождается».
Получается довольно занятная перспектива. Думаю, весёлая нас ждёт история, если всё сделаем правильно. Если сделаем по-русски.
ПС. Вот и ответ на вопрос « Что делать, если не знаешь к чему это приведет? »
ПС1. Если переводить на военный язык, то ближе всего то, о чем я тут написал, как мне кажется, к понятию "оперативный простор". Необходимо действовать всегда так, чтобы у тебя было в реальном запасе и множество целей, и множество путей их достижения (как в планировании массированных налетов с воздуха). Высокое искусство! А если к нему добавить еще и умение постоянно находить такие уязвимости противника, воздействия на которые открывает еще большие его узявимости, ставя их автоматически под твой удар ... это высочайшее искусство - почти недостижимая высота. Недостижимая для человека, но для ИИ - вполне решаемая задача.
← ко всем текстам