В споре ИИ рождается … что ?

В споре ИИ рождается ... что ?

Неожиданно для себя я провел достаточно интересный (интересный,опять же, – для себя) эксперимент.

Все началось с этого поста.

И мне показалось, что я вчерне знаю на него ответ. Но чтобы не попасть совсем уж впросак, я решил немного опять попытать нейросеть на этот счет.

Здесь протокол моего общения.

Сразу обозначу несколько важных моментов:

1.      Я свой текст наговаривал(!) через встроенный в Windows распознаватель речи. Он очень несовершенный, поэтому такое отвратительное качество текста. Однако по прошлым таким упражнениям я уже знал, что для нейросети такой текст – вполне нормален, поэтому я его править не стал. Я так понимаю, что лучше нейрухе дать больше своих мыслей. Лучше хуже, но больше ! 😊 А она в таком бедламе сама неплохо разбирается.

2.      Изначально я рассчитывал организовать диалог между Qwen и Kimi. Qwen в последнее время выглядит существенно лучше, чем DeepSeek, поэтому я его использую чаще. Однако Qwen отказался обсуждать эту тему по соображениям безопасности. Он посчитал что тема сепаратизма опасна. Ну и ладно, вместо него я использовал DeepSeek.

3.      В какой-то момент диалога Kimi начал явно глючить. Начал повторять свои сообщения, совершенно утеряв контекст диалога. Поэтому я Kimi перестал мучать и продолжил общение с DeepSeek в режиме «интервью».

4.      Весь протокол общения … это достаточно объемный текст.

5.      Читая весь тот текст, который выдали нейрухи, следует постоянно держать в уме тот факт, что они никакие не ИИ. Они просто специфичные компиляторы того, что больше всего говорят в интернете по обсуждаемой теме. И ключевое слово тут «больше всего».

Теперь о том содержании, которое нагенерировали нейрухи.

1. Нейрухи все время скатывались в достаточно глубокое обоснование предлагаемых ими концепций. Это интересно. Иногда это и полезно. Но иногда … (об этом позднее)

2. Учитывая тот факт, что нейрухи сами ничего не придумывают, а лишь гладко компилируют статистически состоятельные тексты (чего было больше в обучении, из того они и формируют результат) я делаю вывод о том, что практически всё публичное информационное пространство буквально забито весьма односторонней точкой зрения на проблему сепаратизма.

3. В рамках превалирующего в информационном пространстве взгляда на сепаратизм нейрухи достаточно детально все разложили по косточкам, явно подгоняя и поправляя друг друга.

Условно технологический результат

1. Применять подход «модерируемая дискуссия двух нейросетей» иногда полезно, когда у “заказчика” есть лишь общее понимание сути вопроса, и необходимо достаточно быстро разобраться в нем.

2. Такое упражнение может занимать несколько часов. Нейрухи генерируют быстро (особенно DeepSeek), но приходится не просто вчитываться в то, что они генерируют, но и вдумываться.

Риски

3.  Главный риск в том, что если сам в теме разбираешься слабо, то можешь получить весьма и весьма искаженное представление о ней, доверившись массовому «экспертному сообществу», «амбассадором» которого выступает в данном случает нейросеть. А как известно – миллион обезьян «Война и Миръ» не напишут. Но, если ты не попадешься на эту глобальную уловку, то , как миниум, будешь знать, что думает на этот счет «экспертное сообщество». То экспертное сообщество, которое , с одной стороны есть воинствующее невежество, а с другой стороны – жертва агитации и пропаганды.

 

Основной вывод

Ни в коем случае(!!!) нельзя использовать публичные(!) нейросети для получения знаний в тех сферах, где предметные знания разделены на публичные и условно реальные. И сферы эти всем известны, это и история, это и все гуманитарные науки, и медицина, и образование, и государственное управление и управление военное, и стратегическое во всех его ипостасях, и экономика, и социология и т.д. и т.п.

Однако, если ты в теме уже неплохо разбираешься, знаешь ключевые противоречия и проблемы предметной области, тогда нейросети могут очень сильно помочь в том, что могут показать тебе какие-то детали, которые ты, скажем так, привык опускать.

Но самое главное, в чем помогает проработка неоднозначной темы через нейросети, – это то, что ты получаешь бесплатного и очень терпеливого собеседника – явного оппонента (если сам ты не заражен господствующей в информационном пространстве идеологией), который фактически стоит на массовой(!) точке зрения, которую очень и очень старается аргументировать. Причем, аргументирует он корректно (с точки зрения ведения дискуссии), а не как всякием там мамкины ипсошники. И за счет этого ты более-менее полно начинаешь понимать, с какой стороны тебя твои наиболее вероятные оппоненты могут зацепить/пошатать.

 

Ну и в заключение о том, во что вылилась дискуссия. Сначала нейросети транслировали явно либералистическую позицию. Либеральная фигня из них прямо перла. Основная позиция, которую они продвигали в вопросе противодействия сепаратизму – подкуп. Подкуп, в широком смысле этого слова. Подкупать элиты, массы. Давать пряники, пряники, пряники. И тогда все будут довольны и никакого сепаратизма не будет. На мой вопрос – «А где же взять столько пряников ?» DeepSeek спохватился – Да, кроме пряников нужен же и кнут! Но кнут – это плохо, надо как-то сделать так, чтобы было без кнута! Надо дать им пряник в виде другого механизма договаривания. И вот тут, как мне кажется, началось самое интересное.

Но не буду спойлерить.

В действительности он не то, что есть на самом деле!

В действительности он не то, что есть на самом деле!

Что такое искусственный интеллект?

Чтобы понять, что такое искусственный интеллект, необходимо сначала понять, что такое «просто интеллект».

А для того, чтобы лучше понять, что такое «просто интеллект», необходимо понять сначала – что такое НЕинтеллект и СВЕРХ-интеллект.

Причем, с НЕинтеллектом более-менее понятно, однако не совсем понятно, что есть СВЕРХ-интеллект. Однако, если посмотреть на проблему интеллекта через призму кибернетики, то всё становится достаточно просто. Начнем с того, что интеллект – это один из механизмов, который обеспечивает управление поведением.

Чтобы было проще понимать, возьмем в качестве примера блоху, которую я уже неоднократно «брал» [1] на Катакомбе. Механизм управления поведением блохи элементарен – «метод НЕнаучного тыка». Прыгнула куда-то, там оказалось плохо – опять прыгает куда-то, на разбираясь куда. Лишь бы прыгнуть. И так будет прыгать, пока не попадет туда, где ей будет хорошо. Или не сдохнет.

Но это всего лишь блоха. А у более развитых существ тык уже «научный»… хотя всё еще тык. Они смотрят вокруг, видят, где лучше и туда прыгают, летят, ползут и т.п. Кузнечики, бабочки, муравьи и всякая другая «мелочь». У них уровень интеллекта выше.

Еще выше интеллект у тех, кто умеет планировать на несколько шагов вперед. Для этого они уже строят в своей голове (или где-либо еще) некоторую примитивную модель мира, на основании которой они умеют формировать планы на несколько шагов вперед. Механизмы планирования у них еще очень простые, однако это уже неимоверный шаг вперед, в сравнении с упомянутыми блохами и другими «козявками».

Дальше инструменты моделирования развиваются, развиваются механизмы поддержки моделей от уровня к уровню (о чем я тут писать не буду), и, в итоге, мы приходим к интеллекту типа человеческого, который характеризуется следующим:

А что тогда СВЕРХ-интеллект?

А это то, что способно по своему усмотрению менять все вышеперечисленные механизмы.

Ну и что тогда есть искусственный интеллект? 

Это такой интеллект, который обладает теми же основными свойствами, которыми обладает интеллект человека?

А вот и нет!

Искусственный интеллект – это любое, что мы сами назовем «искусственный интеллект» (впрочем, это относится и к категории “интеллект”, и ко всем другим категориям). Причем назовем это именно так – из соображений удобства для того, чтобы общаться по поводу определенной проблематики. А поскольку проблематика достаточно обширна, то, если смотреть на феномен «искусственный интеллект» с этой точки зрения, «де-факто» мы включаем в него следующее:

Есть и еще один взгляд на проблему дефиниции категории «искусственный интеллект», согласно которому в искусственный интеллект включается всё, что осуществляет преобразование информации, и что создано человеком. В некоторых  случаях такое определение тоже вполне имеет право на жизнь. Оно действительно упрощает взаимопонимание по поводу некоторых проблем и задач, в том числе, например, по поводу того, как на теме искусственного интеллекта безопасно распилить немеряное количество государственных денег. Но это другое… 

…хотя, иногда кажется, что именно это – “другое” и есть то главное, ради чего весь этот шум и гам вокруг темы искусственного интеллекта.

[1] см. здесьздесь и здесь