"Ваша ставка сыграла!" ... в другом месте!
Когда все увидели, что нейросети галлюцинируют, все дружно решили: перед нами технологический брак. Машина уверенно говорит ерунду — чем не повод для позубоскалить, а потом и для паники? Но, возможно, мы слишком спешим с выводами. В жизни уже не раз бывало, что побочный эффект оказывался важнее изначальной цели.
Како-то быстро и совсем незаметно мы перешли тот барьер, за которым искусственный интеллект производит тексты и картинки уже промышленными объёмами. Научпоп, новости, советы «как жить» — всё это с каждым днем чаще генерируется большими языковыми моделями (которые даже - никакой не ИИ), а не человеком. Формально все тексты выглядят , как правило, прекрасно: грамотно, связно, порой даже остроумно. И только специалист иногда морщится: видя в содержании нередкую пустоту или прямые ошибки.
Форма больше не гарантирует смысла.
Долгое время массовый читатель жил в относительно комфортной иллюзии: если текст написан «как в хорошем журнале», если там есть уверенный тон, плавные переходы и немного "типа-научной" лексики, — значит, этому тексту в целом можно верить. Отшлифованная форма выступала индикатором истины. А для некоторых - и суррогатом. Нейросети эту связку разрушили. Теперь хорошо оформленная чушь не стоит и копейки и генерируется за секунды.
Причем, столкновение с этим происходит уже в самых обыденных местах. Не в лабораториях, а даже на кухне. Вчера произошло у меня, буквально, на глазах: нейросеть предлагает рецепт, второе ИИ‑приложение его опровергает, человек в панике спасает ситуацию. Но она не особо спасается! Разочарование ! Формально — это досадный глюк алгоритма. Фактически — маленький урок любому и каждому: «убедительный тон» больше не значит «можно не думать».
И вот здесь начинается самое интересное.
Специалист давно привык сомневаться, сверяться, проверять. Критическое восприятие — часть его профессии. Но теперь к той же дисциплине начинает принуждать сама среда — уже не избранных, а всех подряд. Массовый пользователь внезапно понимает: красивый текст уже с намного большей, чем раньше, вероятностью может быть ложью, аккуратная инфографика — манипуляцией, эмоциональный ролик — сшит из синтетических лиц и сгенерированных фраз.
Когда форма перестаёт быть критерием доверия, остаётся только содержание. А значит, неизбежно появляется вопрос: «О чём мне на самом деле говорят? Какие предпосылки здесь спрятаны? Кому выгодно, чтобы я в это поверил?» Это и есть зачатки критического мышления - не академического, а жизненного.
Конечно, возможны два сценария. Первый — усталость и цинизм: «никому не верю, всё фигня». Но это тупик, не мышление, а отказ думать. Второй — воспитание привычки к интеллектуальному усилию: проверять факты, улавливать противоречия, отличать аргумент от риторического приёма. Для этого не нужен диплом философа; нужен многократно повторённый опыт столкновения с убедительной ложью.
И здесь несовершенный искусственный интеллект становится странным - парадоксальным педагогом. Он постоянно подсовывает нам ситуации, в которых доверие к «хорошей подаче» оборачивается разочарованием. Он учит не верить гладкости текста, учит испытывать форму на прочность. Это не то, ради чего его создавали, но именно так он и работает сегодня!
Теперь представим, что эта привычка — напрягаться умственно при встрече с любым «красивым» высказыванием — укоренится в масштабе общества. Что произойдёт с политической пропагандой, с рекламой, с «экспертными» комментариями в новостях, если слушатель автоматически включает режим проверки, а не восприятия? Насколько устойчивы окажутся привычные механизмы управления массовым сознанием в мире, где любой вид дискурсивного глянца воспринимается как потенциальная симуляция?
Парадокс в том, что гонка за всё более «правдивыми» моделями может, в каком‑то смысле, пойти против этого процесса. Совершенный ИИ, который почти никогда не ошибается и всегда звучит безупречно, снова восстановит старый союз формы и доверия. Он вернёт нам комфорт: можно не думать, за тебя подумали.
Неидеальный ИИ, наоборот, лишает нас этого комфорта.
Поэтому вопрос, возможно, стоит поставить иначе. Не «как быстрее устранить галлюцинации?», а «какую когнитивную эволюцию запускает то, что они существуют?». Может оказаться, что массовое приучение к критическому чтению, слушанию и просмотру — побочный продукт, который по значимости окажется выше, чем исходные утилитарные задачи ИИ-тизации всего и вся.
Если в результате столкновения с говорящей машиной у среднестатистического обывателя появится устойчивая привычка думать, прежде чем верить, это будет означать одно: человечество случайно изобрело технологию массовой дрессуры разума. Не самую мягкую, зачастую раздражающую, но, возможно, самую действенную из доступных нам сегодня.
Каковы будут последствия ? Посмотрим!
← ко всем текстам