Max - один из подписчиков - опубликовал в чате :
Max - один из подписчиков - опубликовал в чате :
Этика
На эту тему я бы рекомендовал почитать Акопа Назаретяна, советсткого Курцвейла, который параллельно с ним пришел к тем же выводам по точке сингулярности и т.д. Единственное, в отличие от Курцвейла, он пишет научным языком, со ссылками и доказательствами, что делает публикации большими по объему и долгими/тяжеловатыми по чтению
Так вот, этика всегда помогала человечеству выживать, когда останавливала использование все более и более смертоносных технологий против своего ближнего. Например, после изобретения железа и железного оружия началась массовая резня в средиземноморском регионе (нашествие народов Моря и т.д.), которая привела в результате к практически одновременному (по историческим меркам) возникновению монотеических религий, прямо запрещающих убийство ближнего своего и делающих это смертным грехом. Единственная проблема этики, что она работает реактивно, т.е. уже как попытка убрать/минимизировать последствия очередных изобретений
Далее по целям человечества. Да, выживание и продолжение рода - это основные подсознательные цели любого человека. Но они почему-то начали сильно контрастировать с целями большинства властей, причем многие из них открыто ратуют за снижение численности населения и т.д. И любой новый фазрвый переход (по Назаретяну) требует все большей и большей численности населения и его разнообразия, потому что новое всегда зарождается в маргинальном, по отношению к текущему, сегменте. Яркий пример - зачаточное земледелие в Каменном Веке, когда большие мужики охотились на мамонтов. А потом мамонтов выбили и нужно было что-то кушать. Пока не научились хоть какой-то эффективности в земледелии, вымерло порядка 80% населения Земли на то время. Зато потом оно пошло сильно увеличиваться на новой кормовой базе. И такое часто бывало при следующих фазовых переходах
И вот сейчас, человечество рискует не успеть изобрести новую этику, до момента как оно себя уничтожит. Мы сейчас стоим на пороге всемогущества и очень сильно рискуем его не перейти (особенно учитывая качество(а) нынешней "элиты"). Кстати, одна из гипотез на эту гласит, что мы до сих пор не встретили ни одну разумную расу в космосе, потому что никто из них так и не смог перейти оный предел...
Еще касательно целеполагания человечества. Его, на данный момент, к сожалению, нет вообще. Ну это если не считать потреблядства и желания жрать в три горла. Коассическая последняя фаза красивых мышей из Вселенной 25. Хотя раньше всегда целеполагание было: до начала 20го века - это спасение души, далее - все во имя технического прогресса, потом космическая мечта, а далее - как-то уже все...
Насчет ИИ. На данном этапе - это действительно просто ответы из комбинации известных знаний. Но нет никаких гарантий, что в следующих версиях/поколениях он не начнет уже "рассуждать" самостоятельно и станет чем-то вроде general AI. Яркий пример - это периодическое избретение своего языка общения ИИ агентов между собой
На мой взгляд, единственный выход для человечества - это ускоренное улучшение интрефейса компьютер мозг для последующего контроля ИИ и использования его исключительно в качестве помощника, а в идеале объединения мозгов разных людей в единую сеть, которая сможет решать задачи просто несопоставимой сложности, по сравнению с текущими
Заходите в чат Катакомбы. Там бывает весьма интересно !
← ко всем текстам