Антиутопия искусственного интеллекта

Рассматривается динамика медленных переменных в развитии человечества. На эту динамику принципиальное влияние может оказать развитие и тотальное внедрение систем искусственного интеллекта (ИИ). Этот процесс может сыграть роль «черного лебедя», пользуясь терминологией Нассима Талеба, в развитии мировой цивилизации. Внедрение ИИ можно сравнить с распространением книгопечатания в Средневековье. Но если последнее произошло в традиционной фазе истории человечества, то первое реализуется в постиндустриальной фазе и может иметь совершенно другие последствия.

Управление рисками природных катастроф, техногенных аварий и социальных нестабильностей предполагает анализ всего набора возможных ситуаций, включая самые неблагоприятные. Одна из них на основе системного анализа, математического моделирования и теории самоорганизации рассматривается в настоящей работе. Показывается, что развитие ряда существующих тенденций может привести к кризису техносферы, неспособности следующих поколений удержать достигнутый уровень технологий и культуры. Использование ИИ может оказаться «подарком Люцифера» для человечества. Дьявол дарит желаемое, но при этом меняет реальность так, что этот дар обесценивается, а другие сущности, которыми он снабдил, делают жизнь людей гораздо хуже, чем до этой сделки.

В работе предлагаются изменения в культурной, образовательной, научной стратегии, которые могут переломить опасные тенденции и изменить сценарий развития и использования ИИ.