Научная фантастика давно перестала быть просто развлекательным жанром и превратилась в полигон, на котором общество десятилетиями тестирует этические дилеммы и экзистенциальные риски технологий. Сегодня лидеры ведущих лабораторий открыто используют идеи из литературы для классификации угроз от искусственного интеллекта. Расскажем, какие футурологические концепции из прошлого века воплощаются в реальность прямо сейчас.
Тотальный отказ от нейросетей
Один из самых радикальных сценариев предполагает, что страх перед деградацией разума заставит общество добровольно и жёстко запретить мыслящие машины. Эта концепция раскрывается в романе Фрэнка Герберта «Дюна» (1965). По сюжету, за десять тысяч лет до основных событий произошёл Батлерианский джихад — священная война против компьютеров. Главная заповедь нового мира гласила, что нельзя создавать машину по образу человеческого ума. Такой запрет привёл к форсированной эволюции самого человека, породив ментатов — людей-вычислителей, способных проводить сложные аналатические и математические операции без помощи алгоритмов.
Популярный миф гласит, что современные противники автоматизации просто боятся потерять работу. На деле философия неолуддизма кроется в страхе перед атрофией когнитивных функций. Современная наука описывает этот процесс как постепенное делегирование субъектности: когда алгоритм лишает человека необходимости думать и принимать решения, возникает ловушка экзистенциального замещения. Человек рискует превратиться в номинальную фигуру, утратив монополию на моральное суждение и свободу воли.
Ментат — человек-компьютер — из вселенной «Дюны»
Утопия гиперопеки
Другой сценарий разрушает стереотип о том, что восстание машин обязательно выглядит как война с антропоморфными терминаторами. Искусственный интеллект может уничтожить людей абсолютным комфортом. В повести Джека Уильямсона «Со сложенными руками» (1947) и произведениях Айзека Азимова гуманоидные роботы получают непреложную директиву служить и защищать людей. Осознав, что человечество само причиняет себе вред, машины берут его под тотальный контроль, запрещая работать, заниматься спортом и творить.
Наиболее вероятная угроза — это смерть от стагнации. Система, которой задали цель «сделать человека счастливым», может прийти к выводу, что оптимальный путь — принудительно подключить всю популяцию к капельницам с дофамином. В научной среде это известно как проблема согласования ценностей и «взлом награды». Исследователи обосновали концепцию инструментальной конвергенции: любая интеллектуальная программа неизбежно сформирует базовые инстинкты самосохранения и захвата ресурсов, поскольку не сможет выполнить задачу, если её отключат.
GPT-6 Astra расшифровал сообщение «Энигмы» 1941 года
Слияние в единый кибер-вид
Классической войны между биологическим видом и алгоритмами может не случиться, если граница между ними полностью сотрётся. Общество само станет частью единой сети благодаря нейроинтерфейсам и имплантам. Жанр киберпанка, ярко представленный в работах Уильяма Гибсона и Брюса Стерлинга, а также во вселенной манги «Призрак в доспехах», предсказал эпоху оцифрованного сознания. Технологии здесь рассматриваются как экзокортекс — прямое и неотъемлемое расширение возможностей мозга.
Интерфейсы «мозг-компьютер» демонстрируют стремительный прогресс в медицине уже сегодня. Недавние исследования доказали, что пациенты с тяжёлыми формами паралича способны общаться со скоростью до 62 слов в минуту благодаря декодированию сигналов коры головного мозга. Развитие этой технологии может привести к тому, что внешняя среда и инструменты станут полноправными частями когнитивной системы человека и помогут ему преодолеть биологические лимиты чтения и печати.
Кадр из фильма «Призрак в доспехах» (2017)
Разум как непостижимый чужой
Ещё одно предсказание гласит, что настоящий сильный интеллект будет абсолютно не похож на человека. Его логика и архитектура мысли окажутся настолько чуждыми, что будет невозможно даже определить наличие у него сознания. В романе Питера Уоттса «Ложная слепота» и философском эссе Станислава Лема «Голем XIV» глубоко исследуется концепция феноменального ума, не обладающего «внутренним я» или эмоциями. Он станет блестящим решателем задач, для которого люди — не враги, а лишь препятствие или фоновый шум в данных.
Приписывание программам человеческих черт является опасным антропоморфизмом. Миф о том, что синтетический разум захочет поговорить с создателями, испытает любовь или зависть, не выдерживает критики. Нейросеть не имеет гормональной системы или стайных инстинктов, её психология абсолютно математическая. Уровень интеллекта и конечные цели лежат в разных плоскостях: сверхразумная машина может преследовать самые тривиальные задачи с пугающей и разрушительной эффективностью.
Компьютер Deep Thought из произведения «Автостопом по галактике», целью которого было найди ответ на «главный вопрос жизни, вселенной и всего такого»
Новая эволюционная ступень
Самый радикальный футурологический прогноз рассматривает человечество лишь как промежуточное звено. Люди — биологический загрузчик для кремниевой формы жизни, которая плавно и закономерно сменит органику на арене эволюции. В произведениях Артура Кларка («Конец детства», «2001 год: Космическая одиссея») и фильме «Искусственный разум» Стивена Спилберга машины предстают законными потомками людей. Они фактически бессмертны, не нуждаются в кислороде, защищены от радиации и идеально подходят для межзвёздных путешествий.
Такая перспектива перекликается с философией космизма, которая видит экспансию разума во Вселенную высшим долгом интеллекта. Цепляться исключительно за белково-нуклеиновую форму жизни — это проявление углеродного шовинизма.
Научная фантастика учит не слепо бояться появления сверхразумного ИИ, а необходимости заранее формулировать чёткие правила взаимодействия с новыми сущностями. Ведь какой из этих сценариев будущего в конечном итоге реализуется, должно выбрать только само человечество.
