Технологическая сингулярность — миф, поставленный будто по сценарию: понятный зрителю злодей, предсказуемый апокалипсис, четкая дата в календаре. Реальность же гораздо менее кинематографична: медленное перераспределение капитала, тихая эрозия приватности, центры обработки данных, истощающий водоснабжение городов.
Однако судя по имеющимся данным, это заблуждение, не имеющее под собой никаких научных оснований. И та энергия, которую общественность тратит на страх перед робоапокалипсисом, который не наступит, отвлекает нас от гораздо более скучной, но более насущной работы: противодействия тому вреду от ИИ, который уже присутствует и наносит ущерб нашей планете в реальном времени.
В основе понятия «сингулярность» лежит идея «интеллектуального взрыва», сформулированная в 1965 г. математиком И. Дж. Гудом: достаточно искусная машина сможет спроектировать ещё более искусного преемника, который, в свою очередь, спроектирует ещё более способного, и так далее, в циклической последовательности, оставив человеческий интеллект далеко позади. В 2005 г. американский футуролог Рэй Курцвейл в книге «Сингулярность уже близка» назвал 2029 г. годом, когда машины, неумолимо развиваясь по экспоненте, пройдут тест Тьюринга.
Далее с 2007 г. стали проводиться «Саммиты сингулярности», где «верующие» пытались найти дату спасения, стремясь к «цифровому бессмертию». Главы технологических компаний стали открыто говорить, что ИИ станет величайшей экзистенциальной угрозой, а в 2023 г. было выпущено письмо с призывом к приостановке экспериментов с ИИ.
Тридцать лет, одна непрерывная нить и ни одного успешного прогноза.
Как формировался миф вокруг ИИ, почему он антинаучен и что же на самом деле угрожает человечеству уже сейчас?
Полная версия статьи на английском языке.
