Илон Маск, Стив Возняк и еще более 1000 экспертов призвали приостановить обучение ИИ из-за серьезных рисков для общества

Глава SpaceX, Tesla и Twitter Илон Маск, сооснователь Apple Стив Возняк и еще более 1000 экспертов в сфере технологий подписали открытое письмо с призывом не менее чем на полгода остановить обучение систем искусственного интеллекта, более мощных, чем GPT-4.

Подписанты считают, что системы ИИ, которые уже начинают составлять конкуренцию человеку в решении многих задач, могут представлять серьезные риски для общества и человечества в целом. По их мнению, мощные системы ИИ следует разрабатывать только в случае уверенности в том, что их эффекты будут положительными, а риски — управляемыми.

В последние месяцы разработчики ИИ всецело посвятили свою работу «неконтролируемой гонке» по созданию все более мощных моделей, действия которых даже их авторы сами не могут до конца понять, предсказать и проконтролировать, указано в письме.

Авторы обращения отмечают, что не призывают к полной остановке развития ИИ, а добиваются лишь «выхода из опасной гонки». В период паузы разработчикам стоит объединить усилия для разработки единых правил безопасности и контроля над экспериментами.

В число подписантов также вошли соучредитель Pinterest Эван Шарп, глава Stability AI Эмад Мостак, сооснователь Skype Яан Таллинн, а также ученые и профессора из Йельского, Оксфордского, Гарвардского, Кембриджского, Стэнфордского, Массачусетского технологического университетов и многие другие.

UPD: профессор Нью-Йоркского университета Ян ЛеКан сообщил в Twitter, что не подписывал открытое письмо и не согласен с его посылом, заметил vc.ru. В комментариях предположили, что подписи мог сгенерировать ИИ либо профессора и не было в списке (сейчас его имя отсутствует в числе подписантов).

На прошлой неделе основатель Microsoft Билл Гейтс опубликовал эссе, которым провозгласил начало эпохи искусственного интеллекта. По мнению бизнесмена, ИИ произведет во многих сферах жизни человека революцию, сравнимую с возникновением мобильных телефонов и интернета.