Используя сайт, Вы соглашаетесь с использованием файлов cookie и обработкой персональных данных в соответствии с Политикой обработки персональных данных.
Илон Маск, Стив Возняк и еще более 1000 экспертов призвали приостановить обучение ИИ из-за серьезных рисков для общества
31 марта 2023
1549
Илон Маск, Стив Возняк и еще более 1000 экспертов призвали приостановить обучение ИИ из-за серьезных рисков для общества
Эксперты в сфере технологий предлагают разработчикам «выйти из опасной гонки» и объединить усилия, чтобы сделать системы ИИ безопасными и контролируемыми
#Новости
1549
31 марта 2023
Эксперты в сфере технологий предлагают разработчикам «выйти из опасной гонки» и объединить усилия, чтобы сделать системы ИИ безопасными и контролируемыми
Глава SpaceX, Tesla и Twitter Илон Маск, сооснователь Apple Стив Возняк и еще более 1000 экспертов в сфере технологий подписали открытое письмо с призывом не менее чем на полгода остановить обучение систем искусственного интеллекта, более мощных, чем GPT-4.
Подписанты считают, что системы ИИ, которые уже начинают составлять конкуренцию человеку в решении многих задач, могут представлять серьезные риски для общества и человечества в целом. По их мнению, мощные системы ИИ следует разрабатывать только в случае уверенности в том, что их эффекты будут положительными, а риски — управляемыми.
В последние месяцы разработчики ИИ всецело посвятили свою работу «неконтролируемой гонке» по созданию все более мощных моделей, действия которых даже их авторы сами не могут до конца понять, предсказать и проконтролировать, указано в письме.
Авторы обращения отмечают, что не призывают к полной остановке развития ИИ, а добиваются лишь «выхода из опасной гонки». В период паузы разработчикам стоит объединить усилия для разработки единых правил безопасности и контроля над экспериментами.
В число подписантов также вошли соучредитель Pinterest Эван Шарп, глава Stability AI Эмад Мостак, сооснователь Skype Яан Таллинн, а также ученые и профессора из Йельского, Оксфордского, Гарвардского, Кембриджского, Стэнфордского, Массачусетского технологического университетов и многие другие.
UPD: профессор Нью-Йоркского университета Ян ЛеКан сообщил в Twitter, что не подписывал открытое письмо и не согласен с его посылом, заметил vc.ru. В комментариях предположили, что подписи мог сгенерировать ИИ либо профессора и не было в списке (сейчас его имя отсутствует в числе подписантов).
На прошлой неделе основатель Microsoft Билл Гейтс опубликовал эссе, которым провозгласил начало эпохи искусственного интеллекта. По мнению бизнесмена, ИИ произведет во многих сферах жизни человека революцию, сравнимую с возникновением мобильных телефонов и интернета.
Рекомендуем:
