Сотрудники OpenAI предупредили мир о рисках ИИ и отсутствии надзора

Сотрудники OpenAI опубликовали письмо, в котором выразили обеспокоенность быстрым развитием индустрии ИИ, несмотря на отсутствие надзора и защиты от разоблачителей
#Новости
2429
27 июня 2024
Сотрудники OpenAI опубликовали письмо, в котором выразили обеспокоенность быстрым развитием индустрии ИИ, несмотря на отсутствие надзора и защиты от разоблачителей

Нейросеть, Искусственный интеллект, OpenAI

Группа нынешних и бывших сотрудников OpenAI опубликовала открытое письмо, в котором выразила обеспокоенность быстрым развитием индустрии искусственного интеллекта, несмотря на отсутствие надзора и защиты от разоблачителей для тех, кто хочет высказаться.

«У компаний, занимающихся разработкой искусственного интеллекта, есть серьезные финансовые стимулы избегать эффективного надзора, и мы не считаем, что существующих структур корпоративного управления достаточно, чтобы изменить ситуацию», — пишут сотрудники.

Нейросеть, Искусственный интеллект, OpenAI

OpenAI, Google, Microsoft, Meta и другие компании возглавляют гонку вооружений генеративного ИИ — рынок, который, по прогнозам, в течение десятилетия превысит $1 трлн, — поскольку компании, казалось бы, в каждой отрасли спешат добавить чат-ботов и агентов на базе ИИ, чтобы не остаться позади конкурентов.

Сотрудники написали, что ИИ-компании обладают существенной непубличной информацией о том, на что способны их технологии, о степени принятых ими мер безопасности и об уровне риска, который технология несет для различных видов вреда.

«Мы также понимаем серьезные риски, связанные с этими технологиями, — написали они. — Компании в настоящее время имеют лишь слабые обязательства делиться частью этой информации с правительствами и никакие — с гражданским обществом. Мы не думаем, что на них можно положиться в плане добровольного обмена информацией».

В письме также подробно излагаются опасения по поводу недостаточной защиты от разоблачителей в индустрии искусственного интеллекта и говорится, что в отсутствие эффективного государственного надзора «сотрудники находятся в относительно уникальном положении для привлечения компаний к ответственности».

«Широкие соглашения о конфиденциальности не позволяют нам высказывать свои опасения, за исключением тех компаний, которые, возможно, не решают эти проблемы, — пишут подписавшиеся. — Обычные меры защиты информаторов недостаточны, поскольку они направлены на противозаконную деятельность, в то время как многие из рисков, которые нас беспокоят, еще не регулируются».

Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.


Фильмы для дизайнеров, Кино про креативные индустрии, Кино для дизайнеров и художников, PRO.ОБЗОР
10 фильмов для дизайнеров с впечатляющим визуальным рядом, музыкой и атмосферой
Мы собрали 10 фильмов для дизайнеров, в которых каждый кадр — это произведение искусства, музыка превосходна, а атмосфера непередаваема
5021

Отлично!
Каждную неделю мы будем отправлять Вам самые важные новости, оюзоры и самые креативные кейсы.
Используя сайт, Вы соглашаетесь с использованием файлов cookie и обработкой персональных данных в соответствии с Политикой обработки персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: