Боты Facebook вышли из-под контроля и изобрели собственный язык

Исследовательская команда сети разработала двух AI-агентов для коммуникации с людьми. Они также были научены общаться друг с другом на английском языке, но что-то пошло не так и боты изобрели собственный язык.

Удивительно, но AI-агенты понимали друг друга. Ниже приведен их диалог:

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i . . . . . . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i i i i i everything else . . . . . . . . . . . . . .

Alice: balls have 0 to me to me to me to me to me to me to me to me to

Bob: you i i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Фразы только на первый взгляд абсурдны. Специалисты объясняют: троекратное повторение слов «я» и «для меня» ботам показалось куда более эффективным, чем использование стандартных конструкций английского языка. Так что для быстрого обмена информацией они отказались от английского и придумали собственный язык. Импровизацию журналисты довольно быстро окрестили «восстанием машин». И стали вспоминать Илона Маска, который уже не раз предсказывал: если границы искусственного интеллекта не очертить законом, когда-нибудь он захватит весь мир.

С угрозой на этот раз Цукерберг справился радикально: отключил всех роботов от Facebook. Уже позже научный сотрудник Дхрув Батра нашел изъян в самом алгоритме. Технари так и не смогли решить задачу, над которой ломает голову все человечество уже несколько десятилетий, — лингвистическую. До сих пор никто так и не смог объяснить искусственному интеллекту, почему мы говорим одно, а имеем в виду другое.

Илон Маск, основатель Tesla и SpaceX: «Боты начнут уходить от понятного нам языка и начнут придумывать кодовые слова друг для друга. Представьте, что я назову какой-то предмет пять раз. Вы сразу интерпретируете это как то, что я хочу пять копий этого предмета. Это не особо отличается от сокращений, которыми пользуются люди».

Для ботов в Facebook уже создают другой алгоритм. Но пока спор Маска, который обещает безработицу всему миру, и Цукерберга, который надеется, что роботы, наоборот, создадут новые рабочие места для людей, которые искусственный интеллект будут контролировать, больше похожи на борьбу двух больших корпораций. Каждый первым хочет заявить, что их искусственный интеллект думает, как настоящий.