Новый чат-бот Google с искусственным интеллектом дал неточный ответ. И это попало в рекламу

На этой неделе Google представила чат-бота с искусственным интеллектом Bard и запустила маркетинговую кампанию, чтобы подготовить общественность к его полному развертыванию в ближайшие недели.

Астроном Брюс Макинтош и астрофизик Грант Тремблей обнаружили ошибку, допущенную при демонстрации возможностей чат-бота Bard, созданного компанией Google для конкуренции с ChatGPT. Эта ошибка указывает на фундаментальные проблемы всех подобных проектов и ставит под сомнение возможность их широкого применения.

Учёные задали чат-боту запрос, о каких открытиях, сделанных с помощью телескопа «Джеймс Уэбб», можно рассказать 9-летнему ребёнку, и Bard перечислил несколько, в том числе указал, что «Джеймс Уэбб» первым сделал фотоснимки планет за пределами Солнечной системы.

Кому как не Макинтошу знать, что Bard ошибся, ведь ещё за 14 лет до запуска «Джеймса Уэбба» именно он первым сфотографировал экзопланету с помощью Very Large Telescope, а чат-бот приписал его заслуги кому-то другому.

Получается, существует острая проблема: чат-бат не смотря на свое превосходство над разумом человека, все равно может ошибаться и весьма серьёзно.

Ошибка чат-бота попала в основу рекламной коммуникации, даже после множества согласования. Тремблей пояснил коллеге, что чат-боты, вроде ChatGPT и Bard, уверенно отвечают на вопросы и приводят любою информацию как факт не подвергая её сомнению, по одной простой причине — они так запрограммированы. В ином случае им бы меньше доверяли, и эффект от их использования не был бы таким впечатляющим. Пользователю пришлось бы перепроверять информацию в других источниках, а это делает бессмысленным существование таких ботов.

Какой вывод можно сделать? Полагаться на ChatGPT и Bard как на всезнающие машины не стоит, ведь они обладают ровно той информацией, которая выложена в интернете, а она противоречива и зачастую ошибочна.