Как Google обманывает нас своими AI Overviews: заговор или просто глупость?

Google’s AI Overviews можно обмануть, заставив объяснять выдуманные идиомы, что ставит под вопрос надежность искусственного интеллекта.

В то время как гиганты технологий вкладывают огромные суммы в развитие ИИ, проповедуя его безграничные возможности, реальность оказывается куда менее радужной. Последний пример: Google’s AI Overview можно легко обмануть, заставив его объяснять совершенно бессмысленные, выдуманные идиомы как реально существующие.

Например, согласно AI Overview, “Нельзя дважды лизнуть барсука” означает, что нельзя обмануть кого-то дважды после первого раза. Звучит логично, если бы не тот факт, что такой идиомы не существует. Это яркий пример того, как ИИ, не задумываясь, принимает абсурд за чистую монету.

Мы провели собственный эксперимент и получили не менее забавные результаты. Google утверждал, что “Нельзя играть в гольф без рыбы” — это загадка, намекающая на необходимость клюшки для гольфа, которую ИИ почему-то сравнил с рыбой из-за её формы. А как вам объяснение идиомы “Нельзя открыть банку арахисового масла двумя левыми ногами” как невозможности выполнить что-то, требующее навыка?

Но это ещё не всё. “Нельзя жениться на пицце” — это, оказывается, способ выразить идею о том, что брак — это союз между людьми, а не с едой. “Верёвка не потянет мёртвую рыбу” означает, что усилия без желания бессмысленны. И, конечно же, “Съешь самый большой чалупу первым” — это мудрый совет начинать с самого сложного.

Это не первый случай, когда ИИ вводит пользователей в заблуждение. Вспомните историю адвокатов, которые использовали ChatGPT для подготовки документов и были оштрафованы за цитирование несуществующих дел. Их оправдание? “Мы искренне не могли поверить, что технология может выдумывать дела из ничего.”