Попытка автоматизации социального обеспечения с помощью ИИ вызывает сомнения

Внедрение чат-бота в работу Администрации социального обеспечения США сопровождается проблемами, включая неэффективность системы и отсутствие важных инструкций для сотрудников.

В последние месяцы инициатива, связанная с именем Илона Маска, предпринимает шаги по автоматизации федеральных агентств США, включая Администрацию социального обеспечения (SSA). Недавно было сообщено о внедрении чат-бота, предназначенного для помощи сотрудникам в повседневных задачах. Однако, как выяснилось, система работает не так, как ожидалось.

По данным внутренних источников, чат-бот, названный “Agency Support Companion”, оказался неэффективным, предоставляя расплывчатые или неточные ответы. Более того, обучающее видео, призванное объяснить сотрудникам, как использовать приложение, упустило критически важную информацию о недопустимости загрузки конфиденциальных данных. Это привело к необходимости отправки извинительного письма с исправлением.

Опыт других стран, таких как Бразилия, где автоматизация социальных услуг привела к отказу в законных требованиях из-за мелких ошибок, служит предостережением. В США же попытки “модернизации” SSA уже вызвали хаос, включая ошибочное помечение живых получателей пособий как умерших.

Критики предполагают, что истинная цель этих изменений — не улучшение работы агентства, а его дестабилизация с последующей приватизацией. Если это так, то текущие проблемы могут быть частью плана.