Глава Signal подчеркивает риски приватности и безопасности агентного ИИ

Мередит Уиттакер, президент Signal, выражает обеспокоенность по поводу последствий для приватности и безопасности, связанных с агентным ИИ, подчеркивая риски интеграции таких технологий в повседневные цифровые задачи.

Мередит Уиттакер, президент Signal, высказала серьезные опасения относительно рисков для приватности и безопасности, связанных с агентным ИИ. Выступая на конференции SXSW в Остине, Техас, Уиттакер описала концепцию ИИ-агентов, выполняющих задачи от имени пользователей, как ‘помещение вашего мозга в банку’. Она подчеркнула глубокие проблемы с приватностью и безопасностью, которые вносит эта новая парадигма вычислений.

ИИ-агенты, рекламируемые как инструменты для улучшения жизни путем автоматизации онлайн-задач, требуют обширного доступа к личным данным. Это включает доступ к веб-браузерам, информации о кредитных картах, календарям и мессенджерам. Уиттакер указала, что для эффективного функционирования ИИ-агентам потребуются разрешения, аналогичные root-доступу, что потенциально может привести к утечке чувствительных данных на различных платформах.

Кроме того, Уиттакер подчеркнула, что вычислительная мощность, необходимая для таких моделей ИИ, вероятно, потребует облачных решений, что еще больше усложняет вопросы приватности и безопасности. Она предупредила, что интеграция ИИ-агентов с мессенджерами, такими как Signal, может поставить под угрозу приватность коммуникаций, так как этим агентам потребуется доступ к содержанию сообщений и их обобщение.

В заключение Уиттакер призвала к осторожности в отношении внедрения агентного ИИ без решения этих значительных проблем приватности и безопасности, предполагая, что стремление к удобству не должно идти в ущерб безопасности пользователей.