Сингапурские агентства предупреждают потребителей: не передавайте банковские и государственные счета личным агентам искусственного интеллекта.

Агентство кибербезопасности Сингапура (CSA), Агентство государственных технологий (GovTech) и Управление по развитию инфокоммуникационных средств массовой информации (IMDA) в пятницу, 6 ноября, выпустили совместную рекомендацию для потребителей, призывая людей ограничить разрешения, которые они дают личным агентам искусственного интеллекта: подключайте только те приложения, которые действительно необходимы для выполнения задачи, держите банковские, правительственные и медицинские учетные записи вне досягаемости и никогда не делитесь паролями, одноразовыми паролями или учетными данными Singpass с агентом. (Фото: архивное фото Марина Бэй, Сингапур.)

Пять мер предосторожности

В рекомендациях изложены пять мер предосторожности. Во-первых, ограничьте доступ: подключайте только необходимые приложения и не связывайте конфиденциальные учетные записи; перед подключением рабочего аккаунта проконсультируйтесь с работодателем. Во-вторых, сохраняйте контроль: начните с разрешений только на чтение, где это возможно, и требуйте отдельного одобрения перед последующими действиями, такими как отправка сообщений, удаление файлов или совершение покупок, отдавая предпочтение однократному утверждению над постоянным разрешением. В-третьих, поймите, как обрабатываются данные: проверьте, как провайдер хранит информацию, полученную через подключенные аккаунты. В-четвертых, остерегайтесь вредоносных инструкций, скрытых на веб-сайтах, в электронных письмах, приглашениях календаря или документах, которые могут обманом заставить агента сделать то, о чем пользователь никогда не просил. В-пятых, регулярно проверяйте разрешения и знайте, как их отозвать.

Пользователи продолжают нести ответственность за действия своих агентов.

Агентства отмечают, что персональные ИИ-агенты выходят за рамки чат-ботов: они могут управлять электронной почтой, делать заказы и получать доступ к онлайн-аккаунтам, а также могут работать в фоновом режиме, даже когда пользователь не использует их активно. При предоставленном доступе агент может читать, обрабатывать и передавать личную информацию, совершать ошибки или действовать, выходя за рамки намерений пользователя. «Агенты ИИ могут быть очень полезны, но вы не можете относиться к ним как к людям-помощникам и предоставлять им такой же широкий доступ к вашей информации и безоговорочное доверие», — говорится в рекомендации. Пользователи продолжают нести ответственность за действия, которые их агенты совершают от их имени, и могут нести ответственность в зависимости от обстоятельств. В число агентов, упомянутых в сообщении, входят Dots, Hermes, Muse, Grok Bot и OpenClaw.

Консультации последовали за запуском Muse в Сингапуре

Сообщение появилось после того, как 28 октября в Сингапуре заработал личный ИИ-агент Меты Muse со ссылками на такие сервисы, как Singapore Airlines, Shopee, Grab и Lazada. Мета утверждает, что Muse имеет встроенные средства защиты, включая отдельные облачные среды для каждого пользователя, отсутствие доступа к сохраненным паролям или платежным реквизитам, а также явные запросы на одобрение покупок. Если агент окажется скомпрометированным, агентства советуют остановить его, отсоединить затронутые учетные записи и сохранить записи активности; О проблемах с мошенничеством можно сообщить на круглосуточную горячую линию ScamShield по номеру 1799.

(Источники: The Straits Times; CNA; Агентство кибербезопасности Сингапура.)