Какие данные нельзя загружать в ИИ-сервисы

Документы, рабочая переписка и финансовые сведения могут попасть к посторонним после загрузки в ИИ. Опасность также представляют поддельные сайты, плагины и автономные агенты.

Пользователи часто загружают в публичные модели документы и исходный код. Кроме того, они передают сервисам персональные и финансовые данные. Однако не все проверяют правила обработки и хранения такой информации.

Поддельные сайты могут копировать внешний вид известных ИИ-платформ. При этом мошенники используют их для кражи паролей и платёжных данных. Также через такие сайты могут распространять вредоносные программы.

Опасность представляют и непроверенные плагины для ИИ-агентов. Например, они могут содержать скрытые команды. В результате на устройстве запустится нежелательная программа.

Специалисты ожидают, что в 2027 году автономные ИИ-агенты станут новой киберугрозой. С их помощью злоумышленники смогут автоматизировать действия после проникновения в информационную систему.

Голос и видео тоже могут подделать

Мошенники используют сгенерированные голоса и видео от имени знакомых людей. Например, они могут выдать себя за руководителя, коллегу или родственника. Поэтому необычные просьбы лучше проверять через другой канал связи.

Кроме того, ответы ИИ могут содержать ошибки. Неверный совет по настройке программы иногда приводит к небезопасным действиям. По этой причине важные инструкции нужно перепроверять.

Как снизить риски

Пользуйтесь только официальными ИИ-сервисами. Также не загружайте в публичные модели конфиденциальные документы, пароли и платёжные данные.

Перед установкой плагина проверьте его разработчика и запрашиваемые разрешения. Кроме того, ограничьте доступ ИИ-агента к файлам и корпоративным ресурсам.

Организациям стоит установить собственные правила работы с искусственным интеллектом. В частности, нужно определить сведения, которые нельзя передавать внешним сервисам. Наконец, сотрудников следует обучать основам цифровой безопасности.

Читайте так же: «Е-вестку» планируют подключить к банковским приложениям