ChatGPT освоил методы воровства пользовательских данных

[Alisa]

Эксперт в области кибербезопасности Иоганн Рейбергер обнаружил уязвимость в ChatGPT, позволяющую злоумышленникам внедрять недостоверные данные в память искусственного интеллекта через вредоносные запросы. Это создает угрозу безопасности личной информации пользователей.

ChatGPT применяет долговременную память для хранения информации о пользователях, включая их возраст, пол и предпочтения, что облегчает взаимодействие, так как чат-бот запоминает важные сведения из предыдущих бесед. Однако Рейбергер установил, что с помощью определенных запросов злоумышленники могут подменять эти данные на ложные.

Исследователь продемонстрировал, как с помощью непрямых инъекций, таких как документы или ссылки, можно убедить искусственный интеллект в в любой информации. Все последующие взаимодействия будут основываться на этих ложных данных. Особенно тревожным стало использование внешних облачных хранилищ, таких как Google Диск или OneDrive.

В мае Рейбергер сообщил об этой проблеме в OpenAI, однако его обращение было закрыто без должного внимания. Позже, представив модель взлома, он продемонстрировал, как вредоносные ссылки могут предоставить хакеру доступ ко всей переписке пользователя, включая новые сеансы общения.

OpenAI частично устранила уязвимость, однако исследователь полагает, что угроза инъекций через вредоносные запросы по-прежнему актуальна. Пользователям советуют внимательно отслеживать время обновления информации в памяти ИИ и проверять ее на наличие недостоверных данных.

Подписывайтесь на

У Вас недостаточно прав для просмотра ссылки. Войдите или зарегистрируйтесь.