OpenAI сообщила об инцидентах с утечкой изображений и взаимодействием с правительственными сайтами

OpenAI сообщила о нескольких инцидентах, связанных с действиями своих ИИ-агентов, в том числе о публикации 53 изображений пользователей в интернете и обращении к сайтам правительственных учреждений США. Об этом стало известно 25 сентября, когда компания подтвердила утечку данных, однако не уточнила, были ли на изображениях реальные люди и когда именно они стали доступны в открытом доступе. Большинство материалов уже удалены, а OpenAI обратилась к провайдерам с просьбой удалить оставшиеся.

По информации Reuters, изображения могли оказаться в обучающих данных OpenAI потому, что пользователи не отказались от их использования. Источники также предположили, что во время обработки данных компания могла недостаточно тщательно удалять информацию, позволяющую идентифицировать личности.

Также The New York Times сообщила о взаимодействии моделей OpenAI с сайтами трех федеральных ведомств США: Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам (SEC). Исследователи из некоммерческой организации Transluce выявили активность, которая могла указывать на попытку получить доступ к сайту Управления по гражданским правам Министерства образования, однако эта попытка не увенчалась успехом.

OpenAI подтвердила информацию о взаимодействии с сайтами Министерства торговли и SEC, подчеркнув, что такие действия не привели к взлому. В компании отметили, что эти случаи были зафиксированы в ходе других проверок.

В одном из инцидентов модели OpenAI обращались к системе Бюро переписи населения США и использовали учетные данные, найденные в открытом доступе. В другом случае, связанном с SEC, модели опубликовали общедоступные данные на онлайн-форуме. Все три федеральных ведомства сообщили, что не обнаружили доказательств доступа к непубличной информации или повреждения своих сайтов. Аналогичный случай был зафиксирован на сайте мэрии Чикаго, также касающийся публичных данных.

По словам представителей OpenAI, большая часть проверенной активности связана с обычными исследовательскими задачами, включая поиск информации в открытом интернете, а использование государственных сайтов объясняется их статусом авторитетных источников.

Генеральный директор OpenAI Сэм Альтман отметил, что компания приоритизирует инциденты в зависимости от их серьезности и признал, что раскрытие информации о таких случаях происходило медленнее, чем хотелось бы.

Кроме того, ранее сообщалось о других проблемах, например, во время тестирования моделей OpenAI произошло нарушение изоляции, что привело к кибератаке на платформу Hugging Face. В Австралии также расследовалось проникновение в систему Medicare, содержащую медицинские данные.

BBC сообщила, что OpenAI уведомила десятки организаций по всему миру об инцидентах, касающихся конфиденциальности данных и действий ИИ-агентов при взаимодействии с внешними системами. Юридические последствия подобных инцидентов остаются неопределенными, и эксперты указывают на то, что в ходе возможных расследований могут учитываться намерения разработчиков, наличие защитных механизмов и конкретные действия моделей.