13:16 20.08.2026 Чт 2 мин Разработчики не будут видеть промпты пользователей
OpenAI научилась выявлять угрозы в ИИ без просмотра пользователей (фото: Unsplash) Не трать время на шум! Читай только суть из РБК-Украина в Google
OpenAI представила новенькую систему безопасности Private Safety Processing. Она помогает компаниям выявлять мошеннические сценарии, однако не открывает содержание сообщений или файлов пользователей.
Об этом РБК-Украина информирует со ссылкой на OpenAI.
Почему возникла необходимость в новой системе?
Сегодня корпоративные клиенты услуги ZDR получают гарантию, что OpenAI не сохраняет их запросы и ответы после обработки, а сотрудники не имеют к ним доступа.
Со всем тем, действующие автоматизированные инструменты безопасности оценивают каждое сообщение в отдельности.
С увеличением сложности задач, выполняемых ИИ, злонамеренные намерения или сбои в работе автономных агентов часто становятся заметными только из-за серии связанных между собой запросов.
Например, когда нарушители постепенно обходят защитные барьеры, координируют действия по нескольким аккаунтам или когда ИИ-агент продолжает выполнять действия после команды остановиться.
Читайте больше: OpenAI ограничила ChatGPT для подростков: ИИ не будет имитировать чувство и не даст списать
Как работает Private Safety Processing?
Принципиально новый подход позволяет выявлять подозрительные паттерны поведения без потери конфиденциальности.
Особенности технологии :
Если возникает спорная ситуация, клиенты могут самостоятельно провести расследование в журналах событий и по желанию предоставить фрагменты данных для апелляции.
Релиз и интеграция сервиса
Сейчас Private Safety Processing проходит тестирование среди ограниченного круга партнеров OpenAI — Microsoft, Glean, Databricks и Abridge.
Разработчики подчеркнули: обновление ориентировано на организации, работающие с финансовыми, медицинскими и другими чувствительными данными.
Полноценный запуск новой системы безопасности вместе с публикацией детального технического документа запланирован на сентябрь.
