OpenAI анонсировала новый режим работы «Lockdown Mode» для ChatGPT, специально разработанный для противодействия prompt injection-атакам, когда злоумышленники пытаются заставить модель раскрыть конфиденциальную информацию из её обучающих данных или системных инструкций. Данный режим усиливает фильтрацию входящих запросов и ограничивает ответы, которые могут содержать чувствительные данные. Компания честно предупреждает, что даже с этой защитой модель не становится абсолютно неуязвимой, однако ключевая цель достигнута — серьёзно уменьшается вероятность случайной или намеренной утечки данных в процессе диалога.

#OpenAI #КибербезопасностьИИ #PromptInjection