разработчики компании «Яндекс» запустили новое направление программы «Охота за ошибками» — поиск уязвимостей в генеративных нейросетях. компания готова заплатить исследователям, которым удастся отыскать уязвимости в семействах моделей YandexGPT, YandexART и сопутствующей инфраструктуре.

исследователи должны искать ошибки, которые влияют на корректность работы моделей и могут изменить их поведение. также важно обращать внимание на уязвимости, связанные с раскрытием служебной информации, такой как внутренняя конфигурация моделей и технические данные. за обнаружение таких ошибок компания готова выплатить до миллиона рублей.

генеративные модели уже внедрены более чем в 20 продуктах «Яндекса» — от голосового помощника «Алисы» и «Поиска с Нейро» до рекламы в «Директе» и сервисов Yandex Cloud. они доступны как в пользовательских продуктах, так и через API для сторонних разработчиков. расширение программы «Охота за ошибками» на генеративные ИИ поможет убедиться, что внедряемые технологии отвечают высоким требованиям к безопасности.