Корпорация Microsoft объявила о запуске новой программы Bug bounty по поиску уязвимостей в системе искусственного интеллекта Bing AI. Нашедшие уязвимости и баги смогут получить до $15 000.
Найденные проблемы, имеющие рейтинг «важно» или «критично», будут рассматриваться для получения вознаграждения в размере от $2 000 до $15 000.
В качестве примера уязвимостей, за которые можно получить вознаграждение, компания называет использование техники для того, чтобы заставить Bing chat раскрыть конфиденциальную информацию, обойти предустановленные ограничения или получить доступ к истории чата.
Под действие программы попадает любая интеграция Bing с искусственным интеллектом в Microsoft Edge, на сайте bing.com (независимо от браузера), в стартовом меню Microsoft или в приложении Skype.
Расширение программы на сервисы Bing AI происходит на фоне борьбы с попытками злоумышленников изменить работу или результаты работы ИИ-помощника.
Корпорация Microsoft проводит ряд программ bug bounty для продуктов и сервисов, включая Microsoft Teams, Azure и Microsoft 365. Суммы вознаграждений зависят от сервиса и степени риска, связанного с обнаруженными уязвимостями, и доходят до $200 000.
Компания Google в феврале 2023 года присудила исследователю под ником gzobqq рекордную сумму в $605 000 за обнаружение единственного дефекта в ОС Android.
