В США произошел одновременно курьезный и пугающий случай, связанный с искусственным интеллектом. ИИ-камера приняла пакет чипсов за пистолет и вызвала полицию.
16-летний подросток Таки Аллен сидел на улице с друзьями возле школы после футбольной тренировки в ожидании, пока его заберут родители.
Примерно через 20 минут после того, как он доел свой пакет чипсов, подъехало около восьми полицейских машин. Офицеры вышли из машин и, направив оружие на Аллена, приказали ему положить руки на голову и подойти к ним.
«У тебя есть при себе пистолет?» – спросил один офицер у мальчика, пока остальные обыскивали его друзей.
Просмотрев кадры, на которых ИИ «опознал» оружие, полицейские заглянули в ближайший мусорный бак и нашли пакет из-под чипсов. Фактически, ИИ принял скомканный пакет за пистолет и вызвал полицию, устроив подросткам несколько очень неприятных минут.
Впрочем, руководство школы посчитало, что ИИ правильно сделал свою работу. Суперинтендант Мириам Роджерс заявила, что система сработала правильно.
– Программа основана на верификации человеком, и в этом случае программа сделала то, что должна была, а именно: подала сигнал тревоги, чтобы люди смогли проверить, есть ли повод для беспокойства в данный момент, – сказала Роджерс.
Разработчики ИИ-модели из компании Omnilert извинились за инцидент, но также отметили, что алгоритм действовал правильно: приоритет отдавался безопасности.
Однако местные жители так не считают. Местные политики уже призывают пересмотреть использование в школе технологий наблюдения на основе ИИ.
Таки Аллен теперь после футбольной тренировки ждет родителей внутри помещения, поскольку не считает, что достаточно безопасно выходить на улицу, особенно когда ешь чипсы или что-то пьешь.
Читайте по теме. ИИ-камера NUCA «раздевает» людей на фотографиях.
