ИИ-модель правительства Нью-Йорка, запущенная для поддержки бизнеса стал раздавать вредные и дезориентирующие советы предпринимателям.
Официальный чат-бот Нью-Йорка, предназначенный для консультирования местных владельцев бизнеса и арендодателей по городским законам, похоже, практически ничего не понимает в юриспруденции.
Например, чат-бот утверждал, что боссы могут забирать чаевые у работников, а арендодателям разрешено проводить дискриминацию по источнику дохода. А еще начальник имеет право уволить сотрудника, если тот проболтается кому-то о «черной» бухгалтерии. Список подобных сомнительных и нарушающих закон утверждений можно продолжать долго.
Власти Нью-Йорка были вынуждены приступить к «переобучению» чат-бота и заодно снять с себя ответственность.
– Сайт информирует пользователей о том, что четко обозначенный пилотный бета-продукт следует использовать только для контента, связанного с бизнесом. Чат-бот сообщает пользователям о потенциальных рисках и призывает перепроверять ответы по предоставленным ссылкам и не использовать их в качестве замены профессиональной консультации.
Запущенный в октябре 2023 года в качестве расширения портала MyCity, чат-бот, описываемый как «универсальное средство для предоставления городских услуг и льгот», работает на базе служб Azure от Microsoft.
