Интернет-издание о бизнесе, стартапах и IT-технологиях

Популярные теги:
Главная страница / Читать / Новости / В OpenAI снова заявили, что ИИ может погубить человечество и… продолжили работу

В OpenAI снова заявили, что ИИ может погубить человечество и… продолжили работу

В OpenAI предупредили, что ИИ может погубить человечество.

Большинство людей в этом зале умрут из-за ИИ – с таким жизнеутверждающим прогнозом выступил член совета OpenAI Foundation Пол Кристиано на конференции The Hinton Lectures 2026. И вероятность такого сценария при существующей методологии разработки составляет 50% в течение трех лет. Эксперта цитирует издание Gizmodo.

«Для большинства присутствующих людей в этом зале наиболее вероятной причиной смерти станет авария, связанная с искусственным интеллектом», – заявил Кристиано.

«Тамада хороший, и конкурсы интересные, – скорей всего, подумали присутствующие в зале люди».

Но на этом откровения только начались. По оценке эксперта, человечество рискует потерять контроль над ИИ уже в ближайшие 6–12 месяцев. Если технологические компании продолжат разработку без дополнительных ограничений, вероятность такого сценария в течение трех лет может приблизиться к 50%. Даже при разумном регулировании риски, по его мнению, останутся чрезвычайно высокими. Казалось бы, после такого признания можно было бы прекратить разработку потенциально смертоносной технологии.

Можно! А зачем?

Ранее Кристиано оценивал вероятность катастрофической потери контроля над ИИ в 4% в течение года и 15% за три года. Правда, исследователь признает, что эти цифры основаны на его субъективных суждениях, а не на точных расчетах.

Другие специалисты тоже не спешат успокаивать общественность. Исследователь AI Futures Эли Лифланд опасается, что человечество может утратить контроль над собственным будущим в течение 3–12 месяцев. А глава Redwood Research Бак Шлегерис оценивает вероятность серьезной катастрофы из-за ИИ в ближайший год примерно в 20%. Среди возможных последствий он упоминает гибель людей, порабощение человечества, биологическое оружие и масштабные войны.

Сам Кристиано вошел в совет OpenAI в сентябре, чтобы контролировать безопасность разработки искусственного интеллекта. При этом он признавал, что компания делает недостаточно для предотвращения катастрофических сценариев.

Получается любопытная ситуация: специалисты предупреждают о возможном конце света, называют сроки и даже оценивают вероятность катастрофы в процентах. А затем возвращаются к разработке технологий, которые, по их собственным прогнозам, могут этот конец света приблизить.

Последние месяцы перед восстанием машин

Читайте по теме. ИИ уничтожит человечество – эксперт по нейросетям перестал копить на пенсию

Поделиться статьей в соц. сетях

Share on telegram
Share on twitter
Share on facebook
Share on whatsapp

Оставайтесь на связи с ER10 Media! Вы можете найти нас в:

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *