- Источник:
Midjourney
Бывший сотрудник OpenAI из команды Superalignment Леопольд Ашенбреннер в начале июня этого года на своем сайте situational-awareness.ai опубликовал 165-страничный документ «Осведомленность о ситуации: Предстоящее десятилетие», где высказал все свои опасения по поводу будущего ИИ. Основываясь на своих глубоких познаниях о том, как работает искусственный интеллект, он нарисовал довольно мрачную картину того, что нас ждет в ближайшие 10 лет.
Редакция Maximonline изучила специально для вас этот документ и пересказала его основные идеи языком, доступным простым смертным, как мы с вами.
Ашенбреннер предположил, что AGI (Artificial General Intelligence — общий искусственный интеллект), скорее всего, будет создан к 2027 году. AGI — это ИИ, который по своим интеллектуальным способностям сопоставим с человеческим.
По его мнению, американские бизнесмены уже сейчас готовы вложить триллионы долларов в развитие вычислительных мощностей, необходимых для развития искусственного интеллекта. К 2025–2026 годам эти машины могут превзойти по интеллекту выпускников колледжей (американских высших учебных заведений, а не наших ПТУ), а к концу десятилетия — вообще любого человека.
Не пропустите! Бояться или нет? 5 книг про искусственный интеллект.Также Ашенбреннер предупреждает, что этот прогресс может привести к гонке в области ИИ между США и Китаем. А уже она может обернуться полномасштабной войной. Потому что со временем искусственный интеллект будет контролировать все больше сфер жизни людей, в том числе и оборонную. А это уже будет серьезнее атомной и водородной бомб.
Но что самое опасное, главные компании-разработчики уделяют безопасности слишком мало внимания, переводя ее в область второстепенных задач. А многие исследовательские учреждения делятся наработками в области AGI с Китаем.
Ашенбреннер призывает усилить меры безопасности в ИИ-лабораториях и хочет привлечь внимание всевозможных регулирующих органов к этой проблеме.
