Глава Google DeepMind предложил надзорный орган для ИИ: он сможет затормозить разработку

Генеральный директор Google DeepMind Демис Хассабис предложил создать в США отдельный орган, который будет проверять самые мощные модели искусственного интеллекта еще до их выхода на рынок. Он убежден, что до появления общего искусственного интеллекта (AGI) остались считаные годы, а мир к этому не готов.

Как передает "Хвиля", свой план Хассабис опубликовал в X.

Нобелевский лауреат называет нынешний момент поворотным в истории человечества. По его словам, через несколько десятилетий мы поймем, что стояли "у подножия сингулярности". AGI он ставит в один ряд не с интернетом или мобильной связью, а с открытием электричества или огня.

"Если задуматься, мы фактически нашли способ заставить песок мыслить. Это чудо", — написал он.

Масштаб влияния технологии Хассабис оценивает как беспрецедентный — вдесятеро больше промышленной революции и вдесятеро быстрее. Она, по его мнению, поможет ускорить поиск лекарств, создать новые источники чистой энергии и материалы, а со временем привести человечество к "эпохе изобилия", когда ресурсы перестанут ограничивать прогресс.

Но вместе с возможностями растут и риски. Хассабис напоминает об угрозах для кибербезопасности, которые уже несут передовые модели, и предупреждает о ядерных и биологических опасностях, способных проявиться дальше. Отдельно он выделяет проблему контроля над все более автономными системами, которые могут сами себя совершенствовать.

Главное препятствие, по его словам, — гонка. Мир застрял в крайне напряженном коммерческом и геополитическом соперничестве, где прогресс опережает понимание самой технологии. "Никто в мире не знает наверняка, что будет дальше, и даже эксперты расходятся во мнениях", — отмечает он. Правильную стратегию Хассабис описывает как "осторожный оптимизм".

Чтобы не потерять контроль, он предлагает США первыми создать надзорный орган по образцу американского финансового регулятора FINRA — государственно-частное партнерство с независимыми техническими экспертами в совете. Такой орган задавал бы планку, по которой модель признают "передовой", а выпускающие ее компании — "передовыми лабораториями".

Сначала эти лаборатории добровольно передавали бы свои модели на проверку за 30 дней до релиза. Когда протокол докажет свою надежность, тестирование станет обязательным для выхода на рынок США. Проверять предлагают устойчивость к кибер- и биоугрозам, а также признаки того, что агентные системы пытаются обойти защитные барьеры или прибегают к обману.

Хассабис подчеркивает, что механизм можно усиливать по мере роста угроз — вплоть до скоординированного замедления разработки среди ведущих лабораторий, если этого потребует ситуация. Со временем такой подход мог бы стать основой для международных правил.

"Будущее еще не написано. Мы должны использовать это драгоценное окно до появления AGI, чтобы сформировать эту технологию на благо всего человечества", — подытоживает он.

Ранее "Хвиля" рассказывала, почему Хассабис призывает к разумному регулированию ИИ уже сейчас. Также мы писали, какой срок появления AGI назвал глава DeepMind.

Популярные статьи сейчас

Показать еще