Глава Google DeepMind, Демис Хассабис, выступил с инициативой создания в США специализированного органа по стандартам, который будет проверять наиболее мощные ИИ-модели до их публичного релиза. По его оценкам, появление общего искусственного интеллекта (AGI) — системы, сравнимой по когнитивным возможностям с человеческим мозгом, — может произойти уже «через несколько лет». Хассабис подчеркивает, что влияние AGI будет сопоставимо с открытием электричества или огня, а не с интернетом или мобильной связью.
Хассабис предлагает учредить Frontier AI Standards Body по образцу FINRA (регулятора финансового рынка США). Новая структура может работать как государственно-частное партнерство или саморегулируемая организация под федеральным надзором, финансируемая преимущественно за счет ИИ-индустрии. В руководство должны войти независимые технические эксперты и представители сообщества открытого кода. Орган будет разрабатывать протоколы оценки совместно с федеральными ведомствами и национальными лабораториями.
Специальные тесты будут определять, относится ли модель к «передовому» классу. Проверки охватят кибербезопасность, биологические угрозы и другие области повышенного риска. Отдельные испытания направлены на выявление попыток моделей обходить защитные ограничения, вводить пользователей в заблуждение или скрывать свои действия.
Добровольный старт с перспективой обязательности
На первом этапе Хассабис предлагает добровольную передачу моделей на проверку за 30 дней до релиза. После подтверждения эффективности системы процедуру можно закрепить законодательно — тогда успешное прохождение оценки станет обязательным условием для выхода на американский рынок. Также предлагается создать рынок независимых аудиторов и использовать американскую систему как основу для международных стандартов.
Это предложение звучит на фоне растущих опасений по поводу безопасности ИИ. Ранее администрация Трампа просила OpenAI не выпускать GPT-5.6 в широкий доступ, а в ООН призвали к глобальному регулированию. Хассабис признает, что будущее технологии остается неопределенным, и даже специалисты расходятся во мнениях. Однако он уверен: мы стоим «у подножия сингулярности», и для сохранения контроля над автономными системами, способными к рекурсивному совершенствованию, потребуются беспрецедентные меры защиты.
Мнение эксперта: Инициатива Хассабиса — своевременный и прагматичный шаг. Создание независимого органа стандартизации, подобного FINRA, может стать эффективным компромиссом между чрезмерным регулированием и полным отсутствием контроля. Однако ключевой вопрос — сможет ли такой орган успевать за темпами развития технологий и не превратится ли он в бюрократический тормоз для инноваций. Рынок независимых аудиторов выглядит многообещающей идеей, но потребует высочайшего уровня экспертизы и доверия.