Эксперты обсудили, как искусственный интеллект меняет форсайт

Заместитель директора Форсайт-Центра ИСИЭЗ НИУ ВШЭ Юлия Мильшина, открывая сессию, отметила непростой характер задачи, стоящей перед экспертами. В рамках коротких презентаций они должный были раскрыть характер взаимосвязи технологии ИИ и форсайт исследования. С одной стороны, технологический форсайт ИИ нацелен на предвидение будущего, в котором большинством социальных и производственных процессов будет управлять ИИ. С другой стороны, форсайт искусственного интеллекта для своего прогноза уже использует технологию ИИ. "Как использовать ИИ для построения будущего, не теряя контроля над процессом, пожалуй, главный вопрос сегодняшней сессии",- подчеркнула модератор.
Испанский ученый-футуролог, председатель испанского отделения глобального центра исследований будущего «Проект тысячелетия» (The Millennium Project) Ибон Зугасти нашел ответ на этот вопрос в установлении всемирной системы управления ИИ под управлением ООН. В качестве аргумента он привел результаты масштабного исследования механизмов управления сильным ИИ (AGI) и Сверхинтеллектом (ASI), проведенного в рамках "Проекта тысячелетия".
По оценке эксперта, киберфизические системы, способные к самообучению, могут появиться через 2–5 лет, а AGI — через 5–10 лет. Без заранее заданных «правил и ограничений» автономный ИИ может выйти из-под контроля. Чтобы избежать «побега из песочницы» необходимо уже сейчас выстраивать глобальную систему управления ИИ, считает Ибон Зугасти.
На основе опроса 55 ведущих мировых визионеров и разработчиков ИИ, среди которых были Сэм Альтман, Илон Маск и Ян Лекун, исследователи смоделировали 5 сценариев развития ИИ к 2035 году. Все 5 сценариев предполагают, что человечесвто будет вынуждено прибегнуть к установлению жесткого контроля над ИИ со стороны институтов, в первую очередь международных.
При самом оптимистичном варианте развития событий человечеству просто повезет. Этот сценарий исходит из предпосылки, что темпы создания «сверхразума» постепенно снизятся либо из-за дефицита ресурсов, либо в результате достижения странами-лидерами ИИ-гонки устраивающих всех взаимных обязательств по контролю над технологией. В этом случае к середине следующего десятилетия ИИ станет надежным и безопасным.
Альтернативный сценарий разворачивается в децентрализованном мире, в котором суперинтеллект свободно себя чувствует внутри открытых блокчейн-сетей и распределенных вычислений. Сетевой ИИ очень быстро сможет решить проблемы климата и социального неравенства, но обострит риск неуправляемых киберугроз.
Еще более мрачный финал ждет человечество, если геополитическая поляризация помешает странам договориться, а накопленные технологические и институциональные ошибки приведут к системному кризису и вымиранию человеческого вида.
Только скоординированные международные усилия могут предовратить негативный сценарий, считает Ибон Зугасти. Таким образом, глобальная система контроля за ИИ на базе ООН - это не просто бюрократическая формальность, а единственный способ выжить в новую технологическую эпоху.
Директор Центра стратегической аналитики и больших данных Константин Вишневский и эксперт ИСИЭЗ НИУ ВШЭ Данила Копейкин сфокусировались в своем выступлении на описании наиболее действенных механизмов контроля над ИИ.
Они рассказали о переходе от человеко-центричных методов поиска и верификации информации к автономным мультиагентным системам, меняющим работу исследователя будущего. Эксперты перечислили серьезные вызовы, с которыми сталкиваются ученые в эпоху ИИ-агентов: сложность проверки корректности выполнения задач сотен агентов, риск «галлюцинаций», «эпистемическая фрагментация» из-за обучения моделей разных стран на разных этических кодах, реальные инциденты выхода агентов за пределы границ задачи и периметра доступа.
Ученые предсказали два пути развития ИИ, как исследовательского инструмента: «оркестрация роя», в котором поддерживается сотрудничество эксперта и ИИ, и «эпистемический Вавилон», где человек теряет возможность проверять результаты работы алгоритмов.
В качестве примера исследователи привели случай, когда ИТ-компания создала «суперматематика», способного не просто считать, но и совершать прорывные научные открытия. Оркестр из 10 000 ИИ-агентов, непрерывно взаимодействуя друг с другом в течение 88 часов, смог найти доказательство существования сингулярностей в уравнениях Навье - Стокса, одной из семи "Задач тысячелетия". До сих пор независимые группы профессоров продолжают детальный аудит 166-страничной работы ИИ. Ожидается, что в будущем новая ИИ-модель сможет самостоятельно проектировать новые поколения ИИ, логика и архитектура которых станут совершенно непостижимыми для человека.
Озчан Саритас из Рочестерского технологического института (ОАЭ) обозначил проблему «управленческого разрыва» между низкой адаптационной способностью государственного управления и медленными процессами разработки политики, не успевающей за высокими темпами технологического развития. Унаследованные из XX века политические структуры слишком медленны, чтобы отвечать на вызовы XXI века, убежден эксперт.
ИИ, по его словам, должен дополнять человека, а не заменять его. Он представил архитектуру мультиагентной системы, делающей прогнозирование итеративным и работающим в реальном времени: агент-инициатор формулирует запрос, агент-разведчик собирает данные, агент-генератор создает сценарии и симуляции, консенсус-агент моделирует дебаты стейкхолдеров, агент дорожных карт разрабатывает поэтапные планы. Человек при этом сохраняет надзор и задает рамку, в том числе этическую.
Для успешного перехода к цифровым платформам форсайта спикер рекомендовал организациям создавать специализированные рабочие группы по ИИ и запускать пилотные демонстрационные проекты для отработки взаимодействия человека и мультиагентных систем.