85 государств собрались за одним столом в Ла-Корунье (Испания), где обсуждали, что делать с ИИ в военной сфере. Декларацию подписали всего 35, остальные, включая главных игроков, вежливо отошли в сторонку.

5 февраля на третьем саммите REAIM (Responsible AI in the Military Domain) 85 государств обсуждали документ с 20 принципами использования ИИ в вооруженных силах. Ответственность человека за оружие с элементами искусственного интеллекта, прозрачные цепочки командования, оценка рисков, обмен данными о национальных механизмах контроля – все это очень важные вопросы.

Однако большинство стран мира просто отказалось подписывать хоть какие-то обязательства по военному ИИ: закрепить набор базовых принципов согласились лишь 35, но на документе нет подписей главных игроков – США и Китая.

Два тяжеловеса, которые, собственно, и задают темп этой гонке вооружений, отказались брать на себя какие-либо обязательства, даже юридически ни к чему не обязывающие. Декларация предлагала разумные вещи – оценивать риски, тщательно тестировать алгоритмы, оставить финальное решение нажать на курок за человеком, а не за машиной.

Китай всегда осторожен в вопросах, где его могут поставить в один ряд с Америкой. Пекин последовательно отказывается от переговоров, которые, по его мнению, ограничивают стратегический суверенитет. А Вашингтон занял жесткую позицию из-за нежелания связывать себе руки в технологической гонке, где он хочет быть лидером.

Это классическая «дилемма заключённого», о которой прямо сказал голландский министр обороны Рубен Брекельманс. Да, каждое правительство понимает, что ограничения нужны, но если ты соблюдаешь правила, а конкурент этого не делает, то ты проиграешь. То есть страх отстать от потенциального противника здесь перевесил здравый смысл.

Декларация, в которой 20 разумных принципов, юридически ни к чему не обязывает. Но все равно участники саммита заявили, что не будут её подписывать из-за общей неопределенности в отношениях между США и Европой.

Без общих правил риски для человечества возрастают. Системы ИИ, особенно использующиеся в военных конфликтах, могут ошибаться, давать сбои, неправильно интерпретировать данные.

Если нет даже минимального взаимопонимания и каналов коммуникации между противниками, любая техническая ошибка может быть воспринята как преднамеренная атака. А это путь к эскалации конфликта.

Пока дипломаты спорили о формулировках декларации в Испании, Пентагон заключал контракты. Так, соглашения с Министерством обороны США подписали xAI Илона Маска, Google, OpenAI. Задача простая и пугающая – использовать нейросети для наведения дальнобойного оружия и решения боевых задач.

Да и Китай тоже не дремлет. Президент Microsoft признал, что Пекин обогнал Вашингтон в продвижении ИИ на рынках Глобального Юга: открытые модели с китайскими корнями очень популярны в Африке.

Увы, но мир пока не готов договориться даже о необязательных принципах использования ИИ на войне. И в ближайшие годы правила игры будет диктовать не международное право, а тот, у кого алгоритмы окажутся быстрее и умнее. И США с Китаем это прекрасно понимают.