Age of Danger - Andrew Hoehn

революции. Он с явным весельем отмечает: "Когда его спрашивают, насколько Китай отстает от Кремниевой долины в области исследований искусственного интеллекта, некоторые китайские предприниматели в шутку отвечают "шестнадцать часов" - разница во времени между Калифорнией и Пекином".

С учетом этих деталей Кай-Фу Ли делает леденящее душу предсказание: "Китай скоро сравняется или обгонит США в разработке и внедрении искусственного интеллекта". Далее он продолжает: "Это лидерство в развертывании искусственного интеллекта приведет к росту производительности в масштабах, невиданных со времен промышленной революции".

Затем он говорит о последствиях для рабочей силы США: "Я предсказываю, что в течение пятнадцати лет искусственный интеллект технически сможет заменить от 40 до 50 процентов рабочих мест в Соединенных Штатах". Он видит аналогичные последствия в Китае, но делает вывод, что потеря рабочих мест в первую очередь произойдет в США. Он не прогнозирует 40-50-процентную безработицу, поскольку интервенции в различных формах замедлят многие потери. Но потери, тем не менее, будут значительными.

Не все согласны с анализом и прогнозами Ли. Некоторые, кто не согласен с ним, считают, что авторитарная система Китая станет его гибелью. Она станет хрупкой тогда, когда должна быть прочной. Она не сможет хорошо адаптироваться к социальным изменениям, которые неизбежно придут в китайское общество. Только демографическая ситуация в Китае может стать его гибелью. Демографы отмечают, что в течение следующих семидесяти пяти лет население Китая сократится наполовину - да, наполовину. Другие предполагают, что это может произойти даже быстрее, возможно, в течение сорока пяти лет. Но те, кто погружен в область ИИ, читали Кай-Фу Ли и обращают на него внимание. Эти люди считают, что шансы Америки выше, чем он предполагает, но они прислушиваются к его предупреждению. Они делают все возможное, чтобы привлечь к этому внимание американских лидеров и широкой общественности.

Последнее размышление. Мы уже писали о моментах Спутника. Кай-Фу Ли пишет о китайском моменте Спутника. Это было, когда подросток Ке Цзе был выставлен против Alpha Go, искусственного интеллекта, поддерживаемого Google. Кэ Цзе был ведущим игроком в Китае в древнюю игру Го, в которую играют на доске с камнями размером девятнадцать на девятнадцать. Как описывает Кай-Фу Ли, Ке Цзе был не просто побежден мыслящей машиной, он был полностью уничтожен. Это произошло в 2017 году. Это привело к осознанию лидерами Китая того, что ИИ - это соревнование, которое Китай должен выиграть. С тех пор оглядки на прошлое не было.

Эрик Шмидт, Боб Ворк, Джейсон Мэтини и другие технологи вошли в состав Национальной комиссии по искусственному интеллекту. Они опубликовали свой отчет в конце 2021 года на шестистах страницах, включая приложения. Отчет похож на многие отчеты комиссий - много фактов и цифр, множество рекомендаций. Отчет полон предупреждений от серьезных людей и призывов к действию - к лидерам Америки и американскому народу. Доклад посвящен талантам, технологиям, интеллектуальной собственности и многим другим темам.

На самом деле, доклад посвящен тому, чтобы пробудить Америку от дремоты.

Нам повезло. Революция ИИ не является стратегическим сюрпризом. Мы ощущаем ее влияние в нашей повседневной жизни и можем предвидеть, как исследовательский прогресс воплотится в реальных приложениях, прежде чем нам придется столкнуться со всеми последствиями для национальной безопасности. Эта комиссия может предупредить о вызовах национальной безопасности и сформулировать преимущества, а не объяснять, почему предыдущие предупреждения были проигнорированы, а возможности упущены. У нас все еще есть возможность внести изменения, чтобы построить более безопасное и лучшее будущее. Темпы инноваций в области ИИ не равны, они ускоряются. Если Соединенные Штаты не предпримут никаких действий, то в ближайшее десятилетие они, скорее всего, уступят Китаю свои лидирующие позиции в области ИИ и станут более уязвимыми для целого спектра угроз с использованием ИИ со стороны множества государственных и негосударственных субъектов.

В отчете перечисляется множество проблем и мер по их устранению, но выделяется одно конкретное замечание: "Самый лучший человек-оператор не сможет защититься от множества машин, совершающих тысячи маневров в секунду, потенциально движущихся на гиперзвуковых скоростях и управляемых искусственным интеллектом в разных областях. Люди не могут быть везде одновременно, но программное обеспечение может".

Они хотят, чтобы программное обеспечение находилось в руках американцев, и они знают, что Соединенные Штаты могут стать лидером. Они также знают, что механизм для этого еще не создан и что времени на его создание мало.

 

Что их беспокоит?

Правительство США по-прежнему работает со скоростью человека, а не машины. Внедрение ИИ требует глубоких изменений в деловой практике национальной безопасности, организационной культуре и менталитете от тактического до стратегического уровня - от поля боя до Пентагона. Правительство отстает от коммерческого уровня в большинстве категорий ИИ, включая базовую автоматизацию бизнеса. Оно страдает от технических недостатков, которые варьируются от нехватки цифровых кадров до неадекватных планов приобретения, недостаточной сетевой архитектуры и слабой практики работы с данными. Бюрократия мешает налаживанию партнерских отношений с лидерами ИИ в частном секторе, которые могли бы помочь. Правительство должно стать лучшим клиентом и лучшим партнером. Инновации в области национальной безопасности в отсутствие такого стимула, как крупная война или террористическая атака, потребуют сильного руководства.

Комиссия хочет создать машину предупреждения и действий, которая выглядит и управляется скорее как Tesla, чем как "Шевроле" 47-го года, стоящий в гараже. Речь идет не о внедрении технологий или найме персонала, разбирающегося в цифровых технологиях. Речь идет о том, чтобы принять новое мышление. Это похоже на первые дни ядерной эры. Лучшие умы страны нужны для поддержки неотложного национального дела. А институты, которые их окружают, должны адаптироваться, чтобы они могли бороться с новыми проблемами с той скоростью, с которой они появляются. В мире киберпространства или ИИ мало что происходит медленно, кроме институтов, которые мы создали для борьбы с этой угрозой. Генерал Майк Хайден был прав: проблемы надвигаются на нас со скоростью 186 000 миль в секунду. Старый "Шевроле", каким бы гладким и блестящим он ни был, просто не создан для этого. Лучше оставить его в гараже.

Все еще остается вопрос о кибер-Перл-Харборе. Леон Панетта предупреждал об этом десять лет назад. В более поздней беседе Панетта обновил свое предупреждение о кибератаке, которая стала кибер-Перл-Харбором, отметив, что вирусы могут действовать гораздо более скрытно, чем даже японская тайная атака, которая привела США ко Второй мировой войне. "Я беспокоюсь, что сложные вирусы уже внедрены, и что мы не разработали возможности для обнаружения этих вирусов и самозащиты, как только они активируются", - сказал Панетта.Каждый из этих вирусов может работать как отдельная ракета, нацеленная на Соединенные Штаты,