Власть роботов. Как подготовиться к неизбежному - Мартин Форд

Соединенными Штатами и другими западными странами, расширяя границы возможного для ИИ. Ограничения на фундаментальные исследования, очевидно, поставят нас в невыгодное положение, а мы не можем себе позволить отстать от Китая в борьбе за место на переднем крае развития этой технологии, оказывающей огромное влияние на нашу жизнь.

Правильнее было бы регулирование конкретных сфер применения искусственного интеллекта. В отношении беспилотных автомобилей и средств медицинской диагностики на основе ИИ правила уже выработаны, поскольку эти сферы и без того регулируются. А вот в областях распознавания лиц и использования алгоритмов в системе уголовного судопроизводства нет практически никаких гарантий эффективного и справедливого применения технологии.

С учетом темпов развития искусственного интеллекта и сложности затронутых вопросов я считаю нереалистичным ожидать, что Конгресс США, да и любой другой парламентский орган, своевременно разработает необходимые нормы и воплотит их в жизнь. Похоже, что лучше всего было бы создать независимое государственное ведомство с полномочиями регулятора специально для сферы искусственного интеллекта — что-то вроде Администрации по контролю за продуктами питания и лекарствами, Федерального управления гражданской авиации или Комиссии по ценным бумагам и биржам. Любое из этих управлений — как и их аналоги во всем мире, например Европейское агентство по лекарственным средствам, — имеет собственный штат экспертов, позволяющий решать вопросы в пределах их компетенции. То же самое следует сделать и в сфере искусственного интеллекта. Орган, регулирующий создание и использование ИИ, должен получить от конгресса широкие полномочия и финансирование и иметь право разрабатывать конкретные нормы, причем намного быстрее и эффективнее, чем законодательный орган.

Скорее всего, сторонники либертарианских взглядов станут возражать и обоснованно указывать, что подобный государственный орган будет таким же неэффективным, как и весь существующий регуляторный аппарат. Агентство по контролю ИИ, безусловно, будет поддерживать тесные связи с крупными технологическими компаниями, и мы почти наверняка столкнемся с пресловутой практикой «вращающихся дверей», когда чиновники, уходящие с госслужбы, находят теплые места в подконтрольном частном секторе. Велик и риск «приватизации регулирующего органа» и злоупотребления влиянием со стороны технологической отрасли. Это небеспочвенные опасения, тем не менее для меня совершенно очевидно, что подобное ведомство — оптимальное решение. Альтернативой будет бездействие, что, безусловно, худший выбор. Тесные отношения между регулирующим органом и компаниями, разрабатывающими и использующими технологии ИИ, это, как всегда, палка о двух концах. Поскольку правительство не может конкурировать за ведущих специалистов в области ИИ, предлагая им зарплаты и условия, характерные для хай-тека, сотрудничество ведомства с частным сектором, пожалуй, единственная возможность идти в ногу с достижениями в этой сфере. Идеального решения не существует, но возможен плодотворный союз частного сектора, научных кругов и властей, в центре которого стоит регулирующий орган, достаточно компетентный, чтобы направлять развитие в нужную сторону. Это значительно приблизило бы нас к гарантиям безопасного, инклюзивного и справедливого применения ИИ.

Заключение

ИИ: два варианта будущего

По мере развития ИИ и расширения его присутствия в нашей жизни связанные с ним риски все больше требуют внимания. Наложение коронакризиса на масштабные социальные волнения в 2020 году привело к событиям, свидетельствующим о том, что как минимум некоторые из этих рисков начинают выходить на передний план в общественной жизни. После общенациональных протестов, спровоцированных убийством Джорджа Флойда полицейским в мае того года, расовая необъективность технологии распознавания лиц заставила Amazon объявить годичный мораторий на продажу своей системы Rekognition правоохранительным органам, чтобы дать конгрессу время ввести эту технологию в правовое поле. Microsoft тоже взяла паузу вплоть до принятия соответствующего законодательства, а IBM полностью ушла с рынка систем распознавания лиц[331].

Пандемия коронавируса открыла новые возможности для принятия нестандартных мер. Когда из-за экономического шатдауна исчезло ошеломляюще большое количество рабочих мест, конгресс смог быстро принять решительные меры, хотя всего несколькими месяцами ранее подобные программы умерли бы, не родившись. В их числе стимулирующие выплаты в размере $1200 напрямую налогоплательщикам, резкое, хотя и временное, повышение пособий по безработице и включение в эту программу участников гиг-экономики. В ближайшие годы, когда влияние искусственного интеллекта и роботизации на рынок труда усилится, все эти меры будут, несомненно, актуальными. Уже звучат предложения ввести ежемесячные выплаты — фактически безусловный базовый доход — на все время кризиса[332].

В то же время жизненно необходим значительно более комплексный и последовательный ответ на опасности, неизбежно связанные с развитием ИИ. Это потребует эффективной координации между властями и частным сектором и создания регулирующей структуры, имеющей достаточные знания и опыт, чтобы адекватно реагировать на быстрые изменения. Всем этим нужно заниматься уже сегодня, поскольку не исключено, что мы уже отстаем от реальности.

Несмотря на совершенно обоснованные опасения, я твердо верю, что польза от искусственного интеллекта намного превзойдет риски. С учетом трудностей, с которыми мы столкнемся в грядущие десятилетия, ИИ кажется мне незаменимым. Он нам понадобится, чтобы оторваться от технологического плато и перейти в новую эпоху широкомасштабного обновления.

Самой очевидной непосредственной угрозой представляется изменение климата. В 2018 году Межправительственная комиссия по изменению климата опубликовала следующий анализ: чтобы не допустить увеличения глобальной температуры более чем на 1,5 ℃ — это порог, до которого можно надеяться на предотвращение катастрофического ущерба, — мы должны будем к 2050 году сократить выбросы углекислого газа до нуля. Чтобы иметь более-менее реальные шансы на это, к 2030 году выбросы должны снизиться на 45 %[333].

Масштаб этой задачи ясно демонстрирует беспрецедентный эксперимент, поставленный нами с началом пандемии коронавируса. Как отметил Билл Гейтс в своем блоге в августе 2020 года, глобальный шатдаун — когда авиаперелеты практически прекратились, а улицы, шоссе и офисные здания по всему миру опустели — привел к сокращению выбросов углекислого газа всего на 8 %. Это временное снижение было достигнуто ценой потери триллионов долларов и дикого роста безработицы почти во всех странах. Иными словами, надежды каким-то чудом снизить выбросы почти наполовину за следующее десятилетие главным образом за счет природоохранной деятельности или изменения поведения, скажем пересаживания на общественный транспорт, нереалистичны — и это слабо сказано. По словам Гейтса, «невозможно добиться нулевых выбросов исключительно — или даже преимущественно — за счет того, что мы станем меньше летать и ездить на машинах»[334].

Успех будет в первую очередь зависеть от инноваций. Одного лишь перехода на чистую, возобновляемую энергию и электромобили недостаточно. На электростанции и транспорт приходится лишь около 40 % глобальных выбросов. Остальное — это сельское хозяйство, производство, здания и прочие источники[335]. Чтобы резко сократить выбросы, понадобятся технологические прорывы во всех областях. Добавьте к этому другие трудности, например назревающий мировой кризис с доступом к пресной