|
Искусственный интеллект может принести больше вреда, чем пользы, если пользователь принимает причинно-следственные связи (или хуже того, руководствуется ими) в алгоритмах, созданных в результате машинного обучения, при этом их не понимая.
Прежде чем пояснить свою точку зрения, давайте определимся с терминологией.
«Искусственный интеллект» и «машинное обучение» – слова, которые сегодня можно
услышать повсеместно и которые часто употребляются как синонимы, хотя их значения
различны. Я выделяю три обширные категории компьютерных систем принятия решений:
экспертные, имитации и системы по работе с данными (это исключительно моя собственная
классификация, которая не применяется в технологическом мире).
К экспертным системам относятся те, которые мы используем в Bridgewater: разработчики определяют критерии на основе своего логического понимания комплекса причинно-следственных связей, а затем анализируют, как разные сценарии проявляются в разных обстоятельствах.
Компьютеры также способны выделять закономерности и применять их в процессе принятия решений без понимания логики происходящего. Этот подход я называю имитацией. Он может быть эффективным, если одни и те же события происходят регулярно и не подвержены изменениям, например, игра с четкими и незыблемыми правилами. Однако в реальном мире все течет, все меняется, а потому такая система может быстро утратить связь с действительностью.
В последние годы локомотивом развития машинного обучения стало направление по работе с данными: мощные компьютеры обрабатывают огромные массивы данных в поисках закономерностей. Этот подход набирает популярность, но может оказаться рискованным в случаях, если будущее начнет развиваться по другому сценарию, чем прошлое. Инвестиционные системы, основанные на машинном обучении, которое не сопровождается глубоким пониманием процессов, могут быть опасны, потому что, когда определенное правило принятия решения становится популярным, его начинают широко применять, а это влияет на ценообразование. Иными словами, со временем ценность информации, ставшей достоянием широкой общественности, имеет тенденцию снижаться. Без глубокого понимания вы не будете знать, действительно ли то, что произошло в прошлом, имеет ценность, а если она и была, вы не поймете, исчезла эта ценность или нет. Возможен и худший вариант. Некоторые правила принятия решений могут стать настолько популярными и так влиять на цены, что самым разумным станет делать прямо противоположное.
Не стоит забывать: компьютер не обладает здравым смыслом. Например, он легко может связать два факта, что люди просыпаются по утрам, а затем завтракают, и сделать заключение, что факт пробуждения вызывает у человека чувство голода. Я бы предпочел небольшое количество позиций (в идеале не связанных друг с другом), в которых я уверен, чем большое количество тех, в которых я не так уверен. И для меня абсолютно неприемлема ситуация, когда я не могу объяснить логику любого своего решения. Множество людей слепо полагаются на машинное обучение, потому что это проще, чем пытаться понять. Для меня глубокое понимание – обязательный момент, особенно в моей работе.
Я не хочу сказать, что системы-имитации и системы по обработке данных, как я их называю, бесполезны. Я считаю, что они могут быть очень полезны при принятии решений, когда диапазон и конфигурация событий в будущем станут в точности повторять то, что было в прошлом. При достаточной вычислительной мощности можно учесть все возможные переменные. Например, если проанализировать информацию о шахматных ходах, которые великие гроссмейстеры делали в определенных обстоятельствах, или о том, какие действия предпринимали выдающиеся хирурги во время конкретного типа операций, можно создать очень полезные программы для игры в шахматы или для проведения хирургических операций. В 1997 году компьютерная программа Deep Blue на основе только этого подхода выиграла партию у чемпиона мира по шахматам Гарри Каспарова. Однако этот метод не оправдывает себя, когда будущее отличается от прошлого и вам неизвестны все причинно-следственные связи. Понимание этих взаимоотношений помогло мне избежать ошибок, которые допустили другие, в частности во время мирового финансового кризиса 2008 года. Почти все исходили из убеждения, что грядущее будет похоже на прошлое. Благодаря тому, что мы сфокусировались исключительно на логических причинно-следственных отношениях, мы смогли разглядеть, что на самом деле происходит.
Строго говоря, мозг человека по сути – тот же компьютер, запрограммированный определенным образом: он получает данные, обрабатывает их и предлагает решения. Мы можем запрограммировать логику нашего «внутреннего компьютера» и компьютера-инструмента, чтобы они работали в паре и проверяли друг друга. Это приведет к потрясающим результатам.
Предположим, мы пытаемся вывести универсальные законы, объясняющие изменение видов с течением времени. Теоретически это возможно, если располагать достаточной технической базой и временем. Конечно, для этого нужно будет разобраться с формулами, предложенными компьютером, и убедиться, что в их основе нет корреляций, не представляющих собой причинно-следственных связей. Это можно сделать с помощью постоянного упрощения правил до тех пор, пока мы не убедимся, что их простота не оставляет места для ошибки.
Конечно, учитывая ограниченную производительность нашего мозга и его скорость обработки информации, человеку потребуется бесконечно много времени на понимание всех переменных, влияющих на эволюцию. Действительно ли необходимо то упрощение и тот уровень понимания, которые присущи нашим экспертным системам? Возможно, нет. Существует риск, что изменения могут произойти в непротестированных данных. Однако можно сказать, что если формулы, основанные на обработке данных, выглядят достаточно достоверными, чтобы объяснить эволюционный процесс всех биологических видов во все времена, тогда предпочтительнее в следующие 10, 20 или даже 50 лет полагаться на эти формулы, чем на формулу, которая кажется работоспособной, но полностью непонятна (и это по меньшей мере может оказаться полезным для лечения генетических заболеваний).
Но, может быть, мы слишком зацикливаемся на способности понимать: рациональное мышление – лишь часть этого процесса? Возможно, достаточно вывести формулу эволюционных изменений и применять ее в ожидании, что еще может произойти. Меня гораздо больше привлекают интерес, низкий риск и образовательная значимость глубокого понимания причинно-следственных связей, чем алгоритмы, которых я не понимаю. Так что я продолжаю придерживаться собственного мнения. Но делаю ли я это под влиянием предпочтений и привычек моего низшего «я» или логики и рационального мышления? Я не знаю. Я с нетерпением жду, когда изучением этого вопроса займутся лучшие умы в области искусственного интеллекта.
Вполне вероятно, что в силу своего соревновательного духа мы будем делать все более высокие ставки на взаимосвязи, определенные компьютерами и не поддающиеся нашему пониманию. Некоторые из этих ставок сыграют, а некоторые с треском провалятся. Я уверен, что искусственный интеллект будет способствовать быстрому и значительному прогрессу; в то же время я боюсь, что он может привести человечество к упадку.
Мы стоим на пороге удивительного и опасного нового мира. Это наша реальность. И как всегда, я убежден, что нам лучше подготовиться к жизни в этом мире, чем желать, чтобы все это оказалось неправдой.
Чтобы ваша жизнь была лучшим вариантом из возможных, вы должны:
1) понимать, какие решения самые эффективные;
2) иметь смелость их принимать.
|
