Дэниел Джеффриз, популярный футурист, мыслитель, инженер и «серийный предприниматель», написал для Hacker Noon статью о том, как человек и искусственный интеллект могут достичь симбиоза, чтобы изменить мир к лучшему. Но для начала нужно подправить мотивацию. Предлагаем вашему вниманию перевод.
Слишком часто мы теряем самых креативных людей на планете из-за крайне тривиальных и нелепых проблем.
«Лучшие умы моего поколения думают о том, как заставить людей кликать на рекламу. Это ужасно», — сказал основатель компании Cloudera, специалист по искусственному интеллекту Джеффри Хаммербахер.
Над чем ещё работают многие из разработчиков искусственного интеллекта первого эшелона?
Оружие. Слежка. Ликвидация рабочих мест.
Вместо того чтобы решать проблему голода на планете, или очищения океана, или исцеления от рака, они разрабатывают новые способы убийства и вынуждают людей покупать бесполезный хлам.
Это не просто подлость, это широкомасштабная гуманитарная катастрофа.
Конечно, лучшие из представителей этой сферы обладают творческой свободой и занимаются тем, чем хотят, но их единицы. Научная деятельность в чистом виде — скорее исключение. Причина проста. Компания или университет должны достичь немыслимого успеха, прежде чем у них будет достаточно денег, чтобы сделать ставку на долгосрочные проекты, которые могут никогда и не достичь успеха.
Одна из таких компаний — Google. Другая — OpenAI. Университет Торонто десятилетиями занимался исследованиями нейронных сетей в скромных масштабах и на скудные средства, пока не стало очевидно, что решение не находится. Есть другие, но их немного.
Дело в том, что финансирование реальной исследовательской работы, меняющей цивилизацию, требует избытка капитала. И добыть такой избыток нелегко.
Тем, кому не хватило удачи или квалификации, чтобы занять одну из заветных позиций, где людям платят за работу над тем, что им по душе, вынуждены довольствоваться менее достойным трудом. Им приходится работать, чтобы выживать. Стремясь прокормить свои семьи, они идут туда, где есть деньги. Если бы на плаву могли оставаться только компании, производящие оружие и рекламу, то созданием именно этих продуктов занимались бы и лучшие из лучших.
Проблема затрагивает самую суть экономики. Мотивация правит миром. Всё сводится к мотивации. В настоящее время отсутствует мотивация очистить океан или накормить всех голодных. Всё это не принесёт денег.
Но что если мы сумеем создать правильные стимулы? Что если сможем обратить внимание величайших исследователей в области искусственного интеллекта на решение ключевых проблем, с которыми сталкивается планета? Мы ведь и правда можем это сделать.
Чтобы понять, как, нужно получить некоторое представление о принципе «чёрного ящика», играх и природе кентавров.
Кнут или пряник
У искусственного интеллекта плохая репутация. Идёт ли речь о машинах, которые лишат нас рабочих мест, или о бунте роботов, которые лишат нас жизни, — все истории об искусственном интеллекте в популярной прессе призваны вселить страх. Страх — прекрасное маркетинговое средство.
Но чем больше я размышлял об искусственном интеллекте, тем больше понимал, что проблема не в машинах. Проблема в нас.
Как сказал ветеран-морпех, герой потрясающего документального фильма Кена Бёрнса о Вьетнаме:
Люди стали доминирующим видом на планете не потому, что они хорошие.
Человеческие существа способны на великие чудеса, невероятный оптимизм и самопожертвование, но при это они же сеют смерти и разрушения с размахом, который затмевает даже самых жестоких хищников. Львы, тигры и волки нам явно уступают. В мире есть лишь один источник зла, и это мы.
Искусственный интеллект будет в точности тем, чем мы его сделаем. Мы — архитекторы, наставники, отцы и матери наших будущих созданий. Мы получаем то, что вкладываем. Искусственный интеллект будет как добром, так и злом, поскольку мы сами и добры, и злы. Но как нам склонить чашу весов так, чтобы это явление было в большей степени добром, чем злом?
Во-первых, нам следует создать машины, работающие с нами, а не против нас. Нам нужен не труд, который убивает, а труд, который сделает нас сильнее. Мы хотим увеличить и расширить свои способности. Это не настолько фантастическая задумка, как может показаться. Дело в том, что машины и люди хороши в разных вещах.
Хотя бытует мнение, что искусственный интеллект — это универсальный разум, нечто вроде сверхгениального Эйнштейна, способного заткнуть нас за пояс в любой сфере, на самом деле он работает иначе. Эйнштейн понимал математику вселенной, но не мог даже ради спасения своей жизни отбить бейсбольный мяч.
Возможно, вы не считаете попадание по мячу проявлением интеллекта, но вы ошибаетесь. Нужен узкоспециализированный разум, чтобы отбить мяч битой с ювелирной точностью. Не существует алгоритма, который одинаково хорошо справлялся бы с бейсболом и с теорией относительности. Если вы способны ко всему, то по определению посредственны во всём.
Как говорится, халявы не будет. Есть даже такая теорема.
Чтобы добиться истинных успехов в чём-то, нужно выбрать специализацию. Именно поэтому интеллект тигра настроен на охоту и бег, а интеллект собаки позволяет ей прекрасно играть в «принеси мячик». Ники Кейс объясняет, о чём идёт речь, в замечательной статье «Как стать кентавром»:
Интеллект должен на чём-то специализироваться. Интеллект белки специализируется на том, чтобы это существо функционировало в качестве белки. Человеческий интеллект специализируется на поддержании человеческих функций. И если вам приходилось сталкиваться с неприятной необходимостью ограждать кормушки для птиц от белок, то вам должно быть известно, что белки превосходят людей в некоторых аспектах интеллекта. Возможно, это благо: люди продолжат превосходить компьютеры в некоторых отношениях.
Поиск правды в этом вопросе подводит нас к любопытному эпизоду, который произошёл после того, как Гарри Каспаров проиграл шахматному суперкомпьютеру Deep Blue. Всем известна первая часть этой истории. IBM создала суперкомпьютер, который в 1997 году нанёс поражение одному из величайших гроссмейстеров всех времён.
Дальше события приняли ещё более занятный оборот. Гарри начал размышлять о том, что случится, если искусственный интеллект и люди станут сотрудничать.
На примере шахмат Каспаров понял, что людям присущи интуиция и способность выстраивать долгосрочную стратегию, тогда как компьютеры доминируют в тактике и вычислениях, требующих больших мощностей. В следующем же году он решил провести турнир, где люди работали бок о бок с машинами.
Он назвал эту новую форму шахмат продвинутыми шахматами, или «шахматами-кентаврами» — в честь персонажей греческой мифологии, существ с головой и торсом человека и телом лошади.
Каспаров пригласил участников всех категорий — суперкомпьютеры, людей-гроссмейстеров, смешанные команды из людей и искусственного интеллекта — сразиться за гран-при. Неудивительно, что «кентавр» в виде человека при поддержке искусственного интеллекта победил просто человека. Но, что удивительно, этот «кентавр» оказался способен победить и компьютер, выступающий соло.
Это правда. Команда, состоящая из человека и компьютера, смогла одолеть суперкомпьютер. Две специализированные машины, биологическая и кремниевая, превосходят кремниевую машину. Работая совместно, мы можем сделать гораздо больше того, на что способны поодиночке.
Итак, это первый шаг: создать машины, увеличивающие нашу мощь, способные делать то, что нам не под силу. Машины, работающие с нами, а не против нас, увеличивающие интенсивность и эффективность труда, а не убивающие труд.
Второй шаг сложнее. Здесь мы возвращаемся к стимулам. Кнут или пряник. Тянуть или толкать. Мотивация формирует наш мир и определяет образ действий. И сейчас наша мотивация поломалась. Она ущербна.
Мы мотивированы вынуждать людей кликать на рекламу или шпионить друг за другом. Чтобы изменить такое положение вещей, мы должны изменить саму структуру коммерческой и промышленной деятельности. Чтобы изменить мир, необходимо изменить вводные данные, иначе вы рискуете получить на выходе тот же результат.
За пределами чёрного ящика
Прежде чем менять мир, мы должны понять, насколько те или иные стимулы способны формировать реальность. С правильной мотивацией возможно всё. Ошибочная же мотивация порождает порочный круг, разрушающий всё, с чем он соприкасается.
Потрясающая книга «Принцип «чёрного ящика». Как снизить риск неудач и непоправимых ошибок» Мэттью Сайеда открывается иллюстрацией того, в какой степени верная или ошибочная мотивация правит миром. Автор рассказывает о двух трагедиях: в авиатранспортной отрасли и в здравоохранении.
Одна отрасль извлекла уроки из своих ошибок, а другая продолжает наступать на старые грабли.
В 1973-м самолёт авиакомпании United Airlines, рейс номер 173, вылетел из аэропорта имени Кеннеди в Нью-Йорке, направляясь в Портленд. За рулём был очень опытный пилот Мэлберн А. Макбрум, седой джентльмен 52 лет. За плечами командира воздушного судна было 25 лет опыта, включая полёты в опасном небе Европы в период Второй мировой войны.
Всё шло хорошо до того момента, когда самолёт начал готовиться к посадке. Макбрум перевёл рычаг шасси в нижнее положение. Он делал это тысячи раз. Повернув рычаг, он услышал звук выпускаемых закрылков и знакомый механический шум, создаваемый шасси, когда оно начинает выпускаться, до тех пор, пока не раздаётся щелчок, указывающий, что оно зафиксировалось в выпущенном положении.
Но на этот раз было иначе. Послышался громкий хлопок, который сотряс самолёт. Все нервно осматривались. Что только что случилось с шасси? Оно нормально выпустилось или отвалилось и упало в океан?
По радиосвязи Макбрум запросил у центра управления полётом дополнительное время, и диспетчер ответил: «Поворот налево, курс один ноль ноль». Центр вывел самолёт на круговую траекторию над пригородами Портленда.
Шло время. Макбрум мучительно пытался принять решение.
Команда выполнила все проверки, какие могла, но не была уверена в том, что шасси выпущено. Бортинженера отправили осмотреть визуальные индикаторы основных стоек шасси и удостовериться, что стойки вышли. Да, они вышли, но Макбрум продолжал кружить. Он не был уверен. На индикаторе шасси не загорелись зелёные лампочки основных стоек. Почему?
Время шло, топлива становилось всё меньше. Бортинженер умолял пилота приземлиться, но тот продолжал летать по кругу, одержимый индикатором. Почему не загорелись лампочки?
Когда мы испытываем стресс, с умом происходит что-то странное. Время растягивается. Восприятие пилотом времени и пространства «дезинтегрировалось». Как ни пыталась команда убедить его совершить посадку, он продолжал кружить. А затем топливо кончилось.
И они совершили аварийную посадку в лесном массиве в пригороде Портленда. Самолёт врезался в деревья, затем в земляную насыпь, снёс два (к счастью, пустующих) дома и в конце концов развалился. Погибли десять человек из 189, находившихся на борту.
Однако эта ужасная трагедия привела к одному положительному результату: она навсегда изменила подход к безопасности полётов. До этой аварии показатели безопасности были ужасными. Теперь же выше вероятность умереть от удара молнии, чем стать жертвой авиакатастрофы.
Авиакомпании начали обучать пилотов правилам поведения в кризисных ситуациях. В младшем составе стали развивать уверенность в себе и коммуникабельность, чтобы в кризисной ситуации младшие могли обратиться к старшим и успешно донести до них свою точку зрения.
Появились новые правила. Так, если сотрудники авиакомпании, вовлечённые в авиакатастрофу, в двухнедельный срок предоставят безупречно точный отчёт о случившемся, то никакие обстоятельства не могут быть использованы против них в судебных разбирательствах.
То же касается и команды, занимающейся расследованием. После катастрофы на место выезжает группа опытных специалистов, досконально всё изучающих. Ни одна из их находок не может использоваться в суде. Эксперты бесплатно делятся информацией со всеми авиалиниями и выпускают отчёт, содержащий рекомендации о новых мерах безопасности. Это пример решения проблемы на основе открытого источника информации, практически открытого исходного кода (ещё до появления этого понятия). И такие изменения были обязаны внедрить все авиакомпании.
Похвальная реакция авиационной отрасли резко контрастирует с позицией медиков.
Вместо стимулов, ведущих людей в направлении большей безопасности, они навязали себе и нам систему, порождающую ложь и скрытность.
Культура лжи и лжецов
29 марта 2005 года Элейн Бромили предстояла заурядная хирургическая операция.
Дело было после Пасхи. Муж миссис Бромили Мартин проснулся в 6:15, разбудил двоих детей, Викторию и Адама, и помог им умыться и одеться. Впоследствии он вспоминал, что это было «дождливое весеннее утро, а дети были веселы».
Элейн, бойкая дама 37 лет, работавшая в туриндустрии, годами страдала от хронического гайморита. В конце концов она решила раз и навсегда избавиться от этой проблемы. Её врач с 30-летним опытом работы пользовался уважением. «Не беспокойтесь, — сказал он пациентке, — это рутинная процедура, риск невелик».
К 7:15 Мартин собрал детей, всё семейство село в автомобиль и поехало в больницу. Доктор включил свет, отрегулировал лампы так, чтобы они светили мягко, и задал членам семьи несколько простых вопросов, в то время как Элейн переодевалась в голубой больничный халат. Обращаясь к дочери, она шутливо спросила: «Как я выгляжу?»
В 8:30 пришла старшая медсестра Джейн и повезла Элейн на процедуру. «Пока!» — весело прощебетала Элейн, когда Джейн вкатывала её в операционную. Сын помахал ей рукой. Муж повёз детей в продовольственный магазин, где они купили всё для прекрасного домашнего ужина.
А в это время в подготовительном отделении анестезиолог доктор Андертон, врач с 16-летним опытом, поставил Элейн капельницу и начал вводить обезболивающее.
Однако наркоз обладает мощным действием. Он не просто погружает пациента в сон, но также вызывает дисфункцию многих жизненно важных органов, которые приходится поддерживать искусственно. В период действия наркоза дыхательные пути нуждаются в помощи. Врачи используют ларингеальную маску, которая прочищает горло и помогает лёгким выполнять их жизненно важный труд.
Наркоз по-разному действует на пациентов, и на некоторых он воздействует негативно. Элейн оказалась в числе таких людей. Когда доктор Андертон попытался надеть на неё маску, он не сумел ввести трубку в дыхательные пути. Жевательные мышцы Элейн плотно сжались. Обычно большая доза расслабляет мышцы, но сейчас это не сработало.
Он попытался использовать маски меньшего размера, но и они оказались неэффективными. Спустя две минуты началась агония, лицо Элейн посинело. Врач перешёл к плану Б — интубации трахеи. Он вколол в челюсти женщины мощное парализующее средство, чтобы открыть их и ввести в горло трубку.
Лекарство сработало, но возникла другая проблема. Врач не видел горла пациентки. Оно было скрыто нёбной занавеской — редкое генетическое отклонение. Сколько ни пытался врач, трубка не проникала вглубь горла. Ситуация стремительно становилась критической.
Старшая медсестра знала, каким должен быть следующий шаг. Она принесла набор трахеотомических инструментов. Это было рискованное крайнее средство, чтобы миновать рот и проникнуть прямо в горло. Но врачи не обратили на инициативу Джейн никакого внимания. Они были в растерянности и теряли время в тщетных усилиях. Парализованная, Джейн стояла рядом, пока врачи снова и снова пытались просунуть трубку в горло. Сестра хотела к ним обратиться, но была напугана: «Может быть, это я виновата в том, что происходит?»
Она не хотела быть ответственной. Кроме того, врачи были её начальниками, она же — лишь младшим персоналом. «Может, они уже решили по каким-то причинам не прибегать к трахеотомии?» И Джейн молчала.
К 8:55 делать трахеотомию было уже поздно. Элейн впала в глубокую кому, мозг оставался без кислорода в течение 20 минут. Её переместили в реанимацию. Через 13 дней она умерла.
А теперь мы увидим контраст между этой ситуацией и тем, как отреагировали в отрасли авиаперевозок. Врачи объясняли гибель женщины туманно, используя такие выражения, как «непредвиденные обстоятельства», и называли случившееся «единичным случаем».
В медицине такие отчёты нередки, поскольку врачей за любые ошибки легко привлечь к ответственности по суду. Страховщики наказывают их и больницу. Руководство принимает суровые меры. Медсёстры, такие, как Джейн, знают своё место. Они живут в жёсткой иерархической системе. Если они нарушают субординацию, то их увольняют, и зачастую с волчьим билетом.
Никто не извлекает уроков из эпизодов, подобных вышеописанному. Поэтому они повторяются снова и снова. Вместо того чтобы приобретать мотивацию говорить правду, врачи мотивированы утаивать свои действия и лгать.
Такова сила мотивации.
Благодаря правильной мотивации люди растут и меняются. Они способны решить любую проблему, становятся умнее, сильнее, быстрее. Ложная мотивация приводит к повторению одних и тех же ужасных ошибок, которых можно было бы избежать.
Определение безумия — это «делать одно и то же, рассчитывая на новый результат». Мы живём в безумном мире, который часто мотивирует на ошибочные действия.
Если изменить мотивацию — можно изменить всё. Но как это осуществить?
Игры, в которые мы играем
У нас уже есть образец: игры. Давайте рассмотрим пример людей и компаний, создающих игры для исследователей искусственного интеллекта.
Миссия Kaggle (платформы для проведения конкурсов по машинному обучению) состоит в том, чтобы объединить лучших в мире специалистов по искусственному интеллекту, которые должны за вознаграждение решать те или иные проблемы.
Платформе удалось добиться прогресса в некоторых серьёзных и непростых вопросах, например в деле диагностики рака лёгких. Победителю конкурса Data Science Bowl 2017 достался приз в размере $1 млн. за создание системы, которая позволила бы распознавать опухоли в ходе УЗИ с высоким разрешением. До проведения конкурса доля ложных результатов достигала почти 90%. Это значило, что многие люди не получали должного лечения или получали его слишком поздно, что приводило к смертям, которых можно было бы избежать.
Победители конкурса кардинально улучшили уровень обнаружения недуга даже при очень ограниченных данных. Этот факт свидетельствует, что игры способны изменить жизнь к лучшему.
И это также неопровержимое доказательство того, что лучшие специалисты по искусственному интеллекту хотят решать реальные проблемы, а не вынуждать людей кликать на рекламные объявления. Даниэль Хаммак, занявший второе место, написал о конкурсе:
Нас окрыляет надежда на то, что найденное нами решение проблемы принесёт нечто большее, чем просто возможность получить энную сумму за победу в состязании. Надеемся, что людям будет оказана помощь!
Но призы в $1 млн. за решение проблемы рака — скорее редкость. Конкурс, проводимый в этом году, — ещё одна попытка побороть заболевание. Приз составляет $50 000. Неплохие деньги, но далеко не миллион.
Реальность такова, что людей мотивируют как деньги, так и альтруизм, но деньги зачастую диктуют человеку, как ему действовать: тратить на проект вечерние и ночные часы или сделать его приоритетом и заниматься им в рабочее время.
Чтобы организовать конкурс на платформе Kaggle, нужно быть одной из тех компаний, у которой есть вышеупомянутый избыток капитала или выгодный контракт с теми, кто заинтересован в достижениях участников. Например, Science Bowl в 2017 году спонсировала компания Booze Allen Hamilton, консультирующая в области финансов, маркетинга и информационных технологий. И можно биться об заклад, что компания, предлагающая победителю $1 млн., заключила контракт на $100 млн. с каким-нибудь гигантом медицинской диагностики.
Подобные вознаграждения редки.
Конечно, есть не только Kaggle. Например, недавно торговая площадка алгоритмов Algorithmia спонсировала конкурс, похожий на тот, что проводит Kaggle, но со своей изюминкой. Организаторы создали автоматизированный смарт-контракт на основе эфириума. Благодаря этому проверка результатов и вручение приза осуществляются без участия человека. Это новаторская попытка создать программируемую экосистему, призванную решать серьёзные проблемы.
Сайт Venture Beat комментирует инициативу Algorithmia:
Конкурс служит экспериментальным исследованием системы, позволяющей каждому создать собственный смарт-контракт и с помощью модели искусственного решить определённую проблему. Проект поможет организациям, которые стремятся использовать ИИ в решении конкретной проблемы, но не имеют средств, чтобы нанять специалистов. Метод Algorithmia не требует от участников доверять друг другу (поскольку все составляющие контролирует контракт), а процесс выплаты вознаграждения автоматизирован.
Конечно, Algorithmia сталкивается с проблемой, уже знакомой Kaggle. Чтобы предложить награду, нужен человек с деньгами, а люди с деньгами не тратят средства на очищение океанов. Здесь мы возвращаемся к мотивации. У людей есть стимулы расширять масштабы коммерческой деятельности и богатеть, но не спасать планету.
Но ключ к реформированию нашей ущербной экономики существует. И он… в одном блокчейне от нас.
Малоизвестная компания Numerai собрала в ходе прошлогоднего ICO миллионы на создание хедж-фонда и постоянно проводит конкурсы в области искусственного интеллекта, победители которых получают призы в привычных для них криптовалютах.
Данные, с которыми работают участники конкурса, частично зашифрованы, поэтому эксперты не вполне знают, какую именно проблему решают, однако не нужно быть гением, чтобы понять: они создают для хедж-фонда новые возможности повысить эффективность торговли. Каждые несколько недель появляется новая проблема, и специалисты по искусственному интеллекту начинают состязание, стремясь решить её и получить деньги посредством смарт-контракта.
Эта идея оригинальна во многих отношениях, но следует признать, что объект её приложения совершенно тривиален. Вместо того, чтобы с помощью этой блестящей концепции решать серьёзные проблемы, её используют для обогащения. Не поймите меня превратно: обогащение — это прекрасно, и я не выражаю недовольства тем, что Numerai избрала такой путь. Я криптовалютный трейдер, и мне нравится зарабатывать деньги.
Но если это всё, на что мы намерены потратить революционный потенциал криптовалют и ИИ, то нам следует немедленно остановиться, поскольку в итоге мы всё равно останемся в старом мире. Мы должны метить выше. И мы можем поднять уровень! И, как это часто случается, ответ на вопросы прямо у нас перед глазами.
Я уже писал о том, что криптовалюты создавались с целью распространения денег. Ранние криптовалюты, такие как биткоин, решали проблему выпуска денег без позволения со стороны центрального органа, но они использовали традиционную модель распространения: нисходящую.
Точно так же, как и фиатные валюты, биткоин попал в руки крошечного меньшинства. Вместо центральных банков, которые никто не выбирал, мы имеем никем не выбранных майнеров, лишь чуть менее централизованных.
Но достаточно изменить систему распространения денег — и изменится всё.
Проблема Kaggle и Algorithmia состоит в том, что им приходится одалживать деньги. Эти деньги уже есть у кого-то, и компании вынуждены их выпрашивать. Неудивительно, что хозяева денег не спешат с ними расставаться. Numerai поняла, что может напечатать собственные деньги и распространять их через конкурсы. Ключ к успеху — расширить саму природу конкурсов.
Давайте создадим криптовалютную платформу и децентрализованную автономную организацию, миссия которой будет заключаться в решении важнейших мировых проблем. Рассматривайте этот проект как публичный трастовый фонд, благотворительную организацию и сообщество Kickstarter на стероидах!
Проблемы, которые нуждаются в решении, будут утверждаться советом из преданных своему делу учёных, футуристов и мыслителей или посредством публичного голосования. Вопросы, которые необходимо решить в кратчайшие сроки, будут представляться на рассмотрение советом и системой голосования, отсеивающей спам и шуточные предложения. Назначение системы будет состоять в распространении денег, поскольку они печатаются для людей, создающих ценность для всех нас.
Не только майнеры и монетный двор станут производить деньги, но и все люди смогут жертвовать системе, увеличивая её мощь, позволяющую менять мир. Поскольку система создаёт собственные деньги в собственных целях, ей не нужно подстраиваться под мотивацию людей, у которых уже есть деньги.
Таким образом, хребет старой системы мотивации будет сломлен, и возникнет новая система, нацеленная на достижение большего блага, а не на то, чтобы набивать кошельки своих создателей. Старая система была хороша для того, чтобы привести нас туда, где мы находимся сейчас. Не следует её ненавидеть. Это была ступень в нашей эволюции и шаг, необходимый для того, чтобы привести нас от племенных войн к современному промышленно развитому обществу.
Но теперь мы готовы к новой системе, способной решить проблемы, которые никогда не сумеет решить старая. До новой системы рукой подать. Лишь бы нам хватило мужества до неё дотянуться.
