Перевел Николай Старков

Нас окружает истерия по поводу будущего искусственного интеллекта и робототехники — истерия по поводу того, насколько мощными они станут, как быстро это произойдет и как это повлияет на рабочие места.

Недавно я увидел статью в MarketWatch, в которой говорится, что роботы отберут  у нас половину сегодняшних рабочих мест за 10-20 лет. Приводился даже график, чтобы доказать рассчеты.

Эти заявления просто смехотворны. (Обычно я стараюсь придерживаться профессионального языка, но иногда…) К примеру, статья начинается с утверждения, что через 10-20 лет в США количество работников, обслуживающих территории и здания, сократится с одного миллиона до 50 тысяч, потому что роботы возьмут это дело на себя. Сколько роботов сейчас делают эту работу? Ноль. Как много было реалистичных демонстраций роботов, работающих в этой сфере? Ноль. Подобные соображения касаются и всех других сфер, о которых мы слышим заявления, что на наших глазах исчезнут более 90 процентов рабочих мест, которые в настоящее время требуют физического присутствия на определенном месте.

Ошибочные предсказания приводят к страху того, что не произойдет — будь то широкомасштабное уничтожение рабочих мест, Сингулярность или пришествие искусственного интеллекта, который имеет ценности, отличные от наших, и может попытаться уничтожить нас. Нам нужно бороться с этими ошибками. Но почему люди делают их? Я вижу семь общих причин.

predictingartificialintelligence1_0

1. Переоценка и недооценка

Рой Амара был соучредителем Института будущего в Пало-Альто, интеллектуальном сердце Кремниевой долины. Он известен своим афоризмом, который более известен как Закон Амары:

Мы склонны переоценивать влияние технологий в краткосрочной перспективе и недооценивать его в долгосрочной перспективе.

В этом 21 слове заключено многое. Оптимист может прочитать его в одном направлении, а пессимист — в другом.

Прекрасным примером этих двух способов прочтения Закона Амары является американская Глобальная система позиционирования, более известная как GPS. Начиная с 1978 года на орбиту было выведено созвездие из 24 спутников (ныне 31, включая запасные). Целью GPS было обеспечение точной доставки боеприпасов американским военным. Но программа была несколько раз почти отменена в 1980-х годах. Первое оперативное использование по назначению было в 1991 году во время операции «Буря в пустыне». Но военным потребовалось еще несколько случаев успешного применения, чтобы признать полезность этой технологии.

Сегодня мы видим развитие GPS в долгосрочной перспективе, как сказал бы Амара, — и современные области его применения поначалу было невозможно представить. Мой Apple Watch 2 использует GPS во время пробежки, и запись моего местоположения настолько точная, чтобы можно увидеть, на какой стороне улицы я бегу. Крошечный размер и цена приемника показались бы непостижимыми для ранних инженеров GPS. Эта технология синхронизирует физические эксперименты по всему миру и играет непосредственную роль в синхронизации электросети США и поддержании ее работы. Она также позволяет высокочастотным трейдерам отслеживать рынок ценных бумаг и в большинстве случаев избегать катастрофических ошибок, связанных с потерей времени. Ее используют самолеты, большие и малые, для навигации, и ее же используют для отслеживания досрочно освобожденных или получивших условный срок осужденных. Она определяет, какой сорт семян будет высажен на определенных участках полей по всему миру. Она отслеживает парк грузовиков и формирует отчеты о результатах работы водителя.

GPS был создан для одной цели, но пришлось здорово попахать, чтобы заставить его работать так, как вначале предполагалось. Теперь же он настолько плотно встроен во многие аспекты нашей жизни, что мы не просто потеряемся, если он пропадет, мы замерзнем, проголодаемся и, вполне возможно, умрем.

Аналогичную схему можно наблюдать и в развитии других технологий за последние 30 лет. Большие перспективы вначале, разочарование, а затем медленно растущее доверие к результатам, которые превосходят первоначальные ожидания. Это относится к компьютерам, расшифровке генома, солнечной энергии, энергии ветра и даже доставке продуктов на дом.

Искусственный интеллект снова и снова переоценивали в 1960-х, в 1980-х и, я уверен, сейчас — но помимо этого, вероятно, его перспективы на длинной дистанции недооценены. Вопрос в том, как долго будет длиться эта длинная дистанция? Следующие шесть заблуждений помогают объяснить, почему временные рамки для будущего ИИ сильно недооценены.

predictingartificialintelligence2_0

2. Воображение магии

Когда я был подростком, Артур Кларк был одним из писателей-фантастов «большой тройки», вместе с Робертом Хайнлайном и Айзеком Азимовым. Но Кларк был также изобретателем, популяризатором науки и футуристом. С 1962 до 1973 года он сформулировал три крылатых выражения, которые стали известны как «Три закона Кларка»:

Когда уважаемый, но пожилой ученый утверждает, что что-то возможно, то он почти наверняка прав. Когда он утверждает, что что-то невозможно, — он, вполне вероятно, ошибается.

Единственный способ обнаружить пределы возможного состоит в том, чтобы отважиться сделать шаг за пределы, в невозможное.

Любая достаточно развитая технология неотличима от магии.

Лично я, наверное, должен бы скептически относиться ко второму предложению в его первом законе, так как у меня гораздо более консервативные, чем у некоторых других, представления о том, насколько быстро произойдет подъем ИИ. Но сейчас я хочу поговорить о третьем законе Кларка.

Представьте, что у нас есть машина времени, и мы можем перенести Исаака Ньютона с конца ХVII века в нынешнее время, поместив его в место, которое ему было бы знакомо — в часовню Тринити-колледжа в Кембриджском университете.

Теперь покажите Ньютону Apple. Вытащите iPhone из кармана и включите его, чтобы он засветился наполненным значками экраном, и вручите его ученому. Ньютон, который в свое время обнаружил, что белый свет состоит из разноцветных компонентов, разделив его с помощью призмы, а затем собрав обратно, без сомнения, поразится маленькому объекту, который производит столько живых красок во мраке часовни. Теперь запустите ролик с английским пасторальным пейзажем, а затем какую-нибудь церковную музыку, которую он мог бы слышать раньше. А затем покажите ему веб-страницу с 500-страничной копией его труда «О началах…» с его личными комментариями, и научить использовать жест разведения двух пальцев, чтобы приблизить детали.

Сможет ли Ньютон объяснить, как это маленькое устройство все это сделало? Хотя он изобрел матанализ и придумал объяснение и оптики, и гравитации, он так и не смог отличить химию от алхимии. Поэтому я думаю, что он будет сбит с толку, будет неспособен представить хотя бы примерный принцип действия этого устройства. Он бы не видел никакой разницы между смартфоном и воплощением оккультизма, который представлял большой интерес для него. Смартфон был бы для него неотличим от магии. И не забывайте, что Ньютон был действительно умным чуваком.

Если происходит волшебство, трудно представить границы его возможностей. Предположим, мы покажем Ньютону, как гаджет способен освещать темноту, как он фотографирует, записывает видео- и аудио сигналы, как его можно использовать в качестве увеличительного стекла или зеркала. Затем мы покажем ему, как его можно использовать для выполнения арифметических вычислений с невероятной скоростью, и со многими десятичными знаками. Мы покажем как он считает шаги, которые сделал Ньютон, и покажем ему, что он может говорить с людьми где угодно в мире, сразу же, прямо из часовни.

Какие еще способности Ньютон мог бы приписать устройству? Призмы работают вечно. Предположил ли бы он, что iPhone будет работать всегда, при этом пренебрегая пониманием того, что его нужно подзаряжать? Напомним, что мы стащили его из времени за 100 лет до рождения Майкла Фарадея, поэтому у него нет научного понимания электричества. Если iPhone может служить источником света без огня, возможно, он также может превратить свинец в золото?

Эта же проблема касается нас, когда мы представляем будущие технологии. Если эти технологии достаточно далеки от тех технологий, которые мы понимаем и которые у нас есть сегодня, тогда мы не можем даже представить их ограничения. И если их становится невозможно отличить от магии, любой тезис о них уже невозможно опровергнуть.

Это проблема, с которой я регулярно сталкиваюсь в попытках спорить с людьми о том, стоит ли нам боятся всеобщего искусственного интеллекта, или ВИИ — об идее того, что мы создадим автономных субъектов, которые будут действовать как существа в мире. Мне говорят, что я не понимаю, насколько мощным будет ВИИ. Это не аргумент. Мы не знаем, может ли он вообще существовать. Я бы хотел, чтобы он существовал: это всегда было моей личной мотивацией для работы в робототехнике и над искусственным интеллектом. Но современные исследования ВИИ не слишком преуспевают как во «всеобщности», так и в поддержании функционирования независимой сущности с непрерывным существованием. Преимущественно выглядит так, что они застряли на тех же проблемах мышления и здравого смысла, с которыми искусственный интеллект имеет дело уже как минимум 50 лет. Все свидетельствует о том, что пока что мы не имеем реального понятия, как его построить. Его свойства абсолютно неизвестны, поэтому риторически он быстро становится магическим, безгранично мощным.

Во вселенной нет ничего безграничного.

Обращайте внимание на аргументы о будущих технологиях, которые выглядят магическими. Такой аргумент невозможно опровергнуть. Это аргумент, основанный на вере, а не научный аргумент.

predictingartificialintelligence3_0

3. Эффективность и компетентность

Мы все используем сведения о том, как тот или иной человек выполняет определенную задачу, чтобы оценить, насколько хорошо он сможет выполнить какую-то другую задачу. В чужом городе мы спрашиваем незнакомку на улице, как пройти куда-нибудь, и если она отвечает с уверенностью, называя направления, которые звучат осмысленно, то мы полагаем, что можем также спросить ее о местной системе оплаты проезда в общественном транспорте.

Теперь предположим, что человек сообщает нам, что на определенной фотографии изображены люди, играющие во Фрисби в парке. Естественно предположить, что этот человек сможет ответить на такие вопросы, как: «Какую форму имеет фризби?», «Примерно как далеко человек может бросить фризби?», «Можно ли съесть фризби?», «Сколько примерно людей одновременно могут играть?», «Может ли трехмесячный ребенок играть во фризби?», «Подходит ли сегодняшняя погода для игры во фризби?»

У компьютеров, которые могут пометить изображение наподобие «люди, которые играют во фризби в парке», нет никаких шансов ответить на такие вопросы. Помимо того факта, что они способны только помечать изображения и вообще не способны отвечать на вопросы, они также понятия не имеют, что такое человек, что парки обычно под открытым небом, что люди имеют возраст, что погода — это нечто большее, чем характеристики света в фотографии, и так далее.

Это не означает, что эти системы бесполезны. Они имеют большое значение для поисковых систем. Но вот что пошло не так. Люди слышат, что какой-то робот или какой-то ИИ выполнил задачу. Затем они обобщают эту эффективность до уровня компетентности, которую можно ожидать от человека, способного выполнить ту же задачу. А потом применяют это обобщение к роботу или системе искусственного интеллекта.

Сегодняшние роботы и системы ИИ невероятно ограниченны в том, что они могут сделать. Человеческие обобщения к ним неприменимы.

predictingartificialintelligence4_0

4. Слова-чемоданы

Марвин Мински назвал слова, которые имеют множество значений, «словами-чемоданами». «Обучение» — это мощное слово-чемодан, оно может относиться ко множеству типов опыта. Научиться пользоваться палочками для еды — это совсем не то же самое, что выучить мелодию новой песни. А научиться писать код — это совсем другой опыт, чем научиться ориентироваться в городе.

Когда люди слышат, что машинное обучение делает большие успехи в какой-то новой области, они склонны использовать в качестве ментальной модели то, как изучал бы эту новую область человек. Тем не менее, машинное обучение очень хрупкое и требует много подготовительных действий от человеческих исследователей и инженеров, специализированного кода, специализированных наборов данных для обучения и специально подобранной структуры обучения для каждой новой сферы. Современное машинное обучение — это совсем не то же самое, что впитывание информации человеком, который добивается быстрого прогресса в новой области без необходимости хирургического вмешательства или специально сконструированного мозга.

Аналогично, когда люди слышат, что компьютер может победить чемпиона мира по шахматам (в 1997 году) или одного из лучших в мире игроков в го (в 2016 году), они склонны думать, что программа «играет» в игру так же, как и человек. Конечно, на самом деле эти программы не имели никакого представления о том, что такое игра на самом деле, и даже о том, что они играли. Они также были гораздо менее приспосабливаемые. Когда люди играют в игру, небольшое изменение в правилах не останавливает их. Но в случае AlphaGo или Deep Blue это не так.

Слова-чемоданы вводят людей в заблуждение о том, насколько хорошо машины разбираются в задачах, которые могут делать люди. Частично это объясняется тем, что исследователи ИИ — и, что еще хуже, пресс-секретари их институций — охотно заявляют о прогрессе в одном из проявлений понятия-чемодана. Здесь важна фраза «в одном из проявлений». Но эта деталь скоро теряется. Заголовки транслируют слово-чемодан и деформируют общее понимание того, на каком этапе находится ИИ и насколько он близок к бо́льшим достижениям.

predictingartificialintelligence5_0

5. Экспоненты

Многие люди страдают от острого «экспоненциализма».

У всех есть представление о Законе Мура, который утверждает, что компьютеры должны становится все лучше и лучше, как по часам. На самом деле Гордон Мур сказал только то, что количество компонентов, которые могут поместиться на микрочипе, будет удваиваться каждый год. Это правило действовало в течение 50 лет, хотя период удвоения постепенно увеличивался с года до более двух лет. А сейчас приближается конец этой модели.

Удвоение компонентов на чипе позволило компьютерам постоянно удваивать скорость. И это привело к тому, что чипы памяти увеличивали вместимость в четыре раза каждые два года. Это также привело к появлению цифровых камер со все лучшим разрешением и ЖК-экранов со все большим числом пикселей.

Причиной, почему закон Мура работал, является то, что он применяется к цифровой абстракции вопроса, на который можно ответить только «Да» или «Нет». Есть ли электрический заряд и напряжение в определенном контуре, или нет? У нас долго был четкий ответ на это вопрос, хотя компоненты микросхем становились все меньше и меньше — пока не вмешался физический предел и мы перешли к компонентам с настолько малым количеством электронов, что начали доминировать квантовые эффекты. Именно на этом этапе мы сейчас и находимся с нашими технологиями на основе кремния.

Когда люди болеют «экспоненциализмом», они могут думать, что экспоненты, которыми они пользуются в своей аргументации, будут продолжаться. Но Закон Мура и другие на первый взгляд экспоненциальные законы могут потерпеть неудачу — в первую очередь потому, что на самом деле они изначально не были экспоненциальными.

Еще в первой декаде этого века, когда я управлял Лабораторией компьютерных наук и искусственного интеллекта при Массачусетском технологическом институте и мне необходимо было собрать деньги для более чем 90 различных исследовательских групп, я попытался использовать увеличение памяти на iPod, чтобы продемонстрировать спонсорам, насколько быстро все продолжает меняться. Вот данные о том, как увеличивался объем музыки на плеере iPod за 400 долларов или меньше:

год

гигабайты

2002 10
2003 20
2004 40
2006 80
2007 160

Затем я экстраполировал эту тенденцию на несколько лет вперед и задавал вопрос, что мы будем делать со всей этой памятью в наших карманах.

Если бы тенденция продолжалась и поныне, можно было бы ожидать, что iPod стоимостью 400 долларов будет иметь 160 000 гигабайт памяти. Но сегодня верхняя планка памяти iPhone (который стоит намного больше, чем 400 долларов) — это только 256 гигабайт памяти, менее чем вдвое больше, чем у iPod 2007 года. Эта конкретная экспонента внезапно обрушилась сразу после того, как объем памяти дошел до точки, где её было достаточно, чтобы содержать музыкальную библиотеку любого разумного человека, а также все приложения, фотографии и видео. Экспоненты могут обрушиваться, наткнувшись на физический предел, или когда их продолжение становится экономически нерациональным.

Аналогичным образом, мы имели возможность наблюдать резкое увеличение производительности систем ИИ благодаря успеху глубинного обучения. Многие люди, похоже, думают, что это означает, что мы будем и дальше наблюдать увеличение производительности ИИ в равных пропорциях на регулярной основе. Но для достижения успеха в глубинном обучении понадобилось 30 лет, и это было единичное событие.

Это не означает, что не будет больше таких единичных событий, когда из закоулков исследований искусственного интеллекта внезапно вырастет что-то, что приведет к стремительному росту производительности многих ИИ-приложений. Но не существует «закона», в котором говорится, как часто они будут происходить.

predictingartificialintelligence6_0

6. Голливудские сценарии

Сюжет многих голливудских научно-фантастических фильмов строится на том, что мир такой же, как сегодня, за исключением одного нового поворота.

В «Двухсотлетнем человеке» Ричард Мартин, которого сыграл Сэм Нил, садится завтракать, и его обслуживает ходячий и говорящий гуманоидный робот, которого играет Робин Уильямс. Ричард берет газету, чтобы почитать во время завтрака. Газету! Напечатанную на бумаге. Не планшетный компьютер, не подкаст, исходящий от устройства наподобие Amazon Echo, не прямое нейронное соединение с Интернетом.

Оказывается, многим исследователям и знатокам ИИ — особенно тем пессимистам, которые предаются предсказаниям о том, что ИИ выйдет из-под контроля и начнет убивать людей — так же не хватает воображения. Они игнорируют тот факт, что, если мы сможем когда-либо построить такие умные устройства, мир к тому времени значительно изменится. Мы не удивимся внезапному существованию такого сверхразума. Он будут развиваться технологически на протяжении какого-то времени, наш мир будет уже заселен многими другими интеллектами, и у нас уже будет много опыта взаимодействия с ними. Задолго до появления злых свермашин, которые захотят избавиться от нас, появятся несколько менее умные, менее воинственные машины. До того будут очень сварливые машины. А еще раньше — довольно надоедливые машины. А до них — надменные, неприятные машины. Мы изменим наш мир в ходе всего этого, налаживая как среду для новых технологий, так и сами новые технологии. Я не говорю, что не может возникнуть проблем. Я говорю, что они не будут внезапными и неожиданными, как думают многие.

predictingartificialintelligence7_0

7. Скорость внедрения

Новые версии программного обеспечения в некоторых отраслях запускаются очень часто. Новые функции для таких платформ, как Facebook, запускаются почти ежечасно. Многие новые функции, прошедшие тестирование на интеграцию, не приведут к особым экономическим потерям в случае, если появится какая-то проблема и придется откатить программу к предыдущей версии. Это темп, к которому привыкла Кремниевая долина и разработчики программного обеспечения. Это работает, потому что предельные издержки нового кода очень, очень близки к нулю.

С другой стороны, запуск нового оборудования несет значительные предельные издержки. Мы знаем это из нашей собственной жизни. Многие из автомобилей, которые мы покупаем сегодня — которые не являются самоуправляемыми и преимущественно не работают на программном обеспечении — вероятно, по-прежнему будут на дорогах в 2040 году. Это устанавливает встроенный в систему предел того, насколько скоро все наши автомобили станут самоуправляемыми. Если мы построим новый дом сегодня, мы можем ожидать, что он простоит еще более 100 лет. Здание, в котором я живу, было построено в 1904 году, и оно далеко не самое старое в моем районе.

Из-за капитальных затрат, необходимых на обновление, физические приборы используются длительное время, даже если они относятся к высоким технологиям и даже если у них есть экзистенциальная миссия.

ВВС США до сих пор используют версию B-52H бомбардировщика B-52. Эта версия была создана в 1961 году, то есть ей уже 56 лет. Последний такой самолет был собран в 1962 году, всего лишь 55 лет назад. Сейчас ожидается, что эти самолеты будут летать еще как минимум до 2040 года, а то и дольше — существуют предложения продлить их срок эксплуатации до 100 лет.

Я регулярно вижу на заводах по всему миру оборудование, которому уже десятки лет. Я даже видел ПК с операционной системой Windows 3.0 — версией программного обеспечения, выпущенной в 1990 году. Идея такова: «Пока работает, не трогай». Эти ПК и их программное обеспечение работают с одним и тем же приложением, надежно выполняющим одну и ту же задачу уже более двух десятилетий.

Основной механизм управления на заводах, включая новейшие заводы в США, Европе, Японии, Корее и Китае, основан на программируемых логических контроллерах или ПЛК. Они были введены в 1968 году для замены электромеханических реле. «Катушка» по-прежнему является основой единицей абстракции, используемой в наше время, а ПЛК запрограммированы так, как если бы они были сетью из 24-вольтных электромеханических реле. До сих пор. Некоторые из прямых кабелей заменены кабелями Ethernet. Но они не являются частью открытой сети. Вместо этого они представляют собой отдельные кабели, ведущие от точки к точке, физически воплощая поток регулирующих сигналов — в пошаговом порядке — в этих новейших-древних контроллерах автоматизации. Если вам нужно изменить поток информации или поток управляющих сигналов, на большинстве заводов по всему миру вам потребуется несколько недель консультаций, чтобы разобраться, как устроена система, разработать новые конфигурации, и дождаться, пока команды профильных специалистов изменят конфигурацию оборудования и перенастроят его. Один из крупнейших производителей этого оборудования недавно сказал мне, что они нацелены на три обновления программного обеспечения каждые 20 лет.

В принципе, все можно сделать и по-другому. Но на практике это не так. Я только что посмотрел список вакансий, и даже сегодня, в этот самый день, Tesla Motors ищет техников ПЛК для своего завода во Фремонте, Калифорния. Они будут использовать эмуляцию электромагнитных реле в производстве самого продвинутого в мире автомобиля со встроенным искусственным интеллектом.

Многие исследователи и знатоки ИИ считают, что мир уже является цифровым, и что простое создание новых систем ИИ немедленно приведет к их внедрению, к операционным изменениям в индустрии, в цепочках поставок, на заводах, в разработках продукции.

Нет ничего более далекого от истины. Почти все нововведения в робототехнике и искусственном интеллекте потребуют гораздо больше времени, чтобы получить действительно массовое распространение, чем представляют себе как люди, работающие в этой сфере, так и люди вне ее.

Автор всех рисунков — Йоост Сварте.

Источник: Technology Review