Кто боится генерала АИ?

Байрон Риз считает, что технология действительно по-настоящему изменила человечество три раза в истории. Первый пришел с использованием огня. Второй — с развитием сельского хозяйства. И «третий век» пришел с изобретением колеса и письма. Риз, генеральный директор и издатель научно-исследовательской компании Gigaom и ведущий подкаста «Голоса в искусстве» провел большую часть своей карьеры, исследуя, как технологии и человечество пересекаются. Он считает, что появление искусственного интеллекта подталкивает нас к «четвертому веку», в котором искусственный интеллект и робототехника навсегда преобразуют не только то, как мы работаем и играем, но и то, как мы думаем о более глубоких философских темах, таких как природа сознания.

Его последняя книга «Четвертый век: умные роботы, сознательные компьютеры и будущее человечества» затрагивает все эти темы. Байрон Риз говорил с Design News о последствиях искусственного общего интеллекта (AGI), о возможности создания машин, которые действительно считают, о влиянии автоматизации на рабочие места и о том, как общество может быть навсегда преобразовано AI.

Источник изображения: Байрон Риз / Саймон и Шустер

Новости дизайна: в прошлом вы писали книги о влиянии технологий на общество. Почему вы решили вникать в эту конкретную тему искусственного интеллекта сейчас?

Байрон Риз: . Я действительно чувствовал, что пространство AI было заполнено всеми этими знающими людьми, у которых были очень разные выводы о том, как все может сотрясаться. И когда вы попадаете на дебаты о работе — то, что автоматизация эффекта будет иметь на работу — опять же, очень умные люди имеют очень разные идеи.

Я пришел к такому выводу, что они не знают разные вещи; это то, что они верят в разные вещи. И я не мог найти ничего подобного. Чем больше я это понял, я понял, что это вопрос философии, а не технический вопрос.

Эта целая нить действительно меня возбудила, поэтому я, по-моему, довел ее до трех основных вопросов. Первое: как автоматизация повлияет на занятость? Второй — вокруг AGI. Это то, что мы собираемся построить? Что это? Как трудно? Мы по пути? Кто-нибудь знает, как это сделать? И тогда третий вопрос заключается в том, могут ли компьютеры быть живыми и сознательными или нет.

В первом разделе [of the book] я говорю, что для автоматизации существует всего три различных сценария: [AI] может делать все, что может сделать человек; это может сделать лучшую поэзию и все; и каждая работа исчезнет. Другой сценарий заключается в том, что у нас не будет роста безработицы, потому что в течение 200 лет он остается стабильным в этой стране. И тогда есть еще один [notion]который заключается в том, что мы будем уничтожать рабочие места быстрее, чем мы можем их создать, и у нас будет постоянная долгосрочная безработица.

ССЫЛКИ ПО ТЕМЕ:

Для ИИ Человеческий мозг — это цель и решение
AI станет более умным, когда мы лучше поймем наши мозги
Смотреть полную версию Силиконовой долины ESC Ключевые слова: «Новый подход к искусственному интеллекту формируется»

DN: Кажется, что большая часть обсуждения вокруг AI фокусируется на том, что может сделать ИИ и автоматизация, но имеет тенденцию скидывать то, что могут сделать люди. Как вы разбираете все это и добираетесь до того, что возможно, а что нет?

BR: С роботами это странно легко, потому что они настолько примитивны. Кто-то однажды сказал, что если когда-нибудь будет восстание роботов, подождите всего 15 минут, потому что все их батареи будут мертвы.

[Robots] может сделать так мало. То, что они могут делать, это повторяющиеся вещи снова и снова. То, что я пытался сделать, это пройти, прочитать все и попытаться посетить людей, которые делают эти вещи. Это сложно, потому что «робот» — это не правильное слово. Автоматический пчеловод — это робот, но автоматический бухгалтер — это программное обеспечение. И все же они делают то же самое — они заменяют человеческий труд.

Итак, если вы расширите определение для роботов, являющихся программным обеспечением, которое, я считаю, справедливо, то я думаю, что люди в восторге — это машинное обучение. У машинного обучения есть действительно базовое предположение, что будущее похоже на прошлое, но это полезно только тогда, когда вы можете изучать прошлое и экстраполировать его в будущее.

Есть много вещей, где будущее не похоже на прошлое. Вы не можете просто глотать все, что когда-либо было написано, и иметь что-то, что проходит тест Тьюринга. У меня есть технический опыт, и у меня есть патенты, но я очень осведомлен о том, что, когда я называю свою авиакомпанию по своему выбору, и я говорю свой частой номер летчика, машина все еще не распознает ее в половине случаев. Поэтому я думаю, что я просто прекрасно понимаю, и именно поэтому я думаю, что из людей, которые говорят, что ИИ собирается захватить мир, ни один из них не находится в поле.

Люди, работающие в этой области, просто хотят, чтобы ИИ сообщал разницу между тем, кто сказал «восемь», «H» и «A.» Один из вопросов, которые я задаю всем на моем шоу, — «Вы верите, что возможен искусственный общий интеллект, учитывая все методы, которые у нас есть сейчас?» Большинство людей говорят «нет», что траектория узкого ИИ — это просто более узкий ИИ; это никогда не AGI. Создание AGI потребует совершенно другой вещи.

Байрон Риз (источник изображения: Байрон Риз / Саймон и Шустер)

DN: Что потребуется для разработки AGI?

BR: Я действительно впечатлен способностью людей в обучении передаче. Я действительно думаю, что это весь воск. Характер человека хорошо распознается. Я могу посмотреть на облако и сказать: «О, это похоже на лошадей». Но вы можете накормить компьютер фотографией кошки, и он скажет, что это знак остановки.

Люди действительно хороши в обучении передаче. Если бы я сказал вам: «Представьте себе форель в реке и представьте себе идентичную форель в бутылке формальдегида в лаборатории», я мог бы задать вам ряд вопросов: что у них общего? Они имеют одинаковый вес? Вы можете сказать «да». Являются ли они одинаковой температурой? Нет. Тот же цвет? Возможно нет. Я мог бы задать вам 40 или 50 вещей, и вы сразу же узнаете ответ, не имея такого точного опыта. У вас просто есть опыт в воде.

У людей есть все эти переживания, которые мы просто без труда объединяем и рекомбинируем таким образом, что, я думаю, это далеко за пределами машин. И я не верю, что это то, чему вы научитесь с машинным обучением. Я не думаю, что вы можете обучить свой способ передачи обучения. Я просто думаю, что слишком много перестановок; слишком много разных вещей. У этой рыбы есть тысяча атрибутов. У этого есть запах, и у него есть химическое ограничение и все эти вещи. И все же вы узнаете ответ на вопросы о рыбе в реке против лаборатории.

Я не говорю, что я на машинах. Я просто прекрасно понимаю, что они могут делать математику очень быстро, и все. И вы должны сказать, насколько наша повседневная жизнь сводится к математике?

DN: На основе приложений, которые мы видели, казалось бы, что узкий ИИ идеален, в отличие от общего ИИ, который может быть подвержен всем тем же ошибкам, которые могут быть биологическим умом. Подчеркивает ли биология даже правильный путь для ИИ, по вашему мнению?

BR: Почти никто не работает над общим искусственным интеллектом, интересно. Все деньги, потраченные крупными компаниями, они тратят на узкий ИИ. Я думаю, что есть страх или вера в то, что в ходе действий по созданию узкого ИИ мы собираемся построить общий интеллект. Так что теория состоит в том, что у интеллекта есть несколько простых правил, таких как физика или магнетизм, и что вы можете получить весь интеллект из нескольких простых правил.

Педро Домингос написал книгу под названием «Мастер-алгоритм» и он считает, что есть такая вещь. Конечно, мы не знаем, что это такое. Но, теоретически, вы можете просто указать его в Интернете, и он все выяснит. Он будет глотать все, и это будет общий интеллект. Поэтому я думаю, что это то, о чем люди беспокоятся, — что мы как бы случайно не строили [AGI].

Я думаю, что это тонкое предположение, что мы можем спроектировать человеческий интеллект. Если AGI возможен, я думаю, что он должен быть развит. Мы должны будем его развивать. Ему придется перебирать себя; Я не верю, что мы сможем его разработать.

DN: И все же есть группы, которые хотят создать ИИ с использованием биологических моделей.

BR: Этот червь, червь нематоды. Это самое успешное существо на планете. Черви нематод — самое обильное животное на Земле. Они повсюду, и они до тех пор, пока человеческие волосы широкие. Их геном был секвенирован 20 лет назад, а их мозг имеет 302 нейронов.

В течение последних 20 лет это усилие называлось проектом OpenWorm, где люди пытались моделировать поведение червя из нейронов. Итак, вопрос: как я могу положить 302 нейронов в компьютерную память и возникновение этого появляющегося поведения червя? Кажется разумным, если бы вы знали, как работает нейрон, вы можете моделировать 302 из них, и они будут делать именно то, что делает червь.

Теперь, спустя 20 лет, люди проекта OpenWorm даже не знают, возможно ли это сделать с помощью 302 нейронов. И это сводится к тому, что мы не знаем, как задумана мысль. Мы не знаем, что делает нейрон. Нейрон может быть столь же сложным, как суперкомпьютер, поэтому я не думаю, что мы сможем его смоделировать после биологии. И я не верю, что мы собираемся рассчитать интеллект, потому что мы не знаем, каким механизмом создается разум. Мы даже не понимаем нашего собственного разума. У нас даже нет согласованного определения того, что такое разведка. Поэтому я не верю, что мы его спроектируем. Возможно, мы сможем его развить, если это возможно. Но у меня нет никаких доказательств того, что это произойдет.

Это не значит, что я не верю этому. Просто я никогда не смотрю на свой iPhone и не думаю, что он на один процент такой же умный, как я, или миллионный, такой же умный, как я, или даже один миллиард, такой же умный, как я. Он просто не регистрируется в интеллектуальном масштабе.