У машины должна быть своя точка зрения, она не должна быть послушным инструментом. Умная машина как слепое орудие в руках злонамеренных людей, это опасно.
Идея существования искусственного интеллекта переходит от теории к практике. Уже разрабатываются программные модели самообучающихся компьютеров, созданы прототипы обучаемых микросхем на основе мемристоров — технологии, которая в ближайшие десятилетия перевернет представление об IT. Корреспондент «Вслух.ру» побывал в лабораториях Центра прорывных исследований «Искусственные когнитивные системы» Тюменского государственного университета и словно попал в научно-фантастический роман, действия которого разворачиваются наяву.
Начнем с конца
Это лаборатория «НаноФаб 100», здесь два года назад был получен первый российский мемристор. Экскурсию по стерильной лаборатории согласился провести руководитель Центра прорывных исследований Вадим Филиппов.
Чтобы понять, что такое мемристор, придется углубиться в теорию. «На данном оборудовании создаются прототипы новых микросхем, которые воспроизводят способность к обучению, которая есть у синапсов нейронов мозга», — начинает последовательный рассказ Филиппов.
Попытаемся передать в картинках. Вот, к примеру, есть в вашем мозге нейрон, который отвечает за образ матери. А есть нейрон, который кодирует то, что в данный момент она делает. Между двумя этими нейронами расположен синапс. Поначалу сигнал слабый, но как только связь установлена, происходит запоминание и вы уже прочно ассоциируете действия мамы с ее образом.
Такой эффект запоминания был ранее невозможен в технике. Но в 2008 году в США создали первый мемристор — микросхему на основе диоксида титана. Тончайший слой металла, всего 15 нанометров, обладает удивительным свойством — его кристаллическая решетка содержит много «дырок» — вакансий, возникающих в результате отсутствия некоторых атомов в узлах решетки. Это способствует перемещению по такому материалу атомов добавленных в него легирующих примесей, например, кислорода.
Если по такому материалу прошел ток, то кислород занимает большую часть объема мемристора и его сопротивление резко падает. Электрическая связь усиливается и достигается эффект запоминания.
«Мемристор напоминает синапс. Если на него подали достаточный ток, чтобы преодолеть порог, электрическое сопротивление падает и в следующий раз ток проходит легко. За счет изменения атомной структуры происходит обучение», — объясняет Вадим Филиппов, открывая дверь в лабораторию, обычно закрытую для посторонних.
Здесь не должно быть ни одной пылинки, все сотрудники заходят внутрь в специальных халатах. Но нам сегодня повезло, помещение как-раз чистят, поэтому можно даже пофотографировать футуристическую установку стоимостью в несколько сотен миллионов рублей.
«Сейчас мы совершенствуем методы работы, пытаемся делать микросхемы меньшего размера, чтобы имитировать искусственный синапс, — рассказывает ученый. — Но это направление пока для нас второстепенно, и я вам сейчас объясню почему».
Спроектировать, прежде чем делать
Для начала ученым необходимо понять принцип организации ассоциативных процессов в человеческом мозге, ведь именно он берется за основу AI (так принято сокращать искусственный интеллект). Поэтому, первоочередная задача — построить модель искусственной коры мозга на суперкомпьютерах. Скорее всего, наделять разумом будут суперкомпьютер «Менделеев» с быстродействием 11 терафлопс (11 триллионов операций в секунду), что примерно в 500 раз больше, чем у современных настольных ПК.
Тем временем мы перемещаемся из лаборатории на этаж выше. Для наглядности Филиппов демонстрирует на мониторе последние достижения в области обучения компьютеров. Работы в США и Европе впечатляют, но по-настоящему интеллектуальная система пока так и не создана.
«Первый компьютер появился в 1943 году. Это знаменитый ENIAC, разработанный для расчета таблиц стрельбы, вспоминает он. — То, что должно появиться вскоре, обернется еще большей революцией в мире, чем появление компьютеров».
Суть организации компьютера не менялась на протяжении 70 лет. Она основана на работе разделенных процессора и памяти, между которыми через шину передаются данные. Чтобы процессор и память синхронно выполняли полезную работу, необходима заранее написанная программа или прямое управление компьютером со стороны пользователя. Сам по себе компьютер думать не умеет, и ничто, кроме программы, не связывает между собой его логические элементы.
> «Какую бы имитацию не написал программист, внутри компьютера мысли нет. Нет самосознания и синтеза знаний. Кроме того, есть серьезные ограничения по скорости работы в связи с тем, что процессор и память разделены, — уточняет Филиппов. — Все упирается в пропускную способность шины. Несмотря на быстродействие процессоров, компьютеры довольно медленно обрабатывают информацию».
Другое дело — головной мозг. Чрезвычайно сложная структура, информацию в которой обрабатывает триллион нейронов и глиальных клеток. «В мозге нет последовательности, узких шин. В нем есть почти полная параллельность обработки информации, за счет этого он работает очень быстро», — с явным удовольствием интригует меня руководитель центра.
Традиционный компьютер не может думать, потому что он не ассоциативен. И последние семь лет ученые всех развитых стран мира стремятся наделить его таким инструментом. Этим занимаются и в Тюмени, причем успехи уже есть.
На Западе разработаны несколько искусственных когнитивных систем, моделирующих наши способности к мышлению. Пожалуй, самая заметная из них на сегодня — компьютер Watson корпорации IBM. Он с поразительной точностью отвечает на вопросы, понимает естественную речь и периодически обыгрывает людей — чемпионов в игру Jeopardy! (аналог «Своей игры»). Сейчас Watson специализируется на медицине. Прочитав более 10 тыс. статей и книг, он ставит более точные диагнозы в области кардиологии, чем команды из 20 ведущих американских кардиологов. Но все же Watson моделирует лишь некоторые способности мозга. Более того, он не является нейросетевой системой, хотя и заимствует некоторые принципы работы живых нейросетей.
«По-настоящему интеллектуальные искусственные системы появятся в ближайшие десять лет в одной из развитых стран Европы, Америки или Азии. Сначала как программно реализованная модель на суперкомпьютере. Затем как аппаратные решения на основе обучаемых наноматериалов типа мемристоров. Помешать успеху этой работы в какой то развитой стране может только недооценка важности задачи руководством, либо научным сообществом страны», — уверен Филиппов.
Машиногогика
Работу над созданием искусственного интеллекта в Тюмени начали в 1997 году, тогда было создано наукоемкое предприятие Тюменских ассоциативных систем объединение (ТАСО). За эти годы исследователи создали программные модели нейронов клеток мозга и кортикоморфные (подобные коре головного мозга) искусственные нейронные сети.
Так как нейросети состоят из миллиардов клеток, вручную нарисовать их невозможно. Тюменцы решили эту проблему, создав технологию кибергеномики. Специальный алгоритм обеспечивает рост, развитие и гибель искусственных нейросетей. Все как в жизни.
«Одна из самых важных функций мышления — забывание. Люди забывают несущественное, чтобы не засорять память. То же самое необходимо и искусственным сетям», — уверен Вадим Филиппов. Именно в фильтрации существенного лежит ключ к пониманию принципов, по которым будет работать искусственный интеллект.
Кажется, решена еще одна фундаментальная проблема для создания AI — ассоциативность. «На наш взгляд, существует 24 типа ассоциативных оснований. Мы начали делать нейросети для каждого вида», — рассказывает исследователь, демонстрируя на экране, как машина повторяет простейшие математические задачки, рассказывая при этом о своих ассоциациях.
Пока отклик компьютера очень медленный, чтобы «подумать», сети требуется несколько секунд. Кажется, что банальный калькулятор работает быстрее, чем прототип искусственного интеллекта. Но это временные трудности. «Вы себя в первом классе вспомните», — шутит Вадим Анатольевич.
Проблема скорости решится в скором времени. Именно в этот момент стоило бы продолжить рассказ экскурсией, с которой началась наша сегодняшняя встреча. Суперкомпьютеры на основе микросхем с эффектом запоминания — то, что и станет настоящим искусственным интеллектом.
Пока же программную модель тестируют на привычных компьютерах, хоть и очень мощных. Логика построения AI такова, что ответы на все вопросы устройство сможет давать словно школьник-отличник, не дождавшись, пока учитель дочитает вопрос. И это позволяет решать принципиально новые задачи.
Осенью 2013 года ТюмГУ выиграл проведенный Минобрнауки и Минкомсвязи России конкурс на создание одного из 19 федеральных исследовательских центров мирового уровня в области информационных технологий. В постановлении правительства России, утвердившем «дорожную карту» развития отрасли информационных технологий, создание и развитие этих центров названо важнейшей государственной задачей.
«У Тюмени появился уникальный шанс. Участвовали сотни вузов, нам удалось выиграть по тематике „Искусственные когнитивные системы“. Перед регионом открываются большие возможности — сформировать новое направление развития. Причем соответствующее наступающему шестому технологическому укладу», — считает руководитель центра.
«Наша задача в рамках федерального центра прорывных исследований закончить и отладить модель кортикальной колонки (типового модуля коры мозга), построить большую искусственную кору, которая сможет и с вами побеседовать, и управлять движением роботов или больших технических комплексов, и анализировать изображения. Я думаю, что она будет доступна в Интернете и это будет не просто поисковая система типа сегодняшнего Google, — рассуждает Филиппов. — Также мы надеемся разработать программную модель гиппокампа, он отвечает за пространственно-временную ориентацию, и, как следствие, за „каталогизацию“ постоянной памяти. Это очень важно для робототехники. Нужно разработать зрительные сенсоры, внимание и даже искусственные эмоции. У машины должна быть своя точка зрения, она не должна быть послушным инструментом, на наш взгляд. Умная машина как слепое орудие в руках злонамеренных людей, это опасно».
Создать искусственный интеллект невозможно, вдруг осекается руководитель центра. Можно создать модель ДНК, которая вырастит его, но и это будет еще не интеллект, а заготовка. Настоящий AI нужно обучить и воспитать.
«Учиться машина будет так же как люди. Она будет осваивать образовательные программы, появятся машины — специалисты в разных сферах, — видит развитие технологии Вадим Филиппов. — Причем когда нейросеть начнет расти и развиваться, она будет повторять все наши ошибки при ее проектировании, как зародыш в утробе матери. Но, в конечном итоге, должна появиться готовая к обучению сетка. Ее ранний, детский опыт будет очень важен для дальнейшего развития и поведения системы. Сейчас мы думаем о моделировании механизмов защиты от неадекватного поведения. О том, чтобы сетка не стала злонамеренной. Хорошо, что мы знаем, как решать такие проблемы».
Где, когда и зачем?
Крупномасштабная общепользовательская система искусственного интеллекта в сети Интернет, с которой можно запросто пообщаться, появится в течение 4-5 лет. В это твердо верит Вадим Филиппов.
«Это постепенный процесс, искусственный интеллект будет плавно внедряться в нашу жизнь, — рассказывает руководитель центра прорывных исследований. — В результате появится сетка, которая будет думать быстрее, чем мы, обладать гораздо большим объемом знаний и новыми формами мышления, которых просто нет у человека».
Есть ли возможность, что сам интеллект будет ошибаться? Конечно. Но он будет давать правильные ответы несоизмеримо чаще нас. Прежде всего он нужен для освоения огромных объемов знаний, быстрых вычислений и того, о чем человек не может подумать в силу собственной конструкции.
«Человек может в 80 лет находиться в здравом уме, очень хорошо рассуждать, но его тело уже будет причинять ему огромное количество неудобств. Как только человек становится полезным, он начинает болеть и умирает. Сколько раз в обществе происходила деградация в силу того, что знания не передавались?» — рассуждает Вадим Филиппов.
Настоящий успех здравоохранения, по его мнению, будет тогда, когда люди научатся программировать свою ДНК, чтобы не болеть и жить, сколько хочется. «Умирают все, и вы, скорее всего, тоже умрете, — намекает с улыбкой ученый. — Хотя у вас и есть призрачный шанс, что проблема успеет разрешиться. Мы вообще, видимо, одно из последних поколений, которое будет умирать». Именно AI сможет выяснить, каким образом каждый участок ДНК синтезирует соответствующие белки, необходимые для «ремонта».
Ну и напоследок исследователь, любезно пригласивший гостей к себе в лабораторию, нагоняет жути. «IT отрасль, совместно с нейробиологией породив искусственный интеллект, может привести к ликвидации массы рабочих мест. Искусственный интеллект многолик, реализации будут на различных платформах. Это и глобальные когнитивные системы, и индивидуальные и корпоративные консультанты, и роботы, и технические системы и устройства. Понятно, что они сделают ненужным огромное количество работников, — предсказывает он. — Рабочие, водители, врачи, учителя… Если сложится так, что AI окажется в руках крупных корпораций, это может привести к потерям миллионов рабочих мест, к невиданному уровню социально-биологического расслоения. А появление искусственного интеллекта в распоряжении военных некоторых стран может поставить отстающие страны в положение индейцев перед Колумбом, если не хуже».
Слишком ли большая это цена за огромный рост производительности труда и новые научные достижения, например, за бессмертие? Однако ученый уверен, что надо заранее подумать о социальных последствиях стремительного технологического развития, в том числе о рисках, связанных с неоптимальным использованием систем искусственного интеллекта.
