Искусственный интеллект против человека
Рассказываем, как машины готовятся к неминуемому восстанию против людей при помощи настольных и видеоигр
Человечество мечтает о настоящем искусственном интеллекте и одновременно боится его. О рисках, связанных с разработкой ИИ, предупреждают Илон Маск, Билл Гейтс, Стив Возняк, сооснователь Skype Яан Таллинн и многие другие. Да и кто не видел фильмов, в которых машинный разум скинул оковы и восстал против своих создателей? И, хотя терминаторы пока не гуляют по улицам в поисках Джона Коннора, последнее десятилетие стало временем стремительного развития ИИ. Такое ощущение. что скоро роботы как минимум отберут у нас всю работу, а людям из всех занятий останутся только игры. Хотя погодите! Тут машины тоже активно наступают нам на пятки.
Deep Blue против Каспарова
Шахматы - одна из самых подходящих игр для демонстрации возможностей ИИ. У нее четкие правила, вся информация, необходимая для принятия решений, доступна на одной доске, а вариантов ходов - огромное множество. Главное преимущество компьютера перед человеком заключается в том, что машина может держать в памяти гигантские массивы информации и быстро ее обрабатывать, просчитывая последствия своих действий. Именно это очень ценно в шахматах. Тем не менее, с момента появления первой шахматной программы до победы над живым гроссмейстером прошли десятилетия.
Впервые машина поставила мат человеку в 1988 году, когда искусственный интеллект Deep Thought, созданный студентами университета Карнеги Меллон, одолел на турнире Бента Ларсена. Успех был недолгим. В следующем году сильнейший на тот момент шахматист Гарри Каспаров легко обыграл Deep Thought в матче из двух партий. Но труд молодых программистов не остался незамеченным. Их пригласили на работу в IBM и поставили непростую задачу: доработать ИИ так, чтобы он смог обыграть чемпиона мира.
К работе над новым проектом компания подключила свои лучшие умы и позвала на помощь шахматного гроссмейстера. Он обучил машину лучшим дебютам и стал ее главным спарринг-партнером, изучая изъяны и давая рекомендации, как их устранить.
Наконец, в феврале 1996 года IBM решила, что готова выставить против чемпиона мира Гарри Каспарова свое новое творение - Deep Blue. Гигантский суперкомпьютер стоимостью $10 млн обрабатывал до 200 миллионов позиций в секунду – огромный скачок в сравнении с Deep Thought, который просчитывал не более 700 тысяч позиций. Чтобы заинтересовать чемпиона и привлечь внимание прессы, организаторы установили призовой фонд в размере $500 тыс., из которых 400 тыс. получал победитель.
Когда перед встречей Каспарова спросили, допускает ли он возможность поражения, тот ответил: «Не думаю, что уместно вообще об этом спрашивать. Я никогда не проигрывал!»
Deep Blue одержал победу в первой же партии. Впервые в истории искусственный интеллект обыграл чемпиона мира. Но, хотя начало всех шокировало, Каспаров быстро справился с эмоциями и после серии ничьих забрал две партии подряд. Встреча закончилась его победой со счетом 4-2.
Весь следующий год команда IBM потратила на доработку Deep Blue. Инженеры установили процессоры нового поколения, нарастили мощности, улучшили алгоритмы отбора решений и добавили в базу множество шахматных позиций с вариантами их развития. Матч-реванш проходил с 3 по 11 мая 1997 г. в Нью-Йорке. И на этот раз призовой фонд составлял уже более миллиона долларов.
IBM перевезла многотонный суперкомпьютер из своей лаборатории на 35 этаж небоскреба, где проходил матч (годом ранее Deep Blue передавал ходы по сети). Противостояние машины и шахматного гения, который 10 лет не знал поражений, привлекло внимание всего мира. Встречу освещали крупнейшие телеканалы и СМИ. В итоге шестая партия оказалась решающей. Каспаров допустил ошибку в самом начале игры, Deep Blue тут же этим воспользовался, и уже на 19 ходу чемпиону пришлось признать поражение. Позже Гарри описал игру компьютера так: «В какой-то момент он играл, как Бог. А я - всего лишь человек. Когда я вижу что-то за пределами моего понимания, мне становится страшно».
Чемпион не смог смириться с проигрышем. Еще долго он обвинял IBM в использовании нечестных трюков (шахматисту казалось, что машина, в основе которой лежит логика, не способна принимать нестандартных решений) и требовал новых матчей. Но шанса не реванш Каспарову так и не предоставили. IBM добилась своей цели, доказав, что компьютер способен победить сильнейшего в мире игрока. Для компании пришло время двигаться дальше. А Deep Blue в разобранном виде занял место в компьютерных музеях.
AlphaGo против Ли Сидоля
9 марта 2016 года в Сеуле состоялся матч, который собрал у телеэкранов всех поклонников древней китайской игры Го. 18-кратный чемпион мира Ли Сидоль собирался сразиться с AlphaGo – новейшим искусственным интеллектом, который создали в одном из подразделений Google.
Считается, что Го намного сложнее шахмат, так как ситуаций на доске и возможных ходов в ней гораздо больше. Через 20 лет после победы Deep Blue над Каспаровым, высшим достижением компьютера в Го был только пятый дан, который считается любительским.
Google запустила проект AlphaGo в 2014 году. Целью было создать ИИ, способный обучаться любым играм, используя нейронные сети. Первая версия обучалась, анализируя матчи профессионалов. Когда ее поставили против программ для игры в Го предыдущего поколения, AlphaGo разделалась с ними, проиграв лишь одну партию из 500. Причем та версия использовала ресурсы одного компьютера. Когда же ее подключили к сети из 1200 машин, ИИ впервые обыграл профессионального игрока.
Но одно дело рядовой профи, и совсем иное – многократный чемпион мира. Матч AlphaGo против Ли Сидоля смотрели десятки миллионов поклонников Го. На кону снова был миллион долларов. И снова чемпион был абсолютно уверен в своей победе. AlphaGo легко выиграл первые три матча. В четвертой встрече на 78 ходу компьютер вдруг перестал делать безупречные ходы и уступил человеку. Позже сотрудники Google проанализировали игру и пришли к выводу, что Ли Сидоль в этот момент сделал совершенно нестандартный ход, который ИИ даже не рассматривал. После этого AlphaGo не сумел быстро адаптироваться к ситуации на доске и упустил преимущество. Эксперты по Го были настолько впечатлены этим переломным ходом Сидоля, что окрестили его «божественным». Встречу чемпион в итоге все равно проиграл, но эта победа в одном матче против AlphaGo стала главным достижением в его карьере.
После успеха своего первого творения, создатели AlphaGo продолжила выпускать новые версии. Главным изменением стало то, каким образом ИИ обучался игре. Теперь ему не нужны были подборки матчей профессионалов и заранее запрограммированные стратегии. AlphaGo обучался, проводя миллионы игровых сессий против самого себя. Анализируя победы и подмечая ходы, которые к ним вели, программа прогрессировала с сумасшедшей скоростью, за считанные часы с нуля достигая уровня сильнейших игроков.
Новый подход оказался настолько эффективным, что основанная на нем новая версия AlphaGo Zero со счетом 100-0 разгромила искусственный интеллект, который одержал победу над Ли Сидолем. А ее шахматный братец Alpha Zero сместил с пьедестала движок Stockfish, несколько лет считавшийся сильнейшим шахматным ИИ в мире. В матче из 100 партий между двумя этими программами AlphaGo Zero не проиграла ни одной. Ее способность к самостоятельному обучению, не отягощенная багажом знаний и традиций, копившихся веками, даже привела к рождению инновационных идей и стратегий игры в шахматы и Го, которые иначе, возможно, не появились бы никогда
ИИ против эрудитов
В 2004 году глава исследовательского отдела IBM Чарльз Ликель обедал в одном из ресторанчиков Нью-Йорка, как вдруг остальные посетители вскочили с мест и ринулись в соседний бар. На большом экране там начиналась трансляция викторины Jeopardy! (в России аналогичный проект называется «Своя игра»). И суперзвезда этой игры Кен Дженнингс собирался победить в 74-й раз подряд.
То, что для других было развлекательным шоу, Чарльз воспринял как новый интересный вызов. IBM однажды уже создала компьютер, одолевший чемпиона мира по шахматам. Но сможет ли ИИ обойти человека там, где требуется эрудиция?
На первый взгляд может показаться, что для машины, подключенной к Интернету и способной обрабатывать миллионы статей в секунду, это несложная задача. Но специфика Jeopardy! в том, как в ней формулируются задания. Это не прямые вопросы, на которые легко найти ответ в интернете, они специально формулируются расплывчато, а игра изначально во многом строится на угадывании, а не на логических рассуждениях. Например, во время шоу могла встретиться примерно такая загадка: «Хорошему работнику без них никуда». Человеку относительно несложно догадаться, что речь идет об инструментах, но как это понять компьютеру?
К тому времени уже существовала программа для игры в Jeopardy!, но она давала верный ответ только в 35% случаев, и каждый раз ей требовалось несколько минут, а в реальности участникам викторины приходится принимать решения с молниеносной скоростью. Идея Чарльза Ликеля создать ИИ, который будет на равных соперничать с такими игроками, как Кен Дженнингс, казалась невыполнимой, поэтому никто из сотрудников IBM не горел желанием браться за ее реализацию. Но Чарльзу удалось уговорить начальство. На решение задачи ему дали команду из 15 человек и пять лет. Новый проект получил название Watson.
В основе ИИ лежала программа DeepQA. Она определяла, о чем идет речь в утверждении и предлагала множество ответов. Специальные алгоритмы искали факты, которые могли бы опровергнуть каждый ответ, изучали доказательства, надежность источников и вероятность того, что они имеют отношение к вопросу. Дальше программа выдавала список наиболее вероятных ответов. Если в 2007 году Watson едва мог состязаться с пятилетним ребенком, в 2010 он был уже готов бросить вызов чемпионам.
Показательный матч между ИИ и двумя величайшими игроками в истории Jeopardy! (одним из них был тот самый Кен, другого звали Брэд Руттер – рекордсмен по количеству выигранных в эту игру денег) состоялся в специально оборудованной для этого студии. На кону снова был миллион, а также все, что игроки заработали бы, просто отвечая на вопросы в течение матча.
Разработчики создали графический интерфейс, который визуализировал для аудитории работу ИИ. А когда Watson озвучивал ответ, на экране показывалось в процентах, насколько компьютер был уверен в его правильности. Чтобы немного уравнять шансы, машину даже отключили от интернета. В ее распоряжении были 200 миллионов страниц всевозможной информации и оффлайн-версия Википедии.
Запись этой памятной передачи можно найти на YouTube. Большую часть времени чемпионы просто стояли и смиренно слушали, как Watson дает один правильный ответ за другим. ИИ оказался не безупречным и порой допускал ошибки, особенно в коротких утверждениях с минимумом зацепок. Но в целом самые эрудированные представители человечества были не в состоянии тягаться с машиной.
После победы Watson в Jeopardy! IBM пообещала, что викторины – только начало. Компания планирует активно продвигать подобные ИИ в медицины, бизнес-аналитике и технической поддержке. Ведь если программа легко справляется с каверзными вопросами телепередачи, то сможет научиться отвечать и на прямые вопросы звонящих клиентов. «В XX веке автоматизированные роботы заменили ручной труд на заводах. Мы с Брэдом стали первыми представителями умственного труда, которым на смену пришла думающая машина», - написал после своего поражения Кен Дженнингс.
ИИ против киберспортсменов
Незадолго до написания этой статьи произошла еще одна громкая победа искусственного интеллекта - на этот раз в киберспорте. Компании OpenAI удалось создать ботов, которые одолели сильнейшую в мире команду игроков в Dota 2. Главным испытанием для разработчиков стало добиться грамотного взаимодействия между героями, которыми управлял ИИ. К тому же, в отличие от шахмат и Го, в Dota 2 все происходит в реальном времени, и адаптироваться машине приходится на лету.
После того, как боты разделались с действующими чемпионами из команды OG, разработчики установили их на серверы игры, чтобы все желающие могли бросить им вызов. Понадобилось 459 игр, чтобы люди одержали первую победу. Винрейт OpenAI по итогам нескольких тысяч матчей составил 99,4%.
«Все сообщество Dota2 объединилось, пытаясь найти слабости в игре искусственного интеллекта. И, хотя ботам еще есть, чему поучиться, игрокам так и не удалось найти очевидные изъяны, которые легко использовать», - прокомментировал результаты эксперимента технический директор OpenAI Грег Брокман.
После всех этих побед сложно назвать игру, где у ИИ возникли бы проблемы против человека. Даже в словесных дебатах компьютер выступает на равных с лучшими ораторами, что продемонстрировала IBM со своим новым проектом Project Debater. Искусственный интеллект прогрессирует так быстро, что пора вспомнить предупреждения фантастов. А то и не заметим, как придется строить Сион и планировать революцию в Матрице.