The Boston Major 2016 Перейти

Искусственный разум: часть третья

bee_dee (пользователь)

Какие проблемы грядут с развитием искусственного интеллекта

Выходим на финишную прямую. В первой статье мы обсудили историю искусственного интеллекта, во второй взялись за его потенциал. На сей раз мы обсудим, почему развитие искусственного интеллекта может быть чреватым в отношении его создателей.

Через абстрактный фильтр, условно возведённый мной самим, прошло пять насущных проблем, которые достойны упоминания и имеют под собой весомую почву. Я, впрочем, сразу решил игнорировать проблему, связанную с технологическим несовершенством – это удел компетентных в области людей, и даже в этом случае тысячи теорий тектоническими плитами встречают друг друга в попытках дойти до точки бифуркации; итак, четыре насущных проблемы развития игрового искусственного интеллекта, с которыми мы неизбежно должны будем столкнуться в будущем.

>Восстание машин

В прошлом году величайший гений научного мира Стивен Хокинг выразил свои опасения по поводу искусственного интеллекта: по его словам, в ближайшем будущем появление максимально продвинутого ИИ может ознаменовать развитие постапокалиптического сценария – когда мы пересечём точку невозврата и перестанем контролировать ИИ.

Так или иначе, в рамках статьи нас с вами больше интересует не то, пошлют ли роботы убить Джона Коннора в ближайшие годы, но смогут ли они обыграть оппонента в Call of Duty. Похоже, что саморазвивающийся ИИ, который анализирует поведение живых людей и постоянно учится, имеет все шансы на это. Но если верить словам автора «Краткой истории времени», то планка такого «робота» будет задрана гораздо выше, в стремлении к познанию он вполне сможет выйти за пределы своих «примитивных» паттернов и задач.

Сейчас цифровые соперники превосходят реальных за счёт количества, за счёт привитых свыше способностей (например, суперспособности у боссов) или за счёт откровенного читерства (например, точнёхонько наводящийся вам между глаз прицел). Но уже не за горами веха, когда компьютерные ребята смогут одолевать вас не с помощью гандикапа, но исключительно с помощью мыслительных способностей. ИИ, который будет действовать, как человек, и постоянно развиваться в процессе, каждая новая попытка будет только усложнять вам задачу. Актуализируется вопрос: а нужен ли нам по-настоящему продвинутый ИИ? Разве того, что уже есть, недостаточно?

Конечно, этому есть очевидное решение: фору придётся давать уже игроку, одаривая его пушками покруче, да бронёй покрепче. Плюс ко всему, вероятно, программисты смогут задать «потолок» развития, чтобы сумасшедший компьютер не отвешивал неопытному игроку люлей чересчур часто. Но в тот момент, когда ИИ будет обладать поистине большими возможностями к познанию, никак нельзя доверять разработчикам: в конце концов, уже на данном этапе они порой с трудом контролируют искусственный интеллект в своих играх. Вспомните хотя бы, что произойдёт, если вы убьёте курицу в The Elder Scrolls V: Skyrim.

>Простота залог успеха

Большинство фантастов твёрдо уверены, что искусственный интеллект рано или поздно ополчится против людей за их несовершенство. Шодан, Виновная Искра, жнецы и сайлоны судорожно бьются в конвульсиях от мысли, что где-то во вселееерй может свободно разгуливать примитивное самосознающее существо.

Однако некоторые фантасты считают гораздо более правдоподобной версию о том, что ИИ, напротив, безотказно влюбится в простоту: дескать, компьютер всегда будет отдавать предпочтение лёгким путям. В конце концов, мы создавали его по образу и подобию, неправда ли?

И напрасно вы считаете, что эта проблема целиком находится плодом научно-фантастических сказаний, ярким тому примером выступает забавная история про нейрологические сети (см. предыдущую статью), которая была описана неким Нилом Фрейзером, якобы имевшим причастие ко внутренним делам Пентагона. История заключалась в том, что искусственный интеллект обучали опознавать танки на основе двухсот изображений: на первой сотне была техника, на второй – только деревья.

После анализа изображений программа выявляла танк со стопроцентной точностью. Да вот только, как оказалось позже, она пошла более простым путём: фотографии без танков были сделаны в солнечный день, тогда как на фото с ней было пасмурно. Именно эту наиболее очевидную деталь ИИ взял за точку отсчёта, и танки сами по себе были не при чём.

Примеры можно почерпать и в играх. Вы должны помнить эту забавную историю, которая произошла в 2013-ом году: геймер запустил сервер с ботами в Quake 3, чтобы проверить, как ИИ адаптируется к продолжительным сражениям. Благополучно забыв об этом, он вернулся спустя четыре года – и был крайне поражён: его виртуальные подопечные стояли на месте и ничего не делали.

«Занимайся любовью, а не войной!» — шутили заголовки, но куда важнее, что ИИ действительно решил пойти простым путём и не напрягаться. Где гарантия, что к этому рано или поздно не придёт любой другой саморазвивающийся ИИ, и виртуальные солдатики не сложат свои виртуальные винтовки на землю?

>Этическая дилемма

Любой перспективный искусственный интеллект рано или поздно просто обязан стать неотличимой копией человека – по крайней мере, по части поведения. Для разработчиков это золотая жила, но для моралистов откроется вполне достойный повод лезть на баррикады: замаячат слоганы а-ля «Симы – это не рабы!», «Скажем «нет» войне в Call of Duty!», и прочее, прочее.

«Смести» первую волну крамольных небожителей будет несложно, достаточно вспомнить принцип, о котором мы говорили в предыдущей статье: ИИ – это всего лишь хитрый кукловод, дергающий за ниточки исходных данных, ни о каком осмысленном существовании и тем более самосознании не может идти и речи. Но что, если его способности подражать живому окажутся чуть выше, чем мы себе представляли?

Только представьте себе, как раненный полицейский в какой-нибудь GTA умоляет вас не убивать его. Он вспоминает компьютерных жену и детей, которые по-настоящему ждут его в виртуальных домиках, обещает заплатить любые деньги и оперирует аргументами, которые легко выходят за компетенцию простого бота. Согласитесь, что даже с осознанием поддельности процесса этот спектакль вполне может задеть самых сильных из нас. Не говоря уже о том, как с таким стрессом могут справиться дети.

Автоматически формируется и ещё один пласт вопросов философского полёта: в чём вообще принципиальное отличие человека от машины? Если искусственный интеллект – это совокупность символов кода, а человеческий мозг – набор из удачно сложившихся нейронов? Этично ли убивать в играх того, кто действует, разговаривает и ведёт себя, как человек? А что вообще есть человек?

>Я твой хороший друг

Представьте, что у вас есть друг. Он отлично вас понимает, у вас много общего, вы постоянно делитесь с ним своими проблемами, когда жизнь подкидывает очередную задачку. Один нюанс – он электронный.

Кусок программного кода какой-нибудь The Sims 13, полностью идентичный человеку, который насквозь пропитан эмпатией и пониманием; со стороны общества закономерно задаться вопросом: а не нарушает ли это естественную социализацию? Да вроде нет: программный код достиг своего совершенства, и человечность компьютера уже давно не оксюморон – скорее, аксиома.

Правда, есть кое-что, что разработчики забудут включить в брошюру: виртуальный разум пойдёт на всё, лишь бы поддерживать вашу с ним дружбу – ведь клиент платит только тогда, когда доволен. Но даже при таком раскладе проблему пока сложно признать: у человека всё ещё будет практически нормальное общение, а, в отличие от настоящих людей, ИИ не сможет сломать субъекту психику. Не бросит, не обидит, не обманет доверие. Куда как больший вред сможет нанести общество в суровой реальности, не так ли?

Но чем насыщеннее становится игровой опыт, тем сильнее влияние – продвинутый ИИ вкупе со, скажем, шлемом виртуальной реальности смогут убедить человека подменять искусственно приобретённый опыт настоящим. Подобное случалось, например, с любителями осознанных сновидений: некоторые люди описывали, что, общаясь со своими друзьями внутри сна, они ошибочно вели себя с ними в реальности.

Чем это чревато? При самых пессимистичных сценариях, люди с явными поведенческими отклонениями будут получать постоянное подкрепление от податливой игры, развивать свои девиации, которые в конце концов начнут считать за норму. Ведь виртуальный человечек сможет простить тебе склонность к воровству, или, скажем, к насилию – может, попробовать провернуть то же в реальности было бы не так уж и неправильно?

Впрочем, далеко не факт, что они будут выносить сор из избы – вполне вероятно, что своих демонов они будут выпускать только на виртуальном поприще. Возникает полномасштабная этическая дилемма: может быть, извращенцы, маньяки и садисты – такие же нормальные люди, как и все остальные? Почему бы не дать им заниматься любимым делом, если это никому не навредит? Звучит странно, и даже откровенно пугающе, но вполне возможно, что ответы на эти и другие вопросы мы будем искать в будущем.

Вот и всё, мой цикл статей подошёл к концу, спасибо всем, кто прошёл весь этот путь со мной. Оставляйте свои размышления в комментариях и помните, что будущее всегда на шаг ближе, чем кажется.

Смотрите также
Как виртуальная реальность чуть не покорила мир в прошлом веке
Фичер
Как виртуальная реальность чуть не покорила мир в прошлом веке
Как защищали компьютерные игры в разные годы
Фичер
Как защищали компьютерные игры в разные годы
Где дешево купить Battlefield 1, GTA 5, Fallout 4 и другие игры
Фичер
Где дешево купить Battlefield 1, GTA 5, Fallout 4 и другие игры
Чат выключен. Включите чат, чтобы видеть, кто есть в сети.
Отсутствует соединение с сервером. Соединение будет восстановлено автоматически.
У вас пока нет друзей.
Ваш аккаунт не верифицирован. Для верификации
укажите номер телефона.
Авторизуйтесь, чтобы общаться с друзьями.
Новое сообщение
Пользователь в игре
Рассылка новостей
Для подписки на новости укажите вашу почту
Подписаться