Искусственный интеллект: фантастика и реальность
Как продвигаются разработки в области AI, сможем ли мы когда-нибудь поговорить «на равных» с компьютером и будет ли этот компьютер опасен для нас
Любой человек, хоть раз игравший в компьютерные игры, отлично представляет себе простенький искусственный интеллект на собственном опыте. В фантастических сюжетах такой интеллект поселился и того раньше. С тех пор он то мучает героев древнего System Shock или не столь древнего Portal, то ассимилирует органические расы галактики в послушных воле сверхразума киборгов в Stellaris, то занимается еще чем-то столь же предосудительным и сюжетообразующим.
Но если копнуть хотя бы на слой глубже популярного художественного образа, мы увидим в тех же играх набор хитрых программных элементов, занятых служебными практическими вещами — вроде адекватного поведения вооруженного до зубов монстра в прицеле живого игрока, планирования хитрого маневра на игровом поле и других сложных действий, которые обычно считают доступными только человеческому разуму.
Потому он и зовётся интеллектом, пусть и искусственным. Но что на самом деле скрывается под этим названием — и как работает?
Сложная задача
Семьдесят лет назад, в далекие 1950-ые, когда только-только зарождалось то, что в конечном итоге превратилось в современные компьютеры, человечество испытывало чрезмерный оптимизм во многих высокотехнологичных отраслях. Казалось, что до полноценного искусственного разума уже рукой подать, знай только финансируй разработку. А там уже и роботы, и межпланетные атомолёты, и яблони на Марсе.
Но сразу же в полный рост встали и серьёзные проблемы. Традиционно «внезапно» для науки оказалось, что учёные не очень-то представляют, как работает то, что они пытаются эмулировать на доступной электронной и программной базе. И ладно бы не представляют — но так ещё и для себя решить не могут толком, а надо ли?
Ну в самом-то деле, если крутая атомная подлодка не особо похожа на кита, а хитрый дрон-беспилотник, хоть и летает, но с птицей не имеет почти ничего общего — а так обязательно ли ваять искусственный интеллект по человеческому образу и подобию? Может, хватит решения им сложных задач быстрее и эффективнее, чем это делают люди?
Наука против магии
Спустя почти 70 лет человечество уже далеко продвинулось в создании ИИ, но описанные выше проблемы никуда не делись. Если программа различает голое поле и полосу несжатой ржи и ведет комбайн ровней живого водителя — это уже искусственный интеллект, или просто набор хитрых алгоритмов, которые сравнивают математические описания ключевых параметров без любого самосознания? Да и нужно ли оно тут вообще, это самосознание, или одной только эффективности вполне достаточно?
Более того, даже вопрос о самосознании остается открытым: человечество до сих пор очень плохо понимает, как работает наш мозг. Иначе в поликлиниках давно бы уже лечили от идиотизма. Зато современные логические теории прекрасно умеют разбивать сложные действия на простые шаги, а математика — описывать эти шаги в терминах, которые получается свести до последовательности нулей и единиц и скормить вроде бы совершенно тупому, но удивительно эффективному искусственному интеллекту.
Гарри Поттер и тайна философского алгоритма
Фантасты и романтики уже битый век наделяют искусственный разум чертами полноценной человеческой личности. Характером — желательно склочным, устремлениями — желательно человеконенавистническими. А то никакого конфликта не получится, ни читателя не привлечь ни, позже, игрока.
Практики, тем временем, делают ставку на достаточно обширные алгоритмы, способные дать быстрый точный ответ в своей области. Ранние, прошлого века, обычно делали чудовищно узконаправленные, вроде экспертных программ для игры в шахматы или го — но с точки зрения технологий эпохи крайне эффективные. Уже тридцать лет назад, на заре далёких 1990-ых, возня с последовательным упрощением каждой задачи до той стадии, когда её можно обсчитать комбинацией математических, статистических и программных инструментов, дала свои результаты.
Что показательно, искусственным интеллектом никто эти достижения не считал. Каждый раз, когда человечество брало технологическую вершину — типа эффективного распознавания человеческой речи, или читалок, способных не столько монотонно бубнить, сколько действительно говорить с выражением, это записывали в успех разработчиков инновационной программы — и тут же переставали звать ее искусственным интеллектом.
Да, во многом такие программы — результат стремления к идеальному компьютерному интеллекту. Но люди всё равно упрямо зовут их просто хитрыми программами. И продолжают делать их все сложнее, а железо — всё производительнее.
Компьютерная мощь
Комбинации из современного мощного процессора, хитрых алгоритмов и большого запаса места под сырую и промежуточную рабочую информацию уже вполне достаточно, чтобы получить ожидаемый результат приемлемого качества. Примерно десять лет назад, в 2012 году, машинные алгоритмы «глубокого обучения» начали давать решения профильных задач, похожие на человеческие. Если современный компьютер может обсчитать картинку боя с вооруженными до зубов адскими чертями в реальном времени и высоком разрешении — ему уже и практические задачи давно по силам.
В тех областях, где нужно учесть и верно обработать большой объем схожих признаков этого железа уже достаточно. При должном обучении современная компьютерная программа лучше человека обрабатывает и учитывает результаты медицинского сканирования организма на той стадии, когда надо просто выяснить здоров он, или болен, и если да — то насколько сильно.
В будущем, когда подобные системы будут тщательно протестированы, они наверняка освободят современного врача от механического просмотра обследований пациентов, сразу давая ему предварительные результаты — уже для постановки точного диагноза и назначения лечения.
Кажется, что это не так много, но выгода такой системы на современном искусственном интеллекте в том, что ей всё равно, семь больных пришло в неделю на осмотр или семьдесят. Она просмотрит всех — быстро, эффективно, точно. А управлять ей сможет и неопытный практикант, разгружая опытных специалистов. В России, такими перспективными разработками всерьёз и достаточно успешно занимается, например, Росатом — один из мировых флагманов высоких технологий.
Оговорка инженера
Важно понимать, что всё современное прорывное железо и программы — относительно молоды. Аналогов им в прошлом веке по соотношению цены и возможностей — нет. Документы с анализом проблем и возможностей — устарели. Многое — до смехотворности
Настоящая история современного развития искусственного интеллекта пишется здесь и сейчас. К чему она придёт — сказать абсолютно точно попросту нельзя. Современные молодые специалисты имеют все шансы вписать именно свои имена в историю. Ясно лишь одно — коммерческому железу и вроде бы крутым по меркам прошлого века процессорам для перехода к следующему поколению эффективных решений критически недостаёт скорости работы. Потому что одно дело описанная выше система медицинской диагностики, а совсем другое — программа «умного города» (или даже «умной страны»), которая должна анализировать тысячи разных параметров, принимая на их основе как оперативные решения, так и делая прогнозы на годы вперед.
Настоящий прорывной результат могут дать квантовые компьютеры нового технологического поколения. Проблема с ними ровно одна — при безумном по меркам старого компьютерного железа ожидаемом быстродействии и плотности информации на единицу времени они все еще остались на экспериментальной стадии. Даже чтобы толком поиграть с их возможностями и понять, что они реально могут, и какие задачи им реально поручить — нужно хотя бы иметь первые модели в металле.
Ответственным за создание российского квантового компьютера является Росатом, который совместно с партнерами создал для этого Национальную квантовую лабораторию. Значительную часть работ по разработке квантового компьютера в НКЛ выполняет Российский квантовый центр. Работа рассчитана на срок до 2024 года и предполагает создание квантового компьютера одновременно на четырех платформах: сверхпроводниках, холодных атомах, ионах и фотонах.
«Обучение искусственного интеллекта и на классических, и на суперкомпьютерах — долгая, дорогая и, к сожалению, малоэффективная задача. Квантовые алгоритмы способны изменить ситуацию, поэтому многие связывают появление настоящего ИИ с созданием многокубитного квантового компьютера. Программа-минимум: ускорить с помощью квантов обучение и работу ИИ, программа-максимум: в результате этого ускорения получить новые качественные эффекты, которые приведут исследователей к результатам, о которых мы даже не задумывались», — сообщил Руслан Юнусов, руководитель проектного офиса по квантовым технологиям Госкорпорации «Росатом».
Оговорка эффективного менеджера
В современной погоне за высокими технологиями шишки набиты уже не по разу. В отрасли уже два раза случались периоды, когда говорящих про искусственный интеллект воспринимали как «опять эти жулики с их компьютерным лохотроном припёрлись» — настолько массово и единогласно оставив без денег что жуликов, что ученых, что это всё окрестили «Зимой ИИ». Но если чётко знать, что именно хочется получить от современной высокотехнологической системы в рамках известных решений — можно получить очень и очень многое.
Да, первые компьютерные программы для эффективных торгов в сети могли запросто свалиться в бессмысленное накручивание цены и другие откровенно абсурдные решения. Но современные
Оговорка ксенофоба
Появление новой сложной системы, которая при этом реально что-то решает и чем-то, а хуже того — кем-то, действительно управляет, разумеется пугает массу народу. Перед ними действительно явилось что-то непонятное и чуждое, такое, что запросто можно приписать достигнутую эффективность проискам злого разума. А если оно ещё и учится, как современная эффективная нейросеть!
Создатели OpenAI дали своему мирному детищу возможность сыграть эквивалент 10 000 лет боёв в Dota 2 — и привели его и к созданию эффективной школы игры (пусть и с внешними ограничениями всего доступного игрокам для победы инструментария) и к уникальности этой самой школы игры.
Кибер-ветеран чемпионатных игр Себастьян Дебс из OG открыто признавал, что OpenAI Five делает то, чего на его памяти не делал никто и не сразу понимаешь, зачем это вообще сделано. Главной проблемой человека становится переход от “да не, глупость какая-то, наверное” к попыткам осмыслить, а зачем вообще ИИ-противник это сделал.
Тут-то в головах и включается ксенофоб и принимается нудеть: а если не в Доту? А если не юнитами? А если беспилотные танковые клинья, управляемые снаряды РСЗО с закрытых позиций и армады затмевающих небеса дронов?
Слава роботам, убить всех людей?
Оговорка специалиста
Сотрудники менее ангажированных организаций, вроде того же Алексея Фёдорова из Российского квантового центра в таких случаях говорят об актуальных достижениях, которые по силам искусственному интеллекту на квантовой вычислительной платформе.
И действительно — если материалы древнего Нюрнбергского процесса занимают многие десятки терабайт, хотя документированы семьдесят лет назад, в суровую аналоговую эпоху, то как быть с материалами современных высокотехнологичных отраслей — где те же необъятные терабайты идут сплошным потоком? Например, с атомной электростанции?
И быстродействующий компьютер и эффективный обучаемый искусственный интеллект, способный решать отраслевые задачи, нужны буквально «уже вчера». Именно поэтому рабочее железо собственной разработки, квантовый компьютер на 100 кубит, хотят увидеть к 2024 году, а проектный офис цифрового блока всё того же Росатома под управлением Руслана Юнусова занят вопросами материальной базы — сверхпроводников, холодных атомов, ионов, фотонов. То, чем в фантастике и компьютерных играх пользовались сверхразвитые цивилизации далекого будущего, становится реальностью здесь и сейчас.
Оговорка HR
По сети массово кочует страшилка о том, насколько элитарнее станут все профессии, едва лишь на смену работникам низшего звена придут бесчеловечные и безжалостные компьютерные алгоритмы.
Но в реальности даже здесь они прекрасно занимаются реальной помощью реальным людям. Современный персональный компьютер избавил человека от необходимости потеть с карандашом над логарифмической линейкой и аккуратно чертить и раскрашивать графики от руки. Цифры и формулы последние лет сорок уже можно забивать в простыню учётной программы на экране, а та уже и результаты посчитает, и красивые графики нарисует.
Что изменится для человека, когда программа с элементами ИИ сможет забивать цифры туда более-менее сама? Выуживать значимые вопросы из стенограммы рабочего совещания — которую сама и записала? Переводить юридические документы на человеческий понятный язык? Сама переадресует запрос в техподдержку грамотному специалисту — «читая» десятки писем в секунду из тех десятков тысяч, что непрерывно штурмуют любую техподдержку большой компании?
Да просто работать легче станет. Но адекватное решение в обстановке с избытком переменных всё ещё по силам только людям.
Учет персонала, составление индивидуальной программы обучения и переподготовки для каждого специалиста, адекватное перенаправление важной промежуточной информации тому специалисту, кто с ней справится наилучшим образом — всё это реально делегировать профильному ИИ, чтобы получить в среднем лучшие результаты, чем без его участия.
Оговорка безопасника
Ещё интереснее выглядит комбинированная система из отлаженного ИИ распознавания образов и требований к безопасности на рабочем месте. Практически любые нормы охраны труда сейчас уже может контролировать система видеокамер и достаточно мощный компьютерный интеллект, которому по силам распознать, надеты ли маска, перчатки, защитная каска, корпоративная униформа или спец-одежда — и вовремя оповещать службу охраны труда о постороннем на объекте или нарушении требований работниками и гостями.
Столь же эффективно современное компьютерное зрение работает и в дефектоскопии — отличить хороший сварной шов от поехавшего компьютеру уже проще, чем усталому человеку на очередном километре осмотра.И то и другое у нас в стране применяется в современной высокотехнологичной системе безопасности и охраны труда Кольской АЭС — и совершенно точно пойдёт и дальше.
Рассказывает Денис Ларионов, начальник отдела искусственного интеллекта ЧУ «Цифрум» (Госкорпорация «Росатом»):
«Искусственный интеллект уже много лет применяется в решении задач безопасности, например для видеоконтроля средств индивидуальной защиты, дефектоскопии и контроля качества изделий, контроля скорости движения автотранспорта и мониторинга нарушений правил дорожного движения. Также ИИ применяется для идентификации лиц и поиска преступников, в системах антиплагиата, в анализе недостоверных записей, фильтрации почтового спама, выявлении утечек информации. Перспективными направлениями применения ИИ для задач безопасности являются поиск аномалий в больших потоках данных, распознавание ситуаций в естественной среде и кибербезопасность. Что касается обеспечения безопасности продуктов, в которых применены технологии искусственного интеллекта, главное что это не должно сопровождаться попытками ограничения ИИ. Он дает конкурентные преимущества для бизнеса, поэтому если кто-то решится на ограничение применения ИИ, он рискует проиграть технологическую гонку»
И футурология!
Современные искусственные интеллекты, уже довольно способные, если сравнивать их с достижениями прошлого века, не могут и сотой доли того, что ждали от крутого робота из фантастического боевика. А что дальше? Общее счастье? Общее несчастье? Вынос бесполезных мешков с мясом и костями на свалку истории?
Мнения разнятся.
Рэймонд Курцвейл полон оптимизма. С точки зрения одного из ведущих умов Google человечество уже замерло в полушаге от подлинной технологической сингулярности и всеобщего процветания. Ну действительно, если компьютерные системы высокой сложности более эффективно решают сложные профильные задачи, то с какого-то момента реально создать компьютерную платформу и сложный ИИ, занятые совершенствованием компьютерных платформ и тех интеллектов. Для приверженцев идеи вроде бы очевидно, что процесс этот покажет тот же взрывообразный рост, что и компьютерная отрасль за последние сорок лет, с ранних 1980-ых. А значит, стремительно возрастут и возможности доступных людям высокотехнологичных инструментов. Курцвейл считает, что это произойдет уже к 2045 году — впрочем, прогноз выглядит слишком уж оптимистичным.
Джеймс Баррат, журналист и документалист, придерживается обратной точки зрения. Любая высокоразвитая система начинает загребать под себя ресурсы и оптимизировать борьбу за них с конкурентами. Вспомните хотя бы непростые отношения антивирусов с остальными программами в борьбе за память компьютера.
Достаточно развитому искусственному интеллекту по мнению Баррата в какой-то момент окажется сравнительно легко и выгодно оптимизировать человечество до полного его истребления, после чего застраивать солнечную систему не космическими городами с имитацией земных условий жизни на борту, а лепить куда более простые и выгодные блоки распределенного суперкомпьютера. Но в любом случае, уже без нас.
Скорее всего, оба они заблуждаются.
К вершинам сингулярности
Современный «умный» боевой дрон больше похож на реактивного ската, чем живого человека
Ни чрезмерный оптимизм, ни чрезмерный пессимизм не влияют на реальную историю развития техники. Герберт Уэллс дожил от художественного описания бронемашин и воздушных десантов до реальной высадки массового десанта на территорию Франции. Садящейся на попу в облаке дыма и пламени многоразовой космической ракеты пришлось ждать немного дольше — но она тоже есть.
И каждый раз всё это было похоже на прогнозы только анекдотическим высказыванием “А в главном он прав!” Скорей всего так будет и с ИИ.
Отменяет ли это обещанную технологическую сингулярность?
Да как-то не очень. Люди уже сейчас демонстрируют основные признаки её приближения. Технологическое развитие безусловно ускоряется. Новые результаты появляются быстрее и лучше прежних. Сорок тысяч лет назад люди жили в пещерах, пять тысяч лет назад строили первые города, две тысячи лет назад придумывали республику и демократию, тысячу лет назад — принялись за механику, двести лет назад стремительно ужали мир в размерах паровозом и телеграфом, сто лет назад применили в бою стратегическую дальнюю авиацию и оружие массового поражения, полвека назад освоили компьютеры и атом, тридцать лет назад — рабочие персоналки, двадцать лет назад — соцсети и по-настоящему эффективные поисковики, десять лет назад — ранние обучаемые искусственные интеллекты.
В рамках этой дурной последовательности дальше только стремительный взрыв компьютерных технологий, в котором люди не особо понимают, что происходит, а технологии устаревают почти так быстро, как внедряются.
Суровая правда сингулярности
Эффективной системе компьютерного ИИ не требуется ни личных целей, ни самосознания. Только эффективность обработки входящего потока данных и соответствие поставленной задаче. Очень крутой современный робот-станок действует быстрее и точнее человека, но совершенно без понимания, зачем он это делает. Даже принцип нейроморфности, то есть соответствие процессов компьютерной обработки входящей информации работе живого мозга, и тот совершенно не подразумевает ни самосознания, ни собственных желаний — но обещает резко большую эффективность работы.
Что изменится, когда он получит внешнюю систему кибер-ремонта, улучшения и установки обновлений? Да особо ничего, только дежурному инженеру станет проще работать. Что изменится, когда такая система начнёт рулить не отдельными станками, а всем производством отрасли — что-то на уровне цеха, что-то на уровне завода, что-то на уровне производственной цепочки? Да тоже особо ничего, кроме непосредственных экономических показателей.
Может ли в достаточно сложной распределённой системе как-то вдруг и само появиться то самосознание? Вряд ли — ведь, как мы писали в самом начале, создатели этой системы до сих пор толком не понимают, что такое самосознание и откуда оно берется. А вот могут ли такие системы всё более эффективно решать свою основную задачу, а специализированные проектные системы — разрабатывать новые аппаратные платформы и программные средства такого решения?
Конечно да. Если считать наступлением сингулярности тот момент, когда ответственный разработчик полагается на мнение комплекса экспертных программ в принятии решения — да, она наступит. Оптимизирует и точность решений, и эффективность любой информационной обратной связи, и подбор нужного эксперта. Та же российская «Умная Арктика» как экспертная система должна учитывать все важные параметры региона — от ледовой обстановки до внутренней экономики и внешних связей региона.
Означает ли массовое внедрение таких систем странами мира, что мы все тут же переселимся в бессмертные негуманоидные кибер-тела? Вряд ли. Станет ли дешевле и комфортнее жить и работать — скорей всего да, станет, хотя от внедрения одного только ИИ ждать такого эффекта все-таки несколько наивно.
Ну а разговоры о разумном ИИ, который по уровню сознания встанет на один уровень с человеком, стоит отложить на более позднее время — когда человек лучше разберется в том, что из себя вообще представляет ИИ.
P.S. Этот текст мы подготовили вместе с проектом Homo-Science от Росатома. Это — научно-просветительская платформа, объединяющая ученых и тех, кто увлекается наукой. А также заходите на наш мини-сайт в поддержку Homo-Science, участвуйте в конкурсах и выигрывайте призы.