Когда люди сталкиваются с машинами, умеющими реагировать так же как, люди, компьютерами, легко решающими логические и стратегические задачи, имитируя человеческую логику, большинству представителей человеческого рода становится неуютно. Все чаще закрадывается мысль, что в совсем недалеком будущем человечество потеряет свое главенство, подпав под иго роботов.

Фантазии кинематографа

В каждой шутке, как известно, есть только доля шутки, а остальное - горькая правда и повод для беспокойства. Масса научно-фантастических фильмов долгое время спекулировали на теме искусственного интеллекта, сумевшего перешагнуть в своем развитии своих создателей, и в конечном итоге поработив человечество или создав условия для вымирания людей.

Конфликты между человеком и машиной в фильмах развиваются по всем направлениям - образуется фронт боевых действий или идет подспудное уничтожение всего живого, причин которому в человеческих понятиях не существует.

Яркий образ агрессивного ИИ был впервые показан в фильме «Терминатор» в образе проекта "Скайнет". На протяжении пяти фильмов авторы саги пытаются понять, что представляет большую опасность для человечества - машина, обретшая самосознание, или люди, использующие мощь машины в собственных целях.

Предупреждения Маска

Картины такого рода становятся страшилками для любого обывателя, особенно если ведущие представители мира науки это поддерживают и усугубляют. За последние годы ученые раздвинули границы понимания того, что может искусственный интеллект. Многие специалисты, обладающие высоким уровнем доверия общественности, сделали громкие заявления о том, какие опасности подстерегают Homo Sapiens, о тех потенциальных угрозах, которые может принести дальнейшее развитие интеллекта машин.

Более того, многие ученые считают, что угроза не просто нависла над людьми, а уже стала реальностью и остановить процесс практически невозможно. Илон Маск уверен, что это уже происходит.

В июле 2017 года на заседании Национальной ассоциации губернаторов он заявил, что наблюдал за несколькими очень развитыми искусственными интеллектами, и, по его мнению, людям есть чего бояться. Он уточнил, что легкомысленность в этом вопросе может привести к пагубным последствиям. Также Маск считает, что люди опомнятся только в тот момент, когда ИИ станет "новым бессмертным Гитлером".

Опасения Хокинга

Физик Стивен Хокинг, уже покинувший мир, также выражал озабоченность по поводу активного внедрения в обиход искусственного интеллекта, предполагая, что он принесет уничтожение человеческой расе.

Свои опасения он связывал с тем, что развитые технологии приведут к деградации человека. Активное внедрение ИИ может сделать человека беспомощным перед силами природы, что в условиях эволюции и видовой борьбы приведет к гибели Homo Sapiens.

Люди могут научить ИИ быть злобным

Группа сотрудников MIT Media Lab Кембриджского университета Массачусетса создала нейронную сеть, названную «Машиной кошмаров». Запущенная в 2016 году, она трансформировала обычные цифровые фотоснимки в ужасающие картины возможного будущего человечества.

Еще один искусственный интеллект носит название «Шелли», создатели заложили в программу способность к самообучению на литературном поприще в жанре ужасов. Машина проанализировала 140 тысяч страшных рассказов, сказок и теперь ежедневно выдает по новому произведению. Эксперимент продолжается и сегодня, рассказы «Шелли» выкладываются на одну из интернет-площадок.

Более того, пользователи могут поучаствовать в развитии искусственного интеллекта, написав начало истории, к следующему дню «автор» выложит свою версию развития сюжета. Все написанные террабайты хранятся в памяти «Шелли» и анализируются, что повышает разнообразие «литературных» опытов, таким образом, машина самообучается.

Развитие, контроль и рамки

Не все ученые разделяют опасения и видят мир в апокалиптических тонах из-за развития искусственного интеллекта. Доцент кафедры компьютерных наук Корнельского университета Килиан Вайнбергер считает, что проблема надумана. Ученый называет причины, по которым происходит противостояние. Существует два вида человеческого страха перед неизвестным. Первое опасение состоит в том, что ИИ станет сознательным и уничтожит своего создателя и главного конкурента. Второй страх более реален и основывается на понимании природы человека - аморальные люди будут использовать умные машины в личных целях.

Ученый считает: страх, что ИИ разовьет сознание и будет занят свержением человечества, возникает от непонимания того, что представляет собой искусственный интеллект. Любая машина программируется и работает с огромным количеством ограничений, согласно четкому алгоритму, определяющему ее поведение. То есть любой ИИ совершает манипуляции, интеллектуальные игры только в очерченных границах.

Если машина пишет литературные рассказы, то без соответствующей программы, заложенной в нее человеком, она не сможет рассчитать километраж машины, двигающейся из пункта «А» в пункт «В». Также техника без соответствующего обеспечения не может «понять», создать алгоритм уничтожения или создания чего-либо, будь то посев пшеницы или устранение паука. Вайнсберг считает, что в обозримом будущем не существует предпосылок для появления у машин сознания, равного человеческому.

Человеческий фактор

Более реальной угрозой является возможность того, что ИИ окажется в руках людей с отсутствием морали и нравственности, но целиком поглощенных идеей достижения собственных целей. Если погрузиться в изучение этой проблемы, то она действительно оказывается устрашающей в масштабах всего человечества. Причем, чтобы это понять, не нужно рассматривать философскую проблематику. Достаточно вспомнить о Министерстве вооруженных сил любой державы, стремящейся к мировому господству.

Любой инструмент может быть использован во благо и во вред в зависимости от намерений людей, решивших его применить. Нож создавался для охоты и использования в мирных целях, но его совершенствование и разнообразие форм - во много заслуга людей, склонных к насилию.

Люди все еще пугаются искусственного интеллекта, не совсем понимая, что сами являются его создателями и главными регуляторами. От того, какая программа будет заложена в бездушную машину, напрямую зависит результат ее деятельности.

Увидеть благо

Вайнсберг считает, что если отбросить надуманные страхи, то ИИ может существенно облегчить жизнь человека, сделав ее более безопасной и комфортной. Преимущества машин можно использовать в медицине, например компьютер, обследовав родинку, моментально оценит злокачественности образования. Самоуправляемые автомобили способны полностью устранить проблему аварий на дорогах, уносящих миллионы жизней по всей планете.

Сейчас большинство людей не может понять природу искусственного интеллекта, а все неизвестное пугает человека с огромной силой, заставляя делать неверные выводы и поступки. Начавшееся противостояние будет продолжаться достаточно долго, но при этом ученые будут продолжать совершенствовать ИИ. Возможно, в какой-то момент в споре будет поставлена точка, но сделано это будет в тот момент, когда люди откажутся от спекуляций на волнующей теме и найдут в себе силы дать исчерпывающие ответы на простые вопросы.

Введение

Ища истоки идей искусственного интеллекта, можно привести множество фактов и мифов. Начиная от древнегреческого робота Талоса, созданного Зевсом для охраны острова Крит, или Чарльза Бэббиджа с Адой Лавлейс и их Аналитическим Двигателем середины 19 века и заканчивая идеями Мински и МакКартни, создавших современное определение ИИ как любого действия, выполненного программой или машиной, про которое, если бы его выполнял человек, мы бы сказали, что ему нужно проявить интеллект или смекалку.

Мне же истоки зарождения ИИ видятся в книге Галилео Галилея 1683 года «Беседы и математические доказательства двух новых наук».

В этой книге Галилей, в частности, написал, что всё в мире, в том числе природные явления, может быть выражено языком математики. Получается, что для любого явления или действия можно придумать алгоритм. Таким образом, искусственный интеллект – это набор алгоритмов на все случаи жизни. А одной из главных способностей ИИ станет умение на основе имеющихся данных самостоятельно синтезировать новые алгоритмы.

В усеченном виде это уже возможно. Например, AlphaGo от Google, проанализировав базу данных из 30 миллионов ходов и потренировавшись с самим собой несколько тысяч раз, смог победить лучшего игрока в мире по игре в го.

А IBM натаскивает свой суперкомпьютер Watson на помощь врачам. Задача – научить компьютер искать ответы на вопросы, заданные естественным языком, то есть Watson учится проводить медицинский опрос. Своего рода игра в дифференциальную диагностику, только компьютер вместо доктора Хауса. Собственно, на этом закончим с историей. В головах обывателей искусственный интеллект – это Джарвис из комиксов про «Железного человека», Терминатор или, на худой конец, Робокоп (в фильме именно добавленный ИИ помогает киборгу очень быстро и точно стрелять). Такой вариант, конечно, имеет место быть, но давайте начнём с того, что доступно сегодня.

Какие типы ИИ есть сегодня?

В целом, все типы ИИ можно разделить на две категории – слабый, или ограниченный ИИ и общий, или сильный ИИ.

Слабый ИИ

Собственно, названия говорят сами за себя. ИИ сегодня представляют собой первый тип – ограниченный, то есть интеллект заточен на определенные задачи. Например, когда Samsung обещает, что к 2020 году каждое его устройство будет обладать ИИ, то подразумевается именно ограниченный вариант. Примерами могут служить Siri или Алиса, которые умеют делать ровно то, что в них запрограммировали. Алиса даже так и отвечает, когда чего-то не знает или не умеет: «Программист обещал обучить меня этому позже».

К этому же типу относятся Google и Yandex карты, анализирующие пробки и прокладывающие маршруты, фотокамеры, распознающие сцены, интеллектуальная печь, самостоятельно регулирующая уровень жара, и робот-пылесос, который, как ему ни объясняй, умеет только пылесосить, а тапочки не подаст.

И пока что это ограниченный ИИ – это единственный тип искусственного интеллекта, который освоило человечество. Слабый ИИ можно разделить по ключевым задачам, над которыми и работают специалисты сегодня. Это:

• распознавание речи;
• компьютерное зрение;
• обработка естественного языка;
• поиск паттернов, или анализ данных;
• робототехника.

Добиться решения этих задач, то есть научить некий ИИ понимать ваши слова и узнавать картинки, можно двумя способами.

1. Символьный подход.

   Такой подход был ведущим начиная с конца 40-х и заканчивая началом 90-х. Метод основывается на том, что считалось, что лучший способ «обучить» ИИ – это скормить ему как можно больше знаний. Например, если говорить в контексте медицины, то в ИИ загружают всевозможные учебники и базы знаний. И ответы ИИ ищет только на основе имеющейся информации, обрабатывая знания лишь по тем правилам, которые создал программист.

   Соответственно, такой тип ИИ хорош для решения статических проблем. Например, в него можно загрузить все учебники по русскому языку, и ИИ сможет хорошо проверять сочинения, находя орфографические, пунктуационные ошибки, а ориентируясь на орфоэпические нормы, даже сможет вычленять речевые ошибки и недочеты. Однако будет делать это, только основываясь на правилах, то есть не понимая контекст, а вычленяя правильный порядок слов и написание.

   Ещё один пример – это машинный перевод. Символьно-обученный ИИ вооружен всевозможными словарями и разговорниками. И если предложенная ему на перевод фраза есть в одном из них, то он её переведёт хорошо, а если нет, то просто подставит слова, предлоги и структуру предложения на основе заложенных правил.

2. Машинное обучение, или несимвольный ИИ.

   В отличие от символьного, этот вариант обучения подразумевает, что искусственному интеллекту показали, как решать определенную проблему, после чего пустили в свободное плавание. Так действуют нейронные сети. Помню, читал про пример, где программист подключил ИИ к управлению поливалками и научил отгонять водой соседскую кошку, которая повадилась ходить в туалет на газон. Программист показал ИИ множество фотографий с кошками, после чего у искусственного интеллекта выработался рефлекс включать поливалку каждый раз, когда ему казалось, что он видит нечто, похожее на кошку. Система не всегда работала гладко. Кажется, она как-то включилась, когда ИИ принял тень на асфальте за кошку.

   Если же говорить про пример с переводом, то натренированный ИИ может попытаться осознать контекст фразы и подставить в переводе не первое отвечающее базовым требованиям слово, а то, которое, на его взгляд, лучше отражает стиль, эмоцию, сленг или что-то ещё, на чём его тренировали.

Сегодня большинство программистов предпочитают использовать второй тип – машинное обучение, потому он умеет, если так можно выразиться, импровизировать. Например, если автономную машину натренировать по первому типу, то она будет ездить по правилам, но если на дороге возникнет непредвиденная ситуация, то машина окажется в затруднении. А автомобиль, натренированный машинным обучением, может действовать по обстоятельствам, синтезируя идеи на основе скормленной ранее информации.

Тут же возникает и проблема. Одна из ключевых важных особенностей символьного ИИ в том, что система всегда может объяснить, почему приняла то или иное решение. А вот в случае с машинным обучением всё непросто. Именно поэтому те же UBER или Tesla долго разбираются, пытаясь понять, почему их машины приняли то или иное решение, повлекшее аварию.

Однако для тех же автомобилей символьное обучение не подходит, так как все правила для ИИ заносят вручную, то есть, условно говоря, нужно прописать все варианты действия для автомобиля – на дорогу выбежал человек, выкатилась коляска, вылетела коробка и т.д. Что-то забыл прописать, и неожиданно выяснилось, что машина сбила лося, потому что про него ничего не было сказано в своде правил, в то время как машинный ИИ сможет догадаться, что нельзя сбивать всех четвероногих.

У слабого ИИ, как видите, несмотря на его ограниченность, множество способов применения – это и умная техника, и самостоятельные автомобили, и обработка данных с попытками предсказаний будущего. К слову, Google Duplex, умеющий заказывать столики в ресторане, - это тоже ограниченный ИИ, так как умеет он ровно то, чему его обучили.

Сильный ИИ (самостоятельный)

Здесь уже начинается область гипотез, так как ничего подобного человечество ещё не видело. Возможно, только в недрах Google или IBM живёт что-то полуразумное. На последней конференции Google I/O очень умная китайская женщина Фей Фей Ли (Fei Fei Li), самая главная в департаменте Машинного обучения и Искусственного Интеллекта в Google Cloud, сказала, что, хоть и прошло уже более 60 лет с момента исследований в области ИИ, но наука до сих пор находится на начальном этапе, и пока можно говорить только о том, чтобы достичь мастерства в разработках ограниченного ИИ.

Однако предлагаю немного пофантазировать про сильный ИИ и попробовать определить, что он из себя должен представлять и что уметь. Считается, что сильный ИИ – это по уму как среднестатистический человек, то есть в теории он может решить любую проблему.. И если перед первым стояла задача любыми способами уничтожить Джона Коннора, то второй жаждет максимальной энтропии. Терминатор, если закрыто метро, поедет убивать Джона Коннора на автобусе, а если сломается автобус, то пойдет пешком или вызовет такси, а недоброжелатель будет писать, что всё реклама, что автор ничего не понимает, будет пытаться заниматься демагогией и софизмами. Собственно, больше всего разжиться сильным ИИ мечтают правительства по всему миру для ведения военных действий и саботажа выборов в США армией компьютерных ботов-троллей.

В Google говорят, что если всё будет хорошо, то к 2050 году, возможно, произойдёт прорыв и появится первый сильный ИИ.

Основная слабость такого ИИ заключается в том, что он, несмотря на все свои способности, по-прежнему остаётся относительно недалеким, как и среднестатистический человек, но, в отличие от человека, сильный ИИ всё помнит и лучше ориентируется в поисках и обработке информации.

Суперсильный интеллект

Это уже совсем из области фантастики. Например, к просто сильному интеллекту можно отнести и Пятницу/Джарвиса из «Железного человека».

Если помните, то в одном из фильмов главный герой Тони Старк пытался изобрести какой-то новый нетоксичный источник энергии, чтоб поместить его себе в грудь. Джарвис ему ассистировал, но решить задачу мог всё равно только Тони Старк, потому что у ИИ не хватало «соображалки». Суперсильный интеллект сможет самостоятельно решать даже самые сложные задачи. Именно ему человечество задаст вопрос, на который он ответит «42», а потом суперсильный ИИ поместит всех людей в чаны с жидкостями и создаст феномен избранного (это не белиберда, а аллюзии на книгу «Автостопом по Галактике» и фильм «Матрица»).

Нужно ли бояться ИИ?

Несмотря на все фантастические фильмы, опасаться не нужно, по крайней мере, до появления последнего типа ИИ. Однако нужно бояться людей, которые занимаются разработками, так как вследствие ошибки или сознательно в тот же ограниченный ИИ может быть заложено правило «убить всех человеков» вместо «учить всех человеков». А дальше для ИИ дело за малым – лишь уточнить в словаре значения всех слов и приступить к делу.

Однако развитие даже ограниченного ИИ уже привело и ещё приведет к множеству проблем в современном обществе.

Проблема первая

Одна из проблем – это разрушение традиционной карьерной лестницы, так как развитие ИИ приводит к отказу от рабочих мест, требующих среднего уровня квалификации. Поясню подробнее. Нужна дешевая рабочая сила, чтобы заносить данные в компьютер, так как, условно говоря, распознавать «капчу» человек по-прежнему умеет лучше. Также нужны и те, кто будет принимать решения на основе обработанных компьютером данных. А вот рядовые аналитики уже не нужны, потому что они анализируют и изучают данные на основе выученных алгоритмов. Например, в мою бытность аналитиком я имел на вооружении 42 различных варианта обработки данных для создания прогнозов. Все эти варианты были упорядочены в аккуратную презентацию, к которой я регулярно обращался, чтобы прикинуть, какой способ лучше использовать в той или иной ситуации. Замена меня на ИИ представляется логичной и обоснованной, так как он с задачами прогнозирования справится гораздо быстрее. Соответственно, получается разрыв, когда отпадает традиционная карьерная лестница от младшего аналитика до руководителя, так как в нижней точке карьеры практически нет маневра для демонстрации интеллекта.

Проблема вторая

Также из-за ИИ постепенно произойдет отказ от базовых профессий, которые можно алгоритмизировать, то есть свести к простым действиям. Что-то подобное сейчас можно наблюдать в «Ашанах» и «Лентах», где происходит постепенная замена кассиров на аппараты самообслуживания, а также одного сотрудника, помогающего решить возникающие проблемы, и охранника, следящего за порядком. В дальнейшем охранника заменят камеры наблюдения, следящие за порядком. Получается, что произойдет снижение ценности людей.

Профессии, которые с большой долей вероятности заменит ИИ: почтальоны, ювелиры, лесорубы, фермеры, рабочие на заводах, страховщики

Прочитал, что Сан-Франциско в какой-то степени может служить иллюстрацией данной проблемы. Этот город в США облюбовала технологическая элита. Соответственно, экономика города направлена на удовлетворение потребностей элиты, а вот люди, которые не имеют отношения к экономике технологий, испытывают колоссальные проблемы. Они зарабатывают гораздо меньше, а все ценники в городе выставлены как для IT-стартаперов. Обычные люди не могут потянуть такие расходы, поэтому или переезжают, или пополняют и без того огромную армию бомжей.

Однако здесь есть ключевая особенность, которая сохранит некоторые профессии. Искусственному интеллекту для работы нужны созданные условия. Например, робот-пылесос умеет ездить только по гладкому полу и преодолевать небольшие неровности. Соответственно, многие базовые профессии смогут продержаться до тех пор, пока будет чересчур сложно и дорого создавать их искусственную замену. Например, в помещении, где много дверей, роботу-уборщику нужно иметь или манипуляторы, чтобы крутить дверные ручки, или нужно, чтоб все двери открывались автоматически. И то и то достаточно дорого, а вот у приезжего Сархата из Средней Азии есть руки и мозгов хватает, чтоб управиться со шваброй и дверной ручкой, но нет регистрации и сниженные требования к зарплате.

Проблема третья

Даже ограниченный ИИ сильно простимулировал такое явление, как фриланс. Платформы по подбору и найму удаленных сотрудников с каждым годом процветают всё больше и больше. Например, по последним статистическим данным, в США, первой экономике мира, 55 миллионов человек работает на фрилансе.

И это в текущем поколении, обратите внимание на иллюстрацию. Подрастающая рабочая сила не любит сидеть в офисе. Соответственно, произойдет сдвиг в организации труда. Компании столкнутся с проблемами по набору и удержанию сотрудников, ведь зачем посвящать жизнь одной компании, когда ты доступен онлайн и можно искать работу по всему миру.

Проблема четвертая

Достаточно серьезная проблема – это социальное неравенство, которое уже упомянул в проблеме номер 2. Оно будет усугубляться. Полагаю, из статьи вы догадались, что чтобы быть успешным в новом мире, нужно быть сообразительным и на «ты» с современными технологиями. Не секрет, что у бедных людей хуже с доступом к образованию. Соответственно, бедные не смогут вырваться на новый уровень, так как у них попросту не будет шанса научиться чему-то полезному, так как, чтобы хорошо думать, нужны годы усиленных тренировок, а где их взять, когда нужно искать еду.

Новому обществу нужна или дешевая рабочая сила, или интеллектуалы, принимающие решения.

Проблема пятая

Её можно сформулировать кратко – кто у руля? На людей, занимающихся разработкой систем ИИ, будет накладываться особая ответственность, так как они обучают ИИ, на основе каких данных ИИ будет принимать решения. Будут это законы робототехники от Азимова или иные правила, защищающие определенную прослойку людей.

Почему искусственный интеллект – это благо?

Перечисленные выше проблемы выглядят в какой-то степени пугающе, но ИИ – это обоюдоострый меч, который может и помогать.

Благо 1

Искусственный интеллект послужит мощным толчком для развития многих сфер. Хороший пример – это медицина. Сегодня в 21 веке врачи продолжают лечить так же, как и сотню лет назад. Они зубрят учебники. Это плохой вариант, так как ни один врач не может помнить наизусть все симптомы всех болезней. Последствия таких ошибок могут быть фатальными. Местный врач до последнего уверяла, что причины недомогания моей матери заключаются в простуде и усталости, так как все основные симптомы налицо. И только когда уже было поздно, прозвучал правильный диагноз – острый лейкоз, заболевание, которое достаточно сложно распознать. И в данной ситуации наличие ИИ, который помнит все болезни и симптомы и который никогда не устаёт, было бы выходом.

Такие же сдвиги могут произойти в области права, где юристам и судьям нужно держать в памяти все законы, прецеденты и множество доказательств.

Благо 2

ИИ поможет создать персонализированный опыт. Лучше всего это утверждение можно проиллюстрировать на примере обучения. Сегодня учителя перегружены, и они физически не могут уделить внимание всем ученикам. А ведь у каждого свой темп освоения нового материала. Системы обучения, основанные на ИИ, следят за скоростью обучения, видят, хорошо или плохо ученик запоминает материал, читает внимательно или отвлекается. На основе этого выстраивается индивидуальный темп обучения и происходит подбор упражнений для закрепления.

При этом есть факт, что людям проще постигать новый материал с помощью ИИ, так как в таком случае значительно снижается страх ошибки. Могу согласиться с этим утверждением. Морально легче получить возмущенный бип от компьютера, что пример решен неверно, чем выдержать взгляд Ольги Степановны, моего преподавателя по математике.

ИИ сможет уделять равное внимание всем людям. Сюда относятся все области, от образования и медицины до подбора модного имиджа (в соответствии с типом фигуры, формой лица и трендами сезона) и тренировок в спортзале.

Благо 3

Уже сегодня наш мир переполнен информацией. Любые данные собираются отовсюду, начиная от погодных условий и заканчивая тем, сколько шагов прошел человек.

Искусственный интеллект с доступом к большим данным сможет анализировать эти данные и искать корреляцию, как влияет количество шагов на здоровье, но не абстрактно, а с учетом определенной погоды. Анализ перемещения пассажиропотоков поможет снизить загруженность, уменьшить количество транспортных коллапсов в часы пик. Короче говоря, те данные, которые можно проанализировать, будут проанализированы, и ИИ представит свои выводы.

Заключение

Сегодня искусственный интеллект продемонстрировал, что неплохо умеет решать только те задачи, которым его обучили, и даже быть лучше в них, чем обычные люди. Смартфон легко обыграет гроссмейстера даже без ферзя, японский ИИ, написавший небольшой роман, прошел в финал литературного конкурса, а его собратья пишут и исполняют неплохую музыку.

Однако, к сожалению, ИИ до сих пор находится в стадии зарождения. Он умеет только то, чему его научили – проанализировать множество литературных или музыкальных произведений и синтезировать что-то своё или запомнить миллионы ходов и выбирать лучший.

Главные проблемы, стоящие на пути развития ограниченного ИИ, заключаются в отсутствии универсальных алгоритмов познания окружающего мира и инфраструктуры (для сбора данных нужно множество датчиков, для беспилотных авто –дороги с идеальной разметкой, для понимания запросов хозяина голосовым ассистентам нужны более качественные алгоритмы).

Для появления же сильного искусственного интеллекта нужны принципиально иные вычислительные мощности и алгоритмы обработки информации, имитирующие то, что у людей называется интуицией. Вероятно, в ближайшем будущем мы будем наблюдать различные варианты ограниченного ИИ с заложенными алгоритмами поведения на всевозможные условия.

Юлия Сухорослова, руководитель программы поддержки научно-технических проектов «Инновационная радиоэлектроника », ответила на актуальные вопросы про искусственный интеллект. Не обошлось без обсуждения «страшилок», правда бояться нужно не захвата планеты роботами.

- Есть ли такие области, где искусственный интеллект точно ни к чему?

Интеграция технологий, в том числе и искусственного интеллекта, во все сферы жизни человека закономерна - не думаю, что мы должны проводить границы. Если ИИ способен подобрать ученику онлайн-школы более эффективную программу обучения или спрогнозировать риск инфаркта по ЭКГ, разве это плохо? Естественно, искусственный интеллект не должен заменять человеческий - он должен быть помощником, а не господином. Сбор информации, анализ, рекомендации можно отдать ему на «аутсорсинг», финальное принятие решений - никогда.

- Какие события и открытия в сфере ИИ вы бы назвали самыми значимыми в 2018 году?

Подводить итоги, на мой взгляд, еще рано - и год не закончился, и результаты открытий нельзя оценивать только по факту их свершения. Важными считаю разработки в области медицины. Например, ученые из Института Генриха Герца создали систему автоматизированной диагностики инфаркта миокарда на основе самообучающейся компьютерной программы. А научные сотрудники Токийского университета разработали систему анализа Ghost Cytometry, которая совершенствует технологию обнаружения раковых клеток в крови человека.

- Какие проекты в области ИИ сейчас актуальны? Какие насущные проблемы нужно решить?

Системы на базе искусственного интеллекта сегодня наиболее актуальны для аналитики в компаниях, оперирующих массивами больших данных: это медицина, нефтегазовая отрасль, логистика, физическая и информационная безопасность. На особой волне хайпа - проекты в области беспилотного транспорта (самые известные - Tesla и «Яндекс») и автоматизации клиентского обслуживания. Компании ищут способы не только автоматизировать рутинные операции вроде работы службы поддержки, но и зацепить клиента необычным сервисом - хотя чат-ботами сегодня уже мало кого удивишь. Российское представительство Coca-Cola недавно успешно протестировало робота Веру в ходе одной из HR-кампаний - она проводила первичное собеседование с кандидатами на одну из лидерских программ компании.

- В каких проектах в области искусственного интеллекта заинтересована «Инновационная радиоэлектроника»?

В этом году мы впервые запустили набор проектов в области ИИ и пока присматриваемся к уровню подготовки и экспертизе. В текущем сезоне таких проектов было немного. Мы не отбираем команды под решение конкретных задач, по крайней мере на нынешнем этапе развития у нас таких целей нет. Рады поддержать проект в развитии и рыночной реализации, а также любую инициативу в этой области, если она найдет достойное применение на практике.

- Есть ли сейчас такая задача, решая которую, проект на 100 % получает поддержку?

Нет, такой задачи нет. За сезон проект проходит несколько стадий и оценивается по ряду критериев: отдельно рассматриваются прототипы, бизнес-планы, попадание в рынок и ЦА и прочее. Окончательное решение принимает экспертная комиссия по результатам очной защиты проекта. Проекты проходят через несколько фильтров, после чего и формируется полное понимание, какие задачи они решают, насколько актуальны и какие у него перспективы на рынке. Из этого складывается решение о поддержке проекта.

- Какие стартапы в этой сфере вы считаете наиболее успешными?

Мне очень близки технологические проекты, которые глобально могут позитивно повлиять на человечество. К таким относится система Watson for Oncology, разработанная в онкологическом центре имени Слоуна-Кеттеринга в Нью-Йорке. Программа анализирует индивидуальные планы лечения, данные онкологической экспертизы, а также использует массивы медицинской литературы в объеме более 300 научных журналов, 200 учебников и почти 15 миллионов страниц текста. Система ранжирует опции лечения, привязывая их к независимым исследованиям и клиническим рекомендациям.

Очень интересны проекты стартапа NTechLab и их сверхточный алгоритм распознавания лиц. Особенно приятно, что эта российская команда востребована и за рубежом - обычно отечественным стартапам довольно сложно пробиться на западные рынки.

- Есть ли моменты в сфере ИИ, которые вас пугают или удивляют?

Классические страшилки о порабощении человечества роботами и искусственным интеллектом хороши для сюжета фантастического фильма, но с реальностью имеют мало общего. По крайней мере в ближайшие сто лет технологии навряд ли выйдут на такой уровень - современные роботы больше похожи на героев фильма «Трансформеры», чем на робо-девушку Софию.

Однако уже сейчас ИИ следует особо контролировать в некоторых областях: например, во всем, что связано с информационной безопасностью. Отдельно нужно учитывать влияние искусственного интеллекта на самостоятельность человека - полностью полагаясь на виртуальных помощников, мы перестаем развивать собственные навыки. Особенно это касается людей, применяющих ИИ повсеместно, даже в бытовой домашней рутине.

- Когда человек сможет разговаривать с искусственным интеллектом наравне?

Думаю, это возможно уже сейчас. Необходимо обучить ИИ на основе анализа огромного количества диалогов. Один из примеров - яндексовская Алиса, которая может на простом уровне поддержать беседу. Она сильно эволюционировала с тех пор, как была выпущена.

Когда ИИ сможет понимать иронию и многогранные значения русского мата в зависимости от контекста? Что для этого нужно?

Распознавание нецензурной брани с точки зрения алгоритма ничем не отличается от обработки любых других слов. Мат, ирония, значение слова в контексте требует просто немного больше времени на машинное обучение. Легче распознать голосовое сообщение, потому оно несет эмоцию и интонацию. Гораздо сложнее научить машину понимать шутки в тексте- это не всегда под силу даже человеку, особенно если собеседник на другом конце мессенджера не использует эмодзи или другие символы.

Для вдохновения рекомендую футуристическую классику: «Матрица», «Терминатор» «Я робот», «Двухсотлетний человек», «На крючке», «Она», «Из машины», «Превосходство», сериал «Мир Дикого запада». Из художественной литературы - Стругацких и Айзека Азимова. Если хочется чего-то более реального, в формате «прямо сейчас в мире», то советую добавить в закладки раздел «Технологии» TED Talks. Из последнего меня впечатлила лекция о том, как беспилотники используют для доставки донорской крови.

По мероприятиям могу дать такой совет: обращайте внимание на организаторов. Очень хорошо, если это крупная IT-компания или компания на стыке отраслей - из сферы финтеха, например. Выбирать нужно, основываясь на своем уровне знаний и мотивации - ходить «просто послушать» абсолютно бессмысленно. Как вариант, можно начать с AI Conference в ноябре 2018 или Opentalks.ai в феврале 2019.

Не один десяток лет ученые пытаются заставить машину не просто выполнять полученные приказы, а думать самостоятельно. Память современных компьютеров соизмерима с человеческой, скорость выполнения логических операций – на порядки выше, но смоделировать разум исследователям пока так и не удалось. О современных вызовах в области искусственного интеллекта (ИИ) рассказывает доцент кафедры вычислительной техники Университета ИТМО Игорь Бессмертный.

В обывательском понимании искусственный интеллект - это компьютер, обладающий эмоциями и сознанием. А что вкладывают в это понятие современные исследователи?

Автор термина Джон Маккарти определял интеллект как способность субъекта ставить перед собой цели и добиваться их достижения. Если мы пытаемся наделить интеллектом некое техническое устройство, значит, мы хотим, чтобы оно самостоятельно решало возникающие задачи. Компьютеры способны рассуждать гораздо быстрее человека, но поиск решений методом перебора требует большого количества ресурсов. В начале шахматной партии у игрока белыми есть по два варианта хода для каждой пешки и коня. Противник в ответ тоже выбирает из двадцати вариантов, и получается, что первый ход у нас 400 возможных комбинаций, во второй - 160000, и так далее. Это называется комбинаторным взрывом, и попытки решить задачу «в лоб» ни к чему не приводят.

Я развиваю антропоморфный подход и считаю, что нам нужно пытаться воспроизвести человеческий мозг на уровне поведения. На протяжении жизни человек постоянно обращается к приобретенным интеллектуальным навыкам. Мы не задумываемся, когда завязываем шнурки или пользуемся таблицей умножения. Есть навыки более высокого уровня: профессиональный шахматист может «на автомате» обыграть неподготовленного игрока. Количество навыков определяется объемом памяти человека, а у машин ее сейчас более чем достаточно. Нужна такая структура данных, при которых машины будут записывать интеллектуальные навыки и логику их вывода, как был получен каждый факт и навык. В этом случае мы обеспечим быстрый вывод данных и сможем создавать интеллектуальные системы, которые будут отвечать на сложные запросы.

Например, если мы поищем в интернете температуру кипения воды, то сразу получим ответ, но у поисковых порталов нет готовых ответов на специфические запросы. Чтобы узнать температуру кипения воды в Тибете, нам придется подключать правила, учитывать зависимость температуры кипения от атмосферного давления, зависимость давления от высоты над уровнем моря, высоту Тибета. Только после определенных логических действий мы найдем решение, и если внести его в базу знаний, то в следующий раз факт будет извлечен быстро. Также важно при каждом вызове проверять актуальность данных - сейчас мы не задумываемся, что президент США - Барак Обама, но в будущем эти данные устареют.

- Это технически возможно?

Принципы самообучения реализуют с помощью нейронных сетей. Сейчас их используют для прогнозирования, торгов на биржах, в некоторые автомобили встраивают системы распознавания пешеходов. Иногда интеллектуальное поведение устройства необходимо - там, где невозможно находиться человеку-оператору, или в тех случаях, когда это упрощает жизнь. Но каждое такое устройство выполняет узкий круг задач. Есть роботы-сиделки, роботы-повара, но универсальный искусственный интеллект сейчас, по большому счету, не нужен.

- А как же мечты футурологов о том, что у людей появятся партнеры по разуму?

Если создавать гомункула, чтобы просто было с кем поговорить, это потребует неоправданно высоких затрат. А использовать компьютер для того, чтобы придумать что-то новое, уже пытались. Теория решения изобретательских задач (ТРИЗ) Генриха Альтшуллера великолепно работала в виде справочников и таблиц. Но когда ее решили автоматизировать, выяснилось, что ТРИЗ работает только в руках человека-изобретателя. Причина в том, что существует масса фактов, которые никак не формализованы. Считается, что половину своих знаний человек усваивает за первые три года жизни, и мы иногда даже не догадываемся о том, что они есть и что их нужно формализовать. Если я выпущу предмет, который держу в руках, он упадет на пол; людям это очевидно, а машине - нет. По моим подсчетам, человек должен хранить и уметь использовать в среднем 50 млн фактов. Для сравнения: компания Cycorp составляет онтологическую базу знаний с 1984 года, и за это время накопила всего 3 млн фактов. Для работы универсальной интеллектуальной системы нужно как минимум на два порядка больше.

- Являются ли современные вопросно-ответные системы вроде Wolfram Alpha искусственным интеллектом в таком понимании?

WolframAlpha разрабатывают в первую очередь для решения математических задач, в этом вопросе я бы ориентировался на проекты IBM. В девяностых в IBM создали шахматный суперкомпьютер Deep Blue, и после того, как он обыграл Гарри Каспарова, его собирались использовать в медицинских целях. Оказалось, что Deep Blue для этого не годится - он не умел обучаться, и для применения в другой области нужно было все начать с нуля. Сейчас компания разрабатывает суперкомпьютер Watson, который показывает впечатляющие результаты, например, победил людей в телеигре Jeopardy! Но поскольку Watson - коммерческий проект, остается догадываться, какими методами обеспечивается поиск информации, как выполняются цепочки умозаключений и как в IBM решают вопрос комбинаторной сложности.

- Как технологии искусственного интеллекта будут развиваться в будущем?

Прогнозы в области ИИ делать трудно, так как отрасль развивается очень быстро. Мы свидетели тому, как эволюционировали технологии распознавания речи, и сейчас в любом мобильном телефоне есть голосовое управление. Распознавание изображений тоже развивается быстрее, чем мы думали. Это прагматичные технологии, но я уверен, что создание искусственного разума технически возможно - не сейчас, а когда это будет необходимо.

Пресс-служба Университета ИТМО

Искусственный интеллект уже в некотором роде помогает определиться вашему будущему. Когда вы ищете что-нибудь в поисковике, пользуетесь сервисом вроде Netflix или банк оценивает вашу пригодность для ипотеки. Но что будет, если искусственному интеллекту придется определять, виновны вы или нет, в суде? Как ни странно, в отдельных странах это уже, возможно, происходит. Недавно американского высокого судью Джона Робертса спросили, может ли он представить день, когда «умные машины, управляемые искусственным интеллектом, будут помогать в поиске улик или даже в принятии судебных решений». Он ответил: «Этот день уже настал, и он существенно помогает судебным органам в производстве дел».

Возможно, Робертс имел в виду недавний случай Эрика Лумиса, которого приговорили к шести годам заключения по рекомендации секретного проприетарного программного обеспечения частной компании. Лумис, который уже имел криминальную историю и был приговорен за то, что бежал из полиции на угнанной машине, теперь утверждает, что его право на процедуру было нарушено, поскольку ни он, ни его представители не смогли рассмотреть или опротестовать алгоритм рекомендации.

Отчет был подготовлен программой Compas, которая продается Notrpointe судам. Программа воплощает новую тенденцию в исследованиях ИИ: помогает судьям принять «лучшее» (или по крайней мере более ориентированное на данные) решение в суде.

Хотя конкретные подробности дела Лумиса остаются закрытыми, в нем наверняка содержатся диаграммы и числа, определяющие жизнь, поведение и вероятность рецидива Лумиса. Среди них возраст, раса, гендерная идентичность, привычки, история браузера и какие-нибудь измерения черепа. Точнее никто не знает.

Известно, что прокурор по делу сказал судье, что Лумис продемонстрировал «высокий риск рецидивизма, насилия, досудебного разбирательства». Это стандартно, когда дело касается вынесения приговора. Судья согласился и сказал Лумису, что «по оценке Compas он был определен как лицо, представляющее высокий риск для общества».

Верховный суд штата Висконсин осудил Лумиса, добавив, что отчет Compas привнес ценную информацию в его решение, но отметил, что без него он вынес такой же приговор. Проверить это наверняка, разумеется, не получится. Какими могут быть когнитивные предубеждения, когда в деле участвует всемогущая «умная» система вроде Compas, которая советует судьям, как им поступать?

Давайте будем откровенны, нет ничего «незаконного» в том, что сделал суд Висконсина - это просто пример. Другие суды могут и будут делать то же самое.

К сожалению, мы не знаем, в какой степени используются ИИ и другие алгоритмы при вынесении приговора. Есть мнение, что некоторые суды «тестируют» системы вроде Compas в закрытых исследованиях, но не могут заявлять о своем партнерстве. Есть также мнение, что несколько стартапов ИИ разрабатывают подобные умные системы.

Однако использование ИИ в законодательстве не начинается и не заканчивается вынесением приговора, оно начинается с расследования. В Великобритании уже разработана система VALCRI, которая выполняет трудоемкие аналитические работы за считанные секунды - пробирается сквозь тонны данных вроде текстов, лабораторных отчетов и полицейских документов, чтобы выделить вещи, которые могут потребовать дальнейшего расследования.

Полиция Уэст-Мидландс в Великобритании будет тестировать VALCRI в течение следующих трех лет, используя анонимные данные, содержащие больше 6,5 миллиона записей. Похожее испытание проводится полицией Антверпена в Бельгии. Однако в прошлом проекты ИИ и глубокого обучения, включающие массивные наборы данных, были проблемными.

Выгоды для немногих

Технологии обеспечили множество полезных приспособлений залам суда, от копировальных аппаратов до извлечения ДНК из отпечатков пальцев и сложных методов наблюдения. Но это не означает, что любая технология - это улучшение.

Хотя использование ИИ в расследованиях и приговорах может потенциально сэкономить время и деньги, оно породит острые проблемы. В докладе по Compas от ProPublica было четко сказано, что черных программа ошибочно считает более склонными к рецидивизму ответчиками, чем белых. Даже самые сложные системы ИИ могут унаследовать расовые и гендерные предубеждения тех, кто их создает.

Более того, какой смысл перекладывать принятие решений (по крайней мере частично) по вопросам, которые уникальны для людей, на алгоритм? В США существует определенная трудность, когда суд присяжных судит своих сверстников. Стандарты в законах никогда не были эталонными, потому эти суды присяжных считаются наиболее демократичными и эффективными системами осуждения. Мы совершаем ошибки, но со временем накапливаем знания о том, как их не совершать, уточняя систему.

Compas и подобные ей системы представляют «черный ящик» в правовой системе. Таковых быть не должно. Правовые системы зависят от непрерывности, прозрачности информации и способности к рассмотрению. Общество не хочет появления системы, которая поощряет гонку с созданием стартапов ИИ, которые делают быстрые, дешевые и эксклюзивные решения. Наспех сделанный ИИ будет ужасным.

Обновленная версия Compas с открытым исходным кодом была бы улучшением. Но сперва придется поднять стандарты системы правосудия, прежде чем мы начнем снимать ответственность в пользу алгоритмов.