Роман Душкин: Надо регулировать не искусственный интеллект, а его применение

«Российская газета» взяла интервью у старшего преподавателя Института интеллектуальных кибернетических систем НИЯУ МИФИ Романа Душкина, в котором обсуждаются успехи России в разработке ИИ, обоснованность страхов, сопровождающих развитие искусственного интеллекта, и должно ли государство его регулировать. Ниже мы публикуем полный текст интервью с нашим преподавателем.

Роман Душкин

В области фундаментальных исследований мы вполне на уровне 

Насколько развитие искусственного интеллекта в нашей стране соответствует глобальным трендам - и на уровне фундаментальных исследований, и в практическом применении? Нет ли здесь отставания?

Роман Душкин: Начну с последнего вопроса. Отставание, несомненно, имеется. Отставание скорее количественное, чем качественное. Искусственный интеллект - это все-таки наука. А до прикладного, инновационного внедрения разработок у нас руки доходят в последний момент. Это такая наша национальная черта: когда хочется что-то придумать, мозг работает фантастически, а потом, когда придуманное надо внедрять, нам это уже не слишком интересно. Хотя не могу сказать, что на практике совсем уж ничего нет. Есть, конечно, У нас везде применяются технологии искусственного интеллекта. Их уровень не выдающийся, но для наших целей и задач достаточный. Тут надо заметить, что искусственный интеллект подвержен такой проблеме, как ИИ-национализация. В последнее время не принято делиться достижениями, всё замыкается в рамках национальных границ. Ученые испытывают дефицит информации о новейших разработках. Поэтому сложно говорить о нашем соответствии тем или иным трендам. Но в области именно фундаментальных исследований мы вполне на уровне.

Технологии искусственного интеллекта, в отличие от ядерных, массово доступны

Как вы относитесь к утверждению Илона Маска, что искусственный интеллект может разрушить человеческую цивилизацию?

Роман Душкин: Ну, Илон Маск здесь не оригинален. Очень много и ученых, и философов, и писателей пытаются предупредить человечество, что заигрывание с подобного рода технологиями может не довести до добра. Но тут, знаете, что я скажу. Искусственный интеллект - он такая же наука, как и все остальные. И все прикладные решения, все инструменты, которые эта наука порождает, мы, люди, можем использовать в своей практической деятельности. Поэтому говорить, что искусственный интеллект поработит человечество, разрушит мировую цивилизацию - примерно то же самое, что подозревать в "преступных намерениях" атомные, ядерные технологии. Такой риск есть? Ну, конечно, есть. Технологии искусственного интеллекта, они такие же серьезные и по-своему опасные, как и ядерные технологии. Но не технологии сами по себе несут экзистенциальную угрозу человечеству, о чем говорит Илон Маск, а их применение. Потому что технологии искусственного интеллекта, в отличие от ядерных технологий, массово доступны. Если, образно говоря, в гараже нельзя построить атомный реактор и производить там ядерную энергию, то системы искусственного интеллекта любой научившийся человек в общем-то может запустить на своем простеньком ноутбуке. И этим они опасны в отличие от ядерных технологий, которые можно хорошо зарегулировать, и государство будет контролировать их применение. Но когда Илон Маск говорит, что искусственный интеллект может разрушить человеческую цивилизацию, здесь термин "искусственный интеллект" употребляется в антропоморфном смысле - будто это некое существо, обладающее искусственным разумом. И вот оно, дескать, может злоумышлять против человечества и в итоге его разрушить. Сразу вспоминается "Скайнет (Терминатор)", объявление ядерной войны и прочее. Гадать, что будет дальше, когда подобные искусственные интеллектуальные создания с автономной волей и автономным целеполаганием появятся, - неблагодарное дело. Сегодня и на горизонте подобного не видно. Другое дело, что существуют технологии, которые в принципе несут имманентную экзистенциальную угрозу человечеству.

Нужен массовый цифровой ликбез

По данным ВЦИОМ, уровень доверия россиян к искусственному интеллекту вырос на 55 процентов. Это хороший показатель, и он мог бы быть выше, если бы граждане не испытывали предубежденность в отношении искусственного интеллекта. В чем истоки этой предубежденности?

Роман Душкин: Они в том, что многие не понимают термина "искусственный интеллект". Думают, что это некое злоумышляющее существо, которое завелось в компьютерном оборудовании или в компьютерных сетях, Такого, конечно же, нет. Нужен массовый цифровой ликбез, чтобы наши граждане понимали, что искусственный интеллект - это наука. Что прикладные технологии искусственного интеллекта - это инструменты. И что никто против людей не злоумышляет. Нет никакого такого зловредного существа. Антропоморфизировать ИИ - пустое занятие. Люди, не понимающие, что такое искусственный интеллект, начинают фантазировать. Вот, дескать, имеются искусственные нейронные сети. У них есть нейроны, они связаны как-то друг с другом, и т.д. Всё это идет от непонимания. Когда рисуют нейронные сети, в которых нейроны связаны друг с другом, - это всего лишь визуализация модели. Математическая модель выглядит совершенно иначе. Там нет никаких нейронов, связанных друг с другом. Ну, нет их там! Внутри компьютера нет этих вот кругляшков, которые соединены друг с другом ниточками, по которым идут какие-то сигналы. Все современные технологии искусственного интеллекта основаны на искусственных нейронных сетях, это с математической точки зрения одна простая операция линейной алгебры. И не надо ничего выдумывать. Другое дело, что в рамках искусственного интеллекта существует огромное количество других технологий. И искусственные нейронные сети - это не единственная технология, не единственный подход. Есть генетические алгоритмы. Есть многоагентные системы. И чего только нет. Поэтому именно массовый ликбез позволит повысить уровень доверия наших граждан к этим технологиям. Никто ведь сейчас не боится электричества. Оно повсюду, хотя это тоже опасная технология. Точно так же искусственный интеллект вскоре будет повсюду.

ИИ ставит диагноз

Как показал опрос, большинство россиян поддерживают не полную замену живых работников искусственным интеллектом, а использование новых технологий для помощи людям. Например, отвечая на вопрос о допустимости использования ИИ в медицине, 74 процента сочли, что использование допустимо при условии, что решение принимает врач. В случае со сферой образования ситуация несколько иная - только 62 процента опрошенных допускают использование ИИ для помощи учителю. Вы разделяете такой подход к использованию искусственного интеллекта?

Роман Душкин: Ну, конечно. Именно такой подход приемлем, другого быть не может. У меня был хороший опыт реализации Системы поддержки принятия врачебных решений (СППВР). Хотя медицина не единственная область, где внедряются системы поддержки принятия решений. Например, их активно внедряют наши силовые ведомства. В МЧС я лично внедрял несколько подобных систем. Они позволяют быстро принимать решения, когда времени на осмысление ситуации нет. Что касается медицины, у меня был случай, когда обследовался очень сложный ребенок неврологический. Ему поставили диагноз и начали лечить. Лечат, а ему все хуже и хуже. Моя система поставила другой диагноз. И оказалось, что лечить надо по-другому. Врачи не учли некоторые очень специфические факторы, а система их заметила и учла. Нельзя сказать, что здесь имела место врачебная ошибка. Врачи по протоколу всё делали правильно. Но потом, когда система дала свое заключение (это было второе мнение, альтернативное), собрали консилиум, на котором врачи, профессора-неврологи рассмотрели заключение системы и сказали: да, это правильно. И поменяли программу лечения. И ребенку стало лучше. Сегодня он даже в школу ходит.

Сегодня надо учиться вдвое быстрее

Почти половина опрошенных опасается, что развитие искусственного интеллекта оставит людей без работы. Насколько обоснованны эти опасения?

Роман Душкин: Здесь термин "искусственный интеллект" снова употребляется в антропоморфном смысле: молоток оставит людей без работы. Да, в век неолита молоток оставлял людей без работы. Потом копье оставляло людей без работы. Потом ирригационные каналы оставляли людей без работы. Более того, трактор, когда была волна механизации в конце XIX - начале XX века, оставлял людей без работы. У меня такая метафора: сидят два крестьянина, таких уже матерых, на завалинке после сурового трудового дня. И один говорит: "Вот, трактор появился. Пойду учиться на тракториста-механика". А другой: "Нет, трактор - это бесовское изобретение. Я буду со своей лошадкой землю бороной копать, как мои прадеды мне завещали". Сегодня у каждого человека есть прекрасная возможность учиться. Учиться использовать новые инструменты для повышения своей собственной эффективности. Я люблю в этом контексте приводить слова Красной королевы из Льюиса Кэрролла: "Сегодня нужно бежать изо всех сил, чтобы хотя бы оставаться на месте. А для того, чтобы куда-то попасть, нужно бежать как минимум вдвое быстрее". Это именно об этом. Сегодня надо вдвое быстрее учиться, вдвое быстрее постигать все новое.

Искусственные нейронные сети впитывают в себя все общественные предрассудки

Высказываются опасения, что искусственный интеллект может воспроизводить общественные предрассудки, усиливая дискриминацию, усугубляя предубеждения. Вы разделяете эти опасения? Не считаете ли их необоснованными или, по крайней мере, преждевременными?

Роман Душкин: Да, система машинного обучения, искусственные нейронные сети, они впитывают в себя все общественные предрассудки, дискриминацию, предубеждения. Система машинного обучения, искусственные нейронные сети - это гигантские механизмы массовой переработки статистической информации. Там все основано на статистическом анализе больших данных. И если в этих статистических данных заложена предубежденность, то система машинного обучения ей обучится и будет применять.

Наши дети живут в новой реальности

Чтобы общество понимало, что такое искусственный интеллект, нужна специальная программа просвещения. Из чего, по вашему мнению, она должна состоять?

Роман Душкин: Да, я ярый сторонник того, что должен быть новый цифровой ликбез. С младых лет, я бы даже сказал, с детского сада надо учить детей тому, что такое искусственный интеллект и как им пользоваться. Каждый гражданин должен понимать, что такое новые высокие технологии. В первую очередь цифровые, но и другие тоже. Биотехнологии, когнитивные технологии. Вы знаете, есть такая НБИК-конвергенция (NBIC-конвергенция), которая грядет. Это нанотехнологии, биотехнологии, информационные технологии и когнитивные технологии. Всё это будет конвергировать друг в друга. И нужно знать основы всего этого. И учиться этому с детского сада. Почему с детского сада? Да просто потому, что наши дети уже окружены этими системами повсеместно. "Алиса", пылесосы, которые ползают сами… В скором времени машины беспилотные будут ездить, дроны летать… Таких систем огромное количество. И дети их не воспринимают как нечто странное, в отличие от людей старшего возраста. Я, возможно, принадлежу к тому последнему поколению, которое помнит времена, когда еще не было интернета. Наши дети не знают, каково это жить, когда нет интернета. Когда любое устройство подключено к сети. Ты берешь смартфон, и у тебя любой фильм, на "Ютубе", на "Рутубе", где угодно. Они не знают, как может быть по-другому. Они живут в новой реальности. Они живут в будущем. И, естественно, мы должны их готовить к этому будущему.

Почему в мире уделяют все больше внимания регулированию искусственного интеллекта? Нужно ли так тщательно его регулировать?

Роман Душкин: Да не искусственный интеллект надо регулировать, а применение искусственного интеллекта. У нас в стране этим занимается Технический комитет по стандартизации №164 при Росстандарте. Необходимо именно нормативно-техническое регулирование применения и обеспечение доверия к системам искусственного интеллекта. Да, у нас еще есть мягкое регулирование в виде кодекса этики разработчиков искусственного интеллекта. Это не кодекс этики как таковой. Там этики совсем немного. Это именно правила поведения разработчиков для того, чтобы не городить нормативные запреты. Потому что нормативные запреты в этой области сегодня крайне вредны. Если мы начнем, как Европейский союз, выстраивать рамки и ограничения для всех разработчиков, то окажемся в том же месте, где и Европейский союз. Мы, как высокоразвитое технологическое общество, не хотели бы этого. И поэтому нам нужно заниматься лишь мягким регулированием.

Технологическое развитие не нарушает права человека. Это делают люди

Как найти верный баланс между технологическим развитием и защитой прав человека? Какую роль здесь может сыграть государство? Нужны ли специальные органы, которые будут следить, чтобы этот баланс соблюдался?

Роман Душкин: Государство занимается защитой прав человека. Оно на то и создано, чтобы защищать права и свободы человека. Ограничивая их в том числе. Потому что не бывает прав без ограничений. Технологическое развитие - это один из аспектов государства. У нас в России есть стратегия научно-технического развития, единая научно-техническая политика. Не существует такого дуализма, что есть государство с его защитой прав и свобод, а где-то особняком стоит технологическое развитие. Нет, технологическое развитие - оно внутри государства, внутри общества. Поэтому и государство, и общество должны использовать технологическое развитие, научно-технический прогресс для того, чтобы улучшать себя и свои инструменты по защите прав человека. Само по себе технологическое развитие не нарушает права человека. Это делают люди.

Возможно ли создание специальных алгоритмов, которые удержат ИИ от причинения вреда человеку?

Роман Душкин: Тут термин "ИИ" опять употребляется в антропоморфном смысле. Не удержат они от причинения вреда человеку никакими алгоритмами. Если мы говорим про законы робототехники Айзека Азимова, на которые очень любят ссылаться в этом контексте, то Азимов показывал, что, какие бы этические ограничения люди ни ставили, найдутся ситуации, в которых оголтелое, бездумное применение этих ограничений, так называемых законов, приведет к самым плачевным последствиям. Я думаю, что скорее не отдельное существо, а мы, люди, будем сливаться со своим порождением. Будем конвергировать биологическое и кибернетическое в единое такое киберфизическое, кибербиологическое тело постчеловека, в новый разум. Скорее всего, в этом направлении пойдет мир и человеческая цивилизация. И здесь ученым, философам нужно думать, как обеспечить безболезненный транзит из состояния человечества в состояние постчеловечества. Чтобы не возникло новой расы - расы всемогущих суперменов, когда все человечество, по сравнению с одним постчеловеком, будет как маленький мельтешащий муравейник бессмысленных людишек. Когда одно постчеловеческое существо будет обладать разумом, превышающим разум всего человечества. Вот это существо, скорее всего, и может захватить мир. Правда, я не знаю, зачем ему это будет нужно.

Способен ли ИИ по-своему испытывать и выражать чувства, которые испытывает и выражает человек? Любовь, страх, сострадание, обиду, злобу, радость.

Роман Душкин: Все эти чувства, эмоции, естественно, тоже алгоритмизируются. Потому что, положа руку на сердце, все, что у нас и в голове находится, и внутри нашего организма, - это все алгоритмы, выполняемые биологическими вычислительными системами. Если мы поднимемся на достаточно высокий уровень абстракции, мы найдем вычисления, которые производятся внутри нашего организма. И все наши чувства - любовь, страх, сострадание - это алгоритмы. Ну, конечно, это моя технократическая позиция. Кто-то с ней, может быть, не согласен, но я вижу это так.

Чему людям стоит поучиться у искусственного интеллекта?

Роман Душкин: Это очень простой вопрос. Отвечу. Каждый человек должен научиться учиться. Это самый главный и самый необходимый навык сегодняшний.