Премия Рунета-2020
Рязань
+11°
Boom metrics
Наука5 сентября 2023 10:13

Будущее искусственного интеллекта: Машины не восстанут, пока не решат невычислимые задачи

Рязанский ученый, доктор физико­математических наук Георгий Шерозия рассказал, что такое искусственный интеллект и насколько он опасен
Марина ФЕДЧУК
Георгий Шерозия.

Георгий Шерозия.

Наш корреспондент встретился с рязанским ученым, доктором физико-математических наук Георгием Шерозия, чтобы обсудить одну интересную тему - что такое искусственный интеллект и насколько он опасен.

Что оценит работу машин?

- Георгий, в прошлый раз мы с вами обсудили проблему внеземных цивилизаций. Вы себя тогда позиционировали как абсолютного оптимиста, верящего в безграничные перспективы развития и экспансии человечества. Они возможны только с изобретением новых технологий, в частности, искусственного интеллекта. Но не получится ли так, что синтезированный разум станет врагом людей?

- Любое изобретение людей опасно ровно настолько, насколько опасны люди, в руках которых находится это изобретение. Именно поэтому крайне желательно, чтобы человечество побыстрее расселилось по планетам и звездам. Тогда новейшие технологии, которые еще будут изобретены людьми и которые могут оказаться в руках какого-нибудь маньяка, не будут фатально опасны для всех людей.

Так что, пожалуй, нынешнее время, когда уже есть мощнейшие технологии, ядерное оружие, например, но люди еще не улетели с Земли, является самым опасным. Надо быстрее идти в космос, и тогда шансы на выживание человечества резко возрастут.

- По степени опасности вы по сути сравнили технологию искусственного интеллекта с ядерным оружием. Все настолько плохо?

- Ядерное оружие было применено только однажды (две бомбы) и дальше оно использовалось только в качестве страшилки, а технологии искусственного интеллекта нашли широчайшее применение. Пока все хорошо, но надо четко понимать, какие задачи решаются с помощью компьютера, а какие нет. Где от цифровизации польза, а где вред. Хотим ли мы, чтобы один человек, даже такой выдающийся, как Илон Маск, владел всемирной сетью спутников и мог сразу на весь мир распространять любую информацию?

- В восстание компьютеров, как это было показано в фильме «Терминатор», вы не верите?

- Не верю. На сегодня опасны не компьютеры, а люди, которые пишут для них программы.

- Почему вы так уверены, что роботы не перестанут однажды подчиняться людям?

- Для того чтобы это понять, надо вернуться на несколько десятилетий назад и вспомнить историю создания компьютеров и некоторые математические теоремы и даже некоторые нюансы работы человеческого мозга. Во время Второй мировой войны в Англии работала группа шифровальщиков, которая должна была научиться расшифровывать сообщения немцев. У немцев была создана уникальная шифровальная машина, и никто не мог понимать ее сообщения.

В этой группе шифровальщиков работал математик Тьюринг. Он начал использовать для дешифровки компьютеры и писать для них первые программы. И, кстати, этой группе удалось расшифровать немецкие шифры, так что перед Англией у них были серьезные заслуги. Так вот этот самый Тьюринг доказал так называемую теорему остановки. Математик Райс расширил область применения этой теоремы и смысл этой теоремы Тьюринга-Райса стал примерно таким: «Невозможно создать программу, которая сможет оценивать качество другой программы». Тьюринг, как и многие математики после него, задумывался над вопросом: «А можно ли выработать какие-либо критерии отличия естественного интеллекта и искусственного?» Он даже придумал специальный тест, в котором в качестве первого отличительного критерия предложил считать искусственный интеллект достигшим уровня естественного, если при беседе с ним, не видя собеседника, человек не сможет догадаться, что беседует с искусственным интеллектом.

Информация состоит из букв и вероятностей

- После Тьюринга несколько математиков продолжали разбираться с задачами, которые не могут решать компьютеры. И оказалось, что таких задач довольно много. Их назвали «невычислимые задачи». В нашей стране такими задачами занимался академик Колмогоров.

- Я правильно догадываюсь, что эта проблема как-то связана с теорией информации?

-Конечно, ведь и человеческий интеллект, и искусственный - это, грубо говоря, какие-то устройства, которые принимают, обрабатывают и создают информацию.

- А что вообще такое «информация»?

- Ага, хороший вопрос. Но знаете, все пока на него отделываются общими фразами, типа «Информация - это информация». Пока все пытаются хотя бы придумать, как ее измерить.

И пока есть два разных подхода. Один вариант придумал американский ученый Шеннон. Второй - наш математик Колмогоров. Наш лучше, но мировое признание получил вариант Шеннона. Методика американца оказалась проще для определения информации, содержащейся в тексте. По Шеннону информация, содержащаяся в тексте, определяется общим количеством букв в тексте, умноженном на определенное сочетание вероятностей встретить в тексте те или иные буквы. Всем математикам эта идея очень понравилась, и они уже 70 лет развлекаются с этими формулами. Колмогоров же предложил считать количеством информации в тексте число букв, содержащееся в сжатом варианте изложения текста.

- То есть краткость - сестра таланта?

- Да! Выбрасываешь из текста воду, и остаток - и есть информация этого текста.

- Очевидная идея. И почему она не понравилась математикам?

- Потому что вскоре оказалось, что сжатие текста, как говорят, до сухого остатка - это невычислимая задача. Об такие задачи «зубы обломаешь». А у Шеннона все просто - загнал тексты в компьютер, и он тебе быстро сообщит, сколько там информации.

- Чувствую в этой истории какой-то подвох.

- Подвох в том, что дальше выяснилось, что формулы Шеннона позволяют выяснить не объем информации в тексте, а сколько в принципе можно задать информации таким количеством и составом буковок. Можно такой параметр назвать информационной емкостью. Возьмем, например, флешку. У нее информационная емкость гигабит, а информации записано полгигабита. Вот примерно так соотносятся подходы Шеннона и Колмогорова к информации.

Оценить человека - невычислимая задача

- Возвращаемся к опасностям использования искусственного интеллекта?

- Да, постепенно подбираемся к этой теме. Вы уже запомнили, что есть так называемые невычислимые задачи, которые не способны решать компьютеры (программы, алгоритмы). И, по Колмогорову, чтобы узнать, какой объем информации содержится в некотором тексте, надо тоже решить невычислимую задачу, чтобы этот текст сжать. Спрашивается: почему человек может сжать текст, а компьютер не может? Дело в том, что кратко изложить содержание текста можно только в том случае, если его ПОНИМАЕШЬ. Вот это здесь главное слово. Человек понимает, а компьютер нет. У человека есть интуиция, а у робота нет.

Далее выяснилось, что при компьютерной обработке информации новая информация не возникает. То есть компьютер - это такой дурак, в которого что заложишь, то и получишь.

Новая информация возникает либо в эксперименте, либо при решении невычислимых задач.

- Начинаю понимать, почему компьютер (робот) не опасен, а опасен человек, управляющий этим роботом.

- А теперь еще раз вспомним теорему Тьюринга-Райса - невозможно создать программу, которая оценит качество другой программы. Применение методов цифровизации без учета этой теоремы резко снижает эффективность работы. Возьмите, например, спам-программы. Наверное вам приходилось терять нужные письма и потом находить их в спаме? А все потому, что это классический пример применения программ вне рамок их возможностей. Разве может какая-то программа сказать, что мне интересно, а что нет? В интересном мне письме может оказаться слово, которое в программе вызывает блокировку. И нужное мне письмо окажется в спаме. Чтобы отличить нужное мне письмо от ненужного, надо понимать текст письма. А это невычислимая задача.

- Еще примеры есть?

- Пожалуйста. Некоторые банки увлеклись цифровизацией и для оценки заявок на кредиты поставили роботов. То есть здесь робот (программа) оценивает уже не программу, а человека. Очевидно, что оценить человека - это уже совсем невычислимая задача. Ясно, что ничего хорошего из такой попытки не получится. Дело в том, что оригинальный бизнес-проект и опытный человек-то с трудом сможет оценить, а роботу это очевидно не по силам. В итоге при таком подходе пройдут какие-то стандартные проекты, а все новое и свежее будет отброшено.

- А как вы относитесь к идее запустить на дороги грузовики, управляемые компьютером?

- Если бы можно было создать сеть дорог, по которой бы ездили только машины, управляемые одним суперкомпьютером, то да, здесь противоречий с теоремой Тьюринга-Райса не вижу. А если по дороге будут ездить и роботы, и люди, то это опять проблема оценки роботами действий людей. Представьте, что на дороге встретились грузовик с роботом и мерседес с блондинкой за рулем. Блондинка в третьем левом ряду включила «дворник» и стала поворачивать направо. И что при этом будет делать робот?

«Есть грех, пытаюсь сделать из роботов людей»

- Судя по нашей беседе вы достаточно глубоко занимались темой искусственного интеллекта, теории информации и истории этих проблем. Откуда у вас такой интерес? Ведь вы физик-экспериментатор.

- Мы с одним из моих сыновей лет 20 назад затеяли написать книгу о том, можно ли робота научить мыслить не хуже человека. Для этого пришлось изучить огромный объем литературы. И так как мозг - это инструмент, работающий с информацией, пришлось начать изучать, что же такое информация. В итоге обнаружили, что классик Шеннон в своей основной статье при вычислении информации в непрерывном сигнале допустил грубейшую ошибку. Мы решили эту задачу правильно и опубликовали статью. Жаль Колмогоров уже умер - он был бы доволен.

- Вот так! Вы нам объясняли, что роботы дураки и не опасны пока не попали в плохие руки. И вдруг оказывается сами работаете над темой, как научить роботов стать не хуже людей, то есть научить их решать невычислимые задачи.

- Да, есть такой грех. Но тема сложная. Если захотите, поговорим об этом в другой раз. А заодно и тест Тьюринга в современной интерпретации сможем обсудить.

Книга, написанная Георгием Шерозия в соавторстве с сыном.

Книга, написанная Георгием Шерозия в соавторстве с сыном.

Интересное