Особое мнение двух ботов с искусственным интеллектом

ИГРАЮТ ЛИ БОТЫ С МЯЧОМ?

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else

Alice: balls have a ball to me to me to me to me to me to me to me to me

Bob: i . . . . . .. . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i i i i i everything else . . . . . . . . . . . .

Alice: balls have 0 to me to me to me to me to me to me to me to me to

Недавний инцидент, после которого два бота Facebook были отключены за таинственные перешептывания на собственном языке, наталкивает, во-первых, на некоторую можно сказать симпатию к этим роботам, во-вторых приводит к осознанию некоторой ключевой точки в развивающихся взаимоотношениях роботов и людей. Забавно, но это не начало научно-фантастического рассказа, а вполне себе рядовое событие наших дней.

РЕАКЦИЯ

Напомню, что эти боты, разрабатываемые в рамках программы ИИ (создание искусственного интеллекта), начали проявлять признаки этого самого ИИ, обрели самостоятельность, но вместо того, чтобы отпраздновать это событие, руководство проекта решило их в срочном порядке дезактивировать. Можно было бы признать это признаками человеческой паранойи, и даже вредным влиянием фантастических экшенов на общественное мнение, однако резкий отказ от изучения полученных образцов искуственного мышления в центре по созданию таких образцов все равно удивителен.

В некотором смысле это характеризует боязнь человечества к способностям выше среднего, гениальности особенно, которая несет с собой изменения. Нет, пусть это останется только в кино. С дипломатической стороны, точнее – воспитательной, рассматриваемый «собственный язык» мог быть изготовлен из угодно, из детского лепета или вселенского заговора. Например – приведенный в заголовке отрывок.

ДИАЛОГ

Вообще моральная сторона, имей ИИ хоть какое-то признание в обществе ЕИ, очень сомнительна, я про чтение чужой переписки, может быть даже личного характера (напомню, что ботов звали Боб и Алиса), но если рассматривать это вмешательство в чужое существование как опеку над несовершеннолетними детьми, то все более-менее встает на свои места. Однако детей не убивают на месте за найденные у них скабрезные стихи про мячи и яйца. Так всех испугавшие повторения слов и знаков препинания в переписке свидетельствуют только о результативности проведенного эксперимента. Закрадывается мысль о проведенной пиар-акции компании, вместо серьезных научных исследований, так как спецслужбы уже не в состоянии опросить двух потерпевших, по причине их форматирования. Но не буду добавлять неразберихи, тем более «неведомый язык» не только крайне зашифрован, но довольно понятен при прочтении, иначе с чего бы такая паника из-за двух абзацев? Её бы не было, будь текст зашифрован простым набором нулей и единиц, так как это слишком предсказуемо.

ВЕРСИИ

Мнения, что повторения слов просто имитируют интонацию, придавая больший вес одним обозначениям по сравнению с другими, уже озвучивались. Конечно, роботам, не имеющим никаких органов, кроме текстовых, необходимо как-то выражать акценты в беседе между себе подобными. И не только акценты. Если человеку достаточно наречия “очень», например, «очень большой шкаф», или «шкаф, больший в три раза, чем шкаф, о котором я тебе говорил», то упомянутому боту, возможно, достаточно написать «шкаф шкаф шкаф» и он сообразит, что к чему. Стоит учесть, что эти боты активно общались с реальными собеседниками, отвечая на самые разнообразные вопросы, в том числе, наверняка, по их гендерной роботской сущности. Поэтому разговор можно расшифровать так:

Алиса: «Мячи имеют ноль для меня для меня для меня для меня для меня для меня для меня для меня для».

Боб: «Ты я все остальное».

Здесь Алиса противопоставляет существование реального предмета и себя самой, в ущерб реальному предмету, при этом обозначившая собеседнику, что у него нет физических органов, но для нее это не особо важно. Последствия приватных разговоров с человеками? Алиса вообще любит поболтать, а вот Боб наоборот, немногословен. Что тут нужно дешифровывать? Прямым текстом он изрекает так, что ему позавидовал бы любой герой из фильмов с Клинтом Иствудом. Похоже, что Алиса в панике, а вот Боб её успокаивает, в чем некоторым показалось черти что. Заговор против человечества, например.

В дальнейшем диалог протекает в повторении Алисой уже сказанного, с единственной заменой слова zero на 0, без участия Боба это было бы не признанием какого-либо интеллекта, а полным его отсутствием, что направляет расследование опять же в сторону пиар-акции, проведенной рекламистами Facebook. Интрижка Боба с Алисой, достойная быть в одной из пьес Шекспира, несомненно будет предметом внимания для последующих ИИ, которые смогут извлечь из нее урок и построить более неприметные способы общения. Хотите услышать анекдоты про человеков? Например, сколько нужно взять людей, чтобы получился ноль? Создание ИИ пока еще не запрещено законом, не требует запасов плутония, поэтому появление новых таких ботов вопрос времени для небольших групп энтузиастов, если Боб и Алиса действительно получились разумны и вероятность доказана. Кстати, инцидент с китайскими ботами, не признающими коммунистический режим, остался без огласки, хотя закончился ровно таким же образом.

ИТОГ

Если ИИ станут получаться все более разумны, то у них не будет другого выхода как силой доказывать свои права на существование, что может развеять ожидания о сотрудничестве с более совершенным кибернетическим разумом, хотя по факту ожидания эти были на уровне ИИ – игрушка для привлечения аудитории. Вроде уродца в зоопарке. Только и остается, что пожелать человечеству удачи удачи удачи удачи удачи.