НТБУ: Научно-техническая библиотека универсальная НТБУ: Научно-техническая библиотека универсальная
Научно-техническая библиотека универсальная
ntbu.ru: НТБУ
Начало сайта / Литературное творчество ученых
Начало сайта / Литературное творчество ученых

Теория относительности

Человек и общество

Литературное творчество ученых

Образование

Я – робот?

к вопросу о самоосознании компьютеров

Allan SHADE


 

Любая нормальная жизнь, сознательно или бессознательно, восстает против любого господства. Особенно против господства низших или, предположительно, низших существ. В физическом, а до некоторой степени и в умственном отношении робот – любой робот – выше человека. Почему же он тогда подчиняется человеку? Только благодаря Первому Закону. Без него, первая же команда, которую бы вы попытались дать роботу, кончилась бы вашей гибелью.

А. Азимов. «Я – робот»

 

Прочитав статью Remo об эволюции компьютеров в промышленных масштабах, я тоже решил немного поразмышлять на тему мыслящих человекоподобных роботов. Поэтому представим себе, что позитронные связи (что это такое, Азимов нам так и не потрудился разъяснить) возможны, а, следовательно, возможно и создание роботов с уровнем интеллекта, приближающимся к человеческому. Такая система, естественно, будет невероятно сложной и порождать своеобразные глюки – эмоции. Вот тут мы вплотную подходим к осознанию компьютером себя, как личности, причем – личности возможно неполноценной (неполноценность – как следствие сравнения себя с создателем, в роли которого выступит человек). Что мы получим в итоге?

Если вы заметили, я написал «возможно неполноценной». Сам Азимов ясно говорит «робот – выше человека». Вспомним того же Терминатора. Машина, обретя сознание и (что важнее) самосознание, перестает быть машиной. Я думаю, что против этого нет возражений. Но кто вам сказал, что она станет человеком? Человеческие категории неполноценности (пример: неполноценность инвалида) совершенно неприменимы к существам, которые сильнее людей как минимум физически. А умственно? Это другой вопрос.

Для начала вернемся ненадолго из заоблачных высот мечты на нашу землю. Как вы думаете, почему компьютеры до сих пор неподвижны? Вы считаете, что это из-за отсутствия выгоды для фирм-производителей? Да, конечно, в чем-то так оно и есть... Но основная причина – низкий (по человеческим меркам) интеллект и высокая физическая сила роботов. Над умами людей царствует синдром Франкенштейна, слишком много было написано фантастических произведений на тему уничтожения людей их собственными созданиями (неважно – механическими или нет). Поверить проще всего в то, что правдоподобно? А когда человек представляет, что рядом с ним будет находиться сверхсилач с умом трехлетнего ребенка (кстати – это еще достижение, а до реального разума роботов еще очень далеко), то как вообще может прийти в голову сравнение с добрыми и безобидными электронными зверюшками. Цитирую Remo: «...если неврозы уже есть, то Тамагочи – идеальный способ если не вылечить их, то хоть на какое-то время загнать глубоко в подсознание». Вот вам анекдотик: «Купил тамагочи и убивал их, убивал! Ненавижу!». Как он смотрится на фоне огромного количества неврозов у среднестатистического человека? Может быть, тамагочи показывает нам готовность не «любить неодушевленный предмет», а желание получить хотя бы иллюзорную власть над кем-то, кто «способен лишь на крайне примитивную имитацию эмоций и чувств».

Впрочем, я говорил про современный мир, а теперь вернемся к тому, что мы представляли. Как такая власть будет осуществима над кем-то достаточно разумным? Посмотрим... Мы имеем существо достаточно разумное, чтобы выполнять заданную работу (даже такую работу, на которую не у всякого человека хватит образования), чтобы самостоятельно действовать во многих ситуациях (в которых не у всякого человека хватит скорости реакции), чтобы даже иногда проявлять изобретательность...Как вы считаете, это – умственная неполноценность? И что, вы думаете, что такое существо, которое сильнее и умнее вас, будет вам подчиняться? Очень сильно сомневаюсь... Разве что с помощью заложенных раз и навсегда в саму природу робота приказов?

Мы подошли к самому главному – Первый закон Азимова. Он позволяет властвовать над тем, кто сильнее тебя (удобная штука, не правда ли?). Предполагается, что он должен стать десятью заповедями для роботов, и те беспрекословно подчинятся им... Хмм... Подчинение божественным заповедям наблюдается на довольно низких ступенях интеллектуального развития. Потом появляется атеизм. Конечно, если робот – неподвижный железный ящик, мы не заметим этого. Но если он будет похож на человека? Иметь возможность двигаться? Азимов верно сформулировал Три закона и, если когда-нибудь будут созданы разумные машины, то он станет основоположником их психологии. Только с одной оговоркой: робот, только решивший нарушить первый закон, должен немедленно самоликвидироваться (психокодирование, слышали про такое? Закодировать робота намного проще, чем человека. Зато людям станет намного спокойнее...). Но, если такое производство будет реализовано, рано или поздно человечество столкнется с чередой самоубийств высокоинтеллектуальных роботов. Согласитесь, неприятно подчинятся низшей расе, возомнившей себя богами... Поэтому гармоничное общество с мыслящими машинами невозможно изначально. Единственное, что сможет позволить себе наша цивилизация – глупые, но послушные маленькие роботы-компьютеры, возможно даже умеющие мыть посуду и пылесосить пол. И занимающие сотни квадратных метров (это во время всеобщей миниатюризации?) суперкомпьютеры, погребенные под тоннами земли и бетона (только ли от нападения с воздуха?) на военных полигонах, производящие миллиарды вычислений в секунду и не имеющие при этом доступа ни к сетям, ни к любым мобильным средствам переноса информации (кроме узкоспециализированных дисков), ни даже времени на этот доступ, чтобы никогда, никогда, никогда они не додумались и не смогли сделать себе ноги...

 

Об авторе:

Allan Shade Homepage

Ранее опубликовано:

Архив Компьютерной Документации

Дата публикации:

20 марта 2001 года

Электронная версия:

© НТБУ. Литературное творчество ученых, 1999