26 Jul

роботы и Азимов

Рассказы про роботов Азимова хорошо читаются и сейчас. Они наивны, особенно в плане трех законов робототехники, которые сегодня конструкторы нарушают (см. боевые дроны), но своей соли не потеряли. Меня особенно позабавил рассказ “Логика”. Новая модель робота, способная к самоосознанию и рефлексии, сочла, что такие слабые мясные существа, как люди, попросту не могли его создать, а значит люди – предыдущая неудачная модель, созданная неким отсутствующим и более совершенным Господином. Пока запертые с ним на космической станции инженеры пускают пену и пытаются его переубедить, робот привлекает на свою сторону менее умные модели и фактически захватывает станцию.

После длинных споров инженеры демонстрируют ему, как собирают такого же робота из запчастей, присланных с Земли, чтобы доказать свое превосходство. “Вы собрали части. Но создали их не вы. Они созданы Господином”, – говорит он. Инженеры буйствуют и ссылаются на книги, но робот лишь с жалостью смотрит на них, говоря, что книги и сказки о важности людей созданы для них как для ограниченных существ Господином, чтобы иллюзии помогали им выполнять план. В принципе, он прав.

Еще мне понравилась одна уловка. Роботы 1) не могут нанести вред человеку или 2) своим бездействием позволить, чтобы человеку был нанесен вред. В одном из рассказов вторую часть закона отключают, чтобы роботы не оттаскивали людей от источников слабого излучения в шахтах. И тогда рассматривается такой вариант поведения: робот отпускает груз, зная, что может его поймать в полете, а значит человеку не будет нанесен вред, 2) но в тот момент, когда груз отпущен, он может его не ловить, т.к. вторая часть закона не работает. Так робот потенциально может убивать людей. Три закона робототехники атаковали с самых разных сторон, но все равно весело. #книги

Leave a Reply