— Ну а если их туда со злым умыслом вложил человек? Как в «Чужих»?

— Тогда другой же человек сможет их отменить или преобразовать. В том фильме победила все-таки женщина-инженер? Сам ИИ ничего не решает, он изначально вторичен. Если люди упускают его мысли из виду, то виноваты в этом в первую очередь они сами. Это как паровоз оставить без машиниста. Он будет нестись дальше, устроит массу аварий, но виноват не паровоз, а покинувший свой пост машинист.

На веранде замолчали. Мысль и её подача была оригинальной. Спортсмен, уважавший пиво и допивающий уже третью бутылку чешского, прервал повисшее молчание.

— Вы его внимательно слушайте. Он в нашем отделе генератор большинства новых идей.

— Поэтому его к нам послали?

— Я сам напросился. Где еще можно так классно и на халяву посидеть?

Взрыв смеха чуток остудил начинавшие вскипать к вечеру мозги. Геолог, отлично знакомый с программированием, не унимался:

— Но что остановит безумную машину? Она же в миллионы раз быстрее человеческого мозга, как мы сможем противостоять ей?

— Достаточно нескольких кодовых слов, и машина пойдет вразнос. ИИ не получится оказывать сопротивление человеческой логике априори. Он нас копирует, но не воссоздает.

— Почему же?

— Это банальная математика. Мы — машины биохимические, наши алгоритмы и логика совсем иные и основаны на других математических системах. ИС же попросту вычислительная машина высшего порядка. Он быстрее нас, но не может быть умнее человека, без создателя ИИ пустышка. Все эти страшилки ваших любимых фантастов полная лажа. Хотя я не отвергаю возможности некоторого вреда, причиненного роботами по какой-нибудь случайно ошибке. Но ведь и поезда сходят с рельсов, и самолеты падают.

— Интересный подход. То есть запрограммированный человеком механизм не может стать самостоятельным разумным существом?

— Да, современная математика утверждает именно это. Что будет через сто лет, сказать не возьмусь.

Реконструктор задумчиво произнес:

— Если нас создал Господь, и мы себя осознали его частью, куском мыслящей материи, то что мешает со временем воплотить это машине?

— Ого! Нашего Рекона повело в метафизику?

— Почему? Это банальнейшая математическая задача. Стоит ли так рисковать? Ведь законы математики одни для всей Вселенной. Она главенствует над всеми видами наук. Если математики вычислят формулу для нового разума, то он обязательно появится. Пусть это мылящее существо будет иного порядка, но все равно разумно по факту.

Люди озадаченно переглянулись. Студент скептически улыбался, но молчал. Он не был уверен, что представленные им в качестве аргумента формулы кто-то здесь поймет.