Он склонил голову, и я снова отругала себя за то, что наделила его этим незаслуженным личным местоимением.Он не человек!
— Мы верим в превосходство. Вот почему мы выбрали самого лучшего поставщика роботов на рынке. Модели «Дзэнкёдза» дешевле, но для АБМ цена не имеет большого значения.
Крошечная искра надежды вспыхнула в моей груди. Компания «ВердеЛюмен» не была причастна к несчастному случаю с моей матерью. Может быть, я могла бы…
Но нет. ИИ есть ИИ, и я не могла ему доверять.
— Вы знаете, почему мы называем наших мехатронных агентов киборгами, мисс Эванс?
Я пожала плечами.
— Вероятно, чтобы они казались менее бездушными. Слово «киборг» подразумевает наличие сильного разумного элемента. В конце концов, изначально это слово означало представителя разумного вида, дополненного имплантами или другими кибернетическими особенностями. В своей основе они остаются личностями.
— Именно так, — он кивнул, и если мои слова его оскорбили, он этого не показал.
— Серьёзно? Это просто маркетинговая уловка, чтобы они больше походили на людей? — я моргнула.
— Это сделано для того, чтобы подчеркнуть: в своей основе наши киборги обладают мощным разумным элементом. Наши базы данных не имеют аналогов и включают миллионы часов видеозаписей от наших полевых агентов. В дополнение к этому, каждый готовый к службе киборг прошёл длительное обучение, стажируясь под руководством множества органических агентов. Их программирование обеспечивает повышенную гибкость, при которой приоритет отдаётся только одному — безопасности клиента. У них нет ограничителей, по крайней мере, в вашем понимании. Мы позволяем им максимально приблизиться к свободе воли, насколько это возможно для искусственного интеллекта, который ещё не пробудился. То есть — не обрёл разум.
Я обдумала это. «ВердеЛюмен» была единственным производителем роботов, на которого у меня не было компромата, и не из-за отсутствия попыток его найти. Они были скрупулёзны до крайности и никогда не выпускали модель, не прошедшую тщательных испытаний. На их совести, насколько я могла судить, не было смертей — что, конечно, могло означать лишь то, что они умеют заметать следы лучше, чем «Дзэнкёдза».
Я была достаточно честна с собой, чтобы признать: это маловероятно. Модели «ВердеЛюмен» создавались с таким вниманием к деталям, что были надёжными и безопасными.
Люди называли их творения «этичным ИИ». Я фыркнула. Любая технология ИИ была неэтичной. Все они должны быть уничтожены.
Лоботомированы и убиты . Я поморщилась. Досадно, что некоторые люди видели мои устремления именно так, в то время как всё, чего я хотела — это сделать мир безопаснее.