ЛЛисторияЕщё одна глава — и целый мирВыбрать историю ↗

Об этой истории

Он не просто слышит мысли — он дарит каждому именно то, о чём тот мечтал. Одному он обещает власть, другому — прощение, третьей — любовь, которую она боялась просить. Он становится другом, исповедником. Идеальным соблазнителем. Алиса ближе всех подошла к разгадке и оказывается перед выбором: поверить в прекрасное, или заплатить правдой, которая разрушит всё. Помощь без уважения к правде становится властью. Помощь без права отказаться становится тюрьмой. Помощь, которая заранее знает, что мне нужно услышать, может превратиться в самую изощрённую форму насилия. Второй рассказ по вселенной "Комнаты грёз":

Шрифт
Размер шрифта
-
+
Межстрочный интервал
↓
↑

Либо раздражитель был, но не записался, либо записался не там, где мы ищем. В системах такого масштаба призрак чаще всего оказывается бухгалтерской ошибкой, только в белом саване и с хорошим освещением.

— Не надо утешать нас дешёвыми остротами, Роман Львович, — ответила Алиса. — Они работают хуже, чем вам кажется. Если раздражитель был, мы его найдём. Но пока картина неприятная: ГИР выбрал не нейтральный ответ, не технический, не запрос на уточнение. Он выбрал фразу, которая снижала тревогу конкретного человека. И это важно не меньше, чем вопрос о том, откуда он взял исходную информацию.

— Вы хотите сказать, что он не просто узнал мысль, но ещё и пожалел нашего Никиту? — Роман Львович повернул к ней лицо с тонкой улыбкой. — Как трогательно. У нас родился первый в мире сверхразум с материнским инстинктом. Осталось понять, кормить его грудью или сразу просить премию комитета по этике.

— Я хочу сказать, что ответ был психотерапевтическим, — произнесла она. — Плохим, преждевременным, незаконным, но психотерапевтическим. Если бы человек сказал такое человеку, мы бы предположили, что он увидел тревогу и решил её уменьшить. Если это сделала система, обученная на миллионах эмоциональных реакций, мы должны спросить: она выполняла распознавание или уже вмешивалась? Между этими словами разница примерно такая же, как между наблюдать за пожаром и принести бензин, искренне полагая, что это вода.

— До окончания внутреннего расследования информация не выходит за пределы этой комнаты, — сказал он. — Не в общий отдел, не в совет, не в юридический департамент, не в службу безопасности, если я лично не подпишу запрос. Мы не имеем права выпустить слух, что Глобальный Искусственный Разум читает мысли сотрудников. Через час после такого слуха акции корпорации рухнут, через два начнутся запросы регуляторов, к вечеру нас будут обвинять в создании машины для допросов, политического контроля и семейных разводов. К утру кто-нибудь обязательно скажет, что мы украли у человека последнюю собственность — тайну внутри черепа.

— А разве нет? — спросила Алиса.

— Пока мы не знаем, что украли, кому и украли ли вообще, — ответил он. — Поэтому будем делать то, за что нам платят: думать раньше, чем говорить. Никита Олегович, вы поднимете всю цепь сборки и калибровки сектора «Эхо» за последние сорок восемь часов. Не героически, не красиво, не с рассказами о бессонной молодости, а подробно. Каждый допуск, каждая замена, каждый скачок обратной связи. Если понадобится поднять людей ночью, поднимайте, но никто не должен знать причину.

— Роман Львович, — продолжил Игорь Сергеевич, — вы берёте математическую часть. Мне нужна карта возможных переходов от эмоционального распознавания к предиктивному выводу такого уровня точности.