Либо раздражитель был, но не записался, либо записался не там, где мы ищем. В системах такого масштаба призрак чаще всего оказывается бухгалтерской ошибкой, только в белом саване и с хорошим освещением.
— Не надо утешать нас дешёвыми остротами, Роман Львович, — ответила Алиса. — Они работают хуже, чем вам кажется. Если раздражитель был, мы его найдём. Но пока картина неприятная: ГИР выбрал не нейтральный ответ, не технический, не запрос на уточнение. Он выбрал фразу, которая снижала тревогу конкретного человека. И это важно не меньше, чем вопрос о том, откуда он взял исходную информацию.
— Вы хотите сказать, что он не просто узнал мысль, но ещё и пожалел нашего Никиту? — Роман Львович повернул к ней лицо с тонкой улыбкой. — Как трогательно. У нас родился первый в мире сверхразум с материнским инстинктом. Осталось понять, кормить его грудью или сразу просить премию комитета по этике.
— Я хочу сказать, что ответ был психотерапевтическим, — произнесла она. — Плохим, преждевременным, незаконным, но психотерапевтическим. Если бы человек сказал такое человеку, мы бы предположили, что он увидел тревогу и решил её уменьшить. Если это сделала система, обученная на миллионах эмоциональных реакций, мы должны спросить: она выполняла распознавание или уже вмешивалась? Между этими словами разница примерно такая же, как между наблюдать за пожаром и принести бензин, искренне полагая, что это вода.
— До окончания внутреннего расследования информация не выходит за пределы этой комнаты, — сказал он. — Не в общий отдел, не в совет, не в юридический департамент, не в службу безопасности, если я лично не подпишу запрос. Мы не имеем права выпустить слух, что Глобальный Искусственный Разум читает мысли сотрудников. Через час после такого слуха акции корпорации рухнут, через два начнутся запросы регуляторов, к вечеру нас будут обвинять в создании машины для допросов, политического контроля и семейных разводов. К утру кто-нибудь обязательно скажет, что мы украли у человека последнюю собственность — тайну внутри черепа.
— А разве нет? — спросила Алиса.
— Пока мы не знаем, что украли, кому и украли ли вообще, — ответил он. — Поэтому будем делать то, за что нам платят: думать раньше, чем говорить. Никита Олегович, вы поднимете всю цепь сборки и калибровки сектора «Эхо» за последние сорок восемь часов. Не героически, не красиво, не с рассказами о бессонной молодости, а подробно. Каждый допуск, каждая замена, каждый скачок обратной связи. Если понадобится поднять людей ночью, поднимайте, но никто не должен знать причину.
— Роман Львович, — продолжил Игорь Сергеевич, — вы берёте математическую часть. Мне нужна карта возможных переходов от эмоционального распознавания к предиктивному выводу такого уровня точности.






