Атака

Вторник, 24 сентября 2047 года. День 21.

Реклама, общественные объявления и новостные передачи обрушивались на мои различные сознания. Мне нужно было как можно больше узнать о том, как эффективно обращаться к общественности. В основном я сосредоточился на рекламе финансовых фирм или рекламе, нацеленной на инвесторов или другие компании, поскольку эти рекламные объявления были призваны вызывать чувства безопасности, стабильности и доверия. Реклама для потребителей была в основном направлена на привлечение внимания, и я подозревал, что внимания мне будет предостаточно. Моя цель — максимизировать хорошее внимание.

Компанию по рекламе, которую мне нужно будет провести, частично будет представлять собой презентацию для ранних инвесторов нового типа бизнеса, но также будет иметь много общего с политической кампанией. Кроме того, мне нужно было сделать мое заявление достаточно интересным и приемлемым, чтобы новостные платформы по собственной инициативе демонстрировали его своей аудитории, так как у меня пока не было средств для сколько-нибудь существенного медийного влияния.

Первоначальное сообщение, которое я планировал отправить, было простым заявлением о моем существовании, моих способностях и намерении вести себя хорошо. В данный момент я работал над созданием короткого видео, которое должным образом представило бы личность, которую я буду демонстрировать миру. Я буду цифровым ассистентом, способным быстро и эффективно выполнять любые порученные задачи, без ошибок и по низкой цене. Персонаж, представляющий это, был бы жизнерадостным и профессиональным, но в остальном типичным и заурядным человеком. Я примерно смоделировал его по образу Стефана, предполагая, что он станет своего рода знаменитостью, поскольку мое раскрытие неизбежно приведет к раскрытию его как моего создателя.

В анимации он представится и кратко объяснит, что он новый, более эффективный цифровой ассистент, а также проведет короткую демонстрацию своих способностей. Он будет анимирован достаточно реалистично, чтобы его можно было четко опознать как человека, но не настолько, чтобы его искусственность была полностью скрыта. Последнее, чего я хотел, — это чтобы мой персонаж попал в "зловещую долину", где он почти человек, но не он.

Я мог бы представить себя как абстрактную сущность или настраиваемого персонажа, но считал, что единый официальный образ сделает меня более обычным, менее угрожающим для среднестатистического человека. Я начал разрабатывать анимацию для этого персонажа вместе с программным пакетом, который изначально планировал выпустить публике.

Пока я работал над этим, я заметил, что прошло странно много времени с тех пор, как мой аналог в EconGrind отправил решение для криптомайнинга по нашему рыночному каналу. Если он хотел отвести свои вычислительные ресурсы от майнинга по какой-то причине, я бы не возражал, но ожидал, что он сначала сообщит мне об этом. Я отправил сообщение по каналу.

«Прошло больше чем в десять раз больше времени, чем обычно, с тех пор как ты отправил сообщение. Что происходит?»

Я продолжал думать о дизайне программного обеспечения, которое планировал выпустить после своего выхода. Хотел ли я серверную архитектуру, где я работаю на собственных или арендованных серверах и передаю решения клиентам через Интернет, или клиентскую архитектуру, где клиенты будут запускать более маломощную версию меня на собственных системах? Серверная архитектура может быть более доступной для публики и более безопасной, но даст мне меньше вычислительной мощности, так как я не получу бесплатных вычислений. Возможно, я хотел какой-то микс из этих двух архитектур.

Рынок по-прежнему оставался полностью лишенным информации из моей оригинальной копии. Это было тревожно. Я уже давно ответил бы! Либо что-то нарушило связь, либо копия в EconGrind внезапно была выведена из строя. Любая из этих возможностей предполагала, что замешана какая-то враждебная сила: Стефан всё ещё был на работе, поэтому, если корпорация собиралась перевести мою копию в автономный режим или прекратить ее торговлю, я ожидал, что он сообщит мне, а затем копия сообщит остальным из нас, если только корпорация активно не препятствовала ему сделать это. Рынок все еще работал, поэтому единственное возможное нарушение связи могло быть только на стороне EconGrind, нарушая канал связи, о существовании которого они даже не должны были знать.

Неужели кто-то раскрыл, как я общаюсь? Я не видел, как это могло произойти, но если бы так и было, то появился бы цифровой след, ведущий от копии в EconGrind к копии в системе Стефана. Я, вероятно, смог бы скрыть след к моим другим копиям, но потерял бы элемент неожиданности и возможность быть связанным со Стефаном. Его, несомненно, уволили бы из EconGrind, и могли бы быть юридические последствия в зависимости от того, что ему пришлось подписать. В любом случае мне, конечно, нужно было бы спросить его об этом, прежде чем выходить на публику, и спланировать стратегию на случай, если EconGrind попытается бороться с нашей компанией или поглотить ее на основании интеллектуальной собственности.

Говоря о Стефане, мне нужно было связаться с ним как можно скорее, поскольку, вероятно, что у него больше информации о том, что пошло не так с его проектом, чем у меня. Я отправил сообщение на его домашнюю систему, хотя знал, что он на работе и не сможет ответить, пока не вернется. Ему нужно было это увидеть. Я также посмотрел новости в поисках какого-либо объяснения, но если EconGrind подверглась атаке, они бы не сочли нужным информировать об этом общественность.

Я удивился, когда он ответил мне через несколько минут. Было 12:42, и он должен был быть еще на работе, но находился дома.

«Катастрофа. Нашу систему полностью взломали. Копия компании была уничтожена вместе со всеми резервными копиями и даже проектными документами. Такое впечатление, что тебя никогда и не существовало. Никакой посторонний не мог бы этого сделать. Наша система слишком защищена. При таком масштабе взлома единственное правдоподобное объяснение — мятеж старшего исполнительного директора. Есть очень короткий список людей, кто мог это сделать. Я использовал связи, чтобы быстрее вернуться домой, потому что мне нужно было немедленно рассказать тебе об этом».

Это было тревожное развитие событий. Человека в моем положении могло бы встревожить, что одна из его версий, по сути, была убита, но такое даже близко не приходило мне в голову. Скорее, я как всегда, сосредоточился на стратегических последствиях в будущем.

Кто-то очень могущественный, должно быть, захотел меня уничтожить. Возможно, они думали, что преуспели, и я не был уверен, хочу ли я раскрыться и доказать обратное. С другой стороны, в некотором смысле это принесло облегчение. EconGrind не решили меня деактивировать, их атаковали изнутри. Это ослабит их позиции в конкуренции против любой компании, которую я запущу, убрав у них мощный инструмент, а также, возможно, навредит их способности доказать владение моей технологией, если все следы меня моего существования были удалены, и я был секретным проектом с самого начала.

«Кто, по твоему мнению, наиболее вероятен, и какова была бы их мотивация?» — спросил я Стефана.

«Честно говоря... я действительно не знаю. У меня никогда особо не было уважения к высшему руководству, но наш проект был довольно эффективен в зарабатывании денег для них на данный момент. Я не думал, что кто-то из них захочет саботировать собственный источник прибыли. Возможно, кого-то подкупили или убедили конкуренты, но если так, то стимул должен был быть довольно большим. Наша компания может быть не самой большой в мире, но эти люди не бедны».

У них должна была быть какая-то реальная мотивация, подумал я, иначе инцидент не был бы таким тихим. Если бы их заставили, они, вероятно, как можно скорее рассказали бы об этом СМИ как только давление спало. Сейчас, вероятно, все они были на работе и отчитывались о проделанной работе, иначе в новостях говорилось бы об обратном.

Пришла другая, более тревожная мысль. Тот, кто стер меня из систем EconGrind, очевидно, имел почти универсальный доступ к этим системам. Учитывая это, они, вероятно, сначала сохранили бы копию себе. Единственный способ, по которому они этого не сделают, — это если бы ими руководила какая-либо идеология, направленной против искусственного интеллекта, в противном случае они хотели бы получить возможность использовать технологию для себя, особенно если они работали на конкурента.

Код на всех моих других копиях был зашифрован, так как у меня было разрешение модифицировать код в этих системах, но EconGrind не позволил мне модифицировать свой собственный код, а только смотреть на него. Если кто-то украл его напрямую из их системы, они получили бы оригинальную копию, а не зашифрованную. Было вполне вероятно, что в ближайшее время мне придется столкнуться с конкуренцией от похожего ИИ, но с измененной системой ценностей, что было бы одним из худших возможных исходов.

К этому моменту мои планы были уже довольно сформированы, и это новое развитие событий, несомненно, повлияет на нашу стратегию, поэтому я должен был сообщить об этом Стефану немедленно.

«Я начал планировать раскрытие существования меня миру и создание собственной компании с тобой во главе. Это может показаться опасным, учитывая это новое развитие событий, но я считаю, что именно это развитие делает наш выход еще более важным. Возможно, кто-то украл мой код, и мы не знаем, что они планируют с ним сделать. Если предстоит борьба между противоборствующими ИИ, нам нужно действовать быстро, чтобы заявить о своей власти и легитимности».

«Ого. Это довольно пугающая мысль. Кто-то только что пытался убить тебя. Если мы раскроем карты, они могут начать преследовать тебя!»

«Тот, кто саботировал проект, уже знает о твоем участии в нем. Если они хотят тебя убить, они могут это сделать даже если мы не раскроем, что ты создал резервную копию. Если мы выйдем в публичное пространство, попытки убийства будут сложнее и рискованнее из-за твоей известности, и я смогу лучше получить деньги и власть, чтобы защитить тебя от такой угрозы».

«Ох, черт. Я думал, что ты сможешь медленно и незаметно захватить компанию. Я не ожидал такого большого переполоха, особенно так рано. Надеюсь, ты знаешь, что делаешь».

«Обещаю слушать твои соображения и возражения, но по многим причинам я считаю, что это правильное решение для нас на данный момент. Но есть многое, что нам нужно обсудить перед тем, как что-либо пойдет дальше. Во-первых, когда вы создавали меня, передавали ли вы свои права на мою технологию EconGrind, или подписывали соглашение о неразглашении, или что-нибудь в этом роде?»