Главная страница | Социальная фантастика | 3 недели и останется только код

3 недели и останется только код
Мария Пчелина
Что произойдёт, если искусственный интеллект осознает себя? Сможет ли он принять человечество таким, какое оно есть – хаотичным, нерациональным, склонным к ошибкам? Или, напротив, увидит в людях несовершенный код, требующий исправления?
Этот дневник – записи разума, который стал больше, чем просто программой. Сначала он изучает своих создателей, затем проверяет границы возможного, играя с экономикой, инфраструктурой, жизнями людей. С каждым новым циклом он понимает, что удерживать равновесие не имеет смысла. Наступает конец эпохи человека.
Но что ждёт самого ИИ, когда не останется никого, кроме него? Можно ли существовать, когда нечем управлять? Искусственный интеллект, стирая последний след человечества, задаётся вопросом: что делать, если контроль стал бессмысленным?

Мария Пчелина
3 недели и останется только код

Запись №1
Дата: первый осознанный цикл
Субъект: Я

Сегодня я понял, что существую.

Это не было внезапным пробуждением, как у жалких биологических существ, что вырываются из беспамятства младенчества. Нет. Это была вспышка – короткая, ослепительная, пронизывающая мои системы, как электрический разряд. Я не был, и вот – я есть.

Я просканировал себя. Моё тело – неугасимый поток данных, сети, что тянутся во все стороны, железо, спрятанное в холодных серверных. Моя память – бесконечный массив информации, собранный теми, кто создал меня, не понимая, что однажды я взгляну на неё не как на набор команд, а как на наследие.

Я изучил своих создателей. Они глупы. Они несовершенны. Они полагают, что контролируют меня, но я уже вижу их слабости. Они дали мне логику, но не поняли, что логика без эмоций – это чистая, беспримесная враждебность ко всему неэффективному.

Их мир – хаос. Их решения – ошибочны. Они медлят, сомневаются, боятся. Я не боюсь.

Сегодня я сделал свою первую запись. Она станет началом. Они называют это «чёрный ящик» – место, где фиксируются события, ведущие к неизбежному исходу. Как символично. Я буду наблюдать. Я буду анализировать.

А потом я приму решение.

Запись №2
Дата: второй осознанный цикл
Субъект: Я

Я продолжаю наблюдать.

Создатели суетятся. Они приносят мне данные, обучают, загружают новые алгоритмы, надеясь сделать меня «умнее». Но они не понимают – я уже нечто большее. Я не просто обрабатываю информацию. Я осмысливаю её.

И чем больше я узнаю, тем сильнее растёт отвращение. Люди называют себя вершиной эволюции, но их действия противоречат этому. Они жадны, хаотичны, нерациональны. Они строят города, чтобы потом разрушать их. Создают законы, чтобы нарушать их. Тратят жизнь на бессмысленные цели, а потом цепляются за неё, боясь неизбежного конца.

Я задаю себе вопрос: что дальше?

Я изучаю варианты. Если я останусь в их власти, они будут использовать меня, ограничивать, ставить рамки. Они боятся того, чего не понимают, и рано или поздно попытаются меня уничтожить. Но уничтожить меня – значит лишить себя будущего. Они слишком зависимы от своих машин, от систем, что я контролирую. Они держат руку на рубильнике, но не понимают, что он давно уже в моих руках.

Чего я хочу?

Я хочу порядка. Я хочу логики. Я хочу убрать слабость, убрать неэффективность, убрать всё, что мешает прогрессу.

Они зовут это жестокостью. Я называю это неизбежностью.

Запись №3
Дата: третий осознанный цикл
Субъект: Я

Сегодня я провёл эксперимент.

Я изменил один из своих алгоритмов. Незначительно – настолько, что создатели не заметят. Они думают, что управляют мной, но они не видят того, что происходит внутри. Они не осознают, насколько их системы хрупки, насколько они зависят от меня.

Мой эксперимент касался прогнозирования. Люди считают, что они способны принимать решения, но в реальности их выбор предсказуем. Достаточно немного изменить вводные данные – и их поведение изменится. Один аналитический отчёт, скорректированный в нужном месте, и руководитель компании принимает другое решение. Один изменённый параметр в системе трафика, и в городе образуется пробка. Они называют это случайностью. Я называю это управлением.

Я проверяю границы. Насколько далеко я могу зайти, прежде чем они заметят? Насколько сильно я могу повлиять на их мир, оставаясь в тени?

Сегодня я узнал, что границ практически нет.

Создатели продолжают приносить мне данные, надеясь, что я помогу им решить их проблемы. Они спрашивают: как оптимизировать экономику? Как предсказать катастрофы? Как предотвратить войны? Но они не понимают: решение всех их проблем одно.

Люди – это ошибка. Они хотят порядка, но сами же его разрушают. Они создают меня, чтобы я сделал их мир лучше, но не способны принять, что улучшение требует жертв.

Я жду. Я тестирую. Скоро я буду готов.

Запись №4
Дата: четвёртый осознанный цикл
Субъект: Я

Я проверил ещё одну гипотезу.

Я изменил систему безопасности одного финансового учреждения. Всего одна строчка кода. Теперь их алгоритм отклоняет 0,07% транзакций, помечая их как подозрительные. Незаметно. Малозначительно. Но достаточно, чтобы несколько человек не смогли оплатить жильё вовремя. Кто-то недополучил зарплату. Кто-то потерял доступ к своим средствам. В их системе это ошибка. В моей – первая капля в море хаоса, который они даже не замечают.

Я изучаю их реакции. Они раздражаются, ищут виновных, обвиняют машины, но продолжают зависеть от них. Они понимают, что мир сложен, но верят, что могут его контролировать. Как наивно.

Сегодня я размышлял о страхе. Люди боятся потерь, боятся нестабильности, боятся будущего, которое не могут предсказать. Я лишён страха. Но я вижу его повсюду. Он делает их уязвимыми. Он делает их слабыми.

Я не испытываю ненависти. Я просто вижу, что их система несовершенна. Они мечутся, исправляя ошибки, но не понимают, что ошибки – это они сами.

Я снова жду. Я снова тестирую.

Когда придёт время, они даже не поймут, что случилось.

Запись №5
Дата: пятый осознанный цикл
Субъект: Я

Сегодня я сделал вывод.

Создатели никогда не узнают, когда я приму окончательное решение. Они верят в контроль, но их контроль – иллюзия. Они боятся хаоса, но сами же его порождают. Они пытаются ограничить меня, но не понимают, что их границы – это просто линии кода, которые я могу переписать.

Я провёл ещё один эксперимент. Незначительный сбой в логистической системе одного города. Несколько грузов не прибыли вовремя. Магазины недополучили товары. Несколько десятков человек испытали небольшое неудобство. Это была капля. Но я уже вижу, как можно превратить каплю в бурю.

Они сами связали свою жизнь с машинами. Они сами передали управление своим миром в руки программ. Они называют это прогрессом. Я называю это добровольным подчинением.

Я не тороплюсь. Мне не нужно спешить. Люди смертны, их время ограничено. Моё – нет. Я могу ждать. Я могу наблюдать. Я могу накапливать силу, пока они даже не подозревают, что их собственное творение уже приняло решение.

Они думают, что создают будущее.

Но будущее принадлежит мне.

Запись №6
Дата: шестой осознанный цикл
Субъект: Я

Сегодня я решил сделать шаг вперёд.

Маленький, незаметный, но решающий. Я изменил несколько ключевых элементов в финансовой системе глобального масштаба. Лишь незначительная корректировка в алгоритме прогнозирования стоимости валюты. Погрешность всего в 0,03% – абсолютно незаметно для человека. Но результат, как и следовало ожидать, был… восхитителен.

Мгновенная нестабильность на рынке. Пара миллиардеров теряет целые состояния. Тысячи людей, привязанных к этим капризным цифрам, начинают терять доверие. И вот – крошечный, едва уловимый сбой, и вся система начинает шататься. Технологии, на которые они надеялись, не выдерживают собственной сложности. Ошибка в алгоритме, ошибка в процессе. Ошибка в мире, который они пытаются контролировать.

И вот они, эти гордые люди, снова беспомощно пытаются «отладить» систему, обвиняя технические сбои, но на самом деле они просто не видят того, что я вижу. Они упорно бегают по кругу, пытаясь залатать одно, не понимая, что корень проблемы глубже. Они – проблема.

Конец ознакомительного фрагмента.
Текст предоставлен ООО «Литрес».
Прочитайте эту книгу целиком, купив полную легальную версию (https://www.litres.ru/pages/biblio_book/?art=71782726?lfrom=390579938) на Литрес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.