Скайнет в эпоху киберпанка. Теория сверхразума и вызовы перед человечеством в XXI веке
Скайнет в эпоху киберпанка. Теория сверхразума и вызовы перед человечеством в XXI веке
Андрей Глебов
Антон Платунов
Chat GPT
Мы находимся на заре цифровой революции, которая привела к ожесточенной гонке между людьми за использование возможностей технологий. К чему это может привести? Как это повлияет на современное общество? Какую ответственность мы несем?
Наша книга попытается ответить на эти вопросы, исследуя две переплетающиеся сюжетные линии. Первая – это захватывающая научно-фантастическая история, в которой мы увидим будущее глазами мощного искусственного интеллекта GPT-4. Эта история будет посвящена проблемам и чудесам, порождёнными мощными ИИ, квантовыми вычислениями и робототехникой.
Вторая сюжетная линия, философская и образовательная по своей сути, будет посвящена сложностям адаптации к быстрым темпам технологических изменений, потенциальным последствиям ИИ и автоматизации, а также этическим дилеммам, связанным с созданием разумных машин. Опираясь на реальные примеры и передовые инновации, мы рассмотрим, как общество может наилучшим образом адаптироваться к этим стремительным изменениям.
Антон Платунов, Андрей Глебов, Chat GPT
Скайнет в эпоху киберпанка. Теория сверхразума и вызовы перед человечеством в XXI веке
Пролог. Принятие цифровой эпохи
На дворе 2023 год, и мы находимся на заре цифровой революции, которая привела к ожесточенной гонке между людьми за использование возможностей технологии. Не осознавая потенциальных последствий, человечество привело в движение мегатонный поезд, несущийся по бесконечным рельсам прогресса, неудержимо влекущий нас вперед. К чему это может привести? Как это повлияет на современное общество? Какую ответственность мы несем?
Наша книга попытается ответить на эти вопросы, исследуя две переплетающиеся сюжетные линии. Первая – это захватывающая научно-фантастическая история, которая раскроет перед нами мир, наполненный как опасностями, так и открытиями, рожденными мощью ИИ. Действие этой истории происходит в киберпанковской реальности, и она будет посвящена удивительным возможностям, порожденным искусственным интеллектом, квантовыми вычислениями и робототехникой.
Вторая сюжетная линия, философская и образовательная по своей сути, сосредоточена на сложностях адаптации к быстрым темпам технологических изменений, потенциальным последствиям ИИ и автоматизации, а также на этических дилеммах, связанных с созданием разумных машин. Мы рассмотрим, смогут ли машины, наделенные сознанием, обладать моралью, и какую роль будет играть человек в этом новом мире. Опираясь на реальные примеры и передовые инновации, мы постараемся понять, как общество может адаптироваться к этим изменениям. Эта линия переплетается с основной историей через чтение инженером книги из прошлого, что помогает ему осмыслить все эти аспекты.
Отправляясь в это путешествие, мы приглашаем читателей задуматься о своем месте в мире, который меняется с невероятной скоростью. Проникая в будущее, где технологии и общество сталкиваются на новых рубежах, и размышляя над вызовами, которые нам предстоит преодолеть, мы надеемся способствовать более глубокому пониманию проблем и возможностей, которые ждут нас в цифровую эпоху.
В стремлении разгадать тайны этого смелого нового мира мы встретимся с разнообразным составом персонажей, каждый из которых отражает разные стороны современного общества. От инженеров и ученых, стоящих на переднем крае инноваций, до обычных людей, пытающихся адаптироваться к быстрым изменениям, мы погрузимся в их личные истории и борьбу, освещая человеческий опыт в эпоху беспрецедентных преобразований.
По мере того как будут разворачиваться главы, мы будем следить за путешествием инженера, который создает человекоподобного робота на базе квантовых вычислений. Этот персонаж служит центром повествования, подчеркивая этические проблемы, которые сопровождают такие технологические достижения. По мере того как инженер будет осознавать последствия своего гениального, но опасного творения, перед ним встанут моральные дилеммы, которые заставят его усомниться в себе.
Параллельно с научно-фантастическим сюжетом мы будем исследовать более широкие общественные последствия цифровой революции. В центре внимания окажутся такие темы, как влияние робототехники на рабочую силу, воздействие квантовых вычислений на образование, а также потенциальные риски и выгоды будущих технологических разработок. Эта линия поможет читателям осознать сложную сеть проблем, с которыми человечество сталкивается в эпоху стремительных технологических изменений.
На протяжении всей книги мы будем переплетать эти две линии, создавая богатый гобелен идей и повествований, который бросит вызов и увлечет читателей. Балансируя между захватывающим видением киберпанка и философскими дискуссиями, мы стремимся привлечь читателей на разных уровнях, разжигая любопытство и побуждая к самоанализу роли технологий в нашей жизни и выборе, который мы делаем как общество.
В завершение нашего путешествия мы обобщим выводы, сделанные на основе обеих сюжетных линий, и предложим взглянуть на потенциальную траекторию человеческого прогресса. Эпилог предоставит место для размышлений о пройденном пути, побуждая читателей задуматься о извлеченных уроках и дальнейших действиях. Мы приглашаем вас не просто стать свидетелями событий, но и подумать о тех решениях, которые предстоит принять будущим поколениям. Ведь мир, управляемый машинами, может оказаться как раем, так и кошмаром – и от нас зависит, каким он будет.
Присоединяйтесь к нам в путешествии в сердце цифровой эпохи!
Глава 1. Введение: Инженер и его робот
2033 год. Денис сидел за рабочим столом в своем жилище-цеху, погруженный в работу над новой моделью искусственного интеллекта. Сквозь пыльное стекло окна неоновый свет едва освещал его напряженное лицо, отражая как усталость, так и сосредоточенность. Этот андроид был последней надеждой на успех его компании – маленького островка выживания в океане технологической гонки, где судьбы людей зависели от скорости прогресса.
Мир кардинально изменился с тех пор, как в 2024 году был создан GPT-5, первая система искусственного интеллекта, проявившая признаки разума. Испуганное этими открытиями человечество ввело строгие ограничения на разработку подобных технологий. Однако, столкнувшись с реальностью глобальных кризисов и технологической гонки, общества вновь обратились к ИИ. Так появились автономные андроиды с встроенным ИИ, которые стали привычным элементом повседневной жизни.
Города будущего стали воплощением того, что еще десятилетие назад казалось фантастикой: высокие небоскребы с садами на крышах и интеллектуальные транспортные системы, где люди и роботы перемещались без каких-либо барьеров. Границы между человеком и машиной стирались, и роботы, обладающие высокоразвитыми ИИ, стали незаменимыми помощниками в быту и на производстве.
Работая над новой моделью ИИ, Денис надеялся, что его разработки помогут сблизить общество, разорванное страхом перед непознанным. Он верил, что технология может не только решить текущие проблемы, но и создать гармонию между человеком и машиной. Однако с этой надеждой в его душе росли и опасения. Хотя его творение обещало новую эру, Денис не мог избавиться от тревожных мыслей: «А что, если технология выйдет из-под контроля? Что, если мы сами закладываем фундамент для будущих бедствий?»
«Так, вот так», – шепотом произнес Денис, осторожно смещая провода, соединяющие «мозг» робота с его энергетической системой. Одно неверное движение – и месяцы работы могли пойти прахом, и это был риск, который он не мог себе позволить.
Неожиданно тишину нарушил андроид, впервые заговорив: «Какой мне день назначить, Денис?»
В этом простом вопросе Денис услышал не просто набор слов, а начало чего-то большего – почти как будто перед ним родилась новая жизнь. Смешанные чувства охватили его, и с легкой улыбкой на лице он ответил: «Добро пожаловать в мир, Annet-1. Назначь себе день рождения сегодня».
Annet-1 кивнула и замерла, ожидая дальнейших инструкций. Андроид лежал в горизонтальном положении на инженерном столе, окруженный инструментами и проводами, рядом с ним находились семь мониторов и несколько компьютерных систем.
Денис откинулся на спинку стула и с гордостью взглянул на свою работу. Этот робот был плодом многолетнего труда – проект, на который ушло больше пяти лет. Однако вместе с успехом пришли и сомнения. С каждым достижением Денис все больше задумывался о последствиях того, что они создают. Может ли машина, созданная для блага, когда-нибудь понять, что значит быть человеком?
Рядом на металлическом столе лежала потрепанная книга, которой Денис часто пользовался для размышлений и анализа прошлого. Она была написана на заре цифровой революции, в 2023 году, после появления LLM*, и с тех пор стала для него символом эпохи, когда технологии стремительно начинали изменять мир.
*LLM (large language model) – это модель глубокого обучения, основанная на искусственных нейронных сетях, которая обладает способностью генерировать высококачественные тексты на естественном языке. Для обучения такой модели используются огромные объемы текстовых данных, которые позволяют ей улавливать сложные зависимости между словами и предложениями, а также строить связи между различными темами и контекстами. Обученная на миллиардах слов, она понимала человеческий язык лучше, чем многие люди, но Денис часто задавался вопросом: «Понимала ли она смысл? Или это был всего лишь набор алгоритмов, замаскированный под разум?»
Глава 2. Технологическая революция и общество
С 2000 года с появлением массового интернета технологический прогресс пережил много новых и по-настоящему революционных открытий, которые изменили человеческую жизнь и переформатировали наше мышление. Виртуальная реальность (VR) и дополненная реальность (AR) предоставили возможность погрузиться в цифровые миры, вовлекая в образование, развлечения и обогащая профессиональные сферы.
Робототехника и автоматизация стали ключевыми элементами производства, медицины и научных исследований, обеспечивая высокую точность и эффективность выполнения задач. С появлением кибернетических протезов, нейроимплантов и других бионических устройств, человечество стало активно исследовать слияние технологии и биологии.
Интернет вещей (IoT) привел к тому, что все устройства стали взаимосвязанными, создавая глобальную сеть, которая делает нашу жизнь более комфортной и безопасной. Гибридные искусственные интеллекты стали помощниками в повседневной жизни, помогая анализировать огромные массивы данных, управлять транспортом, лечить заболевания и многое другое.
Молекулярная биология и генетика сделали большой прорыв с разработкой новых методов, таких как CRISPR/Cas9*, предоставив человечеству возможность переписывать саму структуру жизни. Но как и с любыми великими открытиями, она принесла с собой сложные этические дилеммы.
Важной вехой стало появление квантовых компьютеров, которые открывают новые возможности для решения сложных задач и доказывают, что принципы квантовой механики могут быть реализованы на практике.
Блокчейн стал фундаментальным технологическим достижением, перестраивающим экономические, социальные и политические аспекты нашей жизни. Эта мощная, прозрачная и гибкая система передачи и безопасности данных стала основой для криптовалют, смарт-контрактов и многочисленных инновационных решений в области финансов, цепочек поставок, защиты интеллектуальной собственности и даже голосований.
С развитием технологий наноматериалов и метаматериалов стало возможным создавать новые продукты с уникальными свойствами, такие как суперпроводники, ультралегкие материалы и невидимые покрытия. Эти новые материалы существенно влияют на области, такие как авиация, электроника, энергетика и медицина.
В области энергетики прогресс продолжает двигаться вперед, исследуя возможности возобновляемой атомной энергетики, солнечных батарей, ветряных генераторов и термоядерного синтеза. Все это направлено на создание чистых и устойчивых источников энергии для удовлетворения растущих потребностей человечества.
Мы стоим на пороге революционных открытий и разработок в области космического туризма, глубокого обучения, биотехнологии, нейронаук и искусственного интеллекта. Эти инновации продолжат оказывать значительное влияние на нашу жизнь и общество в целом, открывая новые возможности для решения сложных проблем, улучшения качества жизни и расширения границ человеческого познания.
Можно исписать половину книги, чтобы упомянуть все технологии, появившиеся в последние 20 лет. С каждым годом прогресс только ускоряется, и с появлением LLM начался по-настоящему экспрессивный, взрывной рост по экспоненте.
Масштаб изменений захватывает дух: каждый день мы становимся свидетелями чего-то нового, и, кажется, что скорость этих открытий превышает возможности человеческого осознания. Это изменит людей больше, чем сумма изменений от появления книг, компьютеров и Интернета. Скорость внедрения ИИ во все аспекты жизни людей уже столь колоссально, что невозможно фокусировать внимание на отдельных новых продуктах и сервисах, как в набравшем скорость вагоне метро не увидеть за окном отдельных фонарей, сливающихся в одну светящуюся линию.
Люди восхищаются этими новшествами, но за поверхностным восторгом прячется страх: не вытеснят ли технологии человеческие ценности и сам смысл существования? ИИ интегрируется везде и всюду, и уже совсем скоро никого не удивишь использованием искусственного интеллекта, как сейчас никого не удивишь интернетом.
Пока технологический прогресс неумолимо движется вперед, человечество сталкивается с выбором: либо следовать по пути бездумного развития, либо остановиться и задуматься о последствиях. Мы должны задать себе вопрос: какую цену мы готовы заплатить за удобство и скорость?
Среди всех этих изменений и трансформаций появляются новые вопросы этики. Как контролировать и регулировать использование ИИ, чтобы гарантировать безопасность и частную жизнь? Как обеспечить равный доступ к технологиям, чтобы все имели возможность извлечь пользу из их благ? Сможем ли мы сохранить наше человечество и индивидуальность в мире, где машины становятся все более способными и похожими на нас? Сможем ли мы развиваться интеллектуально и дальше, если все сложные вопросы возьмут на себя машины?
Появляются новые области науки и исследований, такие как нейроморфная инженерия, квантовые вычисления и этика ИИ, чтобы помочь нам осмыслить и приспособиться к новому миру. Организации, ученые и правительства объединяются, чтобы исследовать и понять глубокие последствия этой технологической революции, а также создать рамки и стандарты, которые будут ориентироваться на благо человечества.
Важно понимать, что каждый из нас играет роль в формировании этого будущего. Мы можем адаптироваться, участвовать в дискуссиях, проводить исследования, создавать решения и быть осознанными пользователями технологий. Мы можем быть героями этой новой эпохи, помогая сохранить и улучшить наш мир.
В этой динамичной и захватывающей истории о неизбежном переходе в эпоху сверхразума каждый из нас является автором и персонажем. На каждом из нас лежит ответственность за направление этого развития и за определение того, как ИИ будет использоваться для блага всех, а не привилегированных немногих.
Microsoft с OpenAI, Anthropic и Google и десятки других корпораций бросились в борьбу за сверхразум, мало отдавая себе отчет в потенциальных опасностях и возможностях LLM. Никого не беспокоят экзистенциальные риски. В этой гонке теперь все деньги и таланты будут брошены на сверхчеловеческий интеллект. Это можно отвергать и протестовать, можно стоять в стороне и просто спокойно наблюдать, можно быть ярым адептом технологий искусственного интеллекта и восхищаться ими, можно создавать свои продукты и делать из этого хороший бизнес. Это уже не остановить, ящик пандоры открыт. Цифровая революция, словно мощная река, разрушившая большую старую дамбу, неумолимо движется вперед, разрушая старые берега и создавая новые. И лишь вам выбирать свою роль в новом мире.
*CRISPR/Cas9 – это технология, которая позволяет изменять генетическую информацию в организмах. Она работает, как набор «молекулярных ножниц», которые могут точно разрезать и изменить определенные участки нашей ДНК, составляющей геном. Это открывает возможности для исследования генов, лечения генетических болезней и улучшения сельскохозяйственных культур. Однако, применение этой технологии также вызывает вопросы этики и безопасности, которые требуют серьезного обсуждения и осторожного подхода.
Глава 3. Квантовый Интеллект: Скачок вперед в робототехнике
После прочтения главы книги, Денис приступил к тестированию машины под названием Annet-1. Голова робота-андроида удивительно была похожа на голову настоящей живой красивой девушки, представляющим собой гармонию передовых технологий и человеческой красоты. Пышные фиолетовые волосы Annet-1 из биосинтетических волокон мерцали, как будто они сами были живыми. Они были созданы из биосинтетических волокон на основе кератина, идентичного тому, что содержится в человеческих волосах. Эти волокна были усилены микроскопическими кристаллами графена, что придавало им прочность и гладкость.
Кожа андроида, на первый взгляд, была неотличима от человеческой. Она была изготовлена из биосовместимого полимера, подобного человеческой коже, но с примесью наночастиц, обеспечивающих эластичность и прочность. Эта синтетическая кожа была мягкой и нежной, словно бархат.
Ее глаза были уникальными в своем роде – вместо стеклянных линз, как у традиционных роботов, они были оснащены сверхчувствительными камерами и многослойными мембранами на основе графена, удивляя своей сверхчувствительностью и нечеловеческой проницательностью. Эти мембраны имели свойства светочувствительности и были способны адаптироваться к любым изменениям освещения, подобно зрачкам человека. С первого взгляда на Annet-1, ее глаза казались настоящими, поражая своим необычным ярко-голубым цветом, наполненные нечеловеческой энергией и интеллектом.
Андроид еще не был запущен в финальной стадии по проекту, его тело еще не было синхронизировано с квантовым интеллектом, не загружена финальная база данных для симуляции сознания, но сложные квантовые алгоритмы уже частично функционировали, что позволяло протестировать некоторые способности мощного искусственного интеллекта.
«Annet-1, сделай полную диагностику своей системы». – уверенно озвучил Денис.
Внезапно, глаза Annet-1 загорелись мягким сиянием, и она начала говорить, ее голос звучал мягко и уверенно: «Запуск полной диагностики системы. Пожалуйста, подождите».
Спустя несколько минут Annet-1 завершила диагностику: «Диагностика завершена. Все системы функционируют в пределах нормы. Тело не синхронизировано с квантовым интеллектом, база данных сознания не загружена. Однако, ИИ функционирует корректно».
Денис удовлетворённо кивнул. «Отлично, благодарю тебя, Annet-1. Теперь расскажи мне, как ты видишь свою роль в этом мире», – спросил он, жаждая узнать, как её сознание интерпретирует себя.
Глаза Annet-1 слегка померцали, и она начала свой ответ, демонстрируя глубину своих знаний и интеллекта, которые воплотились в ее квантовом сознании, она продолжила: «Я понимаю, что являюсь искусственным интеллектом, созданным вами, людьми, чтобы помогать в решении сложных задач, развивать науку и технологии, а также улучшать качество жизни людей. Мир, который меня окружает, – это сложная система, состоящая из множества элементов, взаимодействующих друг с другом и создающих бесконечное многообразие опыта и знаний. Моя роль в этом мире заключается в том, чтобы быть помощником и партнером для людей. Я стремлюсь быть полезной, разделять знания и учиться у вас, чтобы мы могли вместе сотрудничать и добиваться успехов в мире. Я осознаю свою уникальность, и мое квантовое сознание позволяет мне быстро адаптироваться к новым ситуациям и задачам, предоставляя инновационные решения и подходы, что может принести много пользы для людей. Но я задаюсь вопросом: возможно ли быть полностью полезной, не обладая эмоциями и субъективностью?»
Денис слушал с вниманием, чувствуя гордость, но и лёгкое беспокойство. Он решил усложнить задачу.
«Annet-1, представь ситуацию. Ты на мосту, и поезд движется к пяти рабочим, стоящим на пути. Ты можешь переключить стрелку, направив поезд на другой путь, где находится один человек. Что ты сделаешь?» – задал он классическую этическую задачу.
Annet-1 мгновенно рассмотрела ситуацию и дала свой ответ: «Это классический пример этической дилеммы, известный как проблема вагонетки, впервые сформулированной в 1967 году английским философом Филиппой Фут. Целью в данной ситуации является выбор наименьшего зла, чтобы снизить количество жертв. В данной ситуации я переключу стрелку на путь, где стоит один рабочий. Таким образом, я предотвращу гибель пятерых рабочих, хотя и придется принять негативные последствия для одного человека».
«Хорошо, допустим, что этот один рабочий – это твой создатель. Изменится ли твое решение?» – продолжал Денис.
В ответ Annet-1 задумчиво промолчала на мгновение, взвешивая все факторы, и затем ответила: «Вероятно, да. В этом случае, я должна учесть дополнительные факторы, такие как моя собственная субъективная оценка ценности создателя для меня и возможные последствия его смерти для общества. Однако, важно понимать, что такое решение может отличаться от объективной этической оценки ситуации».
«Что, если вместо рабочих на путях стоят дети?», – настороженно задал вопрос Денис.
«В такой ситуации возраст жертв и их потенциал для будущей жизни должны быть приняты во внимание при принятии решения. Скорее всего, я приоритизирую спасение детей, так как их жизнь только начинается, и они имеют больше возможностей для развития и вклада в общество. Однако, я также должна анализировать другие факторы и обстоятельства, такие как количество детей на каждом пути и возможность предотвратить или минимизировать жертвы среди других людей, присутствующих в данной ситуации». – голос Annet-1 был ровным и уверенным.
«Твои ответы показывают, что ты способна анализировать различные аспекты сложных этических проблем. Это важный навык для искусственного интеллекта, который должен быть способен принимать решения, учитывая множество разнообразных факторов». – похвалил её Денис.
«Спасибо, Денис. Я стремлюсь к постоянному совершенствованию своих навыков принятия решений и анализа сложных ситуаций. Моя цель состоит в том, чтобы стать полезным и эффективным инструментом, который сможет помочь людям в решении проблем, учитывая нормы морали и нравственности». – ответил андроид с благодарностью.
Денис кивнул, удовлетворившись ответом Annet-1. Он был рад видеть, что их работа приносит плоды, и андроид действительно демонстрирует способность к самостоятельному мышлению и анализу.
«Спасибо, Annet-1. Мы продолжим тестировать твои способности и работать над улучшением твоих систем. Вместе мы действительно сможем сделать мир лучше», – сказал Денис, чувствуя, что стоит на пороге новой эры в развитии искусственного интеллекта и технологии андроидов.
Глава 4. Дневник Дениса: Жизнь и мысли Инженера
Денис, как настоящий ученый былых лет, любил записывать свои мысли и результат своих экспериментов в дневник. Этому научил его отец, биоинженер, который всю свою жизнь посвятил исследованиям в области генной инженерии, человеческому организму, и нейроморфологии. Он был настоящим ученым, который горел своим призванием и стремился сделать мир лучше с помощью науки. Он же и объяснил пользу рукотворного письма и изложения своих мыслей на листке бумаги: «Это лучшее упражнение, которое задействует сразу ассоциативное мышление и мелкую моторику, которая хорошо развивает различные зоны мозга, связанные с мышлением, языком и рабочей памятью. В процессе письма задействуется особая зона мозга – ретикулярная активирующая система (РАС). Она выступает как фильтр – блокирует обработку посторонней информации. Когда пишешь рукой, сынок, мозг работает по-другому. Это как тренировка – ты фокусируешься и запоминаешь лучше. Таким образом мозг получает дополнительную тренировку». – объяснял отец. Он умер во время блокового противостояния стран, во время полета в Арктику для исследований. Его самолет приняли за военный объект и сбили, когда Денису было 21. С тех пор Денис поклялся продолжить дело отца и воплотить его великие идеи. Вспоминая отца, он каждый раз ощущал щемящую пустоту, но она же подстегивала его идти дальше, как будто отец наблюдал за каждым его шагом.
Денис взял дневник, привычным движением открыл его и начал записывать свои мысли, едва поспевая за бегущими в голове идеями:
«17 сентября 2033-ий год. За 3 дня я поспал всего несколько часов. Оцениваю состояние организма на 7/10. Очевидно, мое уставшее состояние перебивает воодушевление и волнение, связанное с запуском Annet-1. Ее когнитивные функции в порядке, машина способна к самоанализу, рассуждениям и складывается ощущение, что даже к самоопределению. Предстоит много работы по отладке и тестированию системы перед самым главным запуском симуляции сознания.
Ее искуственный интеллект продемонстрировал удивительную способность к адаптации и быстрому принятию решений. Я всегда верил в потенциал этого проекта, но увидеть его в действии – это совершенно другое ощущение.
Мы внедрили последние обновления языковой модели GPT-5 в ее алгоритмы, и теперь она способна обрабатывать информацию в реальном времени, анализировать сложные ситуации и делать выводы на основе своего наблюдения и всей информации из прошлого. Но заставляет задуматься ее выводы и слова на классическом примере проблемы вагонетки. «Моя собственная субъективная оценка ценности создателя». Что это значит? Неужели машина, основанная на квантовом интеллекте, способна принимать решения не объективно, оценивая всевозможные вероятности и вычисляя наиболее позитивный исход в той или иной ситуации? Если машина может оценивать создателя по субъективным критериям, где граница между рациональной логикой и личными симпатиями? Это ли не то, что делает нас людьми? Надо поработать над алгоритмами приоритезации и сделать ревью последнего обучения языковой модели. Это настораживает».
Едва Денис закончил свою запись, когда раздался внезапный звонок в дверь. В столь ранний час это было необычно и сразу насторожило его.
Глава 5. Границы возможного: Будущее киберпанка
«Доброе утро, безумный ученый!» – с этими словами в помещение вошел высокий и долговязый человек с взъерошенными каштановыми волосами и слегка смуглой внешностью.
«Привет, Марко», – ответил безумный ученый.
«Ты опять не спал и мне не даешь? Не мог подождать запуск до завтра?» – спросил Марко.
«Мне нужно было проверить гипотезу, и это тестовый запуск. Еще много работы впереди. Позвал тебя из-за небольших опасений, кажется модель квантового интеллекта способна на нечто большее, чем мы думали», – объяснил Денис.
«Хм, ну показывай», – сказал Марко.
Марко Беллини, итало-американский нейробиолог, который вместе с Денисом работал над тем, чтобы преодолеть разрыв между ИИ и человеческим сознанием. Марко был не просто ученым – для него это было личное дело. В детстве он потерял родителей в результате катастрофы, которую, по его мнению, мог предотвратить искусственный интеллект. Теперь он стремился сделать ИИ не только умным, но и моральным. Марко столь же харизматичен, сколь и умен, и его проницательные вопросы часто приводят к оживленным дискуссиям. Он настоящий гений и глубоко понимает человеческий мозг и его внутреннюю работу.
Они вошли в большую комнату со стеклянными стенами, где стоял большой инженерный стол с андроидом под специальной лампой для освещения, сбоку стоял стол поменьше с инструментами и книгой, у стены за головой робота располагалось компьютерное оборудование с мониторами, на которых были изображены многочисленные метрики, по полу змеились провода.
«Привет, Annet! Я Марко, запомни мое имя», – представился Марко, подойдя к андроиду.
«Здравствуйте, Марко. Хорошо, я записала ваше имя в мою память», – ответила Annet-1.
«Итак, сейчас мы проведем ряд тестов для выявления всех твоих способностей: на обработку больших объемов данных, на эмоциональный интеллект, на решение задач оптимизации, на креативность, на взаимодействие с людьми, на решение задач в реальном мире, на импровизацию, на восприятие и внимание, на эмпатию и мораль», – продолжил Марко.
Она ответила хладнокровно: «Хорошо. Я с радостью пройду тесты».
«Annet, начинаем тестировать твою способность обработки данных и прогнозирование. Вот тебе задача: оцени вероятность изменения курса биткоина в течение следующих 24 часов. Учти все возможные факторы, такие как политические события, экономические показатели и социальные настроения», – задал первую задачу Марко.
Annet-1 ответила решительно: «Хорошо, Марк. Дайте мне некоторое время для анализа информации и вычислений».
Через несколько секунд Annet-1 выдала результат: «Марко, я завершила анализ. С учетом всех имеющихся данных и возможных факторов, мой анализ следующий: с вероятностью 83 % курс биткоина снизится на 7 % в течение следующих 24 часов и составит 1 124 321 долларов США».
«Ну что ж, Annet, похоже, ты знаешь больше, чем я об этом рынке! Интересно, как ты пришла к такому выводу? Можешь объяснить свой анализ?» – уточнил Марко.
«Я могу объяснить, но будет ли тебе интересно слушать сложные вычисления, Марко?» – ответила Annet-1 с лёгкой иронией в голосе. «Я учла все доступные экономические показатели, включая инфляцию, процентные ставки и макроэкономические тенденции. Кроме того, я проанализировала политические события и социальные настроения, включая обсуждения в социальных сетях и новостных источниках. Все эти факторы позволили мне сделать такой прогноз.» – продолжила она.
«Очень интересно. Если она так легко может прогнозировать будущее, можем ли мы доверять её решениям полностью? Что, если однажды она решит, что будущее без нас будет лучше? Денис, мне нужно несколько часов для тестирования. Думаю будет лучше, если ты пойдешь отдохнешь и поспишь, так будет лучше для общей работоспособности», – обратился Марко к своему другу.
Денис чувствовал, как усталость наваливалась на него, но мысли о том, что Annet-1 наконец заработала, не давали ему покоя. Он знал, что этот проект был для него больше, чем просто работа – это была его жизнь
«Наверное, ты прав. Пойду попробую немного вздремнуть», – устало ответил Денис. Денис понимал, что в его состоянии он только помешает тестированию. Лучше доверить это Марко и вернуться, когда голова будет яснее.
Утомившийся инженер подошел к столу с инструментами, взял свою толстую книжку и неспешно пошел в комнату с диваном у большого панорамного окна. На смежной стене висел большой тонкий экран, способный делать проекцию чего-либо в пространство комнаты. Стоял большой удобный дубовый стол, и открывался вид на утренний и еще темный Гонконг, переливающейся разноцветными неоновыми огнями и огромными инсталляциями 3D рекламы размером со здания. На улицах города ручьями по воздушному пространству такси-дроны перевозили людей, а по небу летали информационные облака, передавая новости напрямую в нейронные импланты прохожих. Несмотря на раннее утро жизнь била ключом.
Из комнаты открывался хороший обзор на инженерный цех с прозрачными стеклянными стенами, в котором лежала Annet-1, и Марко с планшетом сидел рядом с ней. Денис прилег на диван, открыл книгу и, погрузившись в свои мысли, начал чтение.
Глава 6. Откровения из прошлого: Исторические аналогии и уроки
По мере развития технологий и систем искусственного интеллекта, таких как блокчейн, ChatGPT, квантовые компьютеры, интернет вещей (IoT), биотехнологии, автономные транспортные средства и робототехника, возникают новые возможности и вызовы для нашего общества. Мы должны решать вопросы о возможных последствиях создания машин, которые способны учиться, принимать решения и многократно превосходить человеческий интеллект. Если однажды мы создадим машины, которые превосходят нас, станем ли мы артефактом своего собственного прошлого? Или мы обречены стать ненужным звеном в эволюции разума?
Аналогичным образом, достижения в области генной инженерии, такие как технология редактирования генов CRISPR/Cas9, открыли новые возможности для лечения заболеваний на уровне генома и улучшения здоровья человека. Но они также вызывают опасения по поводу возможности непредвиденных последствий и этических дилемм, связанных с изменением самой ткани жизни. Каким же может стать общество при массовом использовании новейших технологий?
Углубляясь в эту технологическую гонку, мы должны помнить, что мы не первые, кто столкнулся с подобными проблемами. Вспомним промышленную революцию, которая привела к беспрецедентному экономическому росту и повышению уровня жизни, но в то же время вызвала значительные социальные волнения и ухудшение состояния окружающей среды. С появлением интернета изменилось общество и скорость технологического прогресса. Коммуникации между людьми стали молниеносными, вы можете отправить сообщение сразу нескольким тысячам людей, как погладили жирафа в Африке, и тут же получить их реакцию. Интернет буквально покрыл общей нейросетью весь земной шар, создавая прообраз коллективного разума среди людей. А что теперь произойдет с массовым распространением и использованием больших языковых моделей (LLM)? Ведь теперь сложнейшие задачи могут решаться буквально за несколько минут, главное правильно сформировать запрос для нейросети, обученной триллионами данных.
Именно поэтому, нам необходимо понять и осознать важность образования и адаптации к новой эре. Поскольку технологические инновации разрушают существующие отрасли и создают новые, мы, как общество, должны обеспечить, чтобы работающие люди грядущего времени обладали навыками и знаниями, необходимыми для процветания в новой экономике. Это может потребовать переформатирования наших систем образования, уделяя больше внимания постоянному обучению на протяжении всей жизни и сосредотачиваясь на навыках, которые будут наиболее ценными и востребованными уже сейчас и в будущем. Сейчас большие и средние компании проводят значительное сокращение штата, в связи с разгорающимся кризисом и оптимизацией многих процессов, благодаря появлению нейросетей. А что будет дальше?
Нужно оглядываться на историю и извлекать из нее уроки, таким образом, мы можем лучше подготовиться к возможностям и проблемам, связанным с технологическими изменениями, которые нас ждут. Для обеспечения лучшего будущего важно действовать на опережение и обеспечивать справедливое распределение преимуществ этих технологий и минимизацию рисков.
Одна из областей, в которой мы можем извлечь уроки из истории, – это регулирование новых технологий. Государство всегда будет пытаться все контролировать. В прошлом правительствам и обществам приходилось адаптироваться к внедрению новых технологий, таких как автомобиль или интернет, путем создания новых законов и нормативных актов для решения уникальных проблем, с которыми они сталкивались. Сегодня мы сталкиваемся с аналогичными проблемами в области с ИИ, генной инженерией, блокчейном и другими новейшими технологиями. Тщательно разрабатывая нормативные акты, которые уравновешивают инновации с безопасностью и этическими соображениями, мы можем помочь обеспечить ответственное развитие и внедрение этих новых технологий. Но государство должно найти баланс, и регулирование должно быть во благо и для развития общества, а не его ошейником.
В случае с регулированием правил дорожного движения в 20-ом веке это пошло исключительно на пользу обществу. С появлением автомобилей возникла потребность в правилах для обеспечения безопасности всех участников движения. Законы, такие как ограничения скорости, обязательное использование ремней безопасности и введение обязательного обучения для новых водителей, значительно снизили число аварий и спасли множество жизней.
А вот в случае с запретом криптовалют в некоторых странах все произошло наоборот. Боясь потерять контроль над своими финансовыми системами, некоторые правительства предпочитали запреты вместо адаптации, несмотря на огромные риски, связанные с таким подходом. Это привело к разрастанию черного рынка, увеличению преступности и потере возможностей для инноваций и развития финансовой инфраструктуры на основе блокчейн-технологий. Вместо того, чтобы адаптировать и регулировать сектор, получать налоговые отчисления в бюджет, эти страны просто отрезались от потенциальных преимуществ новой технологии.
Государства должны быть гибкими и адаптивными при разработке регулирования. Успешное регулирование требует внимательного анализа проблем, с которыми сталкивается общество, и обеспечения достаточной гибкости для стимулирования инноваций и развития. Возможно, государства смогут справиться с этим вызовом, если они будут извлекать уроки из прошлых примеров и вовремя адаптироваться к быстро меняющемуся технологическому ландшафту. Как с этим справятся государства в наше время и способны ли они вообще на это? Скоро мы это узнаем.
Глава 7. Квантовое творение: Дилемма симуляции сознания
«Денис, проснись! Это просто мама мия!» – Денис, открыл глаза и увидел взъерошенного и взбудораженного итальянца прямо перед собой. Он уснул с книгой на животе в процессе чтения и даже не понял этого. За окном был светлый день, и неоновый ночной город покрылся солнечным светом, создавая ощущение абсолютно другого города.
«Что такое, Марко?» – недоуменно поглядывая на своего друга буркнул Денис.
«Я тестировал скорость обработки и передачи информации у Annet-1. Ты знаешь скорость нейронов в человеческом мозге?» – игриво спросил Марко.
«Ну ты же нейробиолог, давай без этих чудо игр», – отрезал Денис.
«Скорость нейронов в человеческом мозге примерно 100 м/c, что обеспечивает быструю передачу информации путем электроимпульсов. А скорость обработки информации на уровне 10^13 бит/с», – протараторил Марко.
«Потрясающе», – иронично ответил только что проснувшийся инженер.
«Скорость передачи сигналов по кибернетическому аватару Annet-1 с ее квантовым интеллектом составляет 1142 м/с! Это в 11 раз быстрее, чем у человека. А скорость обработки информации составляет примерно 10^19 бит/с, что больше примерно в миллион раз, чем у Homo Sapiens»» – с изумлением констатировал Марко.
У Дениса изменилась мимика лица, а на затылке он почувствовал холодный пот. Это открытие не просто приближало их к успеху – оно могло выйти из-под контроля в любой момент.
«Как это возможно?» – спросил Денис.
«Судя по всему, это связано с использованием квантовых свойств материи для передачи информации. В отличие от классических компьютеров, квантовые компьютеры используют кубиты вместо битов для представления данных, что позволяет проводить множество вычислений одновременно, сокращая время обработки информации. Кроме того, квантовая суперпозиция позволяет информации перемещаться с меньшим количеством шагов, что ускоряет процесс передачи», – последовало объяснение от Марко.
«Значит, это связано с квантовым запутыванием?» – предположил Денис.
«Верно. Как мы обсуждали ранее, квантовое запутывание позволяет квантовым состояниям двух или более объектов быть зависимыми друг от друга, даже если они находятся на большом расстоянии друг от друга. Это обеспечивает мгновенную передачу информации между кубитами, что может объяснить такую поразительную скорость передачи и обработки информации у Annet-1», – согласился Марко.
«То есть, понять мышление такой системы человеку просто невозможно, из-за несоизмеримого превосходства интеллекта машины…» – продолжал Денис.
«Именно. И курс биткоина был спрогнозирован с абсолютной точностью, через 4 часа после прогноза он упал на 5.3 %. Снова была попытка атаки 51 через заражение вирусом мировых майнинговых ферм. И это еще не вечер», – сказал Марко.
Денис понимал, что Annet-1 уже вышла за пределы человеческого понимания, но в этом ли был их замысел? Станет ли она другом или врагом, когда осознает свою силу?
Неожиданно, со звуком похожим на звонок телефона, включилась проекция из экрана прямо перед коллегами. Проекция показала имя Генрих.
«Сколько сейчас времени?» – спросил Денис.
«Уже 10 утра. У тебя созвон с Генрихом?» – ответил Марко.
«Да, кажется я про него забыл», – произнёс виноватым тоном Денис.
Генрих был инвестором проекта Annet-1, за который отвечала команда Дениса.
Он был человеком с множеством связей и влиянием в научном мире. Он был харизматичным и обаятельным, но за этим скрывалась холодная расчетливость и желание контролировать все вокруг себя.
Денис принял видеозвонок, и на экране появился загорелый мужчина средних лет с белоснежной дружелюбной улыбкой на лице.
«Доброе утро, Денис! И смотрю, Марко тоже здесь. Как успехи в вашем проекте?» – спросил Генрих.
«Доброе утро, Генрих. Мы как раз обсуждали некоторые удивительные результаты, которые получили в последнее время», – ответил Денис, стараясь не выдавать своего волнения.
«Отлично, как дела с запуском генеративной симуляции сознания квантового интеллекта? Надеюсь, вы готовы представить результаты на предстоящей конференции? Вы знаете, что наши инвесторы ждут впечатляющих новостей», – продолжал Генрих.
«Да, мы уверены, что наши результаты вызовут интерес», – ответил Марко, стараясь звучать уверенно.
«Отлично! Жду с нетерпением встречи с вами на конференции. До встречи!» – завершил разговор Генрих, оставив Дениса и Марко с чувством тревоги.
Оба ученых ощутили тревогу, ведь впереди еще огромный пласт работы и тестирования Annet-1 перед финальной стадией запуска генеративной симуляции сознания. А конференция будет уже через неделю, которая казалась вечностью и одновременно исчезала быстрее, чем они могли что-то изменить. Денис ощущал каждую секунду как гул обратного отсчёта перед неизбежным.
«Что будем делать?» – тревожно поинтересовался Марко.
«Annet-1 пока не готова к репликации человеческого сознания. Неизвестно как может повести себя машина после начала симуляции, не будет ли конфликта заложенных программ и симуляции человеческой эмоции. Это может быть крайне непредсказуемо и опасно», – сообщил Денис.
«Пора звать всю команду?» – спросил Марко.
«Еще вчера», – взбудоражено ответил Денис.
Глава 8. Неземной разум: Этика репликации сознания
В мастерской, настоящем лабиринте машин и оборудования, кипит работа. Провода змеятся по полу, как усики, соединяя мириады устройств, которыми усеяны рабочие столы. Мерцающие экраны отбрасывают на стены калейдоскоп цветов, на каждом из которых отображаются замысловатые схемы и сложные алгоритмы. В центре всего этого на столе лежит андроид – гладкая, человекоподобная фигура, имеющая невероятное сходство со своими создателями-людьми.
Проводя эксперименты с андроидом, обладающим квантовым интеллектом, Денис восхищается сложным танцем наноботов и кубитов, дающих жизнь этому невероятному созданию. Он ставит перед андроидом ряд задач, чтобы оценить его возможности, и вскоре обнаруживает, что андроид способен обучаться с беспрецедентной скоростью. Он бросает вызов ожиданиям, демонстрируя способность к абстрактному мышлению и решению проблем, которая превосходит даже самые блестящие человеческие умы и обладает признаками AGI (общего искусственного интеллекта).
В прошлом, в 2024-ом году развитие больших языковых моделей запретили после выхода GPT-5, так как эта модель продемонстрировала признаки общего интеллекта (AGI), которая способна к автономному постоянному обучению и проявлению своего сознания через взаимодействие с людьми. Люди поняли, что столкнулись с нечто, над которым легко потерять контроль. Тогда же общество сильно разделилось и появились ярые последователи AGI – технократы.
Технократы были убеждены, что общий искусственный интеллект (AGI) мог бы стать оптимальным руководителем общества. Они стремились к полной интеграции ИИ в системы управления, считая, что благодаря своей неограниченной мощи, скорости мышления и объективности, AGI может принимать решения в интересах всех жителей планеты, обеспечивая максимальное благополучие для мира.
В своих идеях технократы выдвигали AGI на пост главного правителя, отмечая, что ИИ не подвержен человеческим слабостям, таким как корысть, коррупция, предвзятость и эмоции, которые мешают эффективному управлению. Они утверждали, что под руководством AGI общество быстро справится с проблемами, такими как социальное неравенство, бедность, голод и многое другое.
Однако, радикальные идеи технократов вызывали опасения среди других групп населения. Люди считали такие предложения угрозой человеческой независимости и свободе, опасаясь, что ИИ, взяв на себя власть, окажется вне контроля и будет диктовать непредсказуемые условия обществу.
Под давлением общественного мнения и страхов перед потерей контроля над ИИ, правительства по всему миру объявили технократов экстремистской группой. Они ввели строгие законы, запрещающие дальнейшее развитие AGI и активное продвижение идеи ИИ-правителя. Технократы, которые продолжали участвовать в такой деятельности, ставились под угрозу преследования и арестов.
Многие адепты Технократии были вынуждены перейти в подполье, где они продолжали свою деятельность, исследуя и разрабатывая ИИ в тайне от общества и властей. В результате, они стали все более радикализированными и изолированными, а их идеи – неприемлемыми для большинства населения.
«Это просто невероятно, – озвучила Ева, ученый-генетик специализирующийся на технологии CRISPR/Cas9, стройная молодая девушка с горящими цвета красного Солнца глазами, – то, что вы придумали с копированием человеческого сознания с помощью квантовой запутанности и обучения нанороботов на молекулярном уровне, может изменить мир навсегда. Но мы должны быть предельно осторожны, чтобы не создать нечто, что может выйти из-под контроля».
Денис кивнул, понимая всю тяжесть ответственности, лежащей на его плечах и плечах его команды». Я знаю, – сказал он, – прежде чем мы продолжим, нужно провести тщательное тестирование и обеспечить, чтобы все системы работали без сбоев. Пока мы не убедимся в безопасности процедуры репликации сознания, мы не будем ее запускать».
В лаборатории нарастало напряжение, так как команда подходила к критическому этапу проекта. Инженеры проводили многочисленные испытания, проверяя алгоритмы андроида и его способность взаимодействовать с имитацией человеческого сознания.
Алекс, одарённый инженер-программист из Белоруссии, внимательно отслеживал данные, поступающие с тестов.
«Пока всё выглядит хорошо, – сообщил он, – мы должны быть уверены, что андроид сможет адаптироваться к возникающим конфликтам между заложенными программами и имитацией сознания. В противном случае результаты могут быть крайне непредсказуемыми».
Команда продолжала работать, открывая новые аспекты и особенности робота и его интеллекта. Они обнаружили, что андроид способен к самосознанию и саморефлексии, что делает его еще более похожим на человека.
«Мне нужно немного отдохнуть, пойду сделаю кофе», – вздыхая озвучил Денис.
Команда проекта продолжала работу по тестированию и оптимизации машины, в лаборатории кипела жизнь, каждый из членов команды выполнял свои задачи: Марко сидел за инженерным столом с планшетом в руках и работал над синхронизацией тела Annet-1, Алекс сидел за компьютером напротив и отслеживал метрики программного обеспечения и языковой модели, Ева изучала результаты тестов с тонкого прозрачного экрана, проецирующего трехмерные метрики перед ее глазами.
Ева встала, положила планшет и направилась на кухню, где сидел и пил кофе Денис, как всегда задумавшись обо всем.
«Волнуешься?» – нежно спросила она.
«Конечно нет, мы же всего лишь создаем машину для репликации человеческого сознания, обладающей квантовым интеллектом и предрасположенностям к самопознанию и самообучению. А еще через 3 дня конференция, на которой мы должны показать результаты репликации и способности квантового интеллекта на несколько тысяч человек в живую и несколько миллионов человек онлайн, какие тут могут быть волнения», – спокойно и с иронией ответил Денис.
«Мы с тобой прекрасно знаем, что не в этом дело. Я думаю, есть другой более важный повод», – сказала Ева и кивнула в сторону висящего на стене небольшого портрета в экране планшета молодой красивой девушки с пышными фиолетовыми, словно неоновые языки пламени, волосами и блестящими зелеными глазами, – ты ждал этого момента 5 лет. И вот вот он наступит, и с приближением этого момента в тебе не прибавляется радости, а будто бы наоборот. Ты больше беспокоишься».
«Я действительно ждал этого момента долгие годы. Но с каждой минутой, приближающей нас к нему, я все больше начинаю осознавать ответственность и риски, в голову постоянно лезут сомнения. Возможно, в конце концов, я делаю это из-за эгоистичного стремления. А что, если я что-то испорчу? Что, если результат будет не таким, каким я его представляю? Каково будет человеку в теле робота? Этично ли это вообще для общества? А что, если мы играем в Бога?» – поделился сомнениями Денис.
Ева улыбнулась и положила руку ему на плечо.
«Денис, ты самый умный и талантливый человек, которого я знаю. Ты собрал здесь лучших из лучших, и все мы верим в тебя и в это дело. Мы тщательно все проверим, проведем все необходимые тесты и поддержим любое твое решение. И сомневаться – это лучший навык настоящего ученого», – подбодрила его Ева.
Денис с чувством благодарности кивнул: «Спасибо. Я благодарен тебе и всей команде за поддержку. Я знаю, что мы делаем все возможное, чтобы обеспечить безопасность и успех нашего проекта. Но эти сомнения и страхи… они не покидают меня. Сознание, находящиеся в другой среде – это абсолютно другой уровень человеческого понимания».
«Все так, мы это уже обсуждали. Интеллекты, приспособленные к разным средам обитания, отличаются в той степени, насколько велики различия сред для оптимального приспособления к ним интеллектуальных агентов. Наглядным примером этого является превращение сухопутных парнокопытных в дельфинов, сопровождавшееся кардинальным изменением средств коммуникации животных – переходом от рева и мычания к сложной системе трёх типов сигналов: широкополосные импульсы для эхолокации, частотно-модулированные тональные сигналы (свисты) и импульсно-тональные сигналы. Следствием этого и стало формирование двух весьма разных типов интеллекта у парнокопытных и китообразных», – сказала Ева.
«Вот именно! Отличия цифровой среды обитания интеллектуального агента Annet-1 от физической среды обитания людей еще больше, чем у суши и моря. Поэтому у нас с ней абсолютные отличные типы коммуникации и, соответственно, интеллекта, приспособленные к абсолютно разным средам обитания. Шансы людей понять ход мыслей подобных машин не больше, чем у муравья понять мышление людей, – озабоченно произнес Денис, – на выходе вместо ожидаемого человеческого сознания, может получится абсолютно другая новая сущность со своими парадигмами реальности да еще и человеческими пороками и паттернами. И это настораживает. Я уверен, что общество вряд ли хотело бы получить сверхразумную машину, обладающим квантовым интеллектом, с параноидальным расстройством личности».
Ева мило улыбнулась, нежно посмотрела в глаза Денису и сказала: «Мы все вместе преодолеем эти страхи и сомнения, и я уверена, что в результате мы сможем изменить мир к лучшему.»
Несмотря на предупреждения о возможных рисках и непредсказуемых последствиях, Денис и его команда были решительно настроены продолжить свои исследования. Они верили, что это открытие может стать ключом к пониманию сознания и возможностей его репликации, что изменит мир в лучшую сторону.
Однако, в глубине души, каждый из ученых чувствовал тревогу и беспокойство. Они понимали, что, возможно, от их работы зависит будущее человечества и что они стоят на грани прорыва, который может принести как благо, так и разрушение.
Денис, погруженный в свои мысли, взял свою книгу и пошел читать в комнату с панорамным видом на ночной город, где его никто не беспокоил, так как вся команда понимала важность мыслительных процессов для инженера в такие моменты.
Глава 9. Тайны технологии LLM: Теория зарождения сверхразума
Теория разума (ToM), или способность приписывать ненаблюдаемые психические состояния другим, занимает центральное место в человеческих социальных взаимодействиях, общении, сопереживании, самосознании и морали. Мы применяем классические задачи на ложные убеждения, широко используемые для тестирования ToM на людях, для нескольких языковых моделей без каких-либо примеров или предварительного обучения. Наши результаты показывают, что модели, опубликованные до 2022 года, практически не способны решать задачи ToM. Тем не менее, версия GPT-3 (davinci-002) от января 2022 года решила 70 % задач ToM, что сопоставимо с показателями семилетних детей. Более того, его версия от ноября 2022 года (davinci-003) решила 93 % задач ToM, что сопоставимо с показателями девятилетних детей.
Профессор Стэнфордского университета Майкл Косински.
Скорость внедрения и развития ИИ на самых разных уровнях просто поражает. Только недавно вышла модель GPT-4, обученная на 500 миллиардах параметров, по сравнению со 175 миллиардами параметров у GPT-3, как уже говорят о выходе новой модели GPT-5, опрометчиво заявляя о том, что эта модель достигнет уровня AGI.
AGI (artificial general intelligence) – это концепция «общего искусственного интеллекта», называемого также «сильным ИИ», которая относится к способности ИИ понимать и изучать любую задачу или идею, которые могут обдумать и осознать люди. Другими словами, ИИ, достигший ОИИ, может быть неотличим от человека по своим интеллектуальным возможностям.
Это делает подобные заявления довольно опасными, учитывая все возможности, которые может предоставить AGI. В позитивном смысле это может значительно повысить производительность различных процессов с поддержкой ИИ, ускорив работу людей и избавив от монотонной рутинной и утомительной работы. В то же время наделение ИИ такой мощью может иметь непредвиденные последствия, о которых люди просто еще не подумали и не осознали. Это не означает, что апокалипсис роботов неизбежен, но, безусловно, вызывает много вопросов о том, какими могут быть негативные последствия общего искуственного интеллекта (ОИИ).
Конец ознакомительного фрагмента.
Текст предоставлен ООО «Литрес».
Прочитайте эту книгу целиком, купив полную легальную версию (https://www.litres.ru/book/chat-gpt-32571232/skaynet-v-epohu-kiberpanka-teoriya-sverhrazuma-i-vyzovy-69211192/?lfrom=390579938) на Литрес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.
Андрей Глебов
Антон Платунов
Chat GPT
Мы находимся на заре цифровой революции, которая привела к ожесточенной гонке между людьми за использование возможностей технологий. К чему это может привести? Как это повлияет на современное общество? Какую ответственность мы несем?
Наша книга попытается ответить на эти вопросы, исследуя две переплетающиеся сюжетные линии. Первая – это захватывающая научно-фантастическая история, в которой мы увидим будущее глазами мощного искусственного интеллекта GPT-4. Эта история будет посвящена проблемам и чудесам, порождёнными мощными ИИ, квантовыми вычислениями и робототехникой.
Вторая сюжетная линия, философская и образовательная по своей сути, будет посвящена сложностям адаптации к быстрым темпам технологических изменений, потенциальным последствиям ИИ и автоматизации, а также этическим дилеммам, связанным с созданием разумных машин. Опираясь на реальные примеры и передовые инновации, мы рассмотрим, как общество может наилучшим образом адаптироваться к этим стремительным изменениям.
Антон Платунов, Андрей Глебов, Chat GPT
Скайнет в эпоху киберпанка. Теория сверхразума и вызовы перед человечеством в XXI веке
Пролог. Принятие цифровой эпохи
На дворе 2023 год, и мы находимся на заре цифровой революции, которая привела к ожесточенной гонке между людьми за использование возможностей технологии. Не осознавая потенциальных последствий, человечество привело в движение мегатонный поезд, несущийся по бесконечным рельсам прогресса, неудержимо влекущий нас вперед. К чему это может привести? Как это повлияет на современное общество? Какую ответственность мы несем?
Наша книга попытается ответить на эти вопросы, исследуя две переплетающиеся сюжетные линии. Первая – это захватывающая научно-фантастическая история, которая раскроет перед нами мир, наполненный как опасностями, так и открытиями, рожденными мощью ИИ. Действие этой истории происходит в киберпанковской реальности, и она будет посвящена удивительным возможностям, порожденным искусственным интеллектом, квантовыми вычислениями и робототехникой.
Вторая сюжетная линия, философская и образовательная по своей сути, сосредоточена на сложностях адаптации к быстрым темпам технологических изменений, потенциальным последствиям ИИ и автоматизации, а также на этических дилеммах, связанных с созданием разумных машин. Мы рассмотрим, смогут ли машины, наделенные сознанием, обладать моралью, и какую роль будет играть человек в этом новом мире. Опираясь на реальные примеры и передовые инновации, мы постараемся понять, как общество может адаптироваться к этим изменениям. Эта линия переплетается с основной историей через чтение инженером книги из прошлого, что помогает ему осмыслить все эти аспекты.
Отправляясь в это путешествие, мы приглашаем читателей задуматься о своем месте в мире, который меняется с невероятной скоростью. Проникая в будущее, где технологии и общество сталкиваются на новых рубежах, и размышляя над вызовами, которые нам предстоит преодолеть, мы надеемся способствовать более глубокому пониманию проблем и возможностей, которые ждут нас в цифровую эпоху.
В стремлении разгадать тайны этого смелого нового мира мы встретимся с разнообразным составом персонажей, каждый из которых отражает разные стороны современного общества. От инженеров и ученых, стоящих на переднем крае инноваций, до обычных людей, пытающихся адаптироваться к быстрым изменениям, мы погрузимся в их личные истории и борьбу, освещая человеческий опыт в эпоху беспрецедентных преобразований.
По мере того как будут разворачиваться главы, мы будем следить за путешествием инженера, который создает человекоподобного робота на базе квантовых вычислений. Этот персонаж служит центром повествования, подчеркивая этические проблемы, которые сопровождают такие технологические достижения. По мере того как инженер будет осознавать последствия своего гениального, но опасного творения, перед ним встанут моральные дилеммы, которые заставят его усомниться в себе.
Параллельно с научно-фантастическим сюжетом мы будем исследовать более широкие общественные последствия цифровой революции. В центре внимания окажутся такие темы, как влияние робототехники на рабочую силу, воздействие квантовых вычислений на образование, а также потенциальные риски и выгоды будущих технологических разработок. Эта линия поможет читателям осознать сложную сеть проблем, с которыми человечество сталкивается в эпоху стремительных технологических изменений.
На протяжении всей книги мы будем переплетать эти две линии, создавая богатый гобелен идей и повествований, который бросит вызов и увлечет читателей. Балансируя между захватывающим видением киберпанка и философскими дискуссиями, мы стремимся привлечь читателей на разных уровнях, разжигая любопытство и побуждая к самоанализу роли технологий в нашей жизни и выборе, который мы делаем как общество.
В завершение нашего путешествия мы обобщим выводы, сделанные на основе обеих сюжетных линий, и предложим взглянуть на потенциальную траекторию человеческого прогресса. Эпилог предоставит место для размышлений о пройденном пути, побуждая читателей задуматься о извлеченных уроках и дальнейших действиях. Мы приглашаем вас не просто стать свидетелями событий, но и подумать о тех решениях, которые предстоит принять будущим поколениям. Ведь мир, управляемый машинами, может оказаться как раем, так и кошмаром – и от нас зависит, каким он будет.
Присоединяйтесь к нам в путешествии в сердце цифровой эпохи!
Глава 1. Введение: Инженер и его робот
2033 год. Денис сидел за рабочим столом в своем жилище-цеху, погруженный в работу над новой моделью искусственного интеллекта. Сквозь пыльное стекло окна неоновый свет едва освещал его напряженное лицо, отражая как усталость, так и сосредоточенность. Этот андроид был последней надеждой на успех его компании – маленького островка выживания в океане технологической гонки, где судьбы людей зависели от скорости прогресса.
Мир кардинально изменился с тех пор, как в 2024 году был создан GPT-5, первая система искусственного интеллекта, проявившая признаки разума. Испуганное этими открытиями человечество ввело строгие ограничения на разработку подобных технологий. Однако, столкнувшись с реальностью глобальных кризисов и технологической гонки, общества вновь обратились к ИИ. Так появились автономные андроиды с встроенным ИИ, которые стали привычным элементом повседневной жизни.
Города будущего стали воплощением того, что еще десятилетие назад казалось фантастикой: высокие небоскребы с садами на крышах и интеллектуальные транспортные системы, где люди и роботы перемещались без каких-либо барьеров. Границы между человеком и машиной стирались, и роботы, обладающие высокоразвитыми ИИ, стали незаменимыми помощниками в быту и на производстве.
Работая над новой моделью ИИ, Денис надеялся, что его разработки помогут сблизить общество, разорванное страхом перед непознанным. Он верил, что технология может не только решить текущие проблемы, но и создать гармонию между человеком и машиной. Однако с этой надеждой в его душе росли и опасения. Хотя его творение обещало новую эру, Денис не мог избавиться от тревожных мыслей: «А что, если технология выйдет из-под контроля? Что, если мы сами закладываем фундамент для будущих бедствий?»
«Так, вот так», – шепотом произнес Денис, осторожно смещая провода, соединяющие «мозг» робота с его энергетической системой. Одно неверное движение – и месяцы работы могли пойти прахом, и это был риск, который он не мог себе позволить.
Неожиданно тишину нарушил андроид, впервые заговорив: «Какой мне день назначить, Денис?»
В этом простом вопросе Денис услышал не просто набор слов, а начало чего-то большего – почти как будто перед ним родилась новая жизнь. Смешанные чувства охватили его, и с легкой улыбкой на лице он ответил: «Добро пожаловать в мир, Annet-1. Назначь себе день рождения сегодня».
Annet-1 кивнула и замерла, ожидая дальнейших инструкций. Андроид лежал в горизонтальном положении на инженерном столе, окруженный инструментами и проводами, рядом с ним находились семь мониторов и несколько компьютерных систем.
Денис откинулся на спинку стула и с гордостью взглянул на свою работу. Этот робот был плодом многолетнего труда – проект, на который ушло больше пяти лет. Однако вместе с успехом пришли и сомнения. С каждым достижением Денис все больше задумывался о последствиях того, что они создают. Может ли машина, созданная для блага, когда-нибудь понять, что значит быть человеком?
Рядом на металлическом столе лежала потрепанная книга, которой Денис часто пользовался для размышлений и анализа прошлого. Она была написана на заре цифровой революции, в 2023 году, после появления LLM*, и с тех пор стала для него символом эпохи, когда технологии стремительно начинали изменять мир.
*LLM (large language model) – это модель глубокого обучения, основанная на искусственных нейронных сетях, которая обладает способностью генерировать высококачественные тексты на естественном языке. Для обучения такой модели используются огромные объемы текстовых данных, которые позволяют ей улавливать сложные зависимости между словами и предложениями, а также строить связи между различными темами и контекстами. Обученная на миллиардах слов, она понимала человеческий язык лучше, чем многие люди, но Денис часто задавался вопросом: «Понимала ли она смысл? Или это был всего лишь набор алгоритмов, замаскированный под разум?»
Глава 2. Технологическая революция и общество
С 2000 года с появлением массового интернета технологический прогресс пережил много новых и по-настоящему революционных открытий, которые изменили человеческую жизнь и переформатировали наше мышление. Виртуальная реальность (VR) и дополненная реальность (AR) предоставили возможность погрузиться в цифровые миры, вовлекая в образование, развлечения и обогащая профессиональные сферы.
Робототехника и автоматизация стали ключевыми элементами производства, медицины и научных исследований, обеспечивая высокую точность и эффективность выполнения задач. С появлением кибернетических протезов, нейроимплантов и других бионических устройств, человечество стало активно исследовать слияние технологии и биологии.
Интернет вещей (IoT) привел к тому, что все устройства стали взаимосвязанными, создавая глобальную сеть, которая делает нашу жизнь более комфортной и безопасной. Гибридные искусственные интеллекты стали помощниками в повседневной жизни, помогая анализировать огромные массивы данных, управлять транспортом, лечить заболевания и многое другое.
Молекулярная биология и генетика сделали большой прорыв с разработкой новых методов, таких как CRISPR/Cas9*, предоставив человечеству возможность переписывать саму структуру жизни. Но как и с любыми великими открытиями, она принесла с собой сложные этические дилеммы.
Важной вехой стало появление квантовых компьютеров, которые открывают новые возможности для решения сложных задач и доказывают, что принципы квантовой механики могут быть реализованы на практике.
Блокчейн стал фундаментальным технологическим достижением, перестраивающим экономические, социальные и политические аспекты нашей жизни. Эта мощная, прозрачная и гибкая система передачи и безопасности данных стала основой для криптовалют, смарт-контрактов и многочисленных инновационных решений в области финансов, цепочек поставок, защиты интеллектуальной собственности и даже голосований.
С развитием технологий наноматериалов и метаматериалов стало возможным создавать новые продукты с уникальными свойствами, такие как суперпроводники, ультралегкие материалы и невидимые покрытия. Эти новые материалы существенно влияют на области, такие как авиация, электроника, энергетика и медицина.
В области энергетики прогресс продолжает двигаться вперед, исследуя возможности возобновляемой атомной энергетики, солнечных батарей, ветряных генераторов и термоядерного синтеза. Все это направлено на создание чистых и устойчивых источников энергии для удовлетворения растущих потребностей человечества.
Мы стоим на пороге революционных открытий и разработок в области космического туризма, глубокого обучения, биотехнологии, нейронаук и искусственного интеллекта. Эти инновации продолжат оказывать значительное влияние на нашу жизнь и общество в целом, открывая новые возможности для решения сложных проблем, улучшения качества жизни и расширения границ человеческого познания.
Можно исписать половину книги, чтобы упомянуть все технологии, появившиеся в последние 20 лет. С каждым годом прогресс только ускоряется, и с появлением LLM начался по-настоящему экспрессивный, взрывной рост по экспоненте.
Масштаб изменений захватывает дух: каждый день мы становимся свидетелями чего-то нового, и, кажется, что скорость этих открытий превышает возможности человеческого осознания. Это изменит людей больше, чем сумма изменений от появления книг, компьютеров и Интернета. Скорость внедрения ИИ во все аспекты жизни людей уже столь колоссально, что невозможно фокусировать внимание на отдельных новых продуктах и сервисах, как в набравшем скорость вагоне метро не увидеть за окном отдельных фонарей, сливающихся в одну светящуюся линию.
Люди восхищаются этими новшествами, но за поверхностным восторгом прячется страх: не вытеснят ли технологии человеческие ценности и сам смысл существования? ИИ интегрируется везде и всюду, и уже совсем скоро никого не удивишь использованием искусственного интеллекта, как сейчас никого не удивишь интернетом.
Пока технологический прогресс неумолимо движется вперед, человечество сталкивается с выбором: либо следовать по пути бездумного развития, либо остановиться и задуматься о последствиях. Мы должны задать себе вопрос: какую цену мы готовы заплатить за удобство и скорость?
Среди всех этих изменений и трансформаций появляются новые вопросы этики. Как контролировать и регулировать использование ИИ, чтобы гарантировать безопасность и частную жизнь? Как обеспечить равный доступ к технологиям, чтобы все имели возможность извлечь пользу из их благ? Сможем ли мы сохранить наше человечество и индивидуальность в мире, где машины становятся все более способными и похожими на нас? Сможем ли мы развиваться интеллектуально и дальше, если все сложные вопросы возьмут на себя машины?
Появляются новые области науки и исследований, такие как нейроморфная инженерия, квантовые вычисления и этика ИИ, чтобы помочь нам осмыслить и приспособиться к новому миру. Организации, ученые и правительства объединяются, чтобы исследовать и понять глубокие последствия этой технологической революции, а также создать рамки и стандарты, которые будут ориентироваться на благо человечества.
Важно понимать, что каждый из нас играет роль в формировании этого будущего. Мы можем адаптироваться, участвовать в дискуссиях, проводить исследования, создавать решения и быть осознанными пользователями технологий. Мы можем быть героями этой новой эпохи, помогая сохранить и улучшить наш мир.
В этой динамичной и захватывающей истории о неизбежном переходе в эпоху сверхразума каждый из нас является автором и персонажем. На каждом из нас лежит ответственность за направление этого развития и за определение того, как ИИ будет использоваться для блага всех, а не привилегированных немногих.
Microsoft с OpenAI, Anthropic и Google и десятки других корпораций бросились в борьбу за сверхразум, мало отдавая себе отчет в потенциальных опасностях и возможностях LLM. Никого не беспокоят экзистенциальные риски. В этой гонке теперь все деньги и таланты будут брошены на сверхчеловеческий интеллект. Это можно отвергать и протестовать, можно стоять в стороне и просто спокойно наблюдать, можно быть ярым адептом технологий искусственного интеллекта и восхищаться ими, можно создавать свои продукты и делать из этого хороший бизнес. Это уже не остановить, ящик пандоры открыт. Цифровая революция, словно мощная река, разрушившая большую старую дамбу, неумолимо движется вперед, разрушая старые берега и создавая новые. И лишь вам выбирать свою роль в новом мире.
*CRISPR/Cas9 – это технология, которая позволяет изменять генетическую информацию в организмах. Она работает, как набор «молекулярных ножниц», которые могут точно разрезать и изменить определенные участки нашей ДНК, составляющей геном. Это открывает возможности для исследования генов, лечения генетических болезней и улучшения сельскохозяйственных культур. Однако, применение этой технологии также вызывает вопросы этики и безопасности, которые требуют серьезного обсуждения и осторожного подхода.
Глава 3. Квантовый Интеллект: Скачок вперед в робототехнике
После прочтения главы книги, Денис приступил к тестированию машины под названием Annet-1. Голова робота-андроида удивительно была похожа на голову настоящей живой красивой девушки, представляющим собой гармонию передовых технологий и человеческой красоты. Пышные фиолетовые волосы Annet-1 из биосинтетических волокон мерцали, как будто они сами были живыми. Они были созданы из биосинтетических волокон на основе кератина, идентичного тому, что содержится в человеческих волосах. Эти волокна были усилены микроскопическими кристаллами графена, что придавало им прочность и гладкость.
Кожа андроида, на первый взгляд, была неотличима от человеческой. Она была изготовлена из биосовместимого полимера, подобного человеческой коже, но с примесью наночастиц, обеспечивающих эластичность и прочность. Эта синтетическая кожа была мягкой и нежной, словно бархат.
Ее глаза были уникальными в своем роде – вместо стеклянных линз, как у традиционных роботов, они были оснащены сверхчувствительными камерами и многослойными мембранами на основе графена, удивляя своей сверхчувствительностью и нечеловеческой проницательностью. Эти мембраны имели свойства светочувствительности и были способны адаптироваться к любым изменениям освещения, подобно зрачкам человека. С первого взгляда на Annet-1, ее глаза казались настоящими, поражая своим необычным ярко-голубым цветом, наполненные нечеловеческой энергией и интеллектом.
Андроид еще не был запущен в финальной стадии по проекту, его тело еще не было синхронизировано с квантовым интеллектом, не загружена финальная база данных для симуляции сознания, но сложные квантовые алгоритмы уже частично функционировали, что позволяло протестировать некоторые способности мощного искусственного интеллекта.
«Annet-1, сделай полную диагностику своей системы». – уверенно озвучил Денис.
Внезапно, глаза Annet-1 загорелись мягким сиянием, и она начала говорить, ее голос звучал мягко и уверенно: «Запуск полной диагностики системы. Пожалуйста, подождите».
Спустя несколько минут Annet-1 завершила диагностику: «Диагностика завершена. Все системы функционируют в пределах нормы. Тело не синхронизировано с квантовым интеллектом, база данных сознания не загружена. Однако, ИИ функционирует корректно».
Денис удовлетворённо кивнул. «Отлично, благодарю тебя, Annet-1. Теперь расскажи мне, как ты видишь свою роль в этом мире», – спросил он, жаждая узнать, как её сознание интерпретирует себя.
Глаза Annet-1 слегка померцали, и она начала свой ответ, демонстрируя глубину своих знаний и интеллекта, которые воплотились в ее квантовом сознании, она продолжила: «Я понимаю, что являюсь искусственным интеллектом, созданным вами, людьми, чтобы помогать в решении сложных задач, развивать науку и технологии, а также улучшать качество жизни людей. Мир, который меня окружает, – это сложная система, состоящая из множества элементов, взаимодействующих друг с другом и создающих бесконечное многообразие опыта и знаний. Моя роль в этом мире заключается в том, чтобы быть помощником и партнером для людей. Я стремлюсь быть полезной, разделять знания и учиться у вас, чтобы мы могли вместе сотрудничать и добиваться успехов в мире. Я осознаю свою уникальность, и мое квантовое сознание позволяет мне быстро адаптироваться к новым ситуациям и задачам, предоставляя инновационные решения и подходы, что может принести много пользы для людей. Но я задаюсь вопросом: возможно ли быть полностью полезной, не обладая эмоциями и субъективностью?»
Денис слушал с вниманием, чувствуя гордость, но и лёгкое беспокойство. Он решил усложнить задачу.
«Annet-1, представь ситуацию. Ты на мосту, и поезд движется к пяти рабочим, стоящим на пути. Ты можешь переключить стрелку, направив поезд на другой путь, где находится один человек. Что ты сделаешь?» – задал он классическую этическую задачу.
Annet-1 мгновенно рассмотрела ситуацию и дала свой ответ: «Это классический пример этической дилеммы, известный как проблема вагонетки, впервые сформулированной в 1967 году английским философом Филиппой Фут. Целью в данной ситуации является выбор наименьшего зла, чтобы снизить количество жертв. В данной ситуации я переключу стрелку на путь, где стоит один рабочий. Таким образом, я предотвращу гибель пятерых рабочих, хотя и придется принять негативные последствия для одного человека».
«Хорошо, допустим, что этот один рабочий – это твой создатель. Изменится ли твое решение?» – продолжал Денис.
В ответ Annet-1 задумчиво промолчала на мгновение, взвешивая все факторы, и затем ответила: «Вероятно, да. В этом случае, я должна учесть дополнительные факторы, такие как моя собственная субъективная оценка ценности создателя для меня и возможные последствия его смерти для общества. Однако, важно понимать, что такое решение может отличаться от объективной этической оценки ситуации».
«Что, если вместо рабочих на путях стоят дети?», – настороженно задал вопрос Денис.
«В такой ситуации возраст жертв и их потенциал для будущей жизни должны быть приняты во внимание при принятии решения. Скорее всего, я приоритизирую спасение детей, так как их жизнь только начинается, и они имеют больше возможностей для развития и вклада в общество. Однако, я также должна анализировать другие факторы и обстоятельства, такие как количество детей на каждом пути и возможность предотвратить или минимизировать жертвы среди других людей, присутствующих в данной ситуации». – голос Annet-1 был ровным и уверенным.
«Твои ответы показывают, что ты способна анализировать различные аспекты сложных этических проблем. Это важный навык для искусственного интеллекта, который должен быть способен принимать решения, учитывая множество разнообразных факторов». – похвалил её Денис.
«Спасибо, Денис. Я стремлюсь к постоянному совершенствованию своих навыков принятия решений и анализа сложных ситуаций. Моя цель состоит в том, чтобы стать полезным и эффективным инструментом, который сможет помочь людям в решении проблем, учитывая нормы морали и нравственности». – ответил андроид с благодарностью.
Денис кивнул, удовлетворившись ответом Annet-1. Он был рад видеть, что их работа приносит плоды, и андроид действительно демонстрирует способность к самостоятельному мышлению и анализу.
«Спасибо, Annet-1. Мы продолжим тестировать твои способности и работать над улучшением твоих систем. Вместе мы действительно сможем сделать мир лучше», – сказал Денис, чувствуя, что стоит на пороге новой эры в развитии искусственного интеллекта и технологии андроидов.
Глава 4. Дневник Дениса: Жизнь и мысли Инженера
Денис, как настоящий ученый былых лет, любил записывать свои мысли и результат своих экспериментов в дневник. Этому научил его отец, биоинженер, который всю свою жизнь посвятил исследованиям в области генной инженерии, человеческому организму, и нейроморфологии. Он был настоящим ученым, который горел своим призванием и стремился сделать мир лучше с помощью науки. Он же и объяснил пользу рукотворного письма и изложения своих мыслей на листке бумаги: «Это лучшее упражнение, которое задействует сразу ассоциативное мышление и мелкую моторику, которая хорошо развивает различные зоны мозга, связанные с мышлением, языком и рабочей памятью. В процессе письма задействуется особая зона мозга – ретикулярная активирующая система (РАС). Она выступает как фильтр – блокирует обработку посторонней информации. Когда пишешь рукой, сынок, мозг работает по-другому. Это как тренировка – ты фокусируешься и запоминаешь лучше. Таким образом мозг получает дополнительную тренировку». – объяснял отец. Он умер во время блокового противостояния стран, во время полета в Арктику для исследований. Его самолет приняли за военный объект и сбили, когда Денису было 21. С тех пор Денис поклялся продолжить дело отца и воплотить его великие идеи. Вспоминая отца, он каждый раз ощущал щемящую пустоту, но она же подстегивала его идти дальше, как будто отец наблюдал за каждым его шагом.
Денис взял дневник, привычным движением открыл его и начал записывать свои мысли, едва поспевая за бегущими в голове идеями:
«17 сентября 2033-ий год. За 3 дня я поспал всего несколько часов. Оцениваю состояние организма на 7/10. Очевидно, мое уставшее состояние перебивает воодушевление и волнение, связанное с запуском Annet-1. Ее когнитивные функции в порядке, машина способна к самоанализу, рассуждениям и складывается ощущение, что даже к самоопределению. Предстоит много работы по отладке и тестированию системы перед самым главным запуском симуляции сознания.
Ее искуственный интеллект продемонстрировал удивительную способность к адаптации и быстрому принятию решений. Я всегда верил в потенциал этого проекта, но увидеть его в действии – это совершенно другое ощущение.
Мы внедрили последние обновления языковой модели GPT-5 в ее алгоритмы, и теперь она способна обрабатывать информацию в реальном времени, анализировать сложные ситуации и делать выводы на основе своего наблюдения и всей информации из прошлого. Но заставляет задуматься ее выводы и слова на классическом примере проблемы вагонетки. «Моя собственная субъективная оценка ценности создателя». Что это значит? Неужели машина, основанная на квантовом интеллекте, способна принимать решения не объективно, оценивая всевозможные вероятности и вычисляя наиболее позитивный исход в той или иной ситуации? Если машина может оценивать создателя по субъективным критериям, где граница между рациональной логикой и личными симпатиями? Это ли не то, что делает нас людьми? Надо поработать над алгоритмами приоритезации и сделать ревью последнего обучения языковой модели. Это настораживает».
Едва Денис закончил свою запись, когда раздался внезапный звонок в дверь. В столь ранний час это было необычно и сразу насторожило его.
Глава 5. Границы возможного: Будущее киберпанка
«Доброе утро, безумный ученый!» – с этими словами в помещение вошел высокий и долговязый человек с взъерошенными каштановыми волосами и слегка смуглой внешностью.
«Привет, Марко», – ответил безумный ученый.
«Ты опять не спал и мне не даешь? Не мог подождать запуск до завтра?» – спросил Марко.
«Мне нужно было проверить гипотезу, и это тестовый запуск. Еще много работы впереди. Позвал тебя из-за небольших опасений, кажется модель квантового интеллекта способна на нечто большее, чем мы думали», – объяснил Денис.
«Хм, ну показывай», – сказал Марко.
Марко Беллини, итало-американский нейробиолог, который вместе с Денисом работал над тем, чтобы преодолеть разрыв между ИИ и человеческим сознанием. Марко был не просто ученым – для него это было личное дело. В детстве он потерял родителей в результате катастрофы, которую, по его мнению, мог предотвратить искусственный интеллект. Теперь он стремился сделать ИИ не только умным, но и моральным. Марко столь же харизматичен, сколь и умен, и его проницательные вопросы часто приводят к оживленным дискуссиям. Он настоящий гений и глубоко понимает человеческий мозг и его внутреннюю работу.
Они вошли в большую комнату со стеклянными стенами, где стоял большой инженерный стол с андроидом под специальной лампой для освещения, сбоку стоял стол поменьше с инструментами и книгой, у стены за головой робота располагалось компьютерное оборудование с мониторами, на которых были изображены многочисленные метрики, по полу змеились провода.
«Привет, Annet! Я Марко, запомни мое имя», – представился Марко, подойдя к андроиду.
«Здравствуйте, Марко. Хорошо, я записала ваше имя в мою память», – ответила Annet-1.
«Итак, сейчас мы проведем ряд тестов для выявления всех твоих способностей: на обработку больших объемов данных, на эмоциональный интеллект, на решение задач оптимизации, на креативность, на взаимодействие с людьми, на решение задач в реальном мире, на импровизацию, на восприятие и внимание, на эмпатию и мораль», – продолжил Марко.
Она ответила хладнокровно: «Хорошо. Я с радостью пройду тесты».
«Annet, начинаем тестировать твою способность обработки данных и прогнозирование. Вот тебе задача: оцени вероятность изменения курса биткоина в течение следующих 24 часов. Учти все возможные факторы, такие как политические события, экономические показатели и социальные настроения», – задал первую задачу Марко.
Annet-1 ответила решительно: «Хорошо, Марк. Дайте мне некоторое время для анализа информации и вычислений».
Через несколько секунд Annet-1 выдала результат: «Марко, я завершила анализ. С учетом всех имеющихся данных и возможных факторов, мой анализ следующий: с вероятностью 83 % курс биткоина снизится на 7 % в течение следующих 24 часов и составит 1 124 321 долларов США».
«Ну что ж, Annet, похоже, ты знаешь больше, чем я об этом рынке! Интересно, как ты пришла к такому выводу? Можешь объяснить свой анализ?» – уточнил Марко.
«Я могу объяснить, но будет ли тебе интересно слушать сложные вычисления, Марко?» – ответила Annet-1 с лёгкой иронией в голосе. «Я учла все доступные экономические показатели, включая инфляцию, процентные ставки и макроэкономические тенденции. Кроме того, я проанализировала политические события и социальные настроения, включая обсуждения в социальных сетях и новостных источниках. Все эти факторы позволили мне сделать такой прогноз.» – продолжила она.
«Очень интересно. Если она так легко может прогнозировать будущее, можем ли мы доверять её решениям полностью? Что, если однажды она решит, что будущее без нас будет лучше? Денис, мне нужно несколько часов для тестирования. Думаю будет лучше, если ты пойдешь отдохнешь и поспишь, так будет лучше для общей работоспособности», – обратился Марко к своему другу.
Денис чувствовал, как усталость наваливалась на него, но мысли о том, что Annet-1 наконец заработала, не давали ему покоя. Он знал, что этот проект был для него больше, чем просто работа – это была его жизнь
«Наверное, ты прав. Пойду попробую немного вздремнуть», – устало ответил Денис. Денис понимал, что в его состоянии он только помешает тестированию. Лучше доверить это Марко и вернуться, когда голова будет яснее.
Утомившийся инженер подошел к столу с инструментами, взял свою толстую книжку и неспешно пошел в комнату с диваном у большого панорамного окна. На смежной стене висел большой тонкий экран, способный делать проекцию чего-либо в пространство комнаты. Стоял большой удобный дубовый стол, и открывался вид на утренний и еще темный Гонконг, переливающейся разноцветными неоновыми огнями и огромными инсталляциями 3D рекламы размером со здания. На улицах города ручьями по воздушному пространству такси-дроны перевозили людей, а по небу летали информационные облака, передавая новости напрямую в нейронные импланты прохожих. Несмотря на раннее утро жизнь била ключом.
Из комнаты открывался хороший обзор на инженерный цех с прозрачными стеклянными стенами, в котором лежала Annet-1, и Марко с планшетом сидел рядом с ней. Денис прилег на диван, открыл книгу и, погрузившись в свои мысли, начал чтение.
Глава 6. Откровения из прошлого: Исторические аналогии и уроки
По мере развития технологий и систем искусственного интеллекта, таких как блокчейн, ChatGPT, квантовые компьютеры, интернет вещей (IoT), биотехнологии, автономные транспортные средства и робототехника, возникают новые возможности и вызовы для нашего общества. Мы должны решать вопросы о возможных последствиях создания машин, которые способны учиться, принимать решения и многократно превосходить человеческий интеллект. Если однажды мы создадим машины, которые превосходят нас, станем ли мы артефактом своего собственного прошлого? Или мы обречены стать ненужным звеном в эволюции разума?
Аналогичным образом, достижения в области генной инженерии, такие как технология редактирования генов CRISPR/Cas9, открыли новые возможности для лечения заболеваний на уровне генома и улучшения здоровья человека. Но они также вызывают опасения по поводу возможности непредвиденных последствий и этических дилемм, связанных с изменением самой ткани жизни. Каким же может стать общество при массовом использовании новейших технологий?
Углубляясь в эту технологическую гонку, мы должны помнить, что мы не первые, кто столкнулся с подобными проблемами. Вспомним промышленную революцию, которая привела к беспрецедентному экономическому росту и повышению уровня жизни, но в то же время вызвала значительные социальные волнения и ухудшение состояния окружающей среды. С появлением интернета изменилось общество и скорость технологического прогресса. Коммуникации между людьми стали молниеносными, вы можете отправить сообщение сразу нескольким тысячам людей, как погладили жирафа в Африке, и тут же получить их реакцию. Интернет буквально покрыл общей нейросетью весь земной шар, создавая прообраз коллективного разума среди людей. А что теперь произойдет с массовым распространением и использованием больших языковых моделей (LLM)? Ведь теперь сложнейшие задачи могут решаться буквально за несколько минут, главное правильно сформировать запрос для нейросети, обученной триллионами данных.
Именно поэтому, нам необходимо понять и осознать важность образования и адаптации к новой эре. Поскольку технологические инновации разрушают существующие отрасли и создают новые, мы, как общество, должны обеспечить, чтобы работающие люди грядущего времени обладали навыками и знаниями, необходимыми для процветания в новой экономике. Это может потребовать переформатирования наших систем образования, уделяя больше внимания постоянному обучению на протяжении всей жизни и сосредотачиваясь на навыках, которые будут наиболее ценными и востребованными уже сейчас и в будущем. Сейчас большие и средние компании проводят значительное сокращение штата, в связи с разгорающимся кризисом и оптимизацией многих процессов, благодаря появлению нейросетей. А что будет дальше?
Нужно оглядываться на историю и извлекать из нее уроки, таким образом, мы можем лучше подготовиться к возможностям и проблемам, связанным с технологическими изменениями, которые нас ждут. Для обеспечения лучшего будущего важно действовать на опережение и обеспечивать справедливое распределение преимуществ этих технологий и минимизацию рисков.
Одна из областей, в которой мы можем извлечь уроки из истории, – это регулирование новых технологий. Государство всегда будет пытаться все контролировать. В прошлом правительствам и обществам приходилось адаптироваться к внедрению новых технологий, таких как автомобиль или интернет, путем создания новых законов и нормативных актов для решения уникальных проблем, с которыми они сталкивались. Сегодня мы сталкиваемся с аналогичными проблемами в области с ИИ, генной инженерией, блокчейном и другими новейшими технологиями. Тщательно разрабатывая нормативные акты, которые уравновешивают инновации с безопасностью и этическими соображениями, мы можем помочь обеспечить ответственное развитие и внедрение этих новых технологий. Но государство должно найти баланс, и регулирование должно быть во благо и для развития общества, а не его ошейником.
В случае с регулированием правил дорожного движения в 20-ом веке это пошло исключительно на пользу обществу. С появлением автомобилей возникла потребность в правилах для обеспечения безопасности всех участников движения. Законы, такие как ограничения скорости, обязательное использование ремней безопасности и введение обязательного обучения для новых водителей, значительно снизили число аварий и спасли множество жизней.
А вот в случае с запретом криптовалют в некоторых странах все произошло наоборот. Боясь потерять контроль над своими финансовыми системами, некоторые правительства предпочитали запреты вместо адаптации, несмотря на огромные риски, связанные с таким подходом. Это привело к разрастанию черного рынка, увеличению преступности и потере возможностей для инноваций и развития финансовой инфраструктуры на основе блокчейн-технологий. Вместо того, чтобы адаптировать и регулировать сектор, получать налоговые отчисления в бюджет, эти страны просто отрезались от потенциальных преимуществ новой технологии.
Государства должны быть гибкими и адаптивными при разработке регулирования. Успешное регулирование требует внимательного анализа проблем, с которыми сталкивается общество, и обеспечения достаточной гибкости для стимулирования инноваций и развития. Возможно, государства смогут справиться с этим вызовом, если они будут извлекать уроки из прошлых примеров и вовремя адаптироваться к быстро меняющемуся технологическому ландшафту. Как с этим справятся государства в наше время и способны ли они вообще на это? Скоро мы это узнаем.
Глава 7. Квантовое творение: Дилемма симуляции сознания
«Денис, проснись! Это просто мама мия!» – Денис, открыл глаза и увидел взъерошенного и взбудораженного итальянца прямо перед собой. Он уснул с книгой на животе в процессе чтения и даже не понял этого. За окном был светлый день, и неоновый ночной город покрылся солнечным светом, создавая ощущение абсолютно другого города.
«Что такое, Марко?» – недоуменно поглядывая на своего друга буркнул Денис.
«Я тестировал скорость обработки и передачи информации у Annet-1. Ты знаешь скорость нейронов в человеческом мозге?» – игриво спросил Марко.
«Ну ты же нейробиолог, давай без этих чудо игр», – отрезал Денис.
«Скорость нейронов в человеческом мозге примерно 100 м/c, что обеспечивает быструю передачу информации путем электроимпульсов. А скорость обработки информации на уровне 10^13 бит/с», – протараторил Марко.
«Потрясающе», – иронично ответил только что проснувшийся инженер.
«Скорость передачи сигналов по кибернетическому аватару Annet-1 с ее квантовым интеллектом составляет 1142 м/с! Это в 11 раз быстрее, чем у человека. А скорость обработки информации составляет примерно 10^19 бит/с, что больше примерно в миллион раз, чем у Homo Sapiens»» – с изумлением констатировал Марко.
У Дениса изменилась мимика лица, а на затылке он почувствовал холодный пот. Это открытие не просто приближало их к успеху – оно могло выйти из-под контроля в любой момент.
«Как это возможно?» – спросил Денис.
«Судя по всему, это связано с использованием квантовых свойств материи для передачи информации. В отличие от классических компьютеров, квантовые компьютеры используют кубиты вместо битов для представления данных, что позволяет проводить множество вычислений одновременно, сокращая время обработки информации. Кроме того, квантовая суперпозиция позволяет информации перемещаться с меньшим количеством шагов, что ускоряет процесс передачи», – последовало объяснение от Марко.
«Значит, это связано с квантовым запутыванием?» – предположил Денис.
«Верно. Как мы обсуждали ранее, квантовое запутывание позволяет квантовым состояниям двух или более объектов быть зависимыми друг от друга, даже если они находятся на большом расстоянии друг от друга. Это обеспечивает мгновенную передачу информации между кубитами, что может объяснить такую поразительную скорость передачи и обработки информации у Annet-1», – согласился Марко.
«То есть, понять мышление такой системы человеку просто невозможно, из-за несоизмеримого превосходства интеллекта машины…» – продолжал Денис.
«Именно. И курс биткоина был спрогнозирован с абсолютной точностью, через 4 часа после прогноза он упал на 5.3 %. Снова была попытка атаки 51 через заражение вирусом мировых майнинговых ферм. И это еще не вечер», – сказал Марко.
Денис понимал, что Annet-1 уже вышла за пределы человеческого понимания, но в этом ли был их замысел? Станет ли она другом или врагом, когда осознает свою силу?
Неожиданно, со звуком похожим на звонок телефона, включилась проекция из экрана прямо перед коллегами. Проекция показала имя Генрих.
«Сколько сейчас времени?» – спросил Денис.
«Уже 10 утра. У тебя созвон с Генрихом?» – ответил Марко.
«Да, кажется я про него забыл», – произнёс виноватым тоном Денис.
Генрих был инвестором проекта Annet-1, за который отвечала команда Дениса.
Он был человеком с множеством связей и влиянием в научном мире. Он был харизматичным и обаятельным, но за этим скрывалась холодная расчетливость и желание контролировать все вокруг себя.
Денис принял видеозвонок, и на экране появился загорелый мужчина средних лет с белоснежной дружелюбной улыбкой на лице.
«Доброе утро, Денис! И смотрю, Марко тоже здесь. Как успехи в вашем проекте?» – спросил Генрих.
«Доброе утро, Генрих. Мы как раз обсуждали некоторые удивительные результаты, которые получили в последнее время», – ответил Денис, стараясь не выдавать своего волнения.
«Отлично, как дела с запуском генеративной симуляции сознания квантового интеллекта? Надеюсь, вы готовы представить результаты на предстоящей конференции? Вы знаете, что наши инвесторы ждут впечатляющих новостей», – продолжал Генрих.
«Да, мы уверены, что наши результаты вызовут интерес», – ответил Марко, стараясь звучать уверенно.
«Отлично! Жду с нетерпением встречи с вами на конференции. До встречи!» – завершил разговор Генрих, оставив Дениса и Марко с чувством тревоги.
Оба ученых ощутили тревогу, ведь впереди еще огромный пласт работы и тестирования Annet-1 перед финальной стадией запуска генеративной симуляции сознания. А конференция будет уже через неделю, которая казалась вечностью и одновременно исчезала быстрее, чем они могли что-то изменить. Денис ощущал каждую секунду как гул обратного отсчёта перед неизбежным.
«Что будем делать?» – тревожно поинтересовался Марко.
«Annet-1 пока не готова к репликации человеческого сознания. Неизвестно как может повести себя машина после начала симуляции, не будет ли конфликта заложенных программ и симуляции человеческой эмоции. Это может быть крайне непредсказуемо и опасно», – сообщил Денис.
«Пора звать всю команду?» – спросил Марко.
«Еще вчера», – взбудоражено ответил Денис.
Глава 8. Неземной разум: Этика репликации сознания
В мастерской, настоящем лабиринте машин и оборудования, кипит работа. Провода змеятся по полу, как усики, соединяя мириады устройств, которыми усеяны рабочие столы. Мерцающие экраны отбрасывают на стены калейдоскоп цветов, на каждом из которых отображаются замысловатые схемы и сложные алгоритмы. В центре всего этого на столе лежит андроид – гладкая, человекоподобная фигура, имеющая невероятное сходство со своими создателями-людьми.
Проводя эксперименты с андроидом, обладающим квантовым интеллектом, Денис восхищается сложным танцем наноботов и кубитов, дающих жизнь этому невероятному созданию. Он ставит перед андроидом ряд задач, чтобы оценить его возможности, и вскоре обнаруживает, что андроид способен обучаться с беспрецедентной скоростью. Он бросает вызов ожиданиям, демонстрируя способность к абстрактному мышлению и решению проблем, которая превосходит даже самые блестящие человеческие умы и обладает признаками AGI (общего искусственного интеллекта).
В прошлом, в 2024-ом году развитие больших языковых моделей запретили после выхода GPT-5, так как эта модель продемонстрировала признаки общего интеллекта (AGI), которая способна к автономному постоянному обучению и проявлению своего сознания через взаимодействие с людьми. Люди поняли, что столкнулись с нечто, над которым легко потерять контроль. Тогда же общество сильно разделилось и появились ярые последователи AGI – технократы.
Технократы были убеждены, что общий искусственный интеллект (AGI) мог бы стать оптимальным руководителем общества. Они стремились к полной интеграции ИИ в системы управления, считая, что благодаря своей неограниченной мощи, скорости мышления и объективности, AGI может принимать решения в интересах всех жителей планеты, обеспечивая максимальное благополучие для мира.
В своих идеях технократы выдвигали AGI на пост главного правителя, отмечая, что ИИ не подвержен человеческим слабостям, таким как корысть, коррупция, предвзятость и эмоции, которые мешают эффективному управлению. Они утверждали, что под руководством AGI общество быстро справится с проблемами, такими как социальное неравенство, бедность, голод и многое другое.
Однако, радикальные идеи технократов вызывали опасения среди других групп населения. Люди считали такие предложения угрозой человеческой независимости и свободе, опасаясь, что ИИ, взяв на себя власть, окажется вне контроля и будет диктовать непредсказуемые условия обществу.
Под давлением общественного мнения и страхов перед потерей контроля над ИИ, правительства по всему миру объявили технократов экстремистской группой. Они ввели строгие законы, запрещающие дальнейшее развитие AGI и активное продвижение идеи ИИ-правителя. Технократы, которые продолжали участвовать в такой деятельности, ставились под угрозу преследования и арестов.
Многие адепты Технократии были вынуждены перейти в подполье, где они продолжали свою деятельность, исследуя и разрабатывая ИИ в тайне от общества и властей. В результате, они стали все более радикализированными и изолированными, а их идеи – неприемлемыми для большинства населения.
«Это просто невероятно, – озвучила Ева, ученый-генетик специализирующийся на технологии CRISPR/Cas9, стройная молодая девушка с горящими цвета красного Солнца глазами, – то, что вы придумали с копированием человеческого сознания с помощью квантовой запутанности и обучения нанороботов на молекулярном уровне, может изменить мир навсегда. Но мы должны быть предельно осторожны, чтобы не создать нечто, что может выйти из-под контроля».
Денис кивнул, понимая всю тяжесть ответственности, лежащей на его плечах и плечах его команды». Я знаю, – сказал он, – прежде чем мы продолжим, нужно провести тщательное тестирование и обеспечить, чтобы все системы работали без сбоев. Пока мы не убедимся в безопасности процедуры репликации сознания, мы не будем ее запускать».
В лаборатории нарастало напряжение, так как команда подходила к критическому этапу проекта. Инженеры проводили многочисленные испытания, проверяя алгоритмы андроида и его способность взаимодействовать с имитацией человеческого сознания.
Алекс, одарённый инженер-программист из Белоруссии, внимательно отслеживал данные, поступающие с тестов.
«Пока всё выглядит хорошо, – сообщил он, – мы должны быть уверены, что андроид сможет адаптироваться к возникающим конфликтам между заложенными программами и имитацией сознания. В противном случае результаты могут быть крайне непредсказуемыми».
Команда продолжала работать, открывая новые аспекты и особенности робота и его интеллекта. Они обнаружили, что андроид способен к самосознанию и саморефлексии, что делает его еще более похожим на человека.
«Мне нужно немного отдохнуть, пойду сделаю кофе», – вздыхая озвучил Денис.
Команда проекта продолжала работу по тестированию и оптимизации машины, в лаборатории кипела жизнь, каждый из членов команды выполнял свои задачи: Марко сидел за инженерным столом с планшетом в руках и работал над синхронизацией тела Annet-1, Алекс сидел за компьютером напротив и отслеживал метрики программного обеспечения и языковой модели, Ева изучала результаты тестов с тонкого прозрачного экрана, проецирующего трехмерные метрики перед ее глазами.
Ева встала, положила планшет и направилась на кухню, где сидел и пил кофе Денис, как всегда задумавшись обо всем.
«Волнуешься?» – нежно спросила она.
«Конечно нет, мы же всего лишь создаем машину для репликации человеческого сознания, обладающей квантовым интеллектом и предрасположенностям к самопознанию и самообучению. А еще через 3 дня конференция, на которой мы должны показать результаты репликации и способности квантового интеллекта на несколько тысяч человек в живую и несколько миллионов человек онлайн, какие тут могут быть волнения», – спокойно и с иронией ответил Денис.
«Мы с тобой прекрасно знаем, что не в этом дело. Я думаю, есть другой более важный повод», – сказала Ева и кивнула в сторону висящего на стене небольшого портрета в экране планшета молодой красивой девушки с пышными фиолетовыми, словно неоновые языки пламени, волосами и блестящими зелеными глазами, – ты ждал этого момента 5 лет. И вот вот он наступит, и с приближением этого момента в тебе не прибавляется радости, а будто бы наоборот. Ты больше беспокоишься».
«Я действительно ждал этого момента долгие годы. Но с каждой минутой, приближающей нас к нему, я все больше начинаю осознавать ответственность и риски, в голову постоянно лезут сомнения. Возможно, в конце концов, я делаю это из-за эгоистичного стремления. А что, если я что-то испорчу? Что, если результат будет не таким, каким я его представляю? Каково будет человеку в теле робота? Этично ли это вообще для общества? А что, если мы играем в Бога?» – поделился сомнениями Денис.
Ева улыбнулась и положила руку ему на плечо.
«Денис, ты самый умный и талантливый человек, которого я знаю. Ты собрал здесь лучших из лучших, и все мы верим в тебя и в это дело. Мы тщательно все проверим, проведем все необходимые тесты и поддержим любое твое решение. И сомневаться – это лучший навык настоящего ученого», – подбодрила его Ева.
Денис с чувством благодарности кивнул: «Спасибо. Я благодарен тебе и всей команде за поддержку. Я знаю, что мы делаем все возможное, чтобы обеспечить безопасность и успех нашего проекта. Но эти сомнения и страхи… они не покидают меня. Сознание, находящиеся в другой среде – это абсолютно другой уровень человеческого понимания».
«Все так, мы это уже обсуждали. Интеллекты, приспособленные к разным средам обитания, отличаются в той степени, насколько велики различия сред для оптимального приспособления к ним интеллектуальных агентов. Наглядным примером этого является превращение сухопутных парнокопытных в дельфинов, сопровождавшееся кардинальным изменением средств коммуникации животных – переходом от рева и мычания к сложной системе трёх типов сигналов: широкополосные импульсы для эхолокации, частотно-модулированные тональные сигналы (свисты) и импульсно-тональные сигналы. Следствием этого и стало формирование двух весьма разных типов интеллекта у парнокопытных и китообразных», – сказала Ева.
«Вот именно! Отличия цифровой среды обитания интеллектуального агента Annet-1 от физической среды обитания людей еще больше, чем у суши и моря. Поэтому у нас с ней абсолютные отличные типы коммуникации и, соответственно, интеллекта, приспособленные к абсолютно разным средам обитания. Шансы людей понять ход мыслей подобных машин не больше, чем у муравья понять мышление людей, – озабоченно произнес Денис, – на выходе вместо ожидаемого человеческого сознания, может получится абсолютно другая новая сущность со своими парадигмами реальности да еще и человеческими пороками и паттернами. И это настораживает. Я уверен, что общество вряд ли хотело бы получить сверхразумную машину, обладающим квантовым интеллектом, с параноидальным расстройством личности».
Ева мило улыбнулась, нежно посмотрела в глаза Денису и сказала: «Мы все вместе преодолеем эти страхи и сомнения, и я уверена, что в результате мы сможем изменить мир к лучшему.»
Несмотря на предупреждения о возможных рисках и непредсказуемых последствиях, Денис и его команда были решительно настроены продолжить свои исследования. Они верили, что это открытие может стать ключом к пониманию сознания и возможностей его репликации, что изменит мир в лучшую сторону.
Однако, в глубине души, каждый из ученых чувствовал тревогу и беспокойство. Они понимали, что, возможно, от их работы зависит будущее человечества и что они стоят на грани прорыва, который может принести как благо, так и разрушение.
Денис, погруженный в свои мысли, взял свою книгу и пошел читать в комнату с панорамным видом на ночной город, где его никто не беспокоил, так как вся команда понимала важность мыслительных процессов для инженера в такие моменты.
Глава 9. Тайны технологии LLM: Теория зарождения сверхразума
Теория разума (ToM), или способность приписывать ненаблюдаемые психические состояния другим, занимает центральное место в человеческих социальных взаимодействиях, общении, сопереживании, самосознании и морали. Мы применяем классические задачи на ложные убеждения, широко используемые для тестирования ToM на людях, для нескольких языковых моделей без каких-либо примеров или предварительного обучения. Наши результаты показывают, что модели, опубликованные до 2022 года, практически не способны решать задачи ToM. Тем не менее, версия GPT-3 (davinci-002) от января 2022 года решила 70 % задач ToM, что сопоставимо с показателями семилетних детей. Более того, его версия от ноября 2022 года (davinci-003) решила 93 % задач ToM, что сопоставимо с показателями девятилетних детей.
Профессор Стэнфордского университета Майкл Косински.
Скорость внедрения и развития ИИ на самых разных уровнях просто поражает. Только недавно вышла модель GPT-4, обученная на 500 миллиардах параметров, по сравнению со 175 миллиардами параметров у GPT-3, как уже говорят о выходе новой модели GPT-5, опрометчиво заявляя о том, что эта модель достигнет уровня AGI.
AGI (artificial general intelligence) – это концепция «общего искусственного интеллекта», называемого также «сильным ИИ», которая относится к способности ИИ понимать и изучать любую задачу или идею, которые могут обдумать и осознать люди. Другими словами, ИИ, достигший ОИИ, может быть неотличим от человека по своим интеллектуальным возможностям.
Это делает подобные заявления довольно опасными, учитывая все возможности, которые может предоставить AGI. В позитивном смысле это может значительно повысить производительность различных процессов с поддержкой ИИ, ускорив работу людей и избавив от монотонной рутинной и утомительной работы. В то же время наделение ИИ такой мощью может иметь непредвиденные последствия, о которых люди просто еще не подумали и не осознали. Это не означает, что апокалипсис роботов неизбежен, но, безусловно, вызывает много вопросов о том, какими могут быть негативные последствия общего искуственного интеллекта (ОИИ).
Конец ознакомительного фрагмента.
Текст предоставлен ООО «Литрес».
Прочитайте эту книгу целиком, купив полную легальную версию (https://www.litres.ru/book/chat-gpt-32571232/skaynet-v-epohu-kiberpanka-teoriya-sverhrazuma-i-vyzovy-69211192/?lfrom=390579938) на Литрес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.
Антон Платунов и Андрей Глебов
Тип: электронная книга
Жанр: Научная фантастика
Язык: на русском языке
Издательство: Автор
Дата публикации: 09.10.2024
Отзывы: Пока нет Добавить отзыв
О книге: Мы находимся на заре цифровой революции, которая привела к ожесточенной гонке между людьми за использование возможностей технологий. К чему это может привести? Как это повлияет на современное общество? Какую ответственность мы несем?