Главная страница | Публицистика | Измерять и навязывать. Социальная история искусственного интеллекта

Измерять и навязывать. Социальная история искусственного интеллекта
Маттео Пасквинелли
Individuum. Внесерийное
Искусственный интеллект стремится «разгадать загадку разумности», ключ к которой лежит в тайной логике ума или глубинной физиологии мозга, – так принято считать. Философ науки Маттео Пасквинелли не согласен с этой теорией и строит собственную, которая основана на истории автоматизации труда, гонке за производительностью и желании общества постоянно оценивать человеческую жизнь. Прослеживая историю ИИ – от первого прототипа калькулятора конца XVIII века до современных алгоритмов машинного обучения, распознавания изображений и слежения, – автор показывает, почему у ИИ нет шансов стать злонамеренным «сверхразумом».
В формате PDF A4 сохранен издательский макет книги.

Маттео Пасквинелли
Измерять и навязывать. Социальная история искусственного интеллекта

Перевод Ивана Напреенко


Copyright © Matteo Pasquinelli, 2023
All rights reserved
The moral rights of the author have been asserted
© И. Напреенко, перевод с английского, 2024
© ООО «Индивидуум Принт», 2024

Предисловие переводчика
Книгу Маттео Пасквинелли, итальянского философа науки, можно отнести к критическим исследованиям искусственного интеллекта. Она четко очерчивает круг идейных противников автора в публичной сфере. Этот круг можно охарактеризовать двумя научно-популярными работами – на обе автор ссылается и обе переведены на русский. Это «Верховный алгоритм» Педро Домингеса и «Искусственный интеллект» Ника Бострома. По совпадению или нет, именно эти книги в 2016 году Билл Гейтс посоветовал прочитать желающим лучше понять, что такое ИИ, – дело было на одной из закрытых конференций Code, где «топовые инфлюэнсеры» из мира технологий и бизнеса обсуждают ближайшее будущее.
Книгу «Верховный алгоритм» Пасквинелли называет «примером корпоративной повестки». С первых же страниц Домингес берет читателя под ручку, используя узнаваемый тон, свойственный продавцам мечты: «Машинное обучение открывает новую главу в долгой, растянувшейся на миллион лет эволюционной саге: с его помощью мир сам почувствует, чего вы хотите, и сам под вас подстроится. Не надо даже волшебной палочки: окружающий вас мир – сегодня виртуальный, а завтра физический – станет похож на волшебный лес»[1 - Домингос П. Верховный алгоритм: как машинное обучение изменит наш мир. М.: Манн, Иванов и Фербер, 2016. С. 17.]. «Искусственный интеллект» – другая история. Волшебный лес Бострома сулит не исполнение (даже невысказанных) желаний, а мрачный финал, где «машинный сверхразум» изведет «всю Землю, а потом и обозримую Вселенную»[2 - Бостром Н. Искусственный интеллект: этапы, угрозы, стратегии. М.: Манн, Иванов и Фербер, 2016. С. 197.] на канцелярские скрепки.
Эти две работы воплощают тот взгляд, который Пасквинелли совершенно претит, – технологический детерминизм, предполагающий, что развитие техники определяет судьбу общества в однонаправленной истории все более совершенных достижений. На одном полюсе находится утопия блаженства, на другом – классический монстр, который губит незадачливого Франкенштейна. Общий знаменатель – это мистификация ИИ. Приписывая объекту таинственную самостоятельность, завороженный наблюдатель проецирует на него свои страхи и надежды.
Если в искусственном интеллекте и есть тайна, то ее механизм раскрыт еще Людвигом Фейербахом: немецкий материалист полагал, что человечество проецирует на высшее существо, Бога, свои лучшие качества и способности, отчуждая их от самих себя. Схожим образом человечество не опознает в ИИ собственные силы, знания и – на чем делает особый акцент Пасквинелли – труд и его разделение. Расплетая цепочки уравнений, скрытые в черном ящике искусственного интеллекта, философ демонстрирует их проблематичность. Так, например, разумность машины в первых нейронных сетях 1950-х годов была приравнена к задаче классификации изображений, что довольно далеко от моделирования мозга и когнитивных процессов, которым занимались, по собственным утверждениям, отцы-основатели современной технологической реализации ИИ. В результате таких уравнений за проявления «сверхразума» предлагается принимать игру статистических корреляций внутри колоссальных объемов данных, запущенную за счет применения психометрических методов к анализу визуальной информации.
Оптический элемент в социальной истории ИИ для автора книги особенно важен. Название оригинала (Eye of the Master) отсылает к выражению Энгельса, которое в отечественной переводческой традиции передают как «хозяйский глаз». Немецкий философ описывал этой метафорой контроль мастеров над рабочими, усилившийся с внедрением промышленных машин и достигший пика в фордизме. Также оно широко употреблялось на фабриках и заводах XIX века. Пасквинелли трактует словосочетание расширенно – как «индустриалистскую перспективу», согласно которой развитие средств производства трансформирует трудовые отношения и которую автор диалектически переворачивает.
Выбранное для перевода название – «Измерять и навязывать», – помимо уместной отсылки к работе Фуко, акцентирует предикаты ИИ, которые связаны с измерением и координацией рабочих процессов. Соответствующие задачи стали необычайно значимы для хозяев производств еще на заре промышленного капитализма в связи с масштабной трансформацией разделения труда. Но ИИ, в чем уверен Пасквинелли, древнее первых станков и уж тем более ЭВМ. Его корни уходят в известную человечеству на протяжении тысячелетий культурную технику алгоритмизации социальных, в первую очередь трудовых, практик. Иными словами, ИИ – это не только и не столько технологический артефакт, не «искусственный интеллект», а созидательная деятельность, захваченная и перестроенная технонаукой. Несколько утрируя мысль автора, можно предположить, что отношения между интеллектом и ИИ отражают образ двух рук, рисующих друг друга. Представим, что его анимировали и обнаружилось, что загадки предшествования здесь нет. Одну руку видно сразу, другая же, поначалу нечеткая, обретает объем и начинает все сильнее искажать ту, которая ее рисует.
Проблематичность стоящих за ИИ уравнений, о которой я упомянул, имеет и переводческое измерение. В отечественной традиции предложенное в 1957 году Джоном Маккарти выражение artificial intelligence принято передавать как «искусственный интеллект», хотя в СССР это выражение стало применяться к научным разработкам и исследованиям позднее, уже в 1970-е (я еще расскажу, почему). Насколько верна эта привычка, если русскому слову «интеллект» в английском соответствует, собственно, intellect? Понятие intellect предполагает способность мыслить и понимать, тогда как intelligence относится к применению этой способности на практике, например в форме получения и использования знаний и навыков. Соответственно, эта практическая форма и может быть описана через набор инструкций, то есть алгоритмизирована.
Пасквинелли приводит еще один интересный пример, который помогает понять, в какую цепочку уравнений вписан термин intelligence. В конце 1920-х годов, развивая теорию информации на основе выработанных внутри телеграфного дела техник, инженер Ральф Хартли предложил отказаться от выражения act of intelligence[3 - Букв. перевод «интеллектуальный акт».] – оно использовалось для описания работы операторов с принимаемым сигналом. Хартли указывал, что этот термин, обозначающий «интерпретацию сигнала», слишком психологичен и антропоцентричен, поскольку никакой интерпретации, то есть придания смысла сообщению, от оператора не ждут. От него требуется лишь декодировать сигнал, «определить последствия выбора в пользу одного символа при отказе от другого символа»[4 - Geoghegan B. D. Information // Digital Keywords: A Vocabulary of Information Society and Culture. Benjamin Peters (ed.). Princeton: Princeton University Press, 2016. P. 177.]. Смещение в пользу механистического понимания умственной деятельности также объясняет, почему слово intelligence в дальнейшем вошло в обозначение секретных служб Великобритании (Secret Intelligence Service) и США (Central Intelligence Agency). Подобные содержательные сдвиги вокруг и внутри понятия intelligence, которые не улавливаются понятием «разум» в русском языке, нашли выражение в проекте ИИ.
Рассматривая генеалогию ИИ, Пасквинелли сосредоточился на англо-американской линии проекта. Обогатить социально-историческую перспективу и общее понимание читателю поможет обращение к советскому опыту в этой области.
Расскажу об эпизоде из собственной биографии: в конце XX – начале XXI века мой отец работал в Российском НИИ Искусственного интеллекта. Согласно информации на все еще живом официальном сайте, эта организация была создана в 1991 году «Государственным Комитетом РСФСР по делам науки и высшей школы… на базе Государственной научной фирмы “Интеллектуальные технологии”, образованной научным коллективом, сформировавшимся в Сибирском Отделении АН»[5 - https://www.artint.ru/]. Это место работы регулярно ускользало из моей подростковой памяти, поэтому я нередко переспрашивал отца и всякий раз удивлялся ответу. Романтичное словосочетание «искусственный интеллект» плохо сочеталось с бесконечными таблицами Excel, которые я видел на экране отцовского компьютера. Я спрашивал отца, что он считает, и слышал в ответ – математические модели экономики для неполных данных. Причем здесь искусственный интеллект, думал я?
Полудетское удивление внезапно схватывает своеобразие советского проекта: кибернетика, а затем «искусственный интеллект» в СССР развивались как управленческая парадигма, призванная в первую очередь решать задачи плановой экономики, которая сталкивалась с нехваткой необходимых показателей. Вокруг термина «искусственный интеллект» – самой возможности машины мыслить – велись оживленные дискуссии в научных кругах в 1950-х и начале 1960-х годов, и лишь позднее он был аккомодирован в исследованиях и разработках. В 1968 году философ Эдвард Ильенков доказывал, что машинное мышление принципиально невозможно и, более того, разговоры об этом уводят от сути вопроса. «Проблема “Человек – Машина”, если покопаться в ней чуть поглубже, оказывается на поверку проблемой отношения Человека к Человеку, или, как выразился бы философ старой закалки, проблемой отношения Человека к самому себе, хотя отношения и не прямого, а “опосредствованного” через Машину», – это утверждение советского марксиста очень близко к тому, что говорит Пасквинелли[6 - См.: Ильенков Э. Об идолах и идеалах. М.: Политиздат, 1968. С. 32]. Последние исследования показывают, что на институциональную и культурную форму ИИ в СССР повлияло как нежелание признавать за машиной способность мыслить, так и общая ориентация на «ситуационное управление», за счет чего центральную проблему искусственного интеллекта начали понимать как контроль в комплексных системах (например, производстве и логистике)[7 - Kirtchik O. The Soviet scientific programme on AI: if a machine cannot ‘think’, can it ‘control’?// BJHS Themes, 2023. P. 8, 111–125.]. Но и на Западе, как утверждает автор этой книги, развитие ИИ стало продолжением «революции контроля», определившей рост информационных технологий в современном мире.
Главы книги Пасквинелли можно читать не последовательно: они похожи на отдельные исследовательские семинары, связанные общей перспективой и сквозными примерами. Сложный материал комбинируется с многообразием сюжетов, что требует от читателя внимания и концентрации. Однако усилия вознаградятся. Конечно, реконструированный ИИ предстает величественным и пугающим средоточием всеобъемлющей парадигмы «глаза Хозяина», эдаким гиперобъектом (если воспользоваться термином Тимоти Мортона), который подчиняет человеческий опыт алгоритмической логике квантификации, эффективности и оптимизации. Но вместе с тем интеллектуальное путешествие, предпринятое итальянским философом, оказывает духоподъемное и освобождающее воздействие. Лишая мистической автономности «верховный алгоритм», книга не приносит готовых рецептов того, как его расплести, но по меньшей мере определяет направление движения: вопрос о власти машин над человечеством есть вопрос политический, и ответ на него в конечном счете лежит в сфере отношений между людьми.

Иван Напреенко,
социолог, редактор журнала «Социология власти» и сайта о книгах и чтении «Горький»
Февраль 2024

Введение: ИИ как разделение труда

Частичное искусство отдельного машинного рабочего, подвергшегося опустошению, исчезает как ничтожная и не имеющая никакого значения деталь перед наукой, перед колоссальными силами природы и перед общественным массовым трудом, воплощенными в системе машин и создающими вместе с последней власть «хозяина»[8 - Маркс К. Капитал. Т. I. М.: Государственное издательство политической литературы, 1952. С. 429. Маркс также отмечает: «Позже мы увидим, что «хозяева» начинают петь совсем по-другому, когда им угрожает потеря их «живых» автоматов» (см.: Там же). – Здесь и далее, если не указано иное, прим. автора.].
Карл Маркс, «Капитал», 1867 г.
Все люди являются интеллектуалами… Это означает, что если можно говорить об интеллигентах, то нельзя говорить о неинтеллектуалах, ибо неинтеллектуалов не существует. <…> Нет такой человеческой деятельности, из которой можно было бы исключить всякое интеллектуальное вмешательство, нельзя отделить homo faber от homo sapiens[9 - Грамши А. Тюремные тетради. Ч. I. C. 343. М.: Издательство политической литературы, 1991.].
Антонио Грамши, «Тюремные тетради», 1932 г.[10 - Перевод скорректирован: итальянский термин gli intellettuali соответствует русскому слову «интеллектуалы» (в англоязычной традиции его передают как intellectuals). Однако в советской традиции перевода, ведущей отсчет с 1950?х гг., устоялся вариант «интеллигенты», который в силу конкретно-исторических коннотаций сужает понятие Грамши. При этом философ, безусловно, был прекрасно знаком с ролью, которая приписывалась интеллигенции в российской революционной традиции, и в размышлениях об особой социальной роли интеллектуалов отталкивался в том числе от этого. – Прим. пер.]
В XX веке мало кому пришло бы в голову считать водителя грузовика работником умственного труда, иначе говоря, интеллектуалом. Однако в начале XXI века внедрение искусственного интеллекта (ИИ)[11 - В России сложилась традиция переводить словосочетание artificial intelligence как «искусственный интеллект». «Интеллект» в русском языке соотносится с английским intellect, под которым подразумевается способность понимать и объяснять (ср. «разум»), однако у intelligence прямого аналога в русском нет, это слово означает способность получать и применять на практике знания и навыки (ср. «разумность»). В случаях употребления слова intelligence с определениями я буду следовать сложившейся традиции перевода. В случаях обособленного словоупотребления intelligence, помимо вариантов «интеллект» и «интеллектуальные способности», я буду также использовать слово «разумность», делая акцент на наблюдаемом комплексе качеств, которые указывают на их глубинный источник (собственно, разум) в случае с живыми существами. – Прим. пер.] в беспилотные транспортные средства и другие артефакты побудило иначе взглянуть на ручные навыки, в частности, на вождение, и обнаружить, что самое ценное в труде никогда не сводилось к ручному компоненту, а включало в себя когнитивные и кооперативные аспекты. Нужно признать, что благодаря исследованиям ИИ водители грузовиков примкнули к интеллектуалам[12 - Согласно Грамши, чья цитата открывает книгу, все люди могут считаться интеллектуалами в том смысле, что не существует труда, в котором отсутствует хотя бы «минимум созидательной интеллектуальной деятельности». Однако, как тут же поясняет философ, «не все люди выполняют в обществе функции интеллектуалов (так, о том, кто жарит себе яичницу или пришивает заплату на куртку, не скажут, что он является поваром или портным)» (см.: Там же). – Прим. пер.]. В этом есть парадокс и вместе с тем горькое политическое откровение: понадобилось усерднейшим образом развивать автоматизацию, чтобы увидеть, насколько глубоко «интеллектуальные способности» проявлены в занятиях и работах, которые традиционно считались сугубо ручными и неквалифицированными, – настолько, что ими пренебрегали и профсоюзы, и критическая теория. В нынешнюю цифровую эпоху лишь немногие социологи, например Ричард Сеннет, взяли на себя труд утверждать, что «делать значит думать». Этот же тезис историки науки Лисса Роберт и Саймон Шаффер выразили в изящном образе «разумной руки», которая и в ренессансной мастерской, и в индустриальную эпоху не сводилась к мышечной силе, направляя проектирование, изобретательство и научные прорывы[13 - Сеннет Р. Мастер. М.: Strelka Press, 2018; Roberts L. and Schaffer S. (eds). The Mindful Hand: Inquiry and Invention from the Late Renaissance to Early Industrialisation. Chicago: University of Chicago Press, 2007. О роли физического прикосновения в цифровую эпоху см.: Ladewig R. and Schmidgen H. (eds). Body and Society 28. Nos. 1–2. Special issue. Symmetries of Touch: Reconsidering Tactility in the Age of Ubiquitous Computing (2012).]. Отрицание разумности ручного труда и общественной деятельности, наблюдаемое нами сегодня, по-видимому, представляет собой симптом избыточного роста цифровой сферы и дематериализацию человеческой деятельности, которые нагнетают вокруг ИИ ауру таинственности.
Что такое ИИ? Согласно господствующей точке зрения речь идет о попытке «разгадать загадку разумности» [intelligence]. Ключ якобы лежит в тайной логике ума [mind] или в глубинной физиологии мозга, например в сложных нейронных сетях. В этой книге я утверждаю обратное: внутренний код ИИ заключается в имитации не биологического разума, а разумности труда и общественных отношений. Сегодня представляется очевидным, что ИИ – проект, направленный на сбор знаний, выраженных в индивидуальном и коллективном поведении, и их перекодирование в алгоритмические модели с целью автоматизации самых разных задач – от распознавания паттернов[14 - В случаях, когда речь идет о распознавании сугубо визуальных данных, которое исторически предшествует экстраполяции метода на невизуальную информацию, я использую устоявшийся перевод «распознавание образов». В других случаях, когда речь идет о расширенном применении метода, – «распознавание паттернов». – Прим. пер.] и манипулирования объектами до перевода с языка на язык и принятия решений. Как это бывает с типичными эффектами идеологии, «ключ» к загадке лежит на самом видном месте, но никто его не замечает – да и не хочет замечать.
Вернемся к беспилотным автомобилям. Какую работу выполняет водитель? И в какой степени ИИ cпособен эту деятельность автоматизировать? Беспилотное транспортное средство призвано имитировать – с высокой долей приближения и в условиях значительной неопределенности – все микрорешения, которые принимает водитель на оживленной дороге[15 - В начале 1960?х годов Романо Альквати определил информацию как новаторские микрорешения, которые принимают работники в процессе производства (см. главу 5 этой книги). См. также: Pasquinelli M. Italian Operaismo and the Information Machine // Theory, Culture and Society 32, no. 3 (2015): 49–68; Sprenger F. Microdecisions and Autonomy in Self-Driving Cars: Virtual Probabilities // AI and Society (2020): 1–16.]. Искусственные нейронные сети «учатся» корреляциям между визуальным восприятием среды и механическим контролем транспортного средства (рулевое управление, ускорение, торможение), а также этическим решениям, которые в случае опасности необходимо принять за несколько миллисекунд. Вождение требует высоких когнитивных навыков, которые нельзя заменить импровизацией, и умения быстро решать задачи. Навыки вырабатываются только привычкой и тренировками – процессами, которые нельзя назвать полностью осознанными. Вождение остается, по существу, социальной и кооперативной деятельностью, регулирующейся кодифицированными правилами (включая правовые ограничения) и спонтанными элементами, к которым относится неявный культурный код – в каждой местности он свой. Считается, что закодировать такую сложную деятельность непросто, и даже бизнесмен Илон Маск признал (после не столь уж и малочисленных аварий автомобилей Tesla со смертельным исходом), что «обобщенное беспилотное вождение – это трудная проблема»[16 - Hawkins A. J. Elon Musk Just Now Realizing That Self-Driving Cars Are a «Hard Problem» // theverge.com. 5 July 2021.]. Как бы то ни было, все сложности, с которыми столкнулся промышленный проект беспилотных транспортных средств, ясно показали, что задача вождения не сугубо «механическая». И если навык вождения можно перевести в алгоритмическую модель, то лишь потому, что это логическая деятельность, поскольку в конечном счете всякий труд логичен[17 - См. также: A Manifesto // Logic Magazine. Issue 1. March 2017.].
В каких же тогда отношениях состоят труд, логические правила и автоматизация, которая представляет собой не что иное, как изобретение новых машин? Здесь все запутано, в этом и заключается главная проблема ИИ, которой посвящена моя книга. Предлагаемый взгляд на ИИ вовсе не нов. Историк науки Лоррейн Дастон, например, уже рассматривала эту проблему на примере великих счетных проектов эпохи Просвещения, которые предшествовали автоматическим вычислениям[18 - В английском языке слова calculation и computation в целом взаимозаменяемы, однако в контексте ИИ их следует разводить, как это делает автор. В первом случае речь идет об арифметических операциях, во втором – об алгоритмических. Слово calculation и родственные термины, например calculus, я передаю через слова с корнем «счет», а также вариантами «исчисление», «счисление»; в случае с computation использую производные от слова «вычисление» (см. советский вариант перевода computer как «вычислительной машины»). – Прим. пер.]. В конце XVIII века для создания длинных логарифмических таблиц, необходимых для модернизации революционной Франции, математику Гаспару де Прони пришла в голову идея применить промышленное разделение труда (канонизированное Адамом Смитом в «Исследовании о природе и причинах богатства народов») в ручных расчетах[19 - Daston L. Calculation and the Division of Labor, 1750–1950 // Bulletin of the German Historical Institute 62 (Spring 2018): 13.]. С этой целью Прони создал социальный алгоритм — иерархическую организацию, состоявшую из трех групп служащих, которые делили нагрузку; каждый брал на себя часть больших расчетов, а затем они вместе собирали окончательный результат. Несколько лет спустя в промышленной Англии Чарльз Бэббидж использовал интуицию разделения труда в качестве внутреннего принципа разностной машины, создав таким образом первый прототип современного компьютера. Что важно, Бэббидж понял: разделение труда может не только служить принципом для проектирования машин, но и применяться для вычисления затрат на производство (с тех пор этот метод известен как «принцип Бэббиджа»).
В индустриальную эпоху надзор за разделением труда входил в задачи фабричного мастера[20 - Фридрих Энгельс оспаривал тезис о «хозяйском глазе» и утверждал, что внутри крупных предприятий и инфраструктур того времени, например железнодорожных компаний, рабочие обладали широким представлением о производственном процессе: «Экономическое развитие нашего современного общества все более и более ведет к концентрации, к обобществлению производства в огромных предприятиях, которыми уже не могут более руководить отдельные капиталисты. Всякий вздор о «хозяйском глазе» и о создаваемых им чудесах превращается в явную бессмыслицу, как только предприятие достигает определенных размеров. Представьте себе «хозяйский глаз» на Лондонской и Северо-Западной железных дорогах! Но то, чего хозяин сделать не может, то рабочие, наемные служащие компании, с успехом могут делать и делают. Итак, капиталист уж больше не может предъявлять права на свою прибыль как на «заработную плату за руководство», так как он ничем не руководит». Цит. по: Энгельс Ф. Общественные классы. Необходимые и излишние // К. Маркс и Ф. Энгельс. Сочинения. Изд. 2?е, Т. 19. М.: Государственное издательство политической литературы, 1962. С. 299.]. Хозяйский глаз[21 - В оригинале книга М. Пасквинелли называется The Eye of the Master. – Прим. ред.] долго контролировал и дисциплинировал рабочих в мастерских, лагерях и на плантациях, составлял планы сборочных линий и планировал смены каторжного труда. Еще до изобретения промышленных машин мастерские-потогонки в городах и колониальных поместьях «механизировались» с точки зрения телесной дисциплины и режима визуальности[22 - О режиме видимости на рабовладельческих плантациях см.: Mirzoeff N. The Right to Look: A Counterhistory of Visuality. Durham, NC: Duke University Press, 2011.]. Как показал философ Мишель Фуко, введение дисциплинарных техник, основанных на сегментации времени, пространства и отношений, подготовило почву для капиталистического режима эксплуатации труда[23 - Фуко М. Надзирать и наказывать: Рождение тюрьмы. М.: Ад Маргинем, 1999.]. Вместе с тем рационалистический взгляд на мир позволил подробно описать движения человеческого тела и набросать эскиз его механизации. Историк Зигфрид Гидион детально зафиксировал этот процесс в известной работе «Механизация становится у руля». Согласно Гидиону, механизация «начинается с понятия Движения», вытесняет ремесла и наконец в развитом виде представляет собой «сборочный конвейер, в котором вся фабрика объединена в синхронно действующий организм»[24 - Giedion S. Mechanization Takes Command: A Contribution to Anonymous History. Oxford: Oxford University Press, 1948. P. 5.].
Кульминацией механического мышления стал тейлоризм – система «научного управления», которая стремилась экономить движения рабочих в мельчайших деталях. Как заметил политэконом Гарри Браверман, «Тейлор понимал принцип Бэббиджа лучше, чем кто-либо из современников последнего, и всегда им руководствовался в расчетах»[25 - Braverman H. Labor and Monopoly Capital: The Degradation of Work in the Twentieth Century. New York: Monthly Review Press, 1974. P. 117. См.: Taylor F. W. The Principles of Scientific Management. New York: Harper & Brothers, 1911.]. Для наблюдения за малейшими движениями рабочих тейлористская система обзавелась своего рода кинематографическими глазами: хозяин фабрики буквально стал режиссером, который снимал трудящихся, чтобы измерять и оптимизировать их производительность, осуществляя на практике «кинематографический способ производства» (по выражению исследователя медиа Джонатана Беллера)[26 - Beller J. The Cinematic Mode of Production: Attention Economy and the Society of the Spectacle. Lebanon, IN: University Press of New England, 2006.]. Тейлоризм породил «исследования времени и движения», которыми в те же годы занимались советский революционер Алексей Гастев и американские инженеры Франк и Лилиан Гилбреты, породив по обе стороны Атлантики сходные фотографические методы – циклограмму и хроноциклограф соответственно[27 - См.: Maier C. S. Between Taylorism and Technocracy: European Ideologies and the Vision of Industrial Productivity in the 1920s // Journal of Contemporary History 5, no. 2 (1970): 27–61; Hellebust R. Aleksei Gastev and the Metallization of the Revolutionary Body // Slavic Review 56, no. 3 (1997): 500–518; Olenina A. H. Psychomotor Aesthetics: Movement and Affect in Modern Literature and Film. Oxford: Oxford University Press, 2020; Sutil N. S. Motion and Representation: The Language of Human Movement. Cambridge, MA: MIT Press, 2015; Brown E. The Corporate Eye: Photography and the Rationalization of American Commercial Culture, 1884–1929. Baltimore, MD: Johns Hopkins University Press, 2008; Nelson D. (ed.), A Mental Revolution: Scientific Management Since Taylor. Columbus, OH: Ohio State University Press, 1992.]. Эта книга продолжает указанную линию аналитических исследований трудовых процессов с начала индустриальной эпохи до появления ИИ и призвана показать, как «разумность» технологических инноваций часто возникает из подражания абстрактным отображениям человеческой практики и коллективного поведения.
Промышленные машины, например ткацкие и токарные станки, возникли не по мановению руки одинокого инженерного гения, а из имитации схем коллективного труда. Они появились на свет путем улавливания паттернов движений рук и орудий рабочих, фиксации невидимых творческих ноу-хау и последующего их превращения в механические артефакты. Основываясь на теории изобретательства, которую уже в XIX веке разделяли Смит, Бэббидж и Маркс, я утверждаю в этой книге, что самые сложные «разумные» машины также возникли из воспроизведения схем коллективного разделения труда. Я именую описанную теорию развития техники трудовой теорией автоматизации, или трудовой теорией машин, которую распространяю на исследования современного ИИ и обобщаю в виде трудовой теории машинного интеллекта[28 - Словосочетания «трудовая теория автоматизации» и «трудовая теория машин» созданы по аналогии с выражениями, употребляемыми в политической экономии, в частности, «трудовой теории стоимости».].
Уже Маркс не считал «хозяина» отдельной личностью и, согласно открывающей это введение цитате, полагал, что он представляет собой согласованное могущество науки, колоссальных сил природы и общественного массового труда, воплощенного в системе машин. После того, как разделение труда в обществе приняло всеобъемлющий характер, что констатировал в конце XIX века Эмиль Дюркгейм, хозяйский глаз превратился в новые технологии контроля – в частности, статистику и глобальные «операции капитала» (меткое выражение Сандро Меццадра и Бретта Нильсона)[29 - Дюркгейм Э. О разделении общественного труда. М.: Канон+, 1996; Mezzadra S. and Neilson B. The Politics of Operations: Excavating Contemporary Capitalism. Durham, NC: Duke University Press, 2019. P. 55]. В конце XX века управление трудом превратило общество в «цифровую фабрику», приняв форму поисковых алгоритмов, онлайн-карт, приложений для обмена сообщениями, социальных сетей, платформ гиг-экономики, сервисов мобильности и, в конечном счете, алгоритмов ИИ, которые все шире используются для автоматизации всех упомянутых сервисов[30 - Altenried M. The Digital Factory: The Human Labor of Automation. Chicago: University of Chicago Press, 2021.]. Сегодня несложно увидеть, что ИИ означает дальнейшую централизацию цифрового общества и координацию разделения труда внутри него.
Тезис, что проектирование вычислений и «разумные машины» воспроизводят схему разделения труда, не надо считать еретическим. Его подтверждают основополагающие теории компьютерной науки[31 - В советской и российской традициях выражение computer science принято передавать термином «информатика», что отражает континентальную ориентацию на понятие «информация», тогда как для американской традиции центрально понятие «алгоритм» (см. второе примечание на стр. 52). Поскольку в книге идет речь об американской родословной ИИ, отличной от европейской традиции, я использую для перевода буквальный вариант «компьютерная наука». – Прим. пер.], которая унаследовала от индустриальной эпохи оттенок колониальных фантазий и классовое разделение. Например, прославленный гений автоматизированных вычислений Алан Тьюринг сам воспроизводил иерархический и авторитарный образ мысли. В лекции 1947 года Тьюринг представил Автоматическую вычислительную машину (АВМ), один из первых цифровых компьютеров, в качестве централизованного аппарата, который координирует операции согласно иерархии ролей «хозяина и слуги»:
Грубо говоря, те, кто работает с АВМ, разделятся на хозяев и слуг. Хозяева будут готовить для машины таблицы с командами, придумывая все более и более сложные способы ее применения. Слуги станут кормить машину карточками, когда она их позовет. Слуги починят любую деталь, которая сломалась. Соберут данные, которые она потребует. По сути, слуги заменят машине конечности. Со временем вычислитель возьмет на себя функции и хозяев, и слуг. Слуг заменят механические и электрические конечности и органы чувств. Можно, например, установить операторы отслеживания кривых, чтобы получать данные напрямую, не заставляя девушек считывать значения и набивать их на карточках. Хозяева также станут не нужны, поскольку, как только техника начинает действовать по шаблону, ее можно заменить таблицей с командами, которую электронный вычислитель способен сделать самостоятельно. Но, возможно, хозяева откажутся уходить. Возможно, они не захотят, чтобы их рабочие места таким образом украли. В этом случае они окружат свою работу тайной и придумают возражения, облеченные в умело подобранный птичий язык, и так станут отвечать на опасные предложения. Я полагаю, что подобного рода реакция представляет вполне реальную опасность[32 - Turing A. Lecture on the Automatic Computing Engine (1947) // The Essential Turing. B. Jack Copeland (ed.). London: Clarendon Press, 2004. P. 392.].
Молодой Тьюринг описывает разделение вычислительных задач между «хозяевами», «слугами» и «девушками» безжалостно. Это напоминает то, как Эндрю Юр в готическом ключе описывал фабрику викторианской эпохи: «огромный автомат, состоящий из различных механических и интеллектуальных органов, действующих в непрерывной заботе о производстве общего объекта и подчиненных саморегулирующейся движущей силе»[33 - Ure A. The Philosophy of Manufactures. London: Charles Knight, 1835. P, 13–14.]. Схожим образом Тьюринг воображает разумный автомат, который в будущем будет программировать себя сам, заменив как хозяев, так и слуг. Сегодня видению Тьюринга противостоит армия рабочих-призраков с Глобального юга, которые, как документально доказывают Мэри Грей и Сиддхарт Сури, убраны из поля зрения, чтобы шоу машинной автономии продолжалось[34 - Gray M. and Suri S. Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass. New York: Houghton Mifflin Harcourt, 2019. См. также: Irani L. The Cultural Work of Microwork // New Media and Society 17, no. 5, 2013: 720–739; Irani L. and Silberman M. S. Turkopticon: Interrupting Worker Invisibility in Amazon Mechanical Turk // Proceedings of CHI 2013. 28 April – 2 May 2013.]. Тьюринг бы счел это парадоксом, но ИИ в основном заместил хозяев, то есть управляющих, а не слуг – рабочие нужны (и всегда будут нужны), с одной стороны, чтобы производить данные и значения для ненасытных конвейеров ИИ и его глобальных монополий, а с другой стороны, чтобы обслуживать мега-машину, фильтруя контент, проверяя безопасность, бесконечно оценивая и оптимизируя. Как отмечают гендерные исследовательницы Неда Атанасоски и Калинди Вора, мечты о полной автоматизации и ИИ, подобные тем, что озвучивает Тьюринг, не нейтральны. Они исторически укоренены в существовании «суррогатного человечества» – рабов, слуг, пролетариев и женщин, которые невидимым трудом сделали возможным универсалистский идеал свободного и автономного (белого) субъекта[35 - Atanasoski N. and Kalindi V. Surrogate Humanity: Race, Robots, and the Politics of Technological Futures. Durham, NC: Duke University Press, 2019.].

Множественные истории ИИ
Написание истории ИИ в нынешней непростой ситуации требует принимать в расчет обширную идеологическую конструкцию: в компаниях Кремниевой долины и высокотехнологичных университетах пропаганда всемогущества ИИ стала нормой и порой даже принимает форму фольклорных представлений о машине, обретающей «сверхчеловеческий разум» и «самосознание». Хорошей иллюстрацией подобных представлений служит апокалиптический нарратив из «Терминатора», согласно которому системы ИИ достигли технологической сингулярности и стали представлять «экзистенциальную угрозу» для выживания человечества на планете – именно это проповедует среди прочих футуролог Ник Бостром[36 - Бостром Н. Искусственный интеллект. Этапы. Угрозы. Стратегии. М: Манн, Иванов и Фербер (https://ru.wikipedia.org/wiki/%D0%9C%D0%B0%D0%BD%D0%BD,_%D0%98%D0%B2%D0%B0%D0%BD%D0%BE%D0%B2_%D0%B8_%D0%A4%D0%B5%D1%80%D0%B1%D0%B5%D1%80), 2016.]. В мифологиях технологической автономии и машинного интеллекта ничего нового нет: они были придуманы в индустриальную эпоху для мистификации роли рабочих и субалтернов[37 - Schaffer S. Babbage’s Dancer and the Impresarios of Mechanism // Cultural Babbage: Technology, Time and Invention. Francis Spufford and Jenny Uglow (eds). London: Faber & Faber, 1996; Schaffer S. Enlightened Automata // The Sciences in Enlightened Europe. William Clark, Jan Golinski, and Simon Schaffer (eds). Chicago: University of Chicago Press, 1999; Truitt E. R. Medieval Robots: Mechanism, Magic, Nature, and Art. Philadelphia: University of Pennsylvania Press, 2015; Voskuhl A. Androids in the Enlightenment: Mechanics, Artisans, and Cultures of the Self. Chicago: University of Chicago Press, 2013.]. Описывая культ автоматов в эпоху Бэббиджа, Шаффер сформулировал это так: «Чтобы машины казались разумными, требовалось спрятать источник энергии, то есть рабочие руки, которые их поддерживали и направляли»[38 - Schaffer S. Babbage’s Intelligence: Calculating Engines and the Factory System // Critical Inquiry 21, no. 1 (1994): 204. См. также: Geoghegan B. Orientalism and Informatics: The Alterity in Artificial Intelligence, from the Chess-Playing Turk to Amazon’s Mechanical Turk // Ex-Position 43 (June 2020): 45–90.].
Помимо спекулятивных нарративов, которые никогда не вдаются в достаточные технические подробности, чтобы прояснить, какие именно алгоритмы реализуют «сверхинтеллект» (super-intelligence), сегодня можно найти множество технических историй ИИ, призванных сделать понятными его сложные алгоритмы[39 - См., например: Nilsson N. The Quest for Artificial Intelligence: A History of Ideas and Achievements. Cambridge: Cambridge University Press, 2010.]. Соответствующие технические обзоры часто выражают ожидания корпораций от «верховного алгоритма»: чтобы он, с чудесной скоростью сжимая данные, решал перцептивные и когнитивные задачи. Именно так неромантично описывается метрика, по которой оценивают «разумность» систем[40 - Пример корпоративной повестки см.: Домингос П. Верховный алгоритм: как машинное обучение изменит наш мир. М.: Манн, Иванов и Фербер, 2016.]. Эти публикации обычно игнорируют исторический контекст и социальные последствия автоматизации и рисуют линейную историю математических достижений, укрепляя тем самым технологический детерминизм[41 - Об идее автономных технологий см. классический труд: Winner L. Autonomous Technology: Technics-Out-of-Control as a Theme in Political Thought. Cambridge, MA: MIT Press, 1977.]. К техническим историям ИИ следует также отнести когнитивную науку, поскольку она в значительной степени развивалась под влиянием компьютерной науки. Эпохальный двухтомник Маргарет Боден «Ум как машина» (Mind as Machine; 2006) остается, пожалуй, самой подробной историей ИИ как когнитивной науки и показывает сложную генеалогию проекта без какого-либо идеологического пафоса.
Сопротивляясь узкотехническим подходам, все большее число авторов рассматривают социальные последствия ИИ с точки зрения рабочих, сообществ, меньшинств и общества в целом. Эти авторы ставят под вопрос виртуозность алгоритмов, которые якобы «разумны», но по факту усиливают неравенство, усугубляют гендерные и расовые предубеждения и укрепляют новую форму извлечения знаний. Благодаря книгам «Убийственно большие данные» (2016) Кэти О’Нил, «Алгоритмы угнетения» (2018) Сафии Нобл, «Гонка за технологиями» (2019) Рухи Беньямин, «Дискриминация данных» (2021) Уэнди Чан (Цюань Сицин) и другим работам расширяется новая область знания – критические исследования ИИ[42 - О’Нил К. Убийственные большие данные: как математика превратилась в оружие массового поражения. М: АСТ, 2018; Noble S. U. Algorithms of Oppression: How Search Engines Reinforce Racism. New York: New York University Press, 2018; Benjamin R. Race after Technology: Abolitionist Tools for the New Jim Code. Cambridge: Polity, 2019; Wendy Hui Kyong Chun. Discriminating Data: Correlation, Neighborhoods, and the New Politics of Recognition. Cambridge, MA: MIT Press, 2021. Исследования в области ИИ в ходе развития сталкиваются с внутренними проблемами. Как отмечает Ярден Кац, порой «критически настроенные эксперты по ИИ используют свою позицию для укрепления белого господства с прогрессивным лицом… прибегая к языку, заимствованному у радикальных социальных движений» (см.: Katz Y. Artificial Whiteness. New York: Columbia University Press, 2020. P. 128).]. В основе этого направления лежат более ранние исследования ИИ, кибернетики и рациональности времен холодной войны, среди которых стоит упомянуть «Искусственное понимание» (1998) Элисон Адамс, «Вычисления и человеческий опыт» (1997) Филипа Агре, «Закрытый мир» (1996) Пола Эдвардса, «Возможности вычислительных машин и человеческий разум» (1976) Джозефа Вайценбаума и статью Хьюберта Дрейфуса «Алхимия и искусственный интеллект» (1965) для корпорации RAND (эту работу обычно считают первой философской критикой ИИ)[43 - Систематический обзор критических исследований ИИ см.: University of Cambridge, Department of History and Philosophy of Science. Mellon Sawyer Seminar. Histories of AI: A Genealogy of Power. May 2020 – July 2021. URL: www.ai.hps.cam.ac.uk (http://www.ai.hps.cam.ac.uk/).].
Размещая свою книгу внутри растущего корпуса критических работ, я стремлюсь осветить социальную генеалогию ИИ и, что важнее, точку зрения социальных классов, которые развивают ИИ как особое представление о мире и особую эпистемологию. На формирование информационных технологий и ИИ в XX веке воздействовали различные социальные группы и конфигурации власти. Можно сказать, что парадигмы механического мышления (а затем и машинного интеллекта) возникли в разное время и разными способами не на плечах гигантов, а на плечах торговцев, солдат, командиров, бюрократов, шпионов, промышленников, менеджеров и рабочих[44 - См.: Hadden R. On the Shoulders of Merchants: Exchange and the Mathematical Conception of Nature in Early Modern Europe. Albany, NY: State University of New York Press, 1994. См. также: Erickson P. et al. How Reason Almost Lost Its Mind: The Strange Career of Cold War Rationality. Chicago: University of Chicago Press, 2013.]. Автоматизация труда представляет собой ключевой аспект каждой из этих генеалогий, но историография технологий часто это игнорирует, предпочитая взгляд «сверху».
Например, согласно популярной точке зрения подъем кибернетики, цифровых вычислений и ИИ детерминистски объясняется обильными финансовыми вливаниями со стороны Пентагона в годы Второй мировой и период холодной войны[45 - О «военных априори» в истории вычислений см.: Winthrop-Young G. Drill and Distraction in the Yellow Submarine: On the Dominance of War in Friedrich Kittler’s Media Theory // Critical Inquiry 28, no. 4 (2002): 825–854.]. Однако недавние исследования показали, что архипелаг «военной рациональности» был нестабилен и на нем культивировались только парадигмы, имевшие ключевое значение в моделировании гонки вооружений и логистических проблем, – теория игр и программирование линейных перемещений[46 - См.: Erickson P. et al. How Reason Almost Lost Its Mind: The Strange Career of Cold War Rationality. Chicago: University of Chicago Press, 2013.]. Как бы то ни было, государственный аппарат начал влиять на информационные технологии задолго до военной гонки Второй мировой. Автоматизация поиска, выдачи информации и статистического анализа начали применяться с целью механизировать государственную бюрократию и работу правительства по меньшей мере с переписи 1890 года, когда Герман Холлерит представил табулятор для обработки перфокарт. «Правительственная машина», по выражению Джона Агара, предвосхитила появление в эпоху цифровых технологий крупных центров обработки данных, к которым причастны не только интернет-компании, но и спецслужбы, что во всех подробностях описали математик Крис Уиггинс и историк Мэтью Л. Джонс[47 - Agar J. The Government Machine: A Revolutionary History of the Computer. Cambridge, MA: MIT Press, 2003. См.: Wiggins Ch. and Jones M. L. How Data Happened: A History from the Age of Reason to the Age of Algorithms. New York: W. W. Norton, 2023.]. Коротко говоря, свыше 100 лет сбор «больших данных» об обществе и его поведении стимулировал развитие информационных технологий – от табулятора Холлерита до машинного обучения[48 - См.: Katz Y. Manufacturing an Artificial Intelligence Revolution // SSRN Electronic Journal (November 2017).].
Таким образом, ИИ представляет собой продолжение техник анализа данных, которые сначала развивали государственные бюро, затем тайно культивировали спецслужбы, и в конечном счете закрепили интернет-компании в форме глобального бизнеса по надзору и прогнозированию. Однако такая интерпретация – это также не что иное, как взгляд «сверху», фокусирующийся на техниках контроля, а вовсе не на субъектах, над которыми контроль осуществляется. Мишени этой власти («надзорного капитализма» в определении Шошаны Зубофф) обычно описываются как пассивные субъекты, подверженные измерению и контролю, то есть не как акторы, обладающие автономией и собственной «разумностью». В этом заключается проблема критической теории вообще и критических исследований ИИ в частности. Хотя эти исследования и фиксируют воздействие ИИ на общество, они часто упускают из виду, что коллективные знания и труд – главный источник той самой «разумности», которую извлекает, кодирует и превращает в товар ИИ. Более того, их авторы зачастую не способны оценить вклад социальных форм и сил в ключевые этапы технологических изобретений и разработок. По-настоящему критическая интервенция должна бросить вызов гегемонистской позиции ИИ как уникального «хозяина» коллективного разума. Выступая против образовательной иерархии, итальянский философ Антонио Грамши однажды заявил, что «все люди – интеллектуалы»[49 - Цитата из эссе «Формирование интеллигенции» из «Тюремных тетрадей» Грамши. – Прим. ред.]. Аналогичным образом в этой книге я стремлюсь показать центральную роль социального интеллекта, поставляющего данные и расширяющего возможности ИИ. В ней также выдвинут более радикальный тезис, согласно которому именно социальный интеллект формирует изнутри саму структуру алгоритмов ИИ.
Моя книга задумана как экскурс в техническую и социальную историю ИИ и основана на социотехническом историческом подходе, который способен показать, какие экономические и политические факторы повлияли на внутреннюю логику ИИ. Вместо того, чтобы встать на сторону привычного социального конструктивизма и попытаться выйти за рамки новаторских идей социальной информатики, я применяю к ИИ метод исторической эпистемологии, который в истории науки продвигали, каждый по-своему, Борис Гессен, Генрик Гроссман, Жорж Кангийем и Гастон Башляр. Из недавних работ в этом направлении я выделяю исследования Института истории науки Макса Планка в Берлине[50 - Критику социального конструктивизма см.: Winner L. Upon Opening the Black Box and Finding It Empty: Social Constructivism and the Philosophy of Technology // Science, Technology, and Human Values 18, no. 3 (1993): 362–378. Обзор исторической эпистемологии см.: Renn J. The Evolution of Knowledge: Rethinking Science for the Anthropocene, Princeton, NJ: Princeton University Press, 2020; Omodeo P. D. Political Epistemology: The Problem of Ideology in Science Studies. Berlin: Springer, 2019; Schmidgen H. History of Science // The Routledge Companion to Literature and Science. Bruce Clarke and Manuela Rossini (eds). London: Routledge, 2011.]. Если социальный конструктивизм в целом подчеркивает влияние внешних факторов на науку и технику, историческая эпистемология делает акцент на диалектическое развертывание социальной практики, орудий труда и научных абстракций внутри экономической динамики. В этой книге я подхожу к изучению ИИ и алгоритмического мышления точно так же, как историческая и политическая эпистемология изучает роль механического мышления и научных абстракций (например, число и пространство) в социально-экономических преобразованиях Нового времени[51 - О понятии числа см. главу 1. О механическом мышлении см.: Damerow P. et al. Exploring the Limits of Preclassical Mechanics: A Study of Conceptual Development in Early Modern Science. 2nd ed. New York: Springer, 2004; Schemmel M. Historical Epistemology of Space: From Primate Cognition to Spacetime Physics. New York: Springer, 2015.].
В последние десятилетия политическую эпистемологию науки и технологий продвигали исследовательницы-феминистки – Хилари Роуз, Сандра Хардинг, Эвелин Фокс Келлер, Сильвия Федеричи и другие. Они убедительно показали, как возникновение современной рациональности и механического мышления (к которому относится ИИ) связано с превращением женского тела и коллективного тела вообще в послушную производительную машину[52 - Rose H. and Rose St. (eds). The Radicalisation of Science. London: Macmillan, 1976; Harding S. The Science Question in Feminism. Ithaca, NY: Cornell University Press, 1986; Keller E. F. Reflections on Gender and Science. New Haven, CT: Yale University Press, 1985; Federici S. Caliban and the Witch: Women, the Body, and Primitive Accumulation. New York: Autonomedia, 2004.]. В традиции политической эпистемологии мы еще должны обратить внимание на анализ трудового процесса, предложенный Гарри Браверманом в работе «Труд и монополистический капитал» (Labor and Monopoly Capital; 1974), а также на исследования итальянских рабочих, проводившиеся операистами, в частности, Романо Альквати на заводе ЭВМ Olivetti в Ивреа еще в 1960 году[53 - См. главу 5. О новом подходе к исследованию рабочих см.: Woodcock J. Towards a Digital Workerism: Workers’ Inquiry, Methods, and Technologies // Nanoethics 15 (2021): 87–98.]. Браверман и Альквати – авторы влиятельных работ, в которых впервые показано, что проекты автоматизации вычислений Бэббиджа в XIX веке и кибернетика XX века неотъемлемо связаны с трудом и его организацией.

Автоматизация познания как распознавание паттернов
Перевод трудового процесса сначала в логическую процедуру, а затем в технический артефакт редко протекает просто и безотказно; чаще это путь проб и ошибок. В этом смысле название книги[54 - Имеется в виду название книги в оригинале (The Eye of the Master). Напомню, что «хозяйский глаз» – выражение Фридриха Энгельса. – Прим. пер.] содержит не только политическую, но и техническую аналогию. Оно иронически сигнализирует, что нынешняя парадигма ИИ амбивалентна: она возникла вовсе не из когнитивных теорий, как верят некоторые, а из спорных экспериментов по автоматизации перцептивного труда, то есть распознавания паттернов[55 - Термины «хозяин» [master] и «паттерн» имеют общую политическую этимологию. Английский термин «паттерн» происходит от французского patron и латинского patronus. Последние два слова имеют общий корень с английскими словами «отеческий» [paternal] и «отец» [father] и восходят к латинскому pater. Латинское patronus означает также «защитник», в том числе защитник слуг. Французское patron – это «лидер», «начальник» и «глава сообщества», что в патриархальном контексте подразумевает «образец для подражания».]. Глубокое обучение начиналось как расширение методов распознавания визуальных образов, разработанных в 1950?е годы, на невизуальные данные – текст, аудио, видео и поведенческие материалы самого разного происхождения. Подъем глубокого обучения начался в 2012 году, когда сверточная нейронная сеть AlexNet выиграла конкурс компьютерного зрения ImageNet. С тех пор термин «ИИ» стал по умолчанию обозначать парадигму искусственных нейронных сетей, которая в 1950?х годах, напротив, считалась конкурентом ИИ (пример противоречий, характеризующих его «рациональность»)[56 - AlexNet была сверточной нейронной сетью нового поколения, названной в честь Алекса Крижевского, ученика Джеффри Хинтона. Принято считать, что следующая статья знаменует собой начало эры глубокого обучения: Krizhevsky A., Sutskever I., and Hinton G. Imagenet Classification with Deep Convolutional Neural Networks // Advances in Neural Information Processing Systems 25 (2012): 1097–105. См. также: Cardon D., Cointet J.-Ph., and Mazi?res A. Neurons Spike Back: The Invention of Inductive Machines and the Artificial Intelligence Controversy // Elizabeth Libbrecht (trans.). Rеseaux 211, no. 5 (2018): 173–220.]. Стюарт и Хьюберт Дрейфусы осветили эту коллизию в эссе 1988 года «Создание сознания vs моделирование мозга», в котором обрисовали две родословные ИИ – символическую и коннекционистскую. Cудьба этих подходов, основанных на разных логических постулатах, сложилась по-разному[57 - Дрейфус Х.Л., Дрейфус С.И. Создание сознания vs. моделирование мозга: искусственный интеллект вернулся на точку ветвления // Аналитическая философия: становление и развитие. М.: Дом интеллектуальной книги, Прогресс-Традиция, 1998. С. 401–432.].
Символический ИИ – это родословная, связанная с Дартмутским семинаром 1956 года, на котором Джон Маккарти предложил небесспорный термин «искусственный интеллект»[58 - McCarthy J. et al. A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence. 31 August 1955, AI Magazine 27, no. 4 (2006).]. На основе символического ИИ были разработаны программы Logic Theorist и General Problem Solver, а также множество экспертных систем и машин логического вывода, оказавшихся тривиальными и склонными к комбинаторному взрыву. Коннекционизм в свою очередь представляет родословную искусственных нейронных сетей, созданных Фрэнком Розенблаттом в 1957 году. Изобретенный им «перцептрон» в 1980?х годах развился в сверточные нейронные сети и в конечном итоге породил архитектуру глубокого обучения, которая доминирует в этой области с 2010?х.
Обе родословные развивают разные виды логики и эпистемологии. Символический подход утверждает, что разумность – это представление мира (знание-что), которое можно формализовать в виде суждений и, следовательно, механизировать согласно дедуктивной логике. Согласно коннекционистскому подходу, разумность представляет собой опыт мира (знание-как), и этот опыт можно реализовать в приближенных моделях, построенных по индуктивной логике. Что бы ни утверждали корпоративная пропаганда и вычислительные философии разума, ни одна из двух парадигм не смогла полностью имитировать человеческий интеллект. Однако нельзя отрицать, что машинное обучение и глубокие искусственные нейронные сети оказались очень успешными в распознавании паттернов и, как следствие, автоматизации многочисленных задач, благодаря высокой разрешающей способности при обсчете многомерных данных. Двигаясь против традиции, которая воспроизводит чрезмерно знаменитую сагу о Дартмутском семинаре, в книге я концентрируюсь на более убедительной истории ИИ, связанной с происхождением искусственных нейронных сетей, коннекционизмом и машинным обучением. По этому направлению, особенно в том, что касается работы Розенблатта, критической и обстоятельной литературы все еще не хватает.

Структура книги

Книга состоит из трех частей. В вводной части речь идет о вопросах методологии, а две основных посвящены истории – индустриальной и информационной эпохам соответственно. При этом в книге нет линейной истории технологии и автоматизации. Скорее, каждую главу можно читать как независимый «семинар» по изучению алгоритмических практик и машинного разума.
В первой главе я исхожу из необходимости прежде всего прояснить центральное вычислительное понятие: алгоритм. Что такое алгоритм? В компьютерной науке алгоритм определяют как конечную процедуру пошаговых инструкций по преобразованию ввода в вывод, которая оптимально использует имеющиеся ресурсы. В главе ставится под сомнение приведенное чисто техническое определение алгоритма и обосновывается его материалистическая критика, указывающая на экономические и социальные корни явления. Как и у других абстрактных понятий – таких как число или механизм, – у алгоритма долгая история. Как указал математик Жан-Люк Шабер, «алгоритмы существовали с незапамятных времен, задолго до того, как было придумано специальное слово для их обозначения»[59 - Chabert J.-L. (ed.). A History of Algorithms: From the Pebble to the Microchip. Berlin: Springer, 1999. P. 1.]. Обращаясь к социальной математике древнего индуистского ритуала Агничаяна, я утверждаю, что алгоритмическое мышление и алгоритмическая практика присущи всем цивилизациям, а не только метаязыку западной компьютерной науки. В противовес математическому и философскому интуитивизму, который верит в полную независимость ментальных конструкций, в главе подчеркивается, что алгоритмическое мышление возникло в качестве материальной абстракции из взаимодействия разума и орудий, направленного главным образом на решение экономических и социальных задач. Центральный тезис главы сформулирован намеренно остро: труд представляет собой первый алгоритм.
Основные части книги посвящены изучению машинного разума в две исторические эпохи и выявляют сходную проблематику. В первой части рассматриваются труд как источник знаний и автоматизация умственного труда в индустриальную эпоху в Великобритании. Этот период обычно исследуется с точки зрения ручного труда, накопления капитала и ископаемых источников энергии, а вовсе не в перспективе когнитивных аспектов. Во второй части анализируется распространение коннекционизма (доктрины искусственных нейронных сетей) в кибернетических кругах в США 1940–1960?х годов. Искусственные нейронные сети возникли в результате проекта автоматизации зрительного труда (т. н. распознавания образов), отличного от ручного и умственного. Я утверждаю, что изучение роли знаний, умственного труда и науки в XIX веке необходимо для понимания истории автоматизации, подготовившей восхождение ИИ в XX веке. Обе части книги подходят с разных сторон к одной проблеме: взаимосвязи между формами технологических инноваций и социальной организацией.
Как отмечали историки науки Дастон и Шаффер, движущую силу современных вычислений легче найти в мастерских индустриальной эпохи, чем в томах по математике или натурфилософии того же времени. Поэтому во второй главе в попытке избежать традиционной машинной агиографии новаторские эксперименты Бэббиджа в области автоматизированных вычислений – его Разностная и Аналитическая машины – пересмотрены с экономической точки зрения. Для объяснения устройства этих первых компьютеров (и воплощенного в них варианта «машинного разума») в главе описываются два принципа анализа труда, выработанные Бэббиджем. Согласно первому аналитическому принципу (трудовой теории машин), конструкция машины воспроизводит и заменяет схему разделения труда. Второй принцип (исчисления труда, т. н. принцип Бэббиджа) гласит, что разделение труда на мелкие задачи позволяет измерить и приобрести ровно столько труда, сколько требуется для производства. При совмещении два принципа дают промышленную машину, которая не только делает труд более интенсивным, но и выступает как инструмент (и неявная метрика) его измерения. Бэббидж применил оба принципа к автоматизации ручного счета. Так возникло вычисление – как автоматизация умственного труда и подсчет его стоимости.
Помимо представления обычных «термодинамических» интерпретаций ручного труда, в третьей главе показывается, что сложные понятия умственного труда, коллективного разума и отчуждения знания были разработаны уже в индустриальную эпоху. В этой главе исследуются идеи вокруг становления политической экономии в XIX веке, движения Института механики, общественной кампании «Марш разума» и Вопроса о машинах (дебаты о технологиях и безработице, волновавшие английское общество в те годы). Также освещены противоположные размышления о введенных Бэббиджем принципах анализа труда и изобретательстве. С одной стороны, я показываю, что задолго до появления теоретиков общества знаний в XX веке рикардианские социалисты Уильям Томпсон и Томас Годскин выдвинули познавательную теорию труда. С другой стороны, подчеркиваю необходимость признать влияние промышленных машин и инструментов на развитие знаний о природе, что требует расширить машинную теорию науки. В результате выражение «машинный интеллект» приобретает по меньшей мере четыре значения:
человеческое знание машины;
знание, воплощенное в ее конструкции;
человеческие задания, ею автоматизированные;
новое знание о мире, ставшее возможным благодаря ее применению.
Четвертая глава посвящена тому, как связаны Бэббидж и другой столп политической экономии индустриальной эпохи, Карл Маркс, – эта тема все еще изучена недостаточно[60 - За исключением работ: Caffentzis G. In Letters of Blood and Fire: Work, Machines, and Value. Oakland: PM Press, 2013; Wendling A. E. Karl Marx on Technology and Alienation. Berlin: Springer, 2009. См. также: Beamish R. Marx, Method, and the Division of Labour. Urbana: University of Illinois Press, 1992; Dotzler B. Diskurs und Medium I: Zur Arch?ologie der Computerkultur. Munich: Fink Verlag, 2006.]. Здесь исследуется вплетение знаний в материальные действия и артефакты и дано соответствующее прочтение теорий Маркса. В известном отрывке из Grundrisse[61 - В советско-российской традиции за этим сборником записей, известном как черновой вариант «Капитала», закрепилось название «Экономические рукописи 1857–1859 годов», под которым он был опубликован в составе 46?го тома собрания сочинений Маркса и Энгельса. Позднее сотрудники Института марксизма-ленинизма уточнили датировку вошедших в сборник документов, поэтому отдельное двухтомное издание 1980 года, по которому даны цитаты в этом переводе, носит название «Экономические рукописи 1857–1861 гг. (Первоначальный вариант "Капитала")». Во избежание путаницы для обозначения сборника я использую название, принятое в западной марксистской традиции, – Grundrisse (нем. план, очерки, набросок). Историю переоткрытия Grundrisse с точки зрения западного марксизма автор разбирает в главе 4. – Прим. пер.] философ предсказывал, что постепенное накопление знаний (то, что он назвал «всеобщим интеллектом») в машинах подорвет законы капиталистического накопления и вызовет его фатальный кризис. Благодаря интерпретации итальянских операистов, данной в 1989 году, этот необычный отрывок, получивший название «Фрагмент о машинах», обрел широкую известность среди исследователей и активистов в качестве пророчества об экономике знаний, пузыре доткомов и восхождении ИИ. После десятилетий всевозможных спекуляций в этой главе впервые раскрывается происхождение идеи всеобщего интеллекта (general intellect), которую Маркс встретил в книге Уильяма Томпсона «Исследование принципов распределения богатства» (An Inquiry into the Principles of the Distribution of Wealth; 1824). Также я объясняю (и это даже важнее), почему это понятие не вошло в «Капитал». У Томпсона Маркс почерпнул идею добродетельного накопления знаний и аргумент, согласно которому знание, отчуждаясь в машинах, становится враждебным по отношению к рабочим. Однако именно у Бэббиджа Маркс нашел альтернативную теорию, позволяющую понять двусмысленную роль знаний и науки в промышленной экономике. В «Капитале» Маркс заменил утопические упования на всеобщий интеллект материальной фигурой «совокупного рабочего» (Gesamtarbeiter) – другое имя расширенной трудовой кооперации. Фигура совокупного рабочего как некоего сверхорганизма, объединяющего людей и машины, знаменует в этой книге переход к эпохе кибернетики и кибернетическим экспериментам по самоорганизации. Переходную роль выполняет пятая глава, где кратко описана трансформация труда индустриальной эпохи в век кибернетики и разъясняется, как труд распался на абстрактную энергию и абстрактную форму (информацию).
Вторая часть посвящена коннекционизму как главной родословной современных систем ИИ (я избегаю повторения известной литературы по кибернетике, теории информации и символическому ИИ). В шестой главе развитие искусственных нейронных сетей рассматривается с точки зрения, которой обычно пренебрегают, а именно в перспективе исследований самоорганизации организмов и машин (их обошла вниманием даже Боден в своей огромной истории ИИ). Теории самоорганизации сегодня востребованы в физике, химии, биологии, неврологии и экологии, но именно в среде кибернетиков, а не представителей естественных наук, в середине XX века вспыхнули дебаты о самоорганизации. В главе рассмотрены парадигмы самоорганизующихся вычислений, которые способствовали, среди прочего, укреплению коннекционизма, – в частности, концепция нейронных сетей Уоррена Мак-Каллока и Уолтера Питтса (1943–1947), клеточные автоматы Джона фон Неймана (1948) и перцептрон Розенблатта (1957). Также в шестой главе исследуется реакция кибернетических теорий самоорганизации на социотехнические изменения. Подобно иным вариантам механистического мышления в другие века, кибернетика проецировала на мозг и природу формы организации, которые были частью технического состава окружающего общества. Ключевым примером здесь выступает телеграфная сеть, которая использовалась в XIX веке в качестве аналогии нервной системы, а в ХХ веке – для формализации нейронных сетей, включая машину Тьюринга.
В седьмой главе прослеживается связь концепций искусственных нейронных сетей Мак-Каллока и Питтса с забытым спором о гештальте: дебаты о человеческом восприятии как о когнитивном акте, который может быть представлен аналитически и, следовательно, механизирован. В учебниках по машинному обучению обычно утверждается, что Мак-Каллок и Питтс вдохновлялись нейрофизиологией мозга, но авторами упускается из виду упомянутый интеллектуальный сор. Между тем, именно после этих дебатов выражение «гештальт-восприятие» из военных и академических публикаций превратилось в широко известное словосочетание «распознавание паттернов». Спор о гештальте – это когнитивная окаменелость нерешенной проблемы, и ее изучение помогает понять форму и ограничения, унаследованные глубоким обучением, в частности, неразрешенное противоречие между восприятием и познанием, образом и логикой, которое преследовало технонауку XX века.
В восьмой главе разъясняется двойственная роль неолиберального экономиста Фридриха фон Хайека в укреплении коннекционизма. В книге 1952 года «Сенсорный порядок» Хайек предложил коннекционистскую теорию разума, куда более продвинутую, чем определения ИИ, выработанные на Дартсмутском семинаре в 1956?м. В этом тексте, как предположили Мак-Каллок и Питтс, Хайек размышлял о создании машины, функционально подобной «нервной системе как инструменту классификации»[62 - Hayek F. The Sensory Order: An inquiry into the Foundations of Theoretical Psychology. Chicago: University of Chicago Press, 1952. P. 55.]. Подобно кибернетикам Хайек изучал самоорганизацию разума, но с другой целью: его интересовала не промышленная автоматизация, а автономия рынка.
Девятая глава посвящена одному из наиболее важных и наименее изученных эпизодов в истории ИИ: изобретению Розенблаттом в 1950?х годах искусственной нейронной сети перцептрон. Несмотря на свои ограничения, перцептрон стал прорывом в истории вычислений – в нем впервые была автоматизирована техника статистического анализа; по этой причине его считают первым алгоритмом машинного обучения[63 - Первое использование термина «машинное обучение» см.: Samuel A. Some Studies in Machine Learning Using the Game of Checkers // IBM Journal of Research and Development 44 (1959): 206–226. Также Тьюринг размышлял о «неорганизованных машинах», которые обладают способностью самоорганизовываться и, таким образом, обучаться: Turing A. Intelligent Machinery (1948) // The Essential Turing. B. Jack Copeland (ed). Oxford: Oxford University Press, 2004.]. В качестве технической формы перцептрон претендовал на имитацию биологических нейронных сетей, но с математической точки зрения осуществлял совсем другой трюк. Чтобы решить задачу распознавания образов, машина представляла пиксели изображения как независимые координаты в многомерном пространстве. Любопытно, что статистический метод многомерной проекции зародился в психометрии и евгенике в конце XIX века и аналогичен тому методу оценки «общего интеллекта» [general intelligence], который Чарльз Спирмен реализовал в спорном тесте на определение коэффициента интеллекта (IQ). Это еще одно доказательство социальной генеалогии ИИ: первая искусственная нейронная сеть – перцептрон – родилась не как автоматизация логического рассуждения, а как статистический метод, который применялся для измерения интеллекта в когнитивных задачах и соответствующей этим измерениям организации социальной иерархии.
В заключении утверждается, что принцип действия ИИ представляет собой не только автоматизацию труда, но и навязывание социальной иерархии ручного и умственного труда посредством автоматизации. С XIX по XX век «хозяйский глаз» промышленного капитализма охватил все общество и установил новые формы контроля, основанные на статистических измерениях «интеллекта», с целью дискриминировать рабочих по уровню навыков. Результаты теста IQ применялись именно так: американский психолог Льюис Терман в 1919 году заявлял, что «IQ 75 или ниже обычно относится к неквалифицированным рабочим, от 75 до 85 – диапазон для полуквалифицированного труда, а показатели 80 или 85 вполне достаточны для успеха в некоторых видах квалифицированного труда»[64 - Terman L. The Intelligence of School Children: How Children Differ in Ability, the Use of Mental Tests in School Grading, and the Proper Education of Exceptional Children. Boston: Houghton Mifflin, 1919. P. 274. Цит. по: Gould S. J. The Mismeasure of Man. New York: Norton & Company, 1981. P. 212.]. ИИ продолжает кодировать социальные иерархии и дискриминировать рабочую силу, косвенно навязывая метрики разумности. Классовые, гендерные и расовые предубеждения, которые системы ИИ, как известно, только усиливают, следует рассматривать не как технический недостаток, а как неотъемлемую дискриминационную черту автоматизации при капитализме. Предвзятость ИИ не ограничивается социальным угнетением: она также выражается в неявном навязывании иерархии труда и знаний, что усиливает поляризацию квалифицированных и неквалифицированных работников на рынке труда. Замену традиционных рабочих мест системами ИИ следует рассматривать вместе с умножением прекарных, низкооплачиваемых и маргинализированных рабочих мест в глобальной экономике[65 - О деградации рынка труда за счет умножения бессмысленных профессий см.: Грэбер Д. Бредовая работа. Трактат о распространении бессмысленного труда. М.: Ад Маргинем, 2020. См. также: Бенанав А. Автоматизация и будущее работы. М.: Изд-во Института Гайдара, 2022.]. ИИ и «призрачная работа» – две стороны одного и того же механизма автоматизации труда и социальной психометрии.
Наконец, выдвинутая в книге трудовая теория автоматизации представляет собой не только аналитический принцип, нужный для демонтажа «верховного алгоритма» монополий ИИ, но и принцип синтетический. Он говорит о практике социальной автономии, которая создаст новые формы знания и новые культуры изобретательства.

1. Материальные орудия алгоритмического мышления
Силу наших «ментальных» орудий усиливает сила наших «металлических» орудий[66 - Wing J. M. Computational Thinking and Thinking about Computing // Philosophical Transactions of the Royal Society A: Mathematical, Physical, and Engineering Sciences 366, no. 1881 (2008): 3718.].
    Жаннет Винг, «Вычислительное мышление», 2008 г.
Использование материального орудия всегда дает больше знаний, чем вложено в его изобретение[67 - Damerow P. and Lef?vre W. Tools of Science // Abstraction and Representation: Essays on the Cultural Evolution of Thinking. Berlin: Springer, 2013. P. 401.].
    Петер Дамеров и Вольфганг Лефевр, «Орудия науки», 1981 г.
Правила стали механическими до того, как им могли следовать машины[68 - Daston L. Algorithms before Computers: Patterns, Recipes, and Rules // Katz Distinguished Lecture in the Humanities, Simpson Center for the Humanities, University of Washington, 19 April 2017. См. также: Daston L. Rules: A Short History of What We Live By. Princeton, NJ: Princeton University Press, 2022.].
    Лоррейн Дастон, «Алгоритмы до компьютеров», 2017 г.

Воссоздание расчлененного бога
В космогоническом мифе индуистских Вед говорится, что верховное божество Праджапати распадается на части в акте сотворения вселенной. После творения происходит нечто контринтуитивное с точки зрения западных нарративов о господстве и принципов непротиворечивости: тело творца оказывается разобранным и расчлененным. В Индии этот древний миф разыгрывают в ритуале Агничаяна. Ритуал предполагает строительство огненного алтаря Шьеначити, и этот процесс служит символическим воссозданием распавшегося тела бога (см. рис. 1.1).


Рис. 1.1. Диаграмма огненного алтаря Агничаяна (Staal F. Greek and Vedic geometry // Journal of Indian Philosophy 27, no. 1 (1999): 111)

Алтарь Шьеначити возводят из тысячи кирпичей выверенной формы и точного размера в соответствии со сложной схемой, изображающей сокола. Рабочие кладут пять слоев по 200 кирпичей в каждом, повторяя специальную мантру и следуя пошаговым инструкциям. В основе ритуала лежит решение загадки: каждый слой должен повторять одну и ту же пространственную форму, но различаться внутренней конфигурацией[69 - Ramasubramanian K. Glimpses of the History of Mathematics in India // Mathematics Education in India: Status and Outlook. R. Ramanujam and K. Subramaniam (eds). Mumbai: Homi Bhaba Centre for Science Education (TIFR), 2012.]. Соколиный алтарь следует обращать на восток, знаменуя предстоящий символический полет воссозданного бога к восходящему солнцу – здесь мы видим уникальный пример божественного перевоплощения средствами геометрии.
Агничаяна подробно описана в шульба-сутрах; это посвященное вопросам геометрии дополнение к Ведам записано около 800 года до н. э. в Индии и опирается на гораздо более древнюю устную традицию[70 - Голландский индолог Фриц Сталь описывает Агничаяну в двухтомнике (и документальном фильме) об экспедиции в Кералу в 1975 году. См.: Staal F. Agni: The Vedic Ritual of the Fire Altar. Two vols. Berkeley: Asian Humanities Press, 1983. Сталь утверждает, что абстрактные культурные формы возникают из бессознательного и что язык, числовые символы и геометрия представляют собой первые коллективные практики. См.: Staal F. Rules without Meaning: Ritual, Mantras, and the Human Sciences. New York: Peter Lang, 1989. P. 71]. Согласно этим текстам риши (духи жизни) создали семь пуруш (космических существ), имеющих форму квадрата; вместе они образовали единое тело, а уже из этой простой конфигурации возникло сложносоставное тело Праджапати[71 - Zellini P. La matematica degli d?i e gli algoritmi degli uomini/ Milano: Adelphi, 2016. P. 41. (The Mathematics of the Gods and the Algorithms of Men. London: Penguin, 2020.)]. Шульба-сутры учат строить алтари определенных геометрических форм, чтобы снискать благорасположение богов. Так, говорится, что «тем, кто хочет уничтожить настоящих и будущих врагов, следует построить огненный алтарь в форме ромба»[72 - Plofker K. Mathematics in India // The Mathematics of Egypt, Mesopotamia, China, India, and Islam. Victor Katz (ed.). Princeton, NJ: Princeton University Press, 2007.]. Помимо религиозного значения ритуал Агничаяна и шульба-сутры обладали функцией передачи важных для общества техник, например умения планировать строительство и увеличивать существующие здания с сохранением первоначальных пропорций[73 - Об исследовании передачи знаний и технологий в древности см.: Renn J. (ed.). The Globalization of Knowledge in History, Princeton, NJ: Princeton University Press, 2020.]. Агничаяна служит примером того, что математическое знание изначально носит социально-материальный характер, а также демонстрирует типичную для кастовой системы иерархию ручного и умственного труда. При сооружении жертвенника рабочие руководствуются правилами, которые традиционно существуют лишь у определенной группы мастеров. Она же и передает эти правила. Ритуалы, подобные Агничаяне, – это не только упражнения в геометрии. Они обучают процедурному знанию, которое не сводится к абстракции и основано на продолжительной «механической» тренировке. Кроме того, они показывают, как религия может побуждать к точности, а духовные упражнения – использоваться как средство трудовой дисциплины[74 - Разделение труда в Агничаяне также напоминает сложную оперативную цепь (cha?ne opеratoire), которую французский антрополог Андре Леруа-Гуран выявил во многих родовых (изначально не иерархических, а спонтанных и кооперативных) практиках изготовления инструментов. См.: Sellet F. Cha?ne opеratoire: The Concept and its Applications // Lithic Technology 18, nos. 1–2 (1993): 106–112.].
Агничаяна – уникальный артефакт в истории человеческой цивилизации: это самый древний задокументированный ритуал, который практикуется по сей день, хотя из-за сложности и проводится лишь несколько раз в столетие[75 - Последние ритуалы прошли в 1955, 1975 (церемония задокументирована Фрицем Сталем) и 2011 годах.]. На протяжении тысячелетий с его помощью передавались и сохранялись сложные парадигмы знания, и благодаря комбинаторному механизму Агничаяны этот ритуал можно определить как первичный пример алгоритмической культуры. Что же позволяет интерпретировать как алгоритм столь древний ритуал? Согласно одному из самых распространенных в компьютерной науке определений, алгоритм, как уже упоминалось, – это конечная процедура пошаговых инструкций для преобразования ввода в вывод вне зависимости от данных и с наилучшим использованием имеющихся ресурсов[76 - См. также: Chabert J.-L. (ed.). A History of Algorithms: From the Pebble to the Microchip. Berlin: Springer, 1999. P. 2. (Chabert J.-L. Histoire d’algorithmes: Du caillou ? la puce. Paris: Belin, 1994. P. 6.) «Алгоритм – это конечная последовательность правил, применяемая в определенном порядке к конечному набору данных для получения за конечное число шагов определенного результата вне зависимости от данных». Перевод мой: французский оригинал дает более точное определение, поскольку в английском издании отсутствует оборот «вне зависимости от данных».]. Рекурсивные мантры, которые направляют рабочих на строительной площадке огненного алтаря, напоминают правила компьютерной программы: вне зависимости от контекста алгоритм Агничаяны позволяет точно распределить кирпичи и построить Шьеначити. Историки обнаружили, что индийская математика с древних времен носила преимущественно алгоритмический характер. Это означает, что задачи предлагалось решать не с помощью логической демонстрации, а путем пошаговой процедуры[77 - Sriram M. S. Algorithms in Indian Mathematics // Contributions to the History of Indian Mathematics. Gurgaon: Hindustan Book Agency, 2005. P. 153–182.].
Так, итальянский математик Паоло Целлини утверждает, что ритуал Агничаяны свидетельствует о более сложной технике, чем следование жесткому правилу, а именно – об эвристическом методе пошаговой аппроксимации. Известно, что ведическая математика раньше, чем это произошло у других цивилизаций, познакомилась с бесконечно большими и бесконечно малыми числами. В древних сутрах перемножались огромные позиционные числа индуистской системы счета для охвата необъятных просторов вселенной (мыслительное упражнение, которое невозможно себе представить, например, в аддитивных шумерских, греческих и римских системах счисления). Ведическая математика также была знакома с иррациональными числами, например квадратным корнем, который во многих случаях (например, ?2) можно рассчитать только приблизительно. В мантрах шульба-сутр пропеваются самые древние (и доскональные) объяснения вычислительных процедур (например, так называемого вавилонского алгоритма) для приближенного выражения квадратного корня. Процедуры приближения могут показаться громоздкими, слабыми и неточными по сравнению с математическими функциями и геометрическими теоремами, но их роль в истории математики и техники важнее, чем это принято считать. В книге по истории методов постепенного прироста (включая, среди прочего, древний метод гномона) Целлини утверждал, что индуистские методы пошагового приближения эквивалентны современным счетным алгоритмам Лейбница и Ньютона и даже техникам исправления ошибок, которые лежат в основе искусственных нейронных сетей и машинного обучения, составляющих парадигму ИИ (см. главу 9)[78 - Zellini. La matematica degli d?i, 51. Спорная, но влиятельная история исчислений, см.: Cohen H. Das Prinzip der Infinitesimal-Methode und seine Geschichte: Ein Kapitel zur Grundlegung der Erkenntniskritik (1883).].
Некоторым прочтение древних культур через парадигму новейших технологий Кремниевой долины, как и изучение математической составляющей религиозных ритуалов в эпоху оголтелого национализма, может показаться актом незаконного присвоения. Однако утверждать, что абстрактные техники познания и искусственные метаязыки безраздельно принадлежат современному индустриальному Западу, исторически неверно. Подобное утверждение – акт скрытого эпистемического колониализма по отношению к культурам других эпох и регионов[79 - Историк математики Сентил Бабу пишет: «До сих пор специалисты по истории математики в Индии в основном работали с корпусом текстов на санскрите… Индология признала и канонизировала только благородную санскритскую традицию. Знания многих практиков математики стали невидимыми». Babu S. Mathematics and Society: Numbers and Measures in Early Modern South India. Oxford: Oxford University Press, 2022. P. 2–5. См. также: Babu S. Indigenous Traditions and the Colonial Encounter: A Historical Perspective on Mathematics Education in India // Ramanujam and Subramaniam, Mathematics Education in India.]. Альтернативные формы вычислений, лежащие вне гегемонии Глобального севера и присущего ему режиму экстрактивизма знаний, получили признание и изучаются благодаря вкладу этноматематики, деколониальных исследований, а также истории науки и техники. Алгоритмами из-за их роли в компьютерном программировании обычно считают абстрактное применение сложных наборов правил. В этой книге я, напротив, утверждаю, что все алгоритмы, включая сложные алгоритмы искусственного интеллекта и машинного обучения, берут начало в общественной и материальной деятельности. Алгоритмическое мышление и алгоритмические практики, широко понимаемые как решение задач на основе правил, представляют собой часть всех культур и цивилизаций.

Конец ознакомительного фрагмента.
Текст предоставлен ООО «Литрес».
Прочитайте эту книгу целиком, купив полную легальную версию (https://www.litres.ru/pages/biblio_book/?art=70844962?lfrom=390579938) на Литрес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

notes
Примечания

1
Домингос П. Верховный алгоритм: как машинное обучение изменит наш мир. М.: Манн, Иванов и Фербер, 2016. С. 17.

2
Бостром Н. Искусственный интеллект: этапы, угрозы, стратегии. М.: Манн, Иванов и Фербер, 2016. С. 197.

3
Букв. перевод «интеллектуальный акт».

4
Geoghegan B. D. Information // Digital Keywords: A Vocabulary of Information Society and Culture. Benjamin Peters (ed.). Princeton: Princeton University Press, 2016. P. 177.

5
https://www.artint.ru/

6
См.: Ильенков Э. Об идолах и идеалах. М.: Политиздат, 1968. С. 32

7
Kirtchik O. The Soviet scientific programme on AI: if a machine cannot ‘think’, can it ‘control’?// BJHS Themes, 2023. P. 8, 111–125.

8
Маркс К. Капитал. Т. I. М.: Государственное издательство политической литературы, 1952. С. 429. Маркс также отмечает: «Позже мы увидим, что «хозяева» начинают петь совсем по-другому, когда им угрожает потеря их «живых» автоматов» (см.: Там же). – Здесь и далее, если не указано иное, прим. автора.

9
Грамши А. Тюремные тетради. Ч. I. C. 343. М.: Издательство политической литературы, 1991.

10
Перевод скорректирован: итальянский термин gli intellettuali соответствует русскому слову «интеллектуалы» (в англоязычной традиции его передают как intellectuals). Однако в советской традиции перевода, ведущей отсчет с 1950?х гг., устоялся вариант «интеллигенты», который в силу конкретно-исторических коннотаций сужает понятие Грамши. При этом философ, безусловно, был прекрасно знаком с ролью, которая приписывалась интеллигенции в российской революционной традиции, и в размышлениях об особой социальной роли интеллектуалов отталкивался в том числе от этого. – Прим. пер.

11
В России сложилась традиция переводить словосочетание artificial intelligence как «искусственный интеллект». «Интеллект» в русском языке соотносится с английским intellect, под которым подразумевается способность понимать и объяснять (ср. «разум»), однако у intelligence прямого аналога в русском нет, это слово означает способность получать и применять на практике знания и навыки (ср. «разумность»). В случаях употребления слова intelligence с определениями я буду следовать сложившейся традиции перевода. В случаях обособленного словоупотребления intelligence, помимо вариантов «интеллект» и «интеллектуальные способности», я буду также использовать слово «разумность», делая акцент на наблюдаемом комплексе качеств, которые указывают на их глубинный источник (собственно, разум) в случае с живыми существами. – Прим. пер.

12
Согласно Грамши, чья цитата открывает книгу, все люди могут считаться интеллектуалами в том смысле, что не существует труда, в котором отсутствует хотя бы «минимум созидательной интеллектуальной деятельности». Однако, как тут же поясняет философ, «не все люди выполняют в обществе функции интеллектуалов (так, о том, кто жарит себе яичницу или пришивает заплату на куртку, не скажут, что он является поваром или портным)» (см.: Там же). – Прим. пер.

13
Сеннет Р. Мастер. М.: Strelka Press, 2018; Roberts L. and Schaffer S. (eds). The Mindful Hand: Inquiry and Invention from the Late Renaissance to Early Industrialisation. Chicago: University of Chicago Press, 2007. О роли физического прикосновения в цифровую эпоху см.: Ladewig R. and Schmidgen H. (eds). Body and Society 28. Nos. 1–2. Special issue. Symmetries of Touch: Reconsidering Tactility in the Age of Ubiquitous Computing (2012).

14
В случаях, когда речь идет о распознавании сугубо визуальных данных, которое исторически предшествует экстраполяции метода на невизуальную информацию, я использую устоявшийся перевод «распознавание образов». В других случаях, когда речь идет о расширенном применении метода, – «распознавание паттернов». – Прим. пер.

15
В начале 1960?х годов Романо Альквати определил информацию как новаторские микрорешения, которые принимают работники в процессе производства (см. главу 5 этой книги). См. также: Pasquinelli M. Italian Operaismo and the Information Machine // Theory, Culture and Society 32, no. 3 (2015): 49–68; Sprenger F. Microdecisions and Autonomy in Self-Driving Cars: Virtual Probabilities // AI and Society (2020): 1–16.

16
Hawkins A. J. Elon Musk Just Now Realizing That Self-Driving Cars Are a «Hard Problem» // theverge.com. 5 July 2021.

17
См. также: A Manifesto // Logic Magazine. Issue 1. March 2017.

18
В английском языке слова calculation и computation в целом взаимозаменяемы, однако в контексте ИИ их следует разводить, как это делает автор. В первом случае речь идет об арифметических операциях, во втором – об алгоритмических. Слово calculation и родственные термины, например calculus, я передаю через слова с корнем «счет», а также вариантами «исчисление», «счисление»; в случае с computation использую производные от слова «вычисление» (см. советский вариант перевода computer как «вычислительной машины»). – Прим. пер.

19
Daston L. Calculation and the Division of Labor, 1750–1950 // Bulletin of the German Historical Institute 62 (Spring 2018): 13.

20
Фридрих Энгельс оспаривал тезис о «хозяйском глазе» и утверждал, что внутри крупных предприятий и инфраструктур того времени, например железнодорожных компаний, рабочие обладали широким представлением о производственном процессе: «Экономическое развитие нашего современного общества все более и более ведет к концентрации, к обобществлению производства в огромных предприятиях, которыми уже не могут более руководить отдельные капиталисты. Всякий вздор о «хозяйском глазе» и о создаваемых им чудесах превращается в явную бессмыслицу, как только предприятие достигает определенных размеров. Представьте себе «хозяйский глаз» на Лондонской и Северо-Западной железных дорогах! Но то, чего хозяин сделать не может, то рабочие, наемные служащие компании, с успехом могут делать и делают. Итак, капиталист уж больше не может предъявлять права на свою прибыль как на «заработную плату за руководство», так как он ничем не руководит». Цит. по: Энгельс Ф. Общественные классы. Необходимые и излишние // К. Маркс и Ф. Энгельс. Сочинения. Изд. 2?е, Т. 19. М.: Государственное издательство политической литературы, 1962. С. 299.

21
В оригинале книга М. Пасквинелли называется The Eye of the Master. – Прим. ред.

22
О режиме видимости на рабовладельческих плантациях см.: Mirzoeff N. The Right to Look: A Counterhistory of Visuality. Durham, NC: Duke University Press, 2011.

23
Фуко М. Надзирать и наказывать: Рождение тюрьмы. М.: Ад Маргинем, 1999.

24
Giedion S. Mechanization Takes Command: A Contribution to Anonymous History. Oxford: Oxford University Press, 1948. P. 5.

25
Braverman H. Labor and Monopoly Capital: The Degradation of Work in the Twentieth Century. New York: Monthly Review Press, 1974. P. 117. См.: Taylor F. W. The Principles of Scientific Management. New York: Harper & Brothers, 1911.

26
Beller J. The Cinematic Mode of Production: Attention Economy and the Society of the Spectacle. Lebanon, IN: University Press of New England, 2006.

27
См.: Maier C. S. Between Taylorism and Technocracy: European Ideologies and the Vision of Industrial Productivity in the 1920s // Journal of Contemporary History 5, no. 2 (1970): 27–61; Hellebust R. Aleksei Gastev and the Metallization of the Revolutionary Body // Slavic Review 56, no. 3 (1997): 500–518; Olenina A. H. Psychomotor Aesthetics: Movement and Affect in Modern Literature and Film. Oxford: Oxford University Press, 2020; Sutil N. S. Motion and Representation: The Language of Human Movement. Cambridge, MA: MIT Press, 2015; Brown E. The Corporate Eye: Photography and the Rationalization of American Commercial Culture, 1884–1929. Baltimore, MD: Johns Hopkins University Press, 2008; Nelson D. (ed.), A Mental Revolution: Scientific Management Since Taylor. Columbus, OH: Ohio State University Press, 1992.

28
Словосочетания «трудовая теория автоматизации» и «трудовая теория машин» созданы по аналогии с выражениями, употребляемыми в политической экономии, в частности, «трудовой теории стоимости».

29
Дюркгейм Э. О разделении общественного труда. М.: Канон+, 1996; Mezzadra S. and Neilson B. The Politics of Operations: Excavating Contemporary Capitalism. Durham, NC: Duke University Press, 2019. P. 55

30
Altenried M. The Digital Factory: The Human Labor of Automation. Chicago: University of Chicago Press, 2021.

31
В советской и российской традициях выражение computer science принято передавать термином «информатика», что отражает континентальную ориентацию на понятие «информация», тогда как для американской традиции центрально понятие «алгоритм» (см. второе примечание на стр. 52). Поскольку в книге идет речь об американской родословной ИИ, отличной от европейской традиции, я использую для перевода буквальный вариант «компьютерная наука». – Прим. пер.

32
Turing A. Lecture on the Automatic Computing Engine (1947) // The Essential Turing. B. Jack Copeland (ed.). London: Clarendon Press, 2004. P. 392.

33
Ure A. The Philosophy of Manufactures. London: Charles Knight, 1835. P, 13–14.

34
Gray M. and Suri S. Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass. New York: Houghton Mifflin Harcourt, 2019. См. также: Irani L. The Cultural Work of Microwork // New Media and Society 17, no. 5, 2013: 720–739; Irani L. and Silberman M. S. Turkopticon: Interrupting Worker Invisibility in Amazon Mechanical Turk // Proceedings of CHI 2013. 28 April – 2 May 2013.

35
Atanasoski N. and Kalindi V. Surrogate Humanity: Race, Robots, and the Politics of Technological Futures. Durham, NC: Duke University Press, 2019.

36
Бостром Н. Искусственный интеллект. Этапы. Угрозы. Стратегии. М: Манн, Иванов и Фербер (https://ru.wikipedia.org/wiki/%D0%9C%D0%B0%D0%BD%D0%BD,_%D0%98%D0%B2%D0%B0%D0%BD%D0%BE%D0%B2_%D0%B8_%D0%A4%D0%B5%D1%80%D0%B1%D0%B5%D1%80), 2016.

37
Schaffer S. Babbage’s Dancer and the Impresarios of Mechanism // Cultural Babbage: Technology, Time and Invention. Francis Spufford and Jenny Uglow (eds). London: Faber & Faber, 1996; Schaffer S. Enlightened Automata // The Sciences in Enlightened Europe. William Clark, Jan Golinski, and Simon Schaffer (eds). Chicago: University of Chicago Press, 1999; Truitt E. R. Medieval Robots: Mechanism, Magic, Nature, and Art. Philadelphia: University of Pennsylvania Press, 2015; Voskuhl A. Androids in the Enlightenment: Mechanics, Artisans, and Cultures of the Self. Chicago: University of Chicago Press, 2013.

38
Schaffer S. Babbage’s Intelligence: Calculating Engines and the Factory System // Critical Inquiry 21, no. 1 (1994): 204. См. также: Geoghegan B. Orientalism and Informatics: The Alterity in Artificial Intelligence, from the Chess-Playing Turk to Amazon’s Mechanical Turk // Ex-Position 43 (June 2020): 45–90.

39
См., например: Nilsson N. The Quest for Artificial Intelligence: A History of Ideas and Achievements. Cambridge: Cambridge University Press, 2010.

40
Пример корпоративной повестки см.: Домингос П. Верховный алгоритм: как машинное обучение изменит наш мир. М.: Манн, Иванов и Фербер, 2016.

41
Об идее автономных технологий см. классический труд: Winner L. Autonomous Technology: Technics-Out-of-Control as a Theme in Political Thought. Cambridge, MA: MIT Press, 1977.

42
О’Нил К. Убийственные большие данные: как математика превратилась в оружие массового поражения. М: АСТ, 2018; Noble S. U. Algorithms of Oppression: How Search Engines Reinforce Racism. New York: New York University Press, 2018; Benjamin R. Race after Technology: Abolitionist Tools for the New Jim Code. Cambridge: Polity, 2019; Wendy Hui Kyong Chun. Discriminating Data: Correlation, Neighborhoods, and the New Politics of Recognition. Cambridge, MA: MIT Press, 2021. Исследования в области ИИ в ходе развития сталкиваются с внутренними проблемами. Как отмечает Ярден Кац, порой «критически настроенные эксперты по ИИ используют свою позицию для укрепления белого господства с прогрессивным лицом… прибегая к языку, заимствованному у радикальных социальных движений» (см.: Katz Y. Artificial Whiteness. New York: Columbia University Press, 2020. P. 128).

43
Систематический обзор критических исследований ИИ см.: University of Cambridge, Department of History and Philosophy of Science. Mellon Sawyer Seminar. Histories of AI: A Genealogy of Power. May 2020 – July 2021. URL: www.ai.hps.cam.ac.uk (http://www.ai.hps.cam.ac.uk/).

44
См.: Hadden R. On the Shoulders of Merchants: Exchange and the Mathematical Conception of Nature in Early Modern Europe. Albany, NY: State University of New York Press, 1994. См. также: Erickson P. et al. How Reason Almost Lost Its Mind: The Strange Career of Cold War Rationality. Chicago: University of Chicago Press, 2013.

45
О «военных априори» в истории вычислений см.: Winthrop-Young G. Drill and Distraction in the Yellow Submarine: On the Dominance of War in Friedrich Kittler’s Media Theory // Critical Inquiry 28, no. 4 (2002): 825–854.

46
См.: Erickson P. et al. How Reason Almost Lost Its Mind: The Strange Career of Cold War Rationality. Chicago: University of Chicago Press, 2013.

47
Agar J. The Government Machine: A Revolutionary History of the Computer. Cambridge, MA: MIT Press, 2003. См.: Wiggins Ch. and Jones M. L. How Data Happened: A History from the Age of Reason to the Age of Algorithms. New York: W. W. Norton, 2023.

48
См.: Katz Y. Manufacturing an Artificial Intelligence Revolution // SSRN Electronic Journal (November 2017).

49
Цитата из эссе «Формирование интеллигенции» из «Тюремных тетрадей» Грамши. – Прим. ред.

50
Критику социального конструктивизма см.: Winner L. Upon Opening the Black Box and Finding It Empty: Social Constructivism and the Philosophy of Technology // Science, Technology, and Human Values 18, no. 3 (1993): 362–378. Обзор исторической эпистемологии см.: Renn J. The Evolution of Knowledge: Rethinking Science for the Anthropocene, Princeton, NJ: Princeton University Press, 2020; Omodeo P. D. Political Epistemology: The Problem of Ideology in Science Studies. Berlin: Springer, 2019; Schmidgen H. History of Science // The Routledge Companion to Literature and Science. Bruce Clarke and Manuela Rossini (eds). London: Routledge, 2011.

51
О понятии числа см. главу 1. О механическом мышлении см.: Damerow P. et al. Exploring the Limits of Preclassical Mechanics: A Study of Conceptual Development in Early Modern Science. 2nd ed. New York: Springer, 2004; Schemmel M. Historical Epistemology of Space: From Primate Cognition to Spacetime Physics. New York: Springer, 2015.

52
Rose H. and Rose St. (eds). The Radicalisation of Science. London: Macmillan, 1976; Harding S. The Science Question in Feminism. Ithaca, NY: Cornell University Press, 1986; Keller E. F. Reflections on Gender and Science. New Haven, CT: Yale University Press, 1985; Federici S. Caliban and the Witch: Women, the Body, and Primitive Accumulation. New York: Autonomedia, 2004.

53
См. главу 5. О новом подходе к исследованию рабочих см.: Woodcock J. Towards a Digital Workerism: Workers’ Inquiry, Methods, and Technologies // Nanoethics 15 (2021): 87–98.

54
Имеется в виду название книги в оригинале (The Eye of the Master). Напомню, что «хозяйский глаз» – выражение Фридриха Энгельса. – Прим. пер.

55
Термины «хозяин» [master] и «паттерн» имеют общую политическую этимологию. Английский термин «паттерн» происходит от французского patron и латинского patronus. Последние два слова имеют общий корень с английскими словами «отеческий» [paternal] и «отец» [father] и восходят к латинскому pater. Латинское patronus означает также «защитник», в том числе защитник слуг. Французское patron – это «лидер», «начальник» и «глава сообщества», что в патриархальном контексте подразумевает «образец для подражания».

56
AlexNet была сверточной нейронной сетью нового поколения, названной в честь Алекса Крижевского, ученика Джеффри Хинтона. Принято считать, что следующая статья знаменует собой начало эры глубокого обучения: Krizhevsky A., Sutskever I., and Hinton G. Imagenet Classification with Deep Convolutional Neural Networks // Advances in Neural Information Processing Systems 25 (2012): 1097–105. См. также: Cardon D., Cointet J.-Ph., and Mazi?res A. Neurons Spike Back: The Invention of Inductive Machines and the Artificial Intelligence Controversy // Elizabeth Libbrecht (trans.). Rеseaux 211, no. 5 (2018): 173–220.

57
Дрейфус Х.Л., Дрейфус С.И. Создание сознания vs. моделирование мозга: искусственный интеллект вернулся на точку ветвления // Аналитическая философия: становление и развитие. М.: Дом интеллектуальной книги, Прогресс-Традиция, 1998. С. 401–432.

58
McCarthy J. et al. A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence. 31 August 1955, AI Magazine 27, no. 4 (2006).

59
Chabert J.-L. (ed.). A History of Algorithms: From the Pebble to the Microchip. Berlin: Springer, 1999. P. 1.

60
За исключением работ: Caffentzis G. In Letters of Blood and Fire: Work, Machines, and Value. Oakland: PM Press, 2013; Wendling A. E. Karl Marx on Technology and Alienation. Berlin: Springer, 2009. См. также: Beamish R. Marx, Method, and the Division of Labour. Urbana: University of Illinois Press, 1992; Dotzler B. Diskurs und Medium I: Zur Arch?ologie der Computerkultur. Munich: Fink Verlag, 2006.

61
В советско-российской традиции за этим сборником записей, известном как черновой вариант «Капитала», закрепилось название «Экономические рукописи 1857–1859 годов», под которым он был опубликован в составе 46?го тома собрания сочинений Маркса и Энгельса. Позднее сотрудники Института марксизма-ленинизма уточнили датировку вошедших в сборник документов, поэтому отдельное двухтомное издание 1980 года, по которому даны цитаты в этом переводе, носит название «Экономические рукописи 1857–1861 гг. (Первоначальный вариант "Капитала")». Во избежание путаницы для обозначения сборника я использую название, принятое в западной марксистской традиции, – Grundrisse (нем. план, очерки, набросок). Историю переоткрытия Grundrisse с точки зрения западного марксизма автор разбирает в главе 4. – Прим. пер.

62
Hayek F. The Sensory Order: An inquiry into the Foundations of Theoretical Psychology. Chicago: University of Chicago Press, 1952. P. 55.

63
Первое использование термина «машинное обучение» см.: Samuel A. Some Studies in Machine Learning Using the Game of Checkers // IBM Journal of Research and Development 44 (1959): 206–226. Также Тьюринг размышлял о «неорганизованных машинах», которые обладают способностью самоорганизовываться и, таким образом, обучаться: Turing A. Intelligent Machinery (1948) // The Essential Turing. B. Jack Copeland (ed). Oxford: Oxford University Press, 2004.

64
Terman L. The Intelligence of School Children: How Children Differ in Ability, the Use of Mental Tests in School Grading, and the Proper Education of Exceptional Children. Boston: Houghton Mifflin, 1919. P. 274. Цит. по: Gould S. J. The Mismeasure of Man. New York: Norton & Company, 1981. P. 212.

65
О деградации рынка труда за счет умножения бессмысленных профессий см.: Грэбер Д. Бредовая работа. Трактат о распространении бессмысленного труда. М.: Ад Маргинем, 2020. См. также: Бенанав А. Автоматизация и будущее работы. М.: Изд-во Института Гайдара, 2022.

66
Wing J. M. Computational Thinking and Thinking about Computing // Philosophical Transactions of the Royal Society A: Mathematical, Physical, and Engineering Sciences 366, no. 1881 (2008): 3718.

67
Damerow P. and Lef?vre W. Tools of Science // Abstraction and Representation: Essays on the Cultural Evolution of Thinking. Berlin: Springer, 2013. P. 401.

68
Daston L. Algorithms before Computers: Patterns, Recipes, and Rules // Katz Distinguished Lecture in the Humanities, Simpson Center for the Humanities, University of Washington, 19 April 2017. См. также: Daston L. Rules: A Short History of What We Live By. Princeton, NJ: Princeton University Press, 2022.

69
Ramasubramanian K. Glimpses of the History of Mathematics in India // Mathematics Education in India: Status and Outlook. R. Ramanujam and K. Subramaniam (eds). Mumbai: Homi Bhaba Centre for Science Education (TIFR), 2012.

70
Голландский индолог Фриц Сталь описывает Агничаяну в двухтомнике (и документальном фильме) об экспедиции в Кералу в 1975 году. См.: Staal F. Agni: The Vedic Ritual of the Fire Altar. Two vols. Berkeley: Asian Humanities Press, 1983. Сталь утверждает, что абстрактные культурные формы возникают из бессознательного и что язык, числовые символы и геометрия представляют собой первые коллективные практики. См.: Staal F. Rules without Meaning: Ritual, Mantras, and the Human Sciences. New York: Peter Lang, 1989. P. 71

71
Zellini P. La matematica degli d?i e gli algoritmi degli uomini/ Milano: Adelphi, 2016. P. 41. (The Mathematics of the Gods and the Algorithms of Men. London: Penguin, 2020.)

72
Plofker K. Mathematics in India // The Mathematics of Egypt, Mesopotamia, China, India, and Islam. Victor Katz (ed.). Princeton, NJ: Princeton University Press, 2007.

73
Об исследовании передачи знаний и технологий в древности см.: Renn J. (ed.). The Globalization of Knowledge in History, Princeton, NJ: Princeton University Press, 2020.

74
Разделение труда в Агничаяне также напоминает сложную оперативную цепь (cha?ne opеratoire), которую французский антрополог Андре Леруа-Гуран выявил во многих родовых (изначально не иерархических, а спонтанных и кооперативных) практиках изготовления инструментов. См.: Sellet F. Cha?ne opеratoire: The Concept and its Applications // Lithic Technology 18, nos. 1–2 (1993): 106–112.

75
Последние ритуалы прошли в 1955, 1975 (церемония задокументирована Фрицем Сталем) и 2011 годах.

76
См. также: Chabert J.-L. (ed.). A History of Algorithms: From the Pebble to the Microchip. Berlin: Springer, 1999. P. 2. (Chabert J.-L. Histoire d’algorithmes: Du caillou ? la puce. Paris: Belin, 1994. P. 6.) «Алгоритм – это конечная последовательность правил, применяемая в определенном порядке к конечному набору данных для получения за конечное число шагов определенного результата вне зависимости от данных». Перевод мой: французский оригинал дает более точное определение, поскольку в английском издании отсутствует оборот «вне зависимости от данных».

77
Sriram M. S. Algorithms in Indian Mathematics // Contributions to the History of Indian Mathematics. Gurgaon: Hindustan Book Agency, 2005. P. 153–182.

78
Zellini. La matematica degli d?i, 51. Спорная, но влиятельная история исчислений, см.: Cohen H. Das Prinzip der Infinitesimal-Methode und seine Geschichte: Ein Kapitel zur Grundlegung der Erkenntniskritik (1883).

79
Историк математики Сентил Бабу пишет: «До сих пор специалисты по истории математики в Индии в основном работали с корпусом текстов на санскрите… Индология признала и канонизировала только благородную санскритскую традицию. Знания многих практиков математики стали невидимыми». Babu S. Mathematics and Society: Numbers and Measures in Early Modern South India. Oxford: Oxford University Press, 2022. P. 2–5. См. также: Babu S. Indigenous Traditions and the Colonial Encounter: A Historical Perspective on Mathematics Education in India // Ramanujam and Subramaniam, Mathematics Education in India.