Датаизм и искусственный интеллект
Вердыш А.В.
Силы рынка слепы и невидимы и, будучи предоставлены сами себе, могут упустить угрозу глобального потепления или опасный потенциал искусственного интеллекта.
Сознание — состояние психической жизни организма, выражающееся в субъективном переживании событий внешнего мира и тела организма, а также в отчёте об этих событиях и ответной реакции на эти события.
Интеллект (от лат. intellectus «восприятие»; «разумение», «понимание»; «понятие», «рассудок») или ум — качество психики, состоящее из способности приспосабливаться к новым ситуациям, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций, и использованию своих знаний для управления окружающей человека средой.
Искусственный интеллект — свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека; наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ.
ИИ связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами.
Существующие на сегодня интеллектуальные системы имеют очень узкие области применения.
Как самостоятельное научное направление искусственный интеллект (ИИ) существует чуть более четверти века. За это время отношение общества к специалистам, занимающимся подобными исследованиями, претерпело эволюцию от скепсиса к уважению. В передовых странах работы в области интеллектуальных систем поддерживаются на всех уровнях общества. Бытует устойчивое мнение, что именно эти исследования будут определять характер того информационного общества, которое уже приходит на смену индустриальной цивилизации, достигшей своей высшей точки расцвета в XX-м веке.
За прошедшие годы становления ИИ как особой научной дисциплины сформировались ее концептуальные модели, накопились специфические, принадлежащие только ей методы и приемы, устоялись некоторые фундаментальные парадигмы. Искусственный интеллект стал вполне респектабельной наукой, ничуть не менее почетной и нужной, чем физика или биология.
У специалистов старшего поколения, стоявших у колыбели зарождения новой сферы исследований, складывается убеждение, что период бурного развития кончился и теперь наступает эра вполне академических, спокойных и целенаправленных исследований, рассчитанных на длительный период.
Поэтому было бы весьма любопытно попытаться увидеть те основные направления исследований в ИИ, те «горячие точки», в которых будут сосредоточены основные усилия специалистов в конце уходящего века и начале нового тысячелетия. Анализ состояний текущих исследований позволяет выдвинуть предположение о наличии десяти таких «горячих точек».
Переход к аргументации
В начальный период развития ИИ идея применения механизмов логического вывода в аксиоматических (или квазиаксиоматических, использующих в качестве аксиом определенные законы данной предметной области) системах занимала доминирующие положение. Предполагалось, что все или почти все задачи, претендующие на интеллектуальность, можно решать путем построения некоторого вывода. Такая парадигма породила многочисленные работы в области автоматического доказательства теорем, разработки языков представления знаний логического типа, в частности, хорошо известного языка Пролог. Значительные усилия были затрачены на создание методов вывода в исчислении предикатов, которое различным образом модифицировалось, чтобы адаптировать его для нужд искусственного интеллекта.
Классический подход в ИИ, реализующийся под явным давлением логических моделей в представлении знаний, породил экспертные системы, основанные на продукционных правилах, теорию реляционных баз данных, теорию решателей и планировщиков. Несомненным преимуществом, связанным с увлечением логическим выводом, было привлечение в сферу исследований области ИИ логиков, принесших в эту молодую науку свои представления о строгости и точности постановок задач и формулировок результатов.
Но уже к середине 70-х годов постепенно выясняется, что классических логических моделей и схем вывода явно не хватает для того, чтобы строить достаточно богатые и практически значимые интеллектуальные системы. Искусственный интеллект явно вырос из «логических штанишек». Принципы, опирающиеся на классическое понимание формальной системы дедуктивного вывода, стали слишком узкими для решения задач ИИ. Возникло нечто вроде кризиса в физике, ярко проявившегося в начале XX-го века. В чем же состояла основная проблема?
Логический подход в его классической форме требовал для каждой предметной области, для которой применялись методы ИИ, наличия полного перечня исходных положений, которые можно было бы считать аксиомами этой предметной области. Их существование (сюда естественно включаются и априорно задаваемые правила вывода) обеспечивало замкнутость используемых моделей, позволяло ставить и решать круг проблем, связанных с полнотой, результативностью и непротиворечивостью используемых моделей и процедур.
Однако различные приложения, к которым стремился искусственный интеллект, оправдывая свою практическую значимость, в подавляющем большинстве случаев не давали возможностей построения аксиоматических систем. Знания о предметных областях, как правило, были неполными, неточными и лишь правдоподобными, что приводило к эффектам немонотонности процессов получения результатов, возникновению фальсификаторов ранее полученных утверждений, быстрому снижению достоверности утверждений, получаемых в результате последовательного (даже при так называемых параллельных модификациях) процесса логического вывода.
Так возникла проблема замены формальной системы с присущими ей процедурами дедуктивного вывода иной, столь же мощной моделью, где отражались бы основные особенности поиска решения в плохо определенных предметных областях, которые описываются как открытые системы с обновляемыми знаниями об их строении и функционировании.
С конца 70-х годов XX-го века старая парадигма, опирающаяся на идею строгого логического вывода, начинает постепенно сменяться новой парадигмой, провозглашающей, что основной операцией при поиске решения должна быть правдоподобная аргументация. Работа с аргументами «за» и «против», снабженных соответствующими весами, приводит к аддитивным процедурам с этими весами (в противовес мультипликативным процедурам вычисления обобщенных весов при правдоподобном выводе). Это обстоятельство оказалось решающим для перехода к аргументации в интеллектуальных системах.
Однако, в отличие от завершенной структуры логического вывода, до сих пор не существует столь же стройной, научно разработанной теории правдоподобной аргументации. Эффекты, связанные с появлением парадоксов при немонотонных рассуждениях, показывают, что переход к более богатой по сравнению с моделью логического вывода модели правдоподобной аргументации неизбежно приводит к большому количеству новых проблем, связанных с обоснованием подобной модели и изучением ее особенностей. Предполагается, что в ближайшие десятилетия усилия многих специалистов сосредоточатся именно в этой области исследований.
Проблема оправдания
При заполнении памяти интеллектуальных систем знаниями, полученными от экспертов, хорошо знающих данную предметную область и способы решения возникающих в ней задач, инженеры по знаниям столкнулись с одной весьма любопытной особенностью. При объединении баз знаний, сформированных различными экспертами, каждая из которых в отдельности довольно успешно решала тестовые задачи, возникала противоречивая база знаний. Если это были базы, в которых знания фиксировались в виде продукционных правил, то возникали правила с одинаковыми левыми частями и противоречащими друг другу правыми частями, а если в качестве модели представления знаний использовались фреймы, то отмечалось несовпадение фреймов-прототипов или возникали конкурирующие значения в слотах.
Как скоро стало очевидным, явление это объяснилось тем, что эксперты погружали свои профессиональные знания в некоторые концептуальные модели предметных областей, которые могли не совпадать у разных экспертов. Если, например, речь шла об извлечении знаний из области онкологических заболеваний, то в качестве таких различных моделей могли выступать вирусная или генетическая модель порождения злокачественных опухолей. Если же речь шла о добыче нефти и поиске наиболее перспективных мест для ее разведки, то альтернативными концептуальными моделями оказывались модели органического и неорганического происхождения нефти. Приверженцы той или иной концептуальной модели сознательно (а иногда подсознательно) отбирали только те знания, которые согласовывались с принятой концептуальной моделью, отвергая те знания, которые ей противоречили (или, преуменьшая их вес правдоподобия). Другими словами, использовался своеобразный механизм «психологической защиты» от знаний, разрушающих принятую концептуальную модель, которая оправдывалась принятой системой знаний.
Ясно, что механизмы оправдания, связанные с искажением весов правдоподобия, накопленных в данной предметной области знаний (включая и отторжение некоторых знаний), нужно изучать и учитывать при заполнении баз знаний и их объединении. Но как это делать? Вопрос остается открытым и сейчас. В ближайшее десятилетие на него надо найти конструктивный ответ, иначе интеллектуальные системы в своем развитии не сделают следующего важного шага.
Порождение объяснений
Различие в механизмах поиска решений у человека, специалиста по решению определенного класса задач и у интеллектуальной системы приводит к появлению эффекта непонимания. Видя окончательный результат деятельности интеллектуальной системы, специалист не может оценить степень его достоверности (даже если система одновременно с решением выдает вычисленную ею такую оценку). Процесс «верить – не верить» не может привести к какому-либо разумному результату, если нет какой-то дополнительной информации. Эта информация, начиная с первого поколения экспертных систем, выдается специалисту по его требованию в виде объяснения.
Объяснение (более точно было бы говорить об обосновании, но термин «объяснение» прочно прижился в искусственном интеллекте) может быть различным. Наиболее распространены как-объяснения и почему-объяснения. При как-объяснении система выдает пользователю информацию о процедуре получения решения, например, выдает ему всю трассу движения по дереву вывода. При почему-объяснении система включает в текст объяснения те основания, которые были использованы ею в процессе поиска решения. Другие типы объяснений (что-объяснения, зачем-объяснения и т.п.) пока в интеллектуальных системах практически не используются.
Проблема объяснения связана с решением задачи о том, как его построить. В начальный период развития экспертных систем объяснение порождалось жесткими процедурами, связанными с наличием априорно заданного сценария объяснения, заполняемого конкретными сведениями в процессе поиска решения. Такой подход в какой-то мере годится для как-объяснений и несколько хуже подходит для почему-объяснений. Но он совершенно непригоден при необходимости порождения объяснений иных типов.
Ясно, что проблема генерации объяснений связана с наличием в памяти интеллектуальной системы концептуальных моделей предметных областей и энциклопедических знаний об особенностях этих областей. Для порождения объяснений нужны базы знаний энциклопедического типа.
Энциклопедические базы знаний отличны по своей структуре и назначению от проблемно-ориентированных баз знаний, применяемых в современных экспертных и других интеллектуальных системах. Организация знаний в энциклопедических базах, механизмы порождения текстов по запросам к ним требуют решения ряда проблем, относящихся к форме представления знаний в таких базах и принципам построения системы отношений на хранимых в них знаниях.
С середины 80-х годов начали выполняться первые проекты, связанные с созданием энциклопедических баз знаний и развитием их теории. Без накопления новых результатов в этом направлении процесс совершенствования интеллектуальных систем и снятия барьера непонимания между ними и пользователями-людьми будет вряд ли возможным.
Поиск релевантных знаний
Базы знаний в интеллектуальных системах используются в самых различных процедурах, связанных с вводом знаний, преобразованием и использованием их для поиска решений. Все эти процедуры требуют наличия механизмов, которые позволяли бы по тексту запроса к базе знаний найти в базе именно те знания, которые понадобятся для получения ответа.
В отличие от баз данных, для которых механизмы поиска ответов на запросы достаточно хорошо изучены (хотя и тут еще имеется немало нерешенных задач, являющихся для специалистов «твердыми орешками»), соответствующие проблемы для баз знаний пока еще далеки от каких-либо эффективных решений. Известно, что основным механизмом реализации процедур поиска в базах знаний служит поиск по образцу, являющийся своеобразным видом ассоциативного поиска.
Процедуры поиска по образцу имеют высокую сложность с экспоненциальной оценкой. Но с этим приходится мириться, так как пока не найдено какой-либо иной универсальной процедуры, позволяющей отыскивать нужные знания. Но основной проблемой остается поиск ответа на вопрос: «Как сформировать образец по тексту поступившего запроса?».
Сложность этой проблемы можно проиллюстрировать на следующем (весьма простом) примере. Пусть в систему введен текст: «Петя залез на стул, открыл дверцу заветного шкафа, достал конфеты и быстро, торопясь, съел несколько штук. …Вечером мать, доставая конфеты для чая, посмотрела на Петю и сказала: „Странно. Конфет стало меньше“. Петя густо покраснел».
Предположим, что интеллектуальная система должна ответить на вопрос: «Почему Петя покраснел?» На основании какой информации она сможет это сделать? Как мы сами отвечаем на подобные вопросы?
Проблема поиска релевантной некоторому тексту информации пока остается нерешенной. В этой области пока больше вопросов, чем ответов. В ближайшие годы новые поколения ученых должны внести в решение этой проблемы свою лепту. Возможно, что появление энциклопедических баз знаний облегчит эту задачу.
Понимание текстов
Что значит понять текст? Ответ на этот вопрос, приемлемый в равной степени для лингвиста, психолога или философа, отсутствует. Феномен понимания во многом ещё остаётся загадочным. В интеллектуальных системах имеется способ уточнить интерпретацию этого термина. Можно, например, считать, что система понимает введённый в нее текст, если с точки зрения некоторого человека (или группы экспертов) она правильно отвечает на все вопросы, связанные с информацией, отраженной в тексте.
Такая интерпретация связана с классификацией типов вопросов, которые, в свою очередь, определяют уровни понимания текста. На первом уровне все вопросы прямо связаны с предложенным текстом и ответы на них в явном виде содержатся в этом тексте. Если использовать вышеприведённый текст про Петю, съевшего конфеты, который был приведен выше, то вопросами первого уровня могли бы быть, например, следующие: «Куда залез Петя? или «Что сказала мать?». Вопросы второго уровня требуют специального логически получаемого расширения текста. Ибо ответы на них в явном виде в тексте отсутствует. Пример такого вопроса: «Почему конфет стало меньше?». Ответ на такой вопрос опирается на некоторую схему рассуждения. Третий уровень понимания связан с расширением текста за счет привлечения релевантных знаний. Пример такого вопроса был приведен при обсуждении соответствующей проблемы.
Но возможны и более высокие уровни понимания. Например, уровни, связанные с тем, что текст понимается не буквально, а метафорически. Особым случаем понимания текста является вычленение из него прагматической составляющей, некоторого руководства к действию. Такая интерпретация процесса понимания тесно связана с задачей планирования поведения на основе текстового описания условий и целей.
Синтез текстов
С проблемами поиска релевантного знания и понимания текстов весьма тесно соприкасается еще одна проблема, привлекающая сейчас внимание специалистов, работающих в ИИ. Она связана с разгадкой механизмов, лежащих в основе процедур порождения текстов на заданную тему. Без ответов на возникающие тут вопросы нельзя организовать полноценный обмен информацией между людьми и системами искусственного интеллекта. Ибо механизм генерации целенаправленного текста вместе с механизмом анализа и понимания текстов образует основу процесса коммуникации – главного процесса в организации человеческого поведения и реализации всех видов его деятельности.
Как и процесс понимания, процесс синтеза текстов имеет многоуровневую структуру. После зарождения мотивов его генерации и осознания целей, которые предполагается достигнуть в акте общения, наступает этап порождения когнитивной структуры текста. Этот этап реализуется на уровне внутренних представлений системы о мире, хранящихся в базе знаний. Знания, релевантные целям, которые направляют процесс «строительства» текста, отбираются некоторым планировщиком на знаниях и собираются во внутреннюю структуру текста. После этого на уровне лингвистической компоновки текста другой планировщик превращает эту структуру в линейный текст на естественном языке. Этот текст еще лишен того, что в психолингвистике называют читабельностью. Он еще слишком связан с машинными представлениями. Куски плохо пригнаны друг к другу, отсутствует гладкость переходов и ясность изложения целей. Эти недостатки «глубинного текста» исправляются на третьем уровне генерации, который реализуется стилистическим планировщиком.
Описанная процедура генерации ставит перед ее создателями ряд проблем, не решенных к настоящему времени. Например, неясно, какие принципы лежат в основе построения когнитивных структур текстов. В пользу того, что такие принципы существуют, убедительно свидетельствуют, например, эксперименты по генерации текстов волшебных сказок или музыкальных произведений (также текстов, но использующих специальный язык для общения с пользователями). В первом случае когнитивная структура определяется набором глубинных функций В.Я. Проппа, задающих достаточно жесткий сценарий будущего текста. Во втором случае имеется конечная система правил, делающих процедуру композиции в нужной мере формальной.
Но остаются, по крайней мере, две важные проблемы, решение которых пока не найдено: а) как цели связаны с когнитивной структурой и б) как описываются когнитивные структуры тех типов текстов, которые нужны, например, в процессе естественно-языкового диалога. Большое внимание к проблемам теории речевых актов (нового направления в лингвистике) со стороны специалистов по ИИ подогревается надеждами найти здесь ответы на поставленные вопросы.
Неменьшей проблемой является переход от нелинейной структуры текста к ее линейному представлению. Этот переход тесно связан с исследованиями по гипертекстам. Определенный бум, возникший в этой области, как раз и связан с осознанием того факта, что линейный по форме текст, как правило, является внешним кодом нелинейной структуры, на которую он «натянут». Гипертекстовые технологии призваны не только обеспечить возможность работы с нелинейным представлением текстов, но и должны как-то решать задачи его линеаризации и перехода от линейного представления к гипертекстовому.
Этот комплекс взаимосвязанных задач сейчас настолько активно изучается, что есть немалые основания считать, что в ближайшие годы проблемы синтеза текстов найдут свое разрешение.
Когнитивная графика
Исторически сложилось так, что системы технического зрения и машинной графики всегда находились где-то на окраине области ИИ. Как и модели распознавания образов, методы, используемые для решения возникающих здесь задач, по своей сути были мало чем похожи на те, которые традиционно использовали специалисты по искусственному интеллекту. Для классических «систем, основанных на знаниях», как часто называются экспертные и другие интеллектуальные системы, уровень сенсорных и перцептивных процессов, играющих фундаментальную роль при зрительном восприятии или восприятии речи, оказался слишком «мелким». В их базах знаний был реализован куда более «крупный» уровень ментальных представлений. И пока специалисты по использованию зрительной и акустической информации в интеллектуальных системах занимались «нижними» уровнями восприятия и генерации, остальные специалисты, работающие в области ИИ, не находили с ними общего языка.
Настоящее общение между ними началось в 80-е годы, когда стали появляться первые исследования в области ментальной интерпретации перцептивных образов (анализ трехмерных сцен) и в области анимации зрительных картин, связанных с ментальными представлениями. Установление связи между текстами, описывающими сцены, и соответствующими изображениями потребовало наличия в базах знаний специальных представлений для зрительных образов и процедур соотнесения их с традиционными формами представления знаний.
Графическая информация стала трактоваться с позиций знаний, содержащихся в ней. Если до этого ее функция сводилась к иллюстрации тех или иных знаний и решений, то теперь она стала включаться равноправным образом в те когнитивные процессы, которые моделируются в базах знаний и на основе их содержимого. Термин «когнитивная графика» отражает этот принципиальный переход от иллюстрирующих изображений к видеообразам, способствующим решению задач и активно используемых для этого.
Когнитивная функция изображений использовалась в науке и до появления компьютеров. Образные представления, связанные с понятиями граф, дерево, сеть и т.п. помогли доказать немало новых теорем, круги Эйлера позволили визуализировать абстрактное отношение силлогистики Аристотеля, диаграммы Венна сделали наглядными процедуры анализа функций алгебры логики.
Систематическое использование когнитивной графики в компьютерах в составе человеко-машинных систем сулит многое. Даже весьма робкие попытки в этом направлении, известные как мультимедиа-технологии, привлекающие сейчас пристальное внимание специалистов (особенно тех, кто занят созданием интеллектуальных обучающих систем), показывает перспективность подобных исследований.
Пока же область компьютеризации правополушарных функций мозга человека остается почти терра инкогнито. Здесь начаты лишь первые большие проекты, направленные на создание систем, опирающихся на когнитивную графику. На наш взгляд, в ближайшие годы следует ожидать качественного прорыва в этой области ИИ.
Многоагентные системы
Тема с таким названием возникла на конференциях, посвященных проблемам ИИ, где-то в первой половине 80-х годов. Причин для появления такой проблематики было несколько. Прежде всего, стало ясно, что эффективная реализация ряда важных для интеллектуальных систем процедур требует параллельной и асинхронной их организации. Подобные процессы интегрируют в себе активности отдельных центров, решающих свои локальные задачи. Но эти локальные задачи и пути их решения должны быть согласованы в границах некоторых глобальных целей.
Примерами процедур такого рода могут быть процедуры согласования мнений различных экспертов по поиску решения сложной многоцелевой задачи, согласование локальных локомоций при синтезе интегрального движения (например, движение робота, снабженного зрением и манипуляторами) или процедура коллективного взаимодействия интеллектуальных систем при решении в автономном режиме некоторой общей задачи.
Появление специальных архитектур, призванных поддерживать такую организацию процессов (например, параллельные вычислительные системы, в которых используется принцип «доски объявлений»), еще более усилило интерес к многоагентным моделям. Наконец, уверенность в том, что в нервных тканях живых организмов реализуется асинхронный и параллельный режим поиска решения, также оказала свое влияние на исследования в области многоагентных систем.
Нужно отметить, что идеология моделей такого рода во многом опирается на методы и результаты, полученные ранее вне сферы интересов собственно искусственного интеллекта. Еще в конце 50-х годов появились первые работы в области клеточных автоматов и моделей коллективного поведения автоматов. Эти работы заложили основу для появления многоагентных систем. Новое, что внесли в эти исследования специалисты по интеллектуальным системам, – это повышение «уровня интеллекта» агентов. Они стали способны использовать свои локальные знания для достижения своих целей. И задачи согласования, организации их целесообразного взаимодействия трансформировались на верхнем уровне в задачи согласования целей и знаний, т.е. стали напрямую соотноситься с проблематикой искусственного интеллекта.
Возникающие тут проблемы тесно связаны с проблемами динамических баз знаний, с необходимостью оценки конфликтных целей, противоречий в знаниях. Они также предполагают использование упоминавшихся выше процедур оправдания в системах имеющихся знаний и концептуальных моделей.
Сторонники этого нового системного движения надеются, что в начале следующего века будет создано новое научное направление – теория асинхронных конфликтующих процессов или что-то подобное с другим названием, которое еще не появилось.
Сетевые модели
Интеллектуальные системы, основанные на правилах (продукциях), принесли не только радость решения ряда важных задач, но и породили сомнения в том, что именно они призваны остаться основными моделями представления знаний в интеллектуальных системах. Многочисленные дискуссии 80- х годов, проводившиеся специалистами в области ИИ по этому поводу, привели к укреплению сетевой парадигмы, несколько отодвинутой в сторону триумфальным выходом на сцену продукционных моделей. И хотя исследования в области семантических сетей, каузальных сетей и сетей другого типа продолжались, они были малочисленными и не слишком продуктивными.
Но к концу 80-х годов сетевые модели стали развиваться более быстрыми темпами. Этот процесс совпал с пробуждением интереса к давно забытым нейронным архитектурам, появлением транспьютерных систем и нейрокомпьютеров, а также с возвращением к работам, опирающимся на эволюционные модели и эволюционное программирование. Возник определённый бум, который был даже окрещён неодарвинизмом.
Если к концу первого этапа развития сетевых моделей (в основном в виде нейронных многослойных систем типа персептронов) наступило разочарование в их возможностях и простоте их аппаратной реализации, то в 80-х годах эти сомнения были отброшены. Комплекс исследований в этой области так возрос, что произошло практическое отпочкование специалистов, работающих в области сетевых моделей, от основного ядра тех, кто причисляет себя к искусственному интеллекту. У «сетевиков» появились свои журналы, они стали проводить свои симпозиумы и конференции и формировать свою терминологию.
Этот разрыв нарастает, что по-видимому, приведет к возникновению двух наук, связанных с построением интеллектуальных систем. Одна из них будет по-прежнему опираться на уровень ментальных (информационных) представлений, а другая – на уровень структурной организации (по типу нервных тканей), порождающей нужные решения. Во всяком случае в 90-е годы вряд ли можно ожидать спад интереса к сетевым моделям и многочисленным нерешенным проблемам, связанным с их построением и функционированием.
Метазнания
Метазнания или знания о знаниях – непременный атрибут познавательных процессов. В искусственных системах они в том или ином виде присутствовали всегда (например, в виде схем баз данных в базах данных или в виде стратегий управления в продукционных системах).
Но только с полным осознанием глобальной цели искусственного интеллекта, которую можно сформулировать, как создание метасистемы, способной порождать все необходимые конкретные программы деятельности, стало ясно, что уровень метазнаний сам по себе представляет немалый интерес для изучения. Метазнания тесно связаны с теми основными для человека процедурами, которые позволяют ему учиться новым видам деятельности. Именно поэтому интерес к метазнаниям тесно связан с глубоким вниманием к процессу обучения, которое характерно для начала 90-х годов.
Интеллектуальные обучающие системы, использующие метазнания для организации учебного процесса, ориентированного на конкретного обучаемого, стали первым объектом, в котором метазнания «овеществились», приобрели все необходимые качества для конкретного изучения. В 90-х годах мы, наверняка, станем свидетелями первых впечатляющих результатов в этой области.
Заканчивая эту статью, хочу подчеркнуть, что выбор описанных тут десяти «горячих точек» исследований в области искусственного интеллекта, конечно, субъективен. Другие специалисты могли бы назвать и другие важные направления в развитии интеллектуальных систем. Но я тешу себя надеждой, что пересечение их с упомянутыми в статье направлениями было бы значительным.
Эксперименты на мозге живого человека
Из-за очевидных этических ограничений ученые вживляют электроды в человеческий мозг лишь в исключительных случаях. Поэтому основная часть опытов в этой области проводится с использованием неинвазивных шлемообразных приспособлений – транскраниальных стимуляторов прямого тока. Шлемы оборудованы электродами, которые крепятся на поверхности головы. Они создают слабые электромагнитные поля и направляют их к заданным участкам мозга, стимулируя или тормозя определенные мозговые процессы.
Американские военные медики, экспериментируя с такими шлемами, рассчитывают повысить концентрацию и эффективность солдат в учениях и в бою. Главные эксперименты проходят в Департаменте эффективности человека, который находится на авиабазе в штате Огайо. Хотя результаты еще далеки от окончательных и хотя шумиха вокруг транскраниальных стимуляторов, мягко говоря, преждевременна, некоторые исследования показывают, что этот метод действительно может повышать когнитивные способности операторов боевых дронов, авиадиспетчеров, снайперов и других профессионалов, которым по долгу службы необходимо быть максимально внимательными на протяжении длительных периодов времени.
Журналистка New Scientist Салли Эди получила разрешение посетить учебный центр снайперов и на себе проверить этот эффект. Сначала она вошла в помещение симулятора поля боя без транскраниального шлема. Салли описывает, какой страх охватил ее, когда двадцать громил в масках и поясах шахидов бросились к ней с автоматами наперевес. «Вместо каждого, кого мне удавалось подстрелить, – пишет Салли, – невесть откуда выныривали три новых. Я явно стреляла слишком медленно, в моих трясущихся, неумелых руках винтовку постоянно заклинивало». На ее счастье, враги были просто видеоизображениями, проецируемыми на огромный круговой экран. И все же она так расстроилась из-за своей неуклюжести, что у нее возникло сильное желание бросить оружие и покинуть симулятор.
Затем ей надели шлем. Салли пишет, что не испытала ничего необычного, кроме легкого покалывания и странного металлического привкуса во рту. Но она стала истреблять виртуальных террористов хладнокровно и методично, как Рэмбо или Клинт Иствуд. «Когда эта двадцатка снова побежала на меня, я невозмутимо подняла свою автоматическую винтовку, сделала глубокий вдох и срезала ближайшего, затем спокойно оценила следующую мишень… Не прошло, как мне показалось, и минуты, как раздался голос: «О, кей, отлично», и зажегся свет. В неожиданной тишине среди поверженных тел я реально ждала продолжения схватки и была немного разочарована, когда с меня принялись снимать электроды. Я подняла глаза на часы и подумала, что кто-то перевел стрелки вперед. Двадцать минут пролетели непостижимо быстро. «Скольких я уложила?» – спросила я ассистентку. «Всех до одного», – ответила она.
Эксперимент изменил жизнь Салли. Придя в себя, она поняла, что это был «почти мистический опыт… не сказать чтобы я ощущала себя более умной или более ловкой, но меня поразило то, что впервые в жизни в моей голове все смолкло… Мой мозг без постоянных сомнений стал для меня откровением. В голове установилась невероятная тишина… Надеюсь, вы поймете меня, когда я скажу, что в течение многих недель после эксперимента меня преследовало острейшее желание вернуться и снова надеть этот шлем. А еще у меня возникла куча вопросов. Какой я могу быть без этих вредных злых гномов, живущих в моем черепе и всегда обрекающих меня на неудачу, заставляя паниковать заранее? Откуда берутся эти голоса?».
Датаизм
Самой интересной современной идеологией(религией) является датаизм. Он не чтит ни богов, ни людей. Он поклоняется данным.
Датаизм провозглашает, что Вселенная состоит из потоков данных и что ценность всякого явления или сущности определяется их вкладом в обработку данных. Вы можете счесть это мнением группы эксцентричных оригиналов, но на самом деле это представление уже преобладает в научном истеблишменте. Датаизм родился от взрывного слияния двух научных приливных волн. С одной стороны, через 150 лет после публикации Чарльзом Дарвином «Происхождения видов» естественные науки стали смотреть на организмы как на биохимические алгоритмы. С другой – одновременно, через восемь десятилетий после того, как Алан Тьюринг сформулировал идею машины Тьюринга, компьютерные специалисты научились разрабатывать все более сложные электронные алгоритмы.
Датаизм соединяет то и другое, указывая, что биохимические и электронные алгоритмы подчинены одним и тем же математическим законам. Таким образом датаизм разрушает барьер между животными и машинами и предрекает, что электронные алгоритмы в конце концов расшифруют и превзойдут биохимические алгоритмы.
Политикам, бизнесменам и рядовым потребителям датаизм предлагает революционные технологии и огромные новые возможности. Ученым и интеллектуалам он обещает ускользавший от нас веками научный Святой Грааль – единую универсальную теорию для всех дисциплин, начиная с музыковедения через экономику и заканчивая биологией. Согласно датаизму, «Пятая симфония» Бетховена, пузырь на фондовом рынке и вирус гриппа – три разновидности потока данных. Их можно проанализировать при помощи одних и тех же базовых понятий и инструментов. Идея, конечно, исключительно привлекательная. Она дает всем учёным общий язык, наводит мосты через академические разногласия и легко проводит открытия через междисциплинарные границы. Музыковеды, экономисты и микробиологи наконец смогут понять друг друга.
Похоже, что датаизм переворачивает традиционную пирамиду обучения. До недавних пор на данные смотрели лишь как на первое звено в длинной цепочке интеллектуальной деятельности. Человеку надо было превращать данные в информацию, информацию в знания, а знания в мудрость. Но датаисты считают, что люди больше не в состоянии справляться с огромными потоками данных, поэтому не могут превращать данные в информацию и уж тем более в знания или мудрость.(И это уже подтвержается!) Поэтому обработка данных должна быть доверена электронным алгоритмам, намного более мощным, чем человеческий мозг. На практике это означает, что датаисты скептически относятся к человеческим знаниям и мудрости и предпочитают полагаться на Большие данные и компьютерные алгоритмы.
Датаизм крепко-накрепко укоренен в породивших его дисциплинах: информатике и биологии. Причем более важной из двух является биология. Именно принятие датаизма биологией превратило частное открытие в компьютерных науках в сокрушительный катаклизм, способный полностью изменить саму природу жизни.
Вы можете не соглашаться с идеей, что организмы являются алгоритмами и что жирафы, помидоры и люди – это способы обработки данных, просто разные. Но вам следует знать, что такова современная научная догма и сейчас она меняет наш мир до неузнаваемости.
Системами обработки данных считаются сегодня не только отдельные организмы, но и целые сообщества, такие как пчелиные семьи, колонии бактерий, леса и человеческие города. Экономисты все чаще смотрят на экономику как на систему обработки данных. Обыватели верят, что экономика – это выращивающие зерно фермеры, шьющие одежду работницы фабрик и покупающие хлеб и рубашки потребители. Специалисты же видят в экономике механизм сбора данных о потребностях и возможностях формирования из этих данных решений.
В соответствии с этим взглядом рыночный капитализм и государственный коммунизм – это не конкурирующие идеологии, этические убеждения или политические институты. По сути своей это конкурирующие системы обработки данных. Капитализм пользуется распределенной обработкой, в то время как коммунизм делает ставку на централизованную. Капитализм обрабатывает данные, связывая всех производителей и потребителей напрямую и позволяя им свободно обмениваться информацией и принимать независимые решения. Как устанавливается цена на хлеб при свободном рынке? Каждый булочник волен выпекать столько хлеба, сколько захочет, и запрашивать за него такую цену, какую захочет. Потребители же вольны покупать столько хлеба, сколько им по карману, или идти к другому булочнику. Нет ничего незаконного в том, чтобы установить цену в тысячу долларов за багет, только вряд ли на него найдется покупатель.
В более широком плане, если инвесторы уловят тенденцию к повышению спроса на хлеб, они станут приобретать доли в биотехнических фирмах, занимающихся генетическим конструированием высокоурожайных штаммов пшеницы. Приток капитала позволит фирмам ускорить исследовательские работы и быстрее добиться увеличения урожайности.
Даже если один биотехнический гигант выберет неверную стратегию и зайдет в тупик, его более удачливые соперники наверняка достигнут желаемого. Таким образом капитализм распределяет функцию анализа данных и принятия решений между многими независимыми, но связанными между собой процессорами. Как объяснил австрийский гуру экономики Фридрих Хайек: «В системе, где знание нужных фактов рассредоточено между многими, координацию разрозненных действий разных людей могут осуществлять цены».(Правда мы должны точно знать, что 99% западных экономистов на самом деле не являются учёными, а чисты идеологи, как замполиты в Советской армии! Такой же и гуру Хайек.)
С этой точки зрения, фондовая биржа – самая быстрая и самая эффективная система обработки данных из до сих пор созданных человечеством. Участвовать может каждый – если не лично, то через свои банки или пенсионные фонды. Мировой экономикой управляет фондовая биржа. Она принимает в расчет все, что происходит на планете, и даже за ее пределами. Цены реагируют на успешные научные эксперименты, политические скандалы, извержения вулканов и даже на всплески солнечной активности.
Чтобы система работала эффективно, необходимо как можно более свободное распространение как можно большего объема информации. Когда миллионы людей по всему миру имеют доступ ко всей значимой информации, они устанавливают самую точную цену на нефть, на акции Hyundai и на шведские государственные облигации, покупая и продавая их. Было подсчитано, что пятнадцати минут биржевых торгов достаточно, чтобы оценить влияние заголовка передовицы The New York Times на котировки большинства акций.
Соображения, связанные с обработкой данных, объясняют и причину, по которой капиталисты ратуют за низкие налоги. Высокие налоги означают, что солидная часть всего доступного капитала сосредоточивается в одном месте – в сундуках государства – и, следовательно, возрастает число решений, принимаемых одним-единственным процессором, а именно государством.
Это создает излишне централизованную систему обработки данных. В крайних случаях, когда налоги чрезмерно велики, в казну уходит почти весь капитал, и тогда правительство самолично заказывает всю музыку. Оно диктует цены на хлеб, выделяет места под пекарни, дает деньги на научно-исследовательские программы. При свободном рынке, если один процессор принимает неверное решение, другие тут же вносят корректировки в свои решения. Но когда почти все решения принимает один процессор, его ошибки могут привести к катастрофе.
Такой крайний случай, когда все данные обрабатываются и все решения принимаются одним центральным процессором, называется коммунизм. В коммунистической экономике каждый человек, предположительно, трудится в меру своих способностей и получает по своим потребностям. Иными словами, государство забирает сто процентов вашего дохода, определяет, какие у вас нужды, и затем удовлетворяет их.
Хотя ни одна страна так и не реализовала этот план в чистом виде, Советский Союз и его сателлиты были к этому довольно близки. Они отвергли принцип распределенной обработки данных и перешли на модель централизованной обработки. Вся информация с просторов Советского Союза стекалась в Москву, где принимались все важные решения. Производители и потребители не могли общаться напрямую и обязаны были подчиняться правительственным указам.
Например, Министерство торговли СССР определяло, что цена одного батона во всех булочных должна быть ровно 13 копеек, что конкретный колхоз в Одесской области должен переключиться с выращивания пшеницы на разведение кур, а московский хлебозавод № 7 – выпекать 350 тысяч булок в день и ни булкой меньше.
Тем временем советская Академия наук требовала от всех биотехнических лабораторий применения теорий Трофима Лысенко – печально известного президента сельскохозяйственной академии.
Лысенко отвергал доминирующие генетические теории своего времени. Он утверждал, что черты, приобретенные организмом в течение жизни, передаются по наследству. Эта идея противоречила основам дарвинизма, но прекрасно согласовывалась с принципами коммунистического воспитания. Она подразумевала, что, если вы приучите проростки пшеницы к холоду, они дадут морозоустойчивое потомство. Поэтому Лысенко отсылал миллиарды контрреволюционных проростков на перевоспитание в Сибирь – и Советскому Союзу вскоре пришлось импортировать зерно из Соединенных Штатов.
Капитализм одержал верх над коммунизмом не потому, что он более этичен, и не потому, что свобода личности священна или что коммунисты прогневили Бога своим язычеством. Капитализм выиграл холодную войну потому, что распределённая обработка данных работает лучше, чем централизованная, по крайней мере в периоды ускорения технологических изменений.
Центральный комитет Коммунистической партии просто не поспевал за быстро меняющимся миром конца XX столетия. Если все данные аккумулируются в одном секретном бункере и все важные решения принимаются группой престарелых аппаратчиков, результатом может быть множество атомных бомб, но не Apple или Wikipedia.
Существует история (возможно, выдуманная, как большинство хороших историй), что, когда Михаил Горбачев попытался оживить умирающую советскую экономику, он послал в Лондон одного из своих советников, чтобы тот разузнал, в чем суть тэтчеризма и как на самом деле функционирует капиталистическая система. Хозяева устроили своему советскому гостю экскурсию по Сити, по Лондонской фондовой бирже и по Лондонской школе экономики, где он подолгу беседовал с директорами банков, предпринимателями и профессорами.
В конце концов советский эксперт взорвался: «Минуточку, господа. Отвлекитесь, пожалуйста, от всех этих сложных экономических теорий. Мы целый день ездили по Лондону, и меня сильно озадачила одна вещь. Московская система обеспечения хлебом создана нашими лучшими специалистами, и все же у нас в каждой булочной длиннющая очередь. Здесь в Лондоне живут миллионы, но ни в одном из магазинов и супермаркетов я не видел очереди за хлебом. Пожалуйста, познакомьте меня с человеком, который отвечает за снабжение Лондона хлебом. Я должен узнать его секрет». Хозяева почесали затылки и ответили: «Никто не отвечает за снабжение Лондона хлебом».
Таков секрет капиталистического изобилия. Нет никакого центрального процессора, монополизировавшего данные о снабжении Лондона хлебом. Информация свободно курсирует между миллионами потребителей и производителей, пекарей и поставщиков, фермеров и ученых. Рыночные силы определяют цены на хлеб, количество выпекаемых в день буханок и научно-исследовательские приоритеты. Если рыночные силы допустят промах, они очень скоро себя поправят – по крайней мере, так считают капиталисты. Для нас с вами сейчас не важно, верна ли эта капиталистическая теория. Важно то, что она рассматривает экономику с точки зрения обработки данных.
Куда подевалась вся власть?
Политологи тоже все чаще говорят о политических структурах как о системах обработки данных. Аналогично капитализму и коммунизму, демократии и диктатуры являются по существу конкурирующими механизмами сбора и анализа информации. Диктаторские режимы используют централизованные методы, а демократии предпочитают распределенные. В последние десятилетия демократии вырвались вперед, так как в уникальных условиях конца XX века распределенная обработка данных оказалась эффективнее. В иных условиях – например, в Древнем Риме – более действенной была централизованная обработка данных, поэтому Римская республика пала и власть перешла от сената и народных собраний в руки императора-автократа.
Из чего следует, что изменение условий обработки данных в XXI веке может привести к упадку и даже исчезновению демократии. Поскольку объем и скорость потока данных возрастают, такие достопочтенные институты, как выборы, политические партии и парламенты, могут выйти из употребления просто потому, что обрабатывают данные недостаточно эффективно. Эти институты сформировались в эпоху, когда политика развивалась быстрее, чем техника. В XIX и XX веках поступь промышленной революции была достаточно медленной. Политики и избиратели всегда опережали ее хотя бы на шаг и задавали ей направление. Но если политический темп остался почти тем же, каким был в эпоху парового двигателя, то техника переключила скорость с первой на четвертую. Техническая революция сейчас опережает политические процессы, и это приводит к тому, что избиратели и парламентарии начинают терять контроль.
А все навязываемые Западом демократические идеи - идеология навязываемая странам третьего мира для невозможности их развития и конкуренции с Западом, то есть неоколониализм.
Некоторое представление о том, что нас ждёт, даёт стремительное восхождение интернета. Сегодня без киберпространства немыслима ни наша повседневная жизнь, ни наша экономика, ни наша безопасность. Но выбор между альтернативными веб-дизайнами никогда не происходил на основе демократических политических процедур, даже если затрагивал вопросы традиционно политические: суверенитет, границы, неприкосновенность частной жизни, безопасность.
Вы когда-нибудь голосовали за ту или иную форму организации киберпространства? Ясно, что нет. Все решения принимаются веб-дизайнерами вдали от всеобщего внимания. Это означает, что в наши дни интернет является свободной и неподвластной законам зоной, которая подрывает государственный суверенитет, игнорирует границы, упраздняет неприкосновенность частной жизни и представляет, пожалуй, самую серьезную угрозу глобальной безопасности. Если еще десятилетие назад он был мало заметен, то сегодня истеричные чиновники уже предсказывают неизбежное «кибернетическое 11 сентября».
Правительства и общественные организации ведут интенсивные дебаты о переустройстве интернета, однако изменить сложившуюся систему уже очень непросто. Кроме того, к тому времени, как громоздкая государственная бюрократия придумает способ регулировать киберпространст-во, интернет уже претерпит множество метаморфоз.
Госчерепаха не может поспеть за технозайцем. Она перегружена данными. Американское агентство национальной безопасности может прослушивать каждое наше слово, но, судя по множественным провалам американской внешней политики, никто в Вашингтоне не понимает, что делать со всеми этими данными. Государства еще никогда в истории не знали так много о том, что происходит в мире, – но редко какая империя действовала так нескладно, как современные Соединенные Штаты. Они похожи на игрока в покер, который знает все карты на руках у соперника, но умудряется проигрывать партию за партией.
В ближайшие десятилетия нам, очевидно, предстоит стать свидетелями не одной подобной революции – когда технологии будут одерживать верх над политикой. Искусственный интеллект и биотехнологии могут очень скоро перестроить наше общество и экономику, а также наши умы и тела, хотя сегодня их влияние пока еще трудноразличимо. Дело в том, что нынешние демократические структуры не умеют собирать и обрабатывать значимые данные достаточно быстро, а масса избирателей не ориентируется в биологии и кибернетике достаточно хорошо для того, чтобы сформировать более или менее адекватное мнение. Поэтому традиционная демократическая политика теряет контроль над происходящим и бессильна представить нам осмысленное видение будущего.
Рядовые избиратели начинают чувствовать, что демократические механизмы больше не наделяют их полномочиями. Мир вокруг меняется, а они не понимают как и почему. Власть уплывает от них, но им неясно куда. Британским избирателям кажется, что власть ушла в Евросоюз, поэтому они голосуют за Брекзит. Американские избиратели полагают, что всю власть захватил истеблишмент, поэтому поддерживают несистемных кандидатов типа Берни Сандерса и Дональда Трампа. Печальной правдой является то, что никто не знает, куда подевалась власть. И ее не вернет рядовым избирателям ни выход Британии из Евросоюза, ни неординарное президентство Дональда Трампа.
Это не значит, что мы вернемся к диктатурам в стиле XX века. Авторитарные режимы, судя по всему, так же ошеломлены темпами технологического развития и скоростью и объемом информационного потока. В XX веке диктаторы имели грандиозные планы на будущее. И коммунисты, и фашисты стремились до основания разрушить старый мир и построить на его месте новый. Как бы вы ни относились к Ленину, Гитлеру или Мао, в отстутствии видения будущего их не упрекнешь.
Сегодня у лидеров, казалось бы, есть возможность преследовать еще более грандиозные цели. Идеологи прошлого пытались создать новое общество и нового человека при помощи паровых двигателей и пишущих машинок. Сегодняшние пророки могут рассчитывать на биотехнологии и суперкомпьютеры.
В научно-фантастических фильмах безжалостные политики быстро прибирают к рукам новые технологии, ставя их на службу тому или иному маниакальному политическому идеалу. Однако в начале XXI века реальные политики из плоти и крови, даже в таких авторитарных странах, как Россия, Иран или Северная Корея, ничуть не похожи на свои киношные образы. Они не замышляют никакого дивного нового мира. Ким Чен Ын и Али Хаменеи мечтают об атомных бомбах и баллистических ракетах. В США параноики-республиканцы обозвали Барака Обаму бесчеловечным тираном, стремившимся подорвать основы американского общества, – а он за два срока своего президентства всего-то и сделал, что провел незначительную реформу системы здравоохранения. Создание новых людей и новых миров никак не входило в его программу.
Именно из-за стремительного развития технологий и своей растерянности по поводу неспособности быстро обрабатывать данные современные политики мыслят не в пример более узко, чем их предшественники сотню лет назад. Поэтому политика XXI века лишена масштабных прозрений. Правительство стало просто администрацией. Оно управляет страной, но уже не ведет ее за собой. Оно обеспечивает своевременную выплату зарплаты учителям и бесперебойное функционирование систем канализации, но не имеет никакого представления о том, где страна будет через двадцать лет.
До определенной степени это хорошо. Учитывая, что некоторые политические прожекты прошлого века привели нас к Освенциму, Хиросиме и Большому скачку, может, оно и безопаснее находиться в руках мелко мыслящих бюрократов. Союз богоподобной техники с политической мегаломанией – рецепт катастрофы.
Многие неолиберальные экономисты и политологи утверждают, что самым лучшим было бы доверить решение всех важных вопросов рынку. Тем самым предоставив политикам прекрасное оправдание для бездействия и невежества, которые истолковываются как мудрость. Политикам удобно верить, что причина того, что они не понимают мир, – то, что им и не нужно его понимать.
У союза богоподобной техники с близорукой политикой тоже есть минус. Отсутствие визионерства – не всегда благо, и не всякий визионерский проект обязательно плох. В XX веке чудовищный нацистский проект рухнул не сам по себе. Он был побежден двумя равновеликими проектами – социалистическим и либеральным. Вверять наше будущее рыночным силам опасно, потому что они действуют в интересах рынка, а не в интересах человечества или планеты. Силы рынка слепы и невидимы и, будучи предоставлены сами себе, могут упустить угрозу глобального потепления или опасный потенциал искусственного интеллекта.
Некоторые верят, что ответственные и управляющие ходом событий все-таки есть. Не политики-демократы и не правители-автократы, а узкий, тесный, замкнутый круг миллиардеров тайно правит миром. Но подобные конспирологические теории никогда не оправдываются, потому что недооценивают сложность системы.
Несколько миллиардеров, покуривающих сигары и попивающих скотч в каком-нибудь мужском клубе, едва ли способны понимать все, что происходит на планете, не говоря о том, чтобы все контролировать.
Безжалостные миллиардеры и небольшие группы влияния процветают в нашем хаотичном мире не потому, что «читают карту» лучше других, а потому, что у них очень узкие задачи. В условиях хаоса туннельное зрение имеет свои преимущества, и власть миллиардеров прямо пропорциональна их целям. Когда богатейшие магнаты хотят заработать очередной миллиард, они легко находят в системе нужные рычаги.
Но если у них вдруг возникнет идея сократить глобальное неравенство или остановить глобальное потепление, то даже им это будет не по силам. Потому что система слишком сложна.
Но вакуум власти редко длится долго. Если в XXI веке традиционные политические структуры больше не смогут обрабатывать данные достаточно быстро, чтобы создавать осмысленные перспективы, то их место неизбежно займут новые, более эффективные структуры. Эти новые структуры могут сильно отличаться от всех прежних политических институтов, демократических или авторитарных. Неясно одно: кто построит и будет контролировать эти структуры? Если человечество не будет справляться, оно может предложить попробовать кому-то другому.
Осколки датаизма
У датаизма, конечно же, есть свои критики и еретики. Как мы видим, очень сомнительно, чтобы всю жизнь можно было свести к потокам данных. В частности, мы пока понятия не имеем, как и почему потоки данных трансформируются в сознание и субъективные переживания. Может, лет через двадцать у нас появится полноценное объяснение. А может, мы обнаружим, что организмы и не алгоритмы вовсе.
Также сомнительно, чтобы жизнь можно было свести исключительно к принятию решений. Под влиянием датаизма и естественные, и общественные науки зациклились на процессах принятия решений, как будто в жизни нет ничего другого. Но так ли это? Ощущения, эмоции и мысли, конечно же, играют в принятии решений существенную роль, но только ли в этом их смысл? Датаизм все глубже и глубже вникает в процессы принятия решений, однако не исключено, что он воспринимает жизнь все более искаженно.
Критическое исследование датаистической догмы должно стать не только величайшим научным вызовом XXI века, но и самым актуальным политическим и экономическим проектом. Естественники и обществоведы обязаны спросить себя, не упускаем ли мы чего-то, ограничивая жизнь обработкой данных и принятием решений. Может быть, во Вселенной есть сущности, которые нельзя свести к данным? Предположим, лишенные сознания алгоритмы сумеют обойти сознательный интеллект во всем, что касается обработки данных, – а вдруг при замене сознательного интеллекта лишенными сознания алгоритмами мы утратим что-то очень важное?
Даже если датаизм не прав и организмы не есть алгоритмы, это не обязательно помешает ему завладеть миром. Многие предшествующие религии завоевали огромную популярность и власть, несмотря на фактологическую несостоятельность.
Если это удалось христианству и коммунизму, то почему не удастся датаизму? У датаизма хорошие перспективы, так как сейчас он проникает во все научные дисциплины. Единая научная парадигма способна легко обернуться непререкаемой догмой. Очень трудно оспаривать любую научную парадигму, но до сих пор ни одна из них не принималась научным сообществом в целом.
Ученые отдельно взятой специальности всегда могли позаимствовать еретические взгляды у коллег другой специальности. Если же все, от музыковедов до биологов, будут пользоваться единой датаистической парадигмой, междисциплинарные заимствования будут лишь способствовать ее усилению. Так что ошибочна эта парадигма или верна, противостоять ей в любом случае будет невероятно трудно.
Если датаизму удастся покорить мир, что случится с нами, людьми? Поначалу датаизм, вероятно, активизирует гуманистическую погоню за здоровьем, счастьем и властью. Он и распространяется именно благодаря обещаниям осуществить эти человеческие мечты. Чтобы обрести бессмертие, счастье и божественную силу созидания, нам необходимо обрабатывать огромный вал информации, неизмеримо превышающий возможности человеческого мозга. Поэтому алгоритмы должны будут обрабатывать его за нас. Но, когда полномочия перейдут от людей к алгоритмам, гуманистические проекты могут утратить актуальность.
Раз мы отвергаем гомоцентричное мировоззрение в угоду датацентричному, человеческое здоровье и счастье могут утратить свое значение. Чего так носиться с устаревшими механизмами обработки данных, если уже существуют гораздо более продвинутые модели? Мы стремимся создать Интернет Всех Вещей в надежде, что он сделает нас здоровыми, счастливыми и могущественными. Но когда Интернет Всех Вещей обретет силу, люди могут превратиться из инженеров в чипы, из чипов в биты и в конце концов растаять в стремнине данных, как ком земли, брошенный в бурную реку.
Таким образом, датаизм грозит сотворить с Человеком Разумным то, что Человек Разумный сотворил со всеми прочими животными. На протяжении всей истории люди плели глобальную сеть и оценивали каждую вещь в соответствии с ее ролью в функционировании этой сети. Тысячи лет этим питались их гордость и предубеждения. Поскольку главенствующую роль в сети играли люди, им было легко приписывать себе ее успехи и считать себя венцом творения. Жизнь и переживания всех других животных ценились мало, потому что их функции были менее важными. И всякий раз, как животное переставало выполнять свою функцию, оно было обречено на исчезновение.
Но стоит нам, людям, утратить нашу функциональную значимость для сети, как мы тотчас обнаружим, что вовсе не являемся венцом творения. Созданные нами же критерии спишут нас в вечность следом за мамонтами и китайскими речными дельфинами. И задним числом выяснится, что человечество было просто пеной в бурлящем космическом потоке данных.
На самом деле мы не можем предсказать будущее. Потому что техника не детерминистична. Одна и та же техника закладывала основу очень разных общественных устройств. Например, с помощью техники промышленной революции – поездов, электричества, радио, телефона – учреждались коммунистические диктатуры, фашистские режимы и либеральные демократии. Возьмите Южную Корею и Северную Корею. В их распоряжении была абсолютно одинаковая техника, но они воспользовались ей по разному.
Изобретение искусственного интеллекта и биотехнологий непременно изменит мир, но оно не предписывает единственного детерминированного исхода. Все сценарии следует воспринимать как вероятности, а не пророчества. Если какие-то из них вас не устраивают – начинайте мыслить и, главное, действовать так, чтобы не дать этим вероятностям материализоваться.
Но начать думать и действовать по-новому очень непросто, так как на наши мысли и поступки оказывают сильное влияние современные идеологии и социальные системы. Нужно просто более творчески отнестись к будущему. Она является попыткой не сузить наши горизонты предсказанием какой-то определенной перспективы, а раздвинуть их путем знакомства с широким спектром возможностей. Никому не известно, что будет с рынком труда, семьей и экологией, а также какие религии, экономические системы и политические структуры будут доминировать в мире в 2050 году.
Но расширение горизонтов может привести к увеличению нашей растерянности и пассивности. При таком множестве сценариев и вероятностей на что нам следует обратить особое внимание, на чем сконцентрироваться? Мир перестраивается быстрее, чем когда-либо, и мы тонем в океане данных, идей, предсказаний и угроз. Люди уступают права свободному рынку, коллективному разуму и внешним алгоритмам, в частности, потому, что не в состоянии совладать с информационным наводнением.
Раньше цензура просто перекрывала поток информации. В XXI веке цензура осуществляется путем снабжения людей лишней, ненужной информацией. Мы просто не знаем, на чем сосредоточиться, и часто теряем время, изучая и обсуждая второстепенные и третьестепенные вещи. Испокон веков власть подразумевала доступ к информации. Сегодня власть подразумевает знание, на что не надо отвлекаться. Так на чем же, учитывая все происходящее в этом хаотичном мире, нам надо сосредоточить внимание?
В масштабе месяцев, наверное, необходимо обратиться к самым насущным проблемам, таким как опасные неурядицы на Ближнем Востоке, миграционный кризис в Европе и замедление китайской экономики. Если говорить о масштабе десятилетий – надо сосредоточиться на глобальном потеплении, растущем неравенстве и приближающемся крушении рынка труда. Но если мыслить масштабами бытия, то все наши дела и проблемы отступают перед тремя взаимосвязанными процессами:
1. Наука объединяется вокруг всеобъемлющей догмы, которая утверждает, что организмы – это алгоритмы и что жизнь является обработкой данных.
2. Интеллект отделяется от сознания.
3. Лишенные сознания, но высокоразвитые алгоритмы вскоре могут знать нас лучше, чем знаем себя мы сами.
Эти три процесса порождают три ключевых вопроса:
1. Действительно ли организмы – всего лишь алгоритмы, а жизнь – всего лишь обработка данных?
2. Что более ценно – ум или сознание?
3. Что случится с обществом, политикой и нашей повседневной жизнью, когда лишенные сознания, но высокоразвитые алгоритмы будут знать нас лучше, чем знаем себя мы сами?