Обсуждение проблемы искусственного интеллекта в XIV-XVII вв.
Конечно, эту тему обсуждали задолго до высокого средневековья, однако не так, как хочется. Все эти фантазии о механических куклах мало что дают, поскольку это именно художественные образы, а нас интересует интеллектуальное обсуждение и решение задач. В схоластике обсуждали искусственный интеллект как рациональную проблему, вопрос о его возможности, сопутствующих обстоятельствах, проблему сознания и субъекта - степень необходимости этих понятий, связь их с интеллектом. Это ведь только огрызки философии, распространенные в новое время, могли мыслить дело так, что есть восприятие физического мира, потом составление понятия, обобщение и еще что-то, и вот тебе проблема сознания, сделанная в отсутствии понимания, что такое сознание. Ну что с них взять, с номиналистов, какая у них может быть психология или философия.
Ладно. Так вот, всерьез с такими вещами разбирались в схоластике, с XIV по XVII вв. Достать на эту тему что-нибудь трудно, недавно появилась хорошая работа Вдовиной в интересной книге "Полемическая культура и структура научного текста в Средние века и раннее Новое время" М. ВШЭ. 2012.
Поскольку цивилизация была не машинная, постановка и подход к снаряду был совсем иной. Сейчас - в машинное время - спрашивают: как нам построить машину, которая бы делала разные сложные штуки, а кстати, это ведь будет машина, обладающая разумом. В прежние века говорили не о машине, а о Боге. Нам из сегодня важно заметить, что разговор шел об искусственном интеллекте, потому что он нам важен - конечно, для людей XVII в. важно было иное. У них был вопрос о том, как представлять Бога. Поскольку люди были очень рациональные, этот - с сегодняшней точки зрения - невозможный вопрос, на который ответ дается в экстатических видениях, решался для них обсуждением свойств и возможностей Бога. Они проводили мысленные эксперименты и в результате лучше понимали, как устроено то, что их волновало.
Для них проблема формулировалась так: может ли Бог взять "свойства души" - чувства, ум, воления - и вставить их в неподходящий предмет? В камень? Они мыслили дело так: есть разные качества в мире. Есть тепло и холод, есть твердость и влажность. И есть способность к умопостижению, способность к чувствованию, которыми отличаются, к примеру, животные. Мы можем намочить сухую вещь, мы можем (есть способы) придать твердость вещи мягкой или сыпучей. Бог, допустим, может придать свойство производить умозрения, мыслить, или чувствовать - неподходящему объекту, камню. Надлежит исследовать, что тогда произойдет - с камнем, с мышлением, с нашим пониманием всего этого.
Разумеется, с сегодняшней точки зрения это разговор об искусственном интеллекте. И вот этой проблеме схоласты посвятили несметное число страниц, интеллектуальным рассуждениям об этом посвящено множество книг, только вот мало кто их читал. Итак, схоластический аргумент от камня как обсуждение искусственного интеллекта. Много сил потратили иезуиты XVII в., и тут, конечно, царская дорога - прикинуть, что же сказал Декарт. Как мне кажется, довольно ясно, что основа философии Декарта - это вариант развития аргумента от камня, когда естественный интеллект рассматривается как искусственный. В машину тела божественной волей вставлен интеллект, это и есть искусственный интеллект - по способу божественного действия, и он же естественный - с нашей точки зрения, как его носителей, раз уж мы - разумные камни. На этой основе Декарт и выстроил свою философию и свою рациональность - на том, что Бог не будет обманывать несчастный камень относительно свойств влагаемого в него, в камень, разума, и не будет подсовывать камню фальшивку, которая только кажется разумом для камня, а на деле все время лжет - иначе говоря, Декарт исходит из предположения, что ИИ работает, а не сбоит. На гипотезе пребывания ИИ в рабочем состоянии Декарт строит философию, философию без глюков - потому что если где-то все же глючит, то кранты камню.
И потом, потом - то же самое можно найти хоть у Витгенштейна, он говорил о то, как мы будем мыслить камень, в который вложены болевые ощущения. Камень болеет и болит - это дает возможность помыслить сознание. Если мы мыслим, как привычно - восприятие, понятие - реакция на раздражитель - то там нет проблемы боли. Известное дело, боль - это сигнал о неблагополучии... Тут камню и пропасть. Потому что, конечно, на примере чужой боли камня ясно, что это совершенно разные ситуации - когда камень испытывает воздействие и трескается в ответ и когда он болит. У кого? У себя он болит, у камня. Чужая боль - конечно, отличная веточка аргумента от камня, ведущая к пониманию субъектности сознания.
А ученые иезуиты обсуждали несколько иную ветвь этой мысли. В ученейших сочинениях, которые следует привести как библиографию к проблеме ИИ:
Hurtado de Mendoza P. Univerza philosophia. Ligduni: Sumptibus Ludovici Prost. Haeredis Rovill. 1624.
Compton Carleton Th. Philosophia universa. Antverpiae: Apud Iacobum Meursium. 1649.
Aquilar J., de. Cursus philosophicus dictatus Limae. 3 vol Sevilla. 1701.
Эти схоласты выстроили весьма развернутую терминологию для обсуждения проблемы. У них термины для разных душевных качеств, а также особые термины для субъектов. Если субъект изначально приспособлен к обладанию качествами, его именуют subiectum capax (пригодный, способный субъект), а если нет - subiectum incapax. То есть то, что растение обладает способностью к росту, а животное может чувствовать - это у них такие свойства, они к этому пригодны. Если же качества божественной волей вставляются в природно неспособный к ним субъект, то и разговор идет о непригодном субъекте. И тут обсуждается, что Бог может сделать и чего не может. Схоласты - люди подробные, они разбирают такие вопросы6 что же именно творит Бог, влагая в непригодного субъекта такую способность? Что может восполнить этот акт творчества и что остается неизменным? Как ведут себя в таких случаях subiectum capax и subiectum incapax? Сохраняет ли качество в чужеродном субъекте свои свойства или омертвляется? Легко переформулировать эти вопросы на современном техническом языке. Будет ли интеллект в камне омертвляться, терять свойства интеллектуальности? будет приобретать иные свойства? Напротив, будет оставаться именно интеллектом?
Пришли в этих рассуждениях к очень многому. Просто поверху обсуждаемые темы - скажем, вывод, что физическое выполнение душевных качества отличается от их смыслового наполнения, то есть камень в мысленном эксперименте может воспроизводить некие интеллектуальные реакции или акты чувства "по выражению", но они не будут иметь того смысла, что в субъекте. Если микрофон говорит "мне больно", это не всегда подразумевает, что кому-то больно, это имеет иной смысл. Если программа ведет себя умно, это не подразумевает, что она имеет ум - у нас смысл качества (интенциональность) оторвана от выражения этого смысла, умные проявления больше не подразумевают умного субъекта. Далее, утверждается, что такие оторванные качества можно заменять и сохранять - поскольку они не связаны с прочими качествами субъекта, не им порождены, облегчается их сохранение и замена. Сегодня камень болеет Петей, завтра болеет Машей. Появляются аватары...
Схоласты в этом месте играют разницу субъкта и объекта - кто тут камень? Как владеющий разумом, он умопостигающий субъект. как то, во что разум вложен и отторжим, он объект. В общем, проблемы робототехники в полном объеме, азимовских законов вроде нет, но можно поискать.
Дальше - проблема соотношения тела и ума. Схоласты об этом говорят так, что раз у нас то, во что разум вставлен, не порождает по своей природе этот самый разум, то возникает проблема их совмещения. В этом месте они приходят к физическим предпосылкам, которые Бог в данном случае должен обеспечить. Ежели, скажем, вложить тепло в холодный объект, он то тепло будет терять и лишь временно будет теплым, а если хочется, чтобы он тепло удерживал, следует изменить устройство объекта, и то же с разумом - схоласты это выражали пышнее, по сути говорили о мере сложности - чтобы содержать разум, камень должен быть сложным, камень простой не удержит даже Богом влагаемый разум, и это не может изменить и сам Бог, поскольку он же и создавал вещи с определенными свойствами, значит, ему придется добавить камню сложности, изменив его каменное устройство, и вот тогда камень сможет удержать разум, в него влагаемый.
То есть некие свойства объекта должны быть в силах поддерживать ум в камне, но при этом, хотя они ум поддерживать могут, они тем не менее его не производят - ведь по условиям задачи мы знаем, что это Бог влагает разум в камень, сам камень к этому не способен. Более того, если Бог вложит в камень способность к воспроизводству физической природы и делению интеллекта с вложением в новые камни, это все равно будет той же системой камня с вложенным разумом, хотя выглядеть будет иначе - различение явления и смысла. Там весьма занятные рассуждения, особенно чарует, как ловко при решении этой проблемы схоласты пользуются бритвой Оккама. У них мысленный эксперимент, и потому в поведении воображаемых объектов то и дело возникают разные возможности, с которыми трудно справиться, если не убрать дублирования, лишние и удлиняющие рассуждения, приводящие к тому же результату и проч. Так что Оккам в ходу, рассуждения очень практические, современные, ничего похожего на ожидаемое "схоластическое словоблудие" - схоластов тут не интересуют определения и пустые сущности, их интерес практический - как конкретно будет выглядеть такая-то штука, какие у нее будут эффекты, какие свойства, что мы можем вывести из такого мысленного эксперимента.
В частности, есть там и рассуждение (у Агилара), что получится самый настоящий субъект, и него мудрить. Кратко так: субъект - тот, к чьей физической природе привязан разум, и если мы искусственно получаем такую привязку, это и будет субъект в полном смысле, его происхождение - иной разговор, а вот имени субъекта он будет заслуживать в полной мере. Другое дело, что у него будут проблемы по поводу соединения природно несоединимых качеств - но это уж Богу решать, как усложнить камень, чтобы удерживал вдохнутый в него разум. То есть этот субъект - камень - следует называть волящим, чувствующим и разумным, поскольку он как акциденции имеет эти свойства.
Да, но. Камень этот будет вести себя как тот, кто думающий, чувствующий и волящий, но вот будет ли он таким по существу7 Реально? Если программа, прошедшая тест Тьюринга, может нас убедить, что она печалуется, в унынии или ей больно - в самом ли деле ей больно? Как известно, нынешние богословы (прст, ученые) на это отвечают, что никакой разницы, раз отличить нельзя - то это оно и есть. Прежде люди были посерьезнее, их волновало "на самом деле". что разумно - а ну как сегодня отличать не умеем, а завтра научимся? Стыдно же будет, да и дров можно наломать, мало ли скольких людей долго считали за не-людей, да и сейчас вот то же самое. Так что что там кому ученому кажется насчет ненужности различений - он с этим пусть во всемирную лигу сексуальных реформ, а вменяемым людям надо знать, перед ним человек, перед ним иной разумный или просто обманка из камня. Репродуктор. Это в иных случаях очень даже важно бывает различать, чтобы говорить то, что думаешь сам в свою голову, а не то, что туда вдумал телевизор. Мы же, конечно, и есть эти камни, кто сомневается, у нас проблема очеловечения, и вот ее и решают те схоласты, строго и без лишних вздохов. Схоласт Родриго де Аррига говорил, в связи с проблемой камня, что нельзя думать чужой головой. Если же по факту - можно, это помогает иначе взглянуть на проблему ИИ и демаркацию разума. Думать чужой головой, думать в своей голове чужие мысли, это разум или не разум?
Итак, у нас камень лишь оформлен видимостью приложений или и в самом деле это субъект, способный мыслить и страдать? Он производит наружу рассуждения и выражение страданий, или он внутри сам в себя думает и сам в себя страдает? Он притворяется ("его притворяет") или он в самом деле таков? Что сделал Бог?
И тут схоласты приходят к тому, чего не может Бог. Комптон Карлтон говорит, что сделать такое, конечно, Бог может. На то его божья мощь и божья воля. То есть вложить в камень душу, разум, чувства - можно. "...но, если это произойдет, это не сделает такой субъект постигающим" (Carlton, 1649). Что мешает? Дело-то серьезное. В мысленном эксперименте схоласт приходит к тому, что есть вещи, которые Бог сделать не может - он взял камень, он произвел усложнение его структуры, чтобы она могла поддерживать видимость проявления душевных способностей, он занедрил туда эти самые способности и закрепил, так что теперь этот камень неразрывно, устойчиво связан с умом, он производит мысли и производит чувства. И что? Карлтон отвечает: из-за недостаточности субъекта не получится мыслящего субъекта. Произойдет нестыковка природы субъекта и природы вложенных в него способностей, так что они будут производиться и "делать вид", что они есть, но сам субъект ими обладать не будет. Как бы это сказать. Это ведь совсем не все люди могут. Поэтому понимают не всегда. Когда у человека есть желания и он стремится их выполнить - знаете, так психологично, биологично и прочим образом эффективно - он не субъект, в нем как в объекте существуют приписанные ему желания. Овладеть желаниями - это не выполнять их, а самому решать, что с ними делать. с мыслями то же - мыслящим субъект является не тогда, когда он заинтересовывается проблемой и ему на ум приходит решение и он способен его высказать и обосновать. Нет, он является мыслящим субъектом, когда он решает, чем будет заниматься его ум (и чем не будет), он решает, как следует мыслить и в какую сторону. Излучать чувства - это одно, а испытывать их - другое. Делать выбор - это одна воля, а превозмогать свои желания и себя ограничивать и направлять - это иная воля, воля объекта и воля субъекта - различны. Это сказано н языке современной психологии, а в XVII в. говорили на другом языке, примерно так, что для того, чтобы субъект обладал разумом, у него должна быть духовная природа, а если у него духовной природы нет, и лишь вложены отдельные духовные способности, это не делает его субъектом. То есть калькулятор считает, то это не делает его обладателем разума, способного к счету. Мендоза пытается это выразить так: "...камень не есть способность к восприятию объекта, и даже если он будет обладать его восприятием, он не будет постигающим". В общем, понятные вещи говорят схоласты.
В этом самом месте аргумент от камня показывает, как выстраивали в схоластике различия между физическими и интенциональными актами. Вот, скажем, цвет. Допустим, есть колебания чего-то, не знаю, чего, и частота этих колебаний влияет на физический прибор, называемый глазом. Система, в которую включен это глаз, может давать разный ответ при изменении восприятий. Кажется, что это описано зрение - такое, как у субъекта. Но тут утверждается -нет, это не зрение. Зрение - когда имеются также интенциональные акты восприятия цвета, когда имеется душа, которая на этот цвет реагирует, переживает. Да, рассматривая этот процесс, мы из описания может убрать дубляж - зачем все это про душу, про психику, когда я в описании могу обойтись без психики. К сожалению, тут бритва Оккама не должна применяться - видите ли, она не смеет касаться реальности. Если у вас есть два яблока, нехорошо отбирать у вас одно, приговаривая, что Оккам запретил два яблока и вы прекрасно обойдетесь одним. Нет уж, раз их два, то их два. Опыт не бреют. Пока речь о рассуждениях и мысленных возможностях - сколько угодно, мыслительные цепочки следует укорачивать и делать удобнее, оборотистей. А вот реальность укорачивать накладно - может оттуда прилететь, чтобы не воровал яблоки.
Итак, схоласты решили, что между тем, что похоже на субъект, и тем, что субъект и есть, имеется разница - состоящая именно в том самом наличии субъект (ряда внутренних переживаний?), причем мысленным экспериментом, вмешательством Бога мы лишены возможности различить - ведь в обычной ситуации сразу понятно: вот человек, вот камень, у кого какие естественные способности, ясно. а в нашем эксперименте, где Бог вложил в камень разум, не понятно - он имеет вложенный разум и ведет себя как разумный, а вот обладает ли разумом - это нам решать, мы для того и затеяли эксперимент. Два акта интеллекта тождественны, но различны, поскольку один произведен разумом естественным, разумом, которым обладает субъект, а другой - подделка, проявление внешне приложенной к объекту разумной способности. Грубо говоря, - пока так еще можно сказать, - один акт сделан человеком, другой программой, и хоть они не различаются как результаты, они весьма различны как акты, принадлежащие или не принадлежащие субъекту.
В этом месте какое-нибудь облегчение бы. Чего стоят те схоласты? Мы и сами такое можем придумать, если чуть посидим. А если они об этом думали и книги писали - ну что, придумали что-нибудь? Ну да. В этом месте они здраво сочли, что хорошо бы все же придумать критерий различения. Не то чтобы прямо такой, легкий, чтобы запросто с одной пробы определить, кто перед нами, но работающий, чтобы не просто болтовня и определения, а операциональный такой критерий. и вот тут и Мендоза, и Комптон пришли к одному способу. Смотрите, говорят. Руки - вот они. Наглядно6 противоречие ведет себя различно в этих случаях. Не повторяя подробных объяснений, кратко - так: когда субъекта нет, там внутри некому переживать противоречия. ИИ с равной легкостью произведет то и другое высказывание, допустим, мы ему предъявляем восприятие, он реагирует, мы смотрим его оценку - он может равно легко друг за другом сказать, что это хорошо и что плохо, что это белое и что черное, ложь и правда для него не осмыслены, он легко чувствует себя среди противоречий - они для него не противоречия, это всего лишь выражение его продуктивной функции - способности создавать высказывания и т.п. А человек чувствителен к правде, если он в самом деле субъект - он не может равно легко называть черное белым, противоречить сам себе. Он ведь целостный, он там внутри переживает свои суждения (это и делает его субъектом), и потому он с противоречиями иначе будет обращаться. Уж что мы там заметим - что он дает только один ответ, а противоположного не дает, или задерживается, когда лжет, или еще что - это уже дело техники и конкретного воплощения, но только субъект с противоречиями будет обращаться иначе, чем не-субъект.
Конечно, могут быть такие люди, которые проверку на субъектность не пройдут. Это понятно. Но дела не меняет. Что же, если кто глупее самовара - ну что делать, можно лишь сочувствовать и посоветовать умнеть. Все равно решение здесь, считают схоласты, и ученый Мендоза, и здравый Комптон, и хитроумный Агилар. Решение в том, чтобы отыскать действие, которое требует обращения к смысловому, интенциональному уровню, и это будет например противоречащие себе суждения - противоречить себе может лишь субъект, не-субъект себя н имеет, ему нечему противоречить, и потому у них будет разное поведение. Ясно, что при желании можно подделывать и маскировать, или можно, с другой, с человечьей стороны, тупить и дурить, но разница - тут. Комптон говорит: акты будут противоречить лишь виртуально, а на самом деле один акт не будет отрицанием другого - в камне, а в субъекте - будет. Камень противоречия стерпит, человек - нет.
И дальше, дальше... Схоласты переходят к определению живого - у них прямая дорога, в их мысленном эксперименте разум привит неживому объекту, и они благодаря мысленному эксперименту могут найти не только отличия рациональных актов, но и получить таким же образом критерий жизни. Да мало ли - у аргумента камня много веток, там огромная литература, не только три упомянутых книги. Они могут пойти по ветке понимания того, что есть личность - ведь это о ней речь, и там есть сочинения о проблеме personalitas, и есть другие ходы этого рассуждения. Скажем, на этом примере с камнем схоласты договорились до различения инстинктов и разума, осмысленных реакций. Когда в организм зашита программа - инстинкт - и рука отдергивается от огня, это одно дело, а изменения поведения в зависимости от смысла - другое (различение actio physica и actio intentionalis). Придумали различия в актах рефлексии. придумали различия в актах самоосознания, суждения по отношению к своим действиям, понятым как свои.
Там участвовала старая психология Аристотеля, идущие от него представления о составе душевных качеств. Интеллект представляли состоящим из двух частей, весьма разных. Одна - активный интеллект. Это то, что способно производить интеллектуальные образы, непрерывно-подвижные идеи, порождающие свои части и аспекты, непрерывно изменяясь. Это - образы, с помощью которых мы познаем объекты мира, находя "в себе" то, что соответствует впечатлениям, но произведено изнутри нас и потому понятно. С другой стороны, есть воспринимающий интеллект, это способность восприятия этих самых идей. Имелся тысячелетний спор, как все это представлять - один активный интеллект у всех людей, интеллект человечества, или их много личных, какой важнее, какие у какого интеллекта функции. И тогда вопрос переформулируется - придать камню разум - какой?
То есть мышление мыслится весьма гетерогенным, это никак не единая способность. Воображение, память, счет и прочие дела - это штуки иного уровня, деление на воспринимающий и активный интеллект считалось много более фундаментальным. И тогда надо понять, что же внедрено в камень - обязательно оба? Один из них? Решения были разные. Например, что Бог внедряет в камень только воспринимающий интеллект, то, что есть как личный разум у каждого человека, способность соотносить внешние впечатления с имеющимися идеальными образами, а затем работать с этими готовыми образами, строя суждения, способнеость воспринимать интеллектуальные объекты. А вот активный интеллект, неиссякаемый источник, производящий интеллектуальные образы, творящий идеи, не вкладывается в камень. Отчего? Опять ответы разные - потому что он вообще один, этот источник, потому что эти природы несовместимы, и другие, дольше выговариваемые ответы. Важно, что там целые томы ответов на такого рода вопросы - как следует структурно представлять интеллект, какие у него отчуждаемые и неотчуждаемые части, как они связаны и пр. Например, говорилось, что, коли нет активного разума, воспринятый образ не может служить мотивом к произведению следующего образа, смысловая цепочка обрывается. Ясно, что "программы", то есть прямые результаты чужого разума, тут не учитывались - речь о собственном ИИ. И там перечислялись интенциональные акты, которых не сможет производить такой внедренный разум.
Другая ветка - к пониманию знака и семиосферы. Раз интеллектуальная способность отторгаема, ее можно целиком переносить на другую физическую структуру, внедрять в нее, значит, эта совокупность чем-то объединена, она связная, это называлось у Агилара витальным образом, и дальше там другой ход рассуждений: а может, сам ИИ, будучи наложенным на физическую основу, актом наложения полагает образование subiectum capax? То есть коли Бог вложил разум в камень, то самым выполнением этого невозможного акта он утвердил камень как субъект, пригодный к несению интеллекта. И чтобы в этом разобраться, идет подробный анализ сферы знаков, и этот перуанский философ Агилар разрабатывает разные представления о соотношении смыслов и формальных знакомых структур - будет ли такая-то смысловая структура жить самостоятельно, примерно так звучит его вопрос. Или - какими свойствами должна обладать знаковая структура, чтобы можно было говорить о ее самостоятельном существовании в качестве субъектного ИИ. На манер Гуссерля Агилар приходит (вроде бы) к тому, что сама направленность интеллектуального акта образует "витальность", что приводит к образованию субъектности, так сказать, направленность разума на объект создает субъектность носителя разума. И дальше, через несколько ступенек, у перуанца получается совсем забавные рассуждения. Он - логически, анализируя мысленный эксперимент - приходит к тому, что отдельные акты могут иметь интенциональную жизнь... эээ... как же проще и по-нашему... в общем, истинно-разумными можно называть отдельные акты, но они не будут вне природных субъектов обладать полной связностью, тем самым возникает удивительное понятие о прерывистом разуме - разум мыслит полноценно, субъектен, но прерывен, вспыхивает в акте и гаснет, тут же становясь не-разумом, - и тем отличаясь от непрерывно-разумных субъектов. Как различается поведение прерывисто-разумных и постоянно-разумных систем? Можно ли человека считать постоянно-разумным? мы прерываем разумность для сна, или при потере сознания - если уподобить эту прерывную разумность той разумности, которой Бог может наделить камень, между человеком и камнем опять оказывается лишь количественная разница, хотя, конечно, это как посмотреть - можно высказать это и в качественной форме. И тут же - а как будет самочувствовать ИИ, если мы обратным образом перенесем на него это свойство - представим его на мгновение просыпающимся и вновь впадающим в бессознательность, и так с огромной частотой?
Понадумали и написали, да кто же их читал.
Конечно, эту тему обсуждали задолго до высокого средневековья, однако не так, как хочется. Все эти фантазии о механических куклах мало что дают, поскольку это именно художественные образы, а нас интересует интеллектуальное обсуждение и решение задач. В схоластике обсуждали искусственный интеллект как рациональную проблему, вопрос о его возможности, сопутствующих обстоятельствах, проблему сознания и субъекта - степень необходимости этих понятий, связь их с интеллектом. Это ведь только огрызки философии, распространенные в новое время, могли мыслить дело так, что есть восприятие физического мира, потом составление понятия, обобщение и еще что-то, и вот тебе проблема сознания, сделанная в отсутствии понимания, что такое сознание. Ну что с них взять, с номиналистов, какая у них может быть психология или философия.
Ладно. Так вот, всерьез с такими вещами разбирались в схоластике, с XIV по XVII вв. Достать на эту тему что-нибудь трудно, недавно появилась хорошая работа Вдовиной в интересной книге "Полемическая культура и структура научного текста в Средние века и раннее Новое время" М. ВШЭ. 2012.
Поскольку цивилизация была не машинная, постановка и подход к снаряду был совсем иной. Сейчас - в машинное время - спрашивают: как нам построить машину, которая бы делала разные сложные штуки, а кстати, это ведь будет машина, обладающая разумом. В прежние века говорили не о машине, а о Боге. Нам из сегодня важно заметить, что разговор шел об искусственном интеллекте, потому что он нам важен - конечно, для людей XVII в. важно было иное. У них был вопрос о том, как представлять Бога. Поскольку люди были очень рациональные, этот - с сегодняшней точки зрения - невозможный вопрос, на который ответ дается в экстатических видениях, решался для них обсуждением свойств и возможностей Бога. Они проводили мысленные эксперименты и в результате лучше понимали, как устроено то, что их волновало.
Для них проблема формулировалась так: может ли Бог взять "свойства души" - чувства, ум, воления - и вставить их в неподходящий предмет? В камень? Они мыслили дело так: есть разные качества в мире. Есть тепло и холод, есть твердость и влажность. И есть способность к умопостижению, способность к чувствованию, которыми отличаются, к примеру, животные. Мы можем намочить сухую вещь, мы можем (есть способы) придать твердость вещи мягкой или сыпучей. Бог, допустим, может придать свойство производить умозрения, мыслить, или чувствовать - неподходящему объекту, камню. Надлежит исследовать, что тогда произойдет - с камнем, с мышлением, с нашим пониманием всего этого.
Разумеется, с сегодняшней точки зрения это разговор об искусственном интеллекте. И вот этой проблеме схоласты посвятили несметное число страниц, интеллектуальным рассуждениям об этом посвящено множество книг, только вот мало кто их читал. Итак, схоластический аргумент от камня как обсуждение искусственного интеллекта. Много сил потратили иезуиты XVII в., и тут, конечно, царская дорога - прикинуть, что же сказал Декарт. Как мне кажется, довольно ясно, что основа философии Декарта - это вариант развития аргумента от камня, когда естественный интеллект рассматривается как искусственный. В машину тела божественной волей вставлен интеллект, это и есть искусственный интеллект - по способу божественного действия, и он же естественный - с нашей точки зрения, как его носителей, раз уж мы - разумные камни. На этой основе Декарт и выстроил свою философию и свою рациональность - на том, что Бог не будет обманывать несчастный камень относительно свойств влагаемого в него, в камень, разума, и не будет подсовывать камню фальшивку, которая только кажется разумом для камня, а на деле все время лжет - иначе говоря, Декарт исходит из предположения, что ИИ работает, а не сбоит. На гипотезе пребывания ИИ в рабочем состоянии Декарт строит философию, философию без глюков - потому что если где-то все же глючит, то кранты камню.
И потом, потом - то же самое можно найти хоть у Витгенштейна, он говорил о то, как мы будем мыслить камень, в который вложены болевые ощущения. Камень болеет и болит - это дает возможность помыслить сознание. Если мы мыслим, как привычно - восприятие, понятие - реакция на раздражитель - то там нет проблемы боли. Известное дело, боль - это сигнал о неблагополучии... Тут камню и пропасть. Потому что, конечно, на примере чужой боли камня ясно, что это совершенно разные ситуации - когда камень испытывает воздействие и трескается в ответ и когда он болит. У кого? У себя он болит, у камня. Чужая боль - конечно, отличная веточка аргумента от камня, ведущая к пониманию субъектности сознания.
А ученые иезуиты обсуждали несколько иную ветвь этой мысли. В ученейших сочинениях, которые следует привести как библиографию к проблеме ИИ:
Hurtado de Mendoza P. Univerza philosophia. Ligduni: Sumptibus Ludovici Prost. Haeredis Rovill. 1624.
Compton Carleton Th. Philosophia universa. Antverpiae: Apud Iacobum Meursium. 1649.
Aquilar J., de. Cursus philosophicus dictatus Limae. 3 vol Sevilla. 1701.
Эти схоласты выстроили весьма развернутую терминологию для обсуждения проблемы. У них термины для разных душевных качеств, а также особые термины для субъектов. Если субъект изначально приспособлен к обладанию качествами, его именуют subiectum capax (пригодный, способный субъект), а если нет - subiectum incapax. То есть то, что растение обладает способностью к росту, а животное может чувствовать - это у них такие свойства, они к этому пригодны. Если же качества божественной волей вставляются в природно неспособный к ним субъект, то и разговор идет о непригодном субъекте. И тут обсуждается, что Бог может сделать и чего не может. Схоласты - люди подробные, они разбирают такие вопросы6 что же именно творит Бог, влагая в непригодного субъекта такую способность? Что может восполнить этот акт творчества и что остается неизменным? Как ведут себя в таких случаях subiectum capax и subiectum incapax? Сохраняет ли качество в чужеродном субъекте свои свойства или омертвляется? Легко переформулировать эти вопросы на современном техническом языке. Будет ли интеллект в камне омертвляться, терять свойства интеллектуальности? будет приобретать иные свойства? Напротив, будет оставаться именно интеллектом?
Пришли в этих рассуждениях к очень многому. Просто поверху обсуждаемые темы - скажем, вывод, что физическое выполнение душевных качества отличается от их смыслового наполнения, то есть камень в мысленном эксперименте может воспроизводить некие интеллектуальные реакции или акты чувства "по выражению", но они не будут иметь того смысла, что в субъекте. Если микрофон говорит "мне больно", это не всегда подразумевает, что кому-то больно, это имеет иной смысл. Если программа ведет себя умно, это не подразумевает, что она имеет ум - у нас смысл качества (интенциональность) оторвана от выражения этого смысла, умные проявления больше не подразумевают умного субъекта. Далее, утверждается, что такие оторванные качества можно заменять и сохранять - поскольку они не связаны с прочими качествами субъекта, не им порождены, облегчается их сохранение и замена. Сегодня камень болеет Петей, завтра болеет Машей. Появляются аватары...
Схоласты в этом месте играют разницу субъкта и объекта - кто тут камень? Как владеющий разумом, он умопостигающий субъект. как то, во что разум вложен и отторжим, он объект. В общем, проблемы робототехники в полном объеме, азимовских законов вроде нет, но можно поискать.
Дальше - проблема соотношения тела и ума. Схоласты об этом говорят так, что раз у нас то, во что разум вставлен, не порождает по своей природе этот самый разум, то возникает проблема их совмещения. В этом месте они приходят к физическим предпосылкам, которые Бог в данном случае должен обеспечить. Ежели, скажем, вложить тепло в холодный объект, он то тепло будет терять и лишь временно будет теплым, а если хочется, чтобы он тепло удерживал, следует изменить устройство объекта, и то же с разумом - схоласты это выражали пышнее, по сути говорили о мере сложности - чтобы содержать разум, камень должен быть сложным, камень простой не удержит даже Богом влагаемый разум, и это не может изменить и сам Бог, поскольку он же и создавал вещи с определенными свойствами, значит, ему придется добавить камню сложности, изменив его каменное устройство, и вот тогда камень сможет удержать разум, в него влагаемый.
То есть некие свойства объекта должны быть в силах поддерживать ум в камне, но при этом, хотя они ум поддерживать могут, они тем не менее его не производят - ведь по условиям задачи мы знаем, что это Бог влагает разум в камень, сам камень к этому не способен. Более того, если Бог вложит в камень способность к воспроизводству физической природы и делению интеллекта с вложением в новые камни, это все равно будет той же системой камня с вложенным разумом, хотя выглядеть будет иначе - различение явления и смысла. Там весьма занятные рассуждения, особенно чарует, как ловко при решении этой проблемы схоласты пользуются бритвой Оккама. У них мысленный эксперимент, и потому в поведении воображаемых объектов то и дело возникают разные возможности, с которыми трудно справиться, если не убрать дублирования, лишние и удлиняющие рассуждения, приводящие к тому же результату и проч. Так что Оккам в ходу, рассуждения очень практические, современные, ничего похожего на ожидаемое "схоластическое словоблудие" - схоластов тут не интересуют определения и пустые сущности, их интерес практический - как конкретно будет выглядеть такая-то штука, какие у нее будут эффекты, какие свойства, что мы можем вывести из такого мысленного эксперимента.
В частности, есть там и рассуждение (у Агилара), что получится самый настоящий субъект, и него мудрить. Кратко так: субъект - тот, к чьей физической природе привязан разум, и если мы искусственно получаем такую привязку, это и будет субъект в полном смысле, его происхождение - иной разговор, а вот имени субъекта он будет заслуживать в полной мере. Другое дело, что у него будут проблемы по поводу соединения природно несоединимых качеств - но это уж Богу решать, как усложнить камень, чтобы удерживал вдохнутый в него разум. То есть этот субъект - камень - следует называть волящим, чувствующим и разумным, поскольку он как акциденции имеет эти свойства.
Да, но. Камень этот будет вести себя как тот, кто думающий, чувствующий и волящий, но вот будет ли он таким по существу7 Реально? Если программа, прошедшая тест Тьюринга, может нас убедить, что она печалуется, в унынии или ей больно - в самом ли деле ей больно? Как известно, нынешние богословы (прст, ученые) на это отвечают, что никакой разницы, раз отличить нельзя - то это оно и есть. Прежде люди были посерьезнее, их волновало "на самом деле". что разумно - а ну как сегодня отличать не умеем, а завтра научимся? Стыдно же будет, да и дров можно наломать, мало ли скольких людей долго считали за не-людей, да и сейчас вот то же самое. Так что что там кому ученому кажется насчет ненужности различений - он с этим пусть во всемирную лигу сексуальных реформ, а вменяемым людям надо знать, перед ним человек, перед ним иной разумный или просто обманка из камня. Репродуктор. Это в иных случаях очень даже важно бывает различать, чтобы говорить то, что думаешь сам в свою голову, а не то, что туда вдумал телевизор. Мы же, конечно, и есть эти камни, кто сомневается, у нас проблема очеловечения, и вот ее и решают те схоласты, строго и без лишних вздохов. Схоласт Родриго де Аррига говорил, в связи с проблемой камня, что нельзя думать чужой головой. Если же по факту - можно, это помогает иначе взглянуть на проблему ИИ и демаркацию разума. Думать чужой головой, думать в своей голове чужие мысли, это разум или не разум?
Итак, у нас камень лишь оформлен видимостью приложений или и в самом деле это субъект, способный мыслить и страдать? Он производит наружу рассуждения и выражение страданий, или он внутри сам в себя думает и сам в себя страдает? Он притворяется ("его притворяет") или он в самом деле таков? Что сделал Бог?
И тут схоласты приходят к тому, чего не может Бог. Комптон Карлтон говорит, что сделать такое, конечно, Бог может. На то его божья мощь и божья воля. То есть вложить в камень душу, разум, чувства - можно. "...но, если это произойдет, это не сделает такой субъект постигающим" (Carlton, 1649). Что мешает? Дело-то серьезное. В мысленном эксперименте схоласт приходит к тому, что есть вещи, которые Бог сделать не может - он взял камень, он произвел усложнение его структуры, чтобы она могла поддерживать видимость проявления душевных способностей, он занедрил туда эти самые способности и закрепил, так что теперь этот камень неразрывно, устойчиво связан с умом, он производит мысли и производит чувства. И что? Карлтон отвечает: из-за недостаточности субъекта не получится мыслящего субъекта. Произойдет нестыковка природы субъекта и природы вложенных в него способностей, так что они будут производиться и "делать вид", что они есть, но сам субъект ими обладать не будет. Как бы это сказать. Это ведь совсем не все люди могут. Поэтому понимают не всегда. Когда у человека есть желания и он стремится их выполнить - знаете, так психологично, биологично и прочим образом эффективно - он не субъект, в нем как в объекте существуют приписанные ему желания. Овладеть желаниями - это не выполнять их, а самому решать, что с ними делать. с мыслями то же - мыслящим субъект является не тогда, когда он заинтересовывается проблемой и ему на ум приходит решение и он способен его высказать и обосновать. Нет, он является мыслящим субъектом, когда он решает, чем будет заниматься его ум (и чем не будет), он решает, как следует мыслить и в какую сторону. Излучать чувства - это одно, а испытывать их - другое. Делать выбор - это одна воля, а превозмогать свои желания и себя ограничивать и направлять - это иная воля, воля объекта и воля субъекта - различны. Это сказано н языке современной психологии, а в XVII в. говорили на другом языке, примерно так, что для того, чтобы субъект обладал разумом, у него должна быть духовная природа, а если у него духовной природы нет, и лишь вложены отдельные духовные способности, это не делает его субъектом. То есть калькулятор считает, то это не делает его обладателем разума, способного к счету. Мендоза пытается это выразить так: "...камень не есть способность к восприятию объекта, и даже если он будет обладать его восприятием, он не будет постигающим". В общем, понятные вещи говорят схоласты.
В этом самом месте аргумент от камня показывает, как выстраивали в схоластике различия между физическими и интенциональными актами. Вот, скажем, цвет. Допустим, есть колебания чего-то, не знаю, чего, и частота этих колебаний влияет на физический прибор, называемый глазом. Система, в которую включен это глаз, может давать разный ответ при изменении восприятий. Кажется, что это описано зрение - такое, как у субъекта. Но тут утверждается -нет, это не зрение. Зрение - когда имеются также интенциональные акты восприятия цвета, когда имеется душа, которая на этот цвет реагирует, переживает. Да, рассматривая этот процесс, мы из описания может убрать дубляж - зачем все это про душу, про психику, когда я в описании могу обойтись без психики. К сожалению, тут бритва Оккама не должна применяться - видите ли, она не смеет касаться реальности. Если у вас есть два яблока, нехорошо отбирать у вас одно, приговаривая, что Оккам запретил два яблока и вы прекрасно обойдетесь одним. Нет уж, раз их два, то их два. Опыт не бреют. Пока речь о рассуждениях и мысленных возможностях - сколько угодно, мыслительные цепочки следует укорачивать и делать удобнее, оборотистей. А вот реальность укорачивать накладно - может оттуда прилететь, чтобы не воровал яблоки.
Итак, схоласты решили, что между тем, что похоже на субъект, и тем, что субъект и есть, имеется разница - состоящая именно в том самом наличии субъект (ряда внутренних переживаний?), причем мысленным экспериментом, вмешательством Бога мы лишены возможности различить - ведь в обычной ситуации сразу понятно: вот человек, вот камень, у кого какие естественные способности, ясно. а в нашем эксперименте, где Бог вложил в камень разум, не понятно - он имеет вложенный разум и ведет себя как разумный, а вот обладает ли разумом - это нам решать, мы для того и затеяли эксперимент. Два акта интеллекта тождественны, но различны, поскольку один произведен разумом естественным, разумом, которым обладает субъект, а другой - подделка, проявление внешне приложенной к объекту разумной способности. Грубо говоря, - пока так еще можно сказать, - один акт сделан человеком, другой программой, и хоть они не различаются как результаты, они весьма различны как акты, принадлежащие или не принадлежащие субъекту.
В этом месте какое-нибудь облегчение бы. Чего стоят те схоласты? Мы и сами такое можем придумать, если чуть посидим. А если они об этом думали и книги писали - ну что, придумали что-нибудь? Ну да. В этом месте они здраво сочли, что хорошо бы все же придумать критерий различения. Не то чтобы прямо такой, легкий, чтобы запросто с одной пробы определить, кто перед нами, но работающий, чтобы не просто болтовня и определения, а операциональный такой критерий. и вот тут и Мендоза, и Комптон пришли к одному способу. Смотрите, говорят. Руки - вот они. Наглядно6 противоречие ведет себя различно в этих случаях. Не повторяя подробных объяснений, кратко - так: когда субъекта нет, там внутри некому переживать противоречия. ИИ с равной легкостью произведет то и другое высказывание, допустим, мы ему предъявляем восприятие, он реагирует, мы смотрим его оценку - он может равно легко друг за другом сказать, что это хорошо и что плохо, что это белое и что черное, ложь и правда для него не осмыслены, он легко чувствует себя среди противоречий - они для него не противоречия, это всего лишь выражение его продуктивной функции - способности создавать высказывания и т.п. А человек чувствителен к правде, если он в самом деле субъект - он не может равно легко называть черное белым, противоречить сам себе. Он ведь целостный, он там внутри переживает свои суждения (это и делает его субъектом), и потому он с противоречиями иначе будет обращаться. Уж что мы там заметим - что он дает только один ответ, а противоположного не дает, или задерживается, когда лжет, или еще что - это уже дело техники и конкретного воплощения, но только субъект с противоречиями будет обращаться иначе, чем не-субъект.
Конечно, могут быть такие люди, которые проверку на субъектность не пройдут. Это понятно. Но дела не меняет. Что же, если кто глупее самовара - ну что делать, можно лишь сочувствовать и посоветовать умнеть. Все равно решение здесь, считают схоласты, и ученый Мендоза, и здравый Комптон, и хитроумный Агилар. Решение в том, чтобы отыскать действие, которое требует обращения к смысловому, интенциональному уровню, и это будет например противоречащие себе суждения - противоречить себе может лишь субъект, не-субъект себя н имеет, ему нечему противоречить, и потому у них будет разное поведение. Ясно, что при желании можно подделывать и маскировать, или можно, с другой, с человечьей стороны, тупить и дурить, но разница - тут. Комптон говорит: акты будут противоречить лишь виртуально, а на самом деле один акт не будет отрицанием другого - в камне, а в субъекте - будет. Камень противоречия стерпит, человек - нет.
И дальше, дальше... Схоласты переходят к определению живого - у них прямая дорога, в их мысленном эксперименте разум привит неживому объекту, и они благодаря мысленному эксперименту могут найти не только отличия рациональных актов, но и получить таким же образом критерий жизни. Да мало ли - у аргумента камня много веток, там огромная литература, не только три упомянутых книги. Они могут пойти по ветке понимания того, что есть личность - ведь это о ней речь, и там есть сочинения о проблеме personalitas, и есть другие ходы этого рассуждения. Скажем, на этом примере с камнем схоласты договорились до различения инстинктов и разума, осмысленных реакций. Когда в организм зашита программа - инстинкт - и рука отдергивается от огня, это одно дело, а изменения поведения в зависимости от смысла - другое (различение actio physica и actio intentionalis). Придумали различия в актах рефлексии. придумали различия в актах самоосознания, суждения по отношению к своим действиям, понятым как свои.
Там участвовала старая психология Аристотеля, идущие от него представления о составе душевных качеств. Интеллект представляли состоящим из двух частей, весьма разных. Одна - активный интеллект. Это то, что способно производить интеллектуальные образы, непрерывно-подвижные идеи, порождающие свои части и аспекты, непрерывно изменяясь. Это - образы, с помощью которых мы познаем объекты мира, находя "в себе" то, что соответствует впечатлениям, но произведено изнутри нас и потому понятно. С другой стороны, есть воспринимающий интеллект, это способность восприятия этих самых идей. Имелся тысячелетний спор, как все это представлять - один активный интеллект у всех людей, интеллект человечества, или их много личных, какой важнее, какие у какого интеллекта функции. И тогда вопрос переформулируется - придать камню разум - какой?
То есть мышление мыслится весьма гетерогенным, это никак не единая способность. Воображение, память, счет и прочие дела - это штуки иного уровня, деление на воспринимающий и активный интеллект считалось много более фундаментальным. И тогда надо понять, что же внедрено в камень - обязательно оба? Один из них? Решения были разные. Например, что Бог внедряет в камень только воспринимающий интеллект, то, что есть как личный разум у каждого человека, способность соотносить внешние впечатления с имеющимися идеальными образами, а затем работать с этими готовыми образами, строя суждения, способнеость воспринимать интеллектуальные объекты. А вот активный интеллект, неиссякаемый источник, производящий интеллектуальные образы, творящий идеи, не вкладывается в камень. Отчего? Опять ответы разные - потому что он вообще один, этот источник, потому что эти природы несовместимы, и другие, дольше выговариваемые ответы. Важно, что там целые томы ответов на такого рода вопросы - как следует структурно представлять интеллект, какие у него отчуждаемые и неотчуждаемые части, как они связаны и пр. Например, говорилось, что, коли нет активного разума, воспринятый образ не может служить мотивом к произведению следующего образа, смысловая цепочка обрывается. Ясно, что "программы", то есть прямые результаты чужого разума, тут не учитывались - речь о собственном ИИ. И там перечислялись интенциональные акты, которых не сможет производить такой внедренный разум.
Другая ветка - к пониманию знака и семиосферы. Раз интеллектуальная способность отторгаема, ее можно целиком переносить на другую физическую структуру, внедрять в нее, значит, эта совокупность чем-то объединена, она связная, это называлось у Агилара витальным образом, и дальше там другой ход рассуждений: а может, сам ИИ, будучи наложенным на физическую основу, актом наложения полагает образование subiectum capax? То есть коли Бог вложил разум в камень, то самым выполнением этого невозможного акта он утвердил камень как субъект, пригодный к несению интеллекта. И чтобы в этом разобраться, идет подробный анализ сферы знаков, и этот перуанский философ Агилар разрабатывает разные представления о соотношении смыслов и формальных знакомых структур - будет ли такая-то смысловая структура жить самостоятельно, примерно так звучит его вопрос. Или - какими свойствами должна обладать знаковая структура, чтобы можно было говорить о ее самостоятельном существовании в качестве субъектного ИИ. На манер Гуссерля Агилар приходит (вроде бы) к тому, что сама направленность интеллектуального акта образует "витальность", что приводит к образованию субъектности, так сказать, направленность разума на объект создает субъектность носителя разума. И дальше, через несколько ступенек, у перуанца получается совсем забавные рассуждения. Он - логически, анализируя мысленный эксперимент - приходит к тому, что отдельные акты могут иметь интенциональную жизнь... эээ... как же проще и по-нашему... в общем, истинно-разумными можно называть отдельные акты, но они не будут вне природных субъектов обладать полной связностью, тем самым возникает удивительное понятие о прерывистом разуме - разум мыслит полноценно, субъектен, но прерывен, вспыхивает в акте и гаснет, тут же становясь не-разумом, - и тем отличаясь от непрерывно-разумных субъектов. Как различается поведение прерывисто-разумных и постоянно-разумных систем? Можно ли человека считать постоянно-разумным? мы прерываем разумность для сна, или при потере сознания - если уподобить эту прерывную разумность той разумности, которой Бог может наделить камень, между человеком и камнем опять оказывается лишь количественная разница, хотя, конечно, это как посмотреть - можно высказать это и в качественной форме. И тут же - а как будет самочувствовать ИИ, если мы обратным образом перенесем на него это свойство - представим его на мгновение просыпающимся и вновь впадающим в бессознательность, и так с огромной частотой?
Понадумали и написали, да кто же их читал.
Комментариев нет:
Отправить комментарий