То, что человек благодаря развитию науки и техники приобрел необычайное могущество, стало такой вульгарной и банальной истиной, что, хотя она и распространена так, как никогда раньше, ее парадоксально все реже и реже повторяют в серьезных разговорах. Парадокс возникает из-за того, что банальность, перестающая быть избитым выражением, перестает восприниматься как банальность. В некоторых кругах банальность после того, как в течение некоторого времени о ней не упоминалось, воспринимается как ее прямая противоположность - как глубокая истина. В этом тоже есть иносказание: могущество, приобретенное человеком благодаря науке и технике, было обращено в бессилие.

Люди чувствуют это. Стаде Теркел в своем монументальном труде, посвященном изучению каждодневной работы в Америке, пишет:

"Многие испытывают с трудом скрываемое разочарование... "Я - машина", - говорит рабочий, обслуживающий машину для точечной сварки. "Я - зверь в клетке", - высказывается кассир банка и ему вторит служащий гостиницы. "Я - мул", - говорит рабочий-металлург. "То, чем я занимаюсь, может делать и обезьяна", - произносит секретарша. "Я превратился в сельскохозяйственное орудие", - говорит сезонный рабочий. "Я - вещь", считает манекенщица. "Синие воротнички" и "белые воротнички" выражают свое мнение одной фразой: "Я - робот""¹[Прим. перев.: По принятой классификации "синие воротнички" - рабочие, "белые воротнички" служащие. В русском переводе книги Теркела (см. [1]) этот отрывок опущен]

Возможно, люди в своей массе считают, что хотя они бессильны, вообще могущество существует и им обладают их лидеры. Но мы уже убедились в том, что государственный секретарь США считает, что события просто "увлекают" нас за собой, а председатель объединенного комитета начальников штабов США признает себя рабом вычислительных машин. Наши лидеры тоже не обладают могуществом. Даже врач, в прошлом - сам символ культурного могущества, становится бессильным по мере того, как во все большей степени превращается в передаточный канал между своими больными и главными фармацевтическими компаниями. Больные, в свою очередь, все в большей степени превращаются в совершенно пассивных объектов, которых лечат и над которыми производят различные операции. Их собственные внутренние целебные ресурсы, способности их организма к восстановлению гармонического состояния все больше игнорируются как несущественные для медицины, едва способной отличить больного человека от промышленного изделия.

Господствующее сейчас течение биологической обратной связи может оказаться предпоследним актом драмы разрыва человека с природой; человек перестает ощущать себя, свое тело непосредственно - непосредственные ощущения заменяются показаниями стрелок, мельканием лампочек и гудением приборов, которыми человек оснащается подобно тому, как автомобиль спидометром. Последний акт этой драмы - окончательное всеобщее истребление, которое заодно покончит и с жизнью вообще.

Таким образом, техническую неизбежность можно рассматривать как составную часть значительно более общего синдрома. Наука пообещала человеку могущество. Но, как это часто случается, когда люди соблазняются обещанным всемогуществом, рабство и бессилие - цена, которую требуют от них с самого начала до конца, и именно ее им действительно приходится платить. Могущество ничего не стоит, если оно не дает власти выбирать. Инструментальное мышление позволяет принимать решения, но существует большая разница между решением и выбором.

Люди, с которыми беседовал Стаде Теркел, принимают решения ежегодно в течение всего дня. Они, по их собственному свидетельству, уподобляются роботу Винограда. Его спрашивают: "Почему ты это сделал?" И он отвечает: "Потому что такая-то или такая-то ветвь моей программы приводит к получению этого результата". Вы спрашиваете: "Почему ты выбрал эту ветвь?" И он отвечает таким же образом. Последний его ответ: "Потому что вы мне так сказали".

Возможно, любое действие, совершаемое человеком, предполагает осуществление последовательности вычислений на элементах, которые системотехник назвал бы вершинами дерева решений. Но различие между действием механизма и подлинно человеческим состоит в том, что последнее имеет своей финальной точкой вершину, для которой "параметр решения" имеет вид "потому что я выбрал этот путь", а не "потому что вы мне так сказали". Именно здесь вычисления и объяснения заменяются истиной. И в этом снова проявляется слабость гипотезы Саймона, согласно которой "человек, как и муравей, рассматриваемый как поведенческая система, весьма прост. Кажущаяся сложность его поведения во времени в основном отражает сложность окружающей его среды".

Для того чтобы эта гипотеза оказалась истинной, истиной следует считать следующее: способность человека выбирать должна быть ограничена так же, как и способность муравья; человеку целеустремленность и воля и (это, может быть, важнее всего) трансцендентное для него самого ощущение обязательств по отношению к себе как части природного континуума свойственны не в большей мере, чем муравью. И снова возникает неразрешимая тайна: почему кто-либо может хотеть верить в то, что для человека дела обстоят именно таким образом?

Лишь время от времени слабый свет пробивается сквозь густой туман, окутывающий истинные возможности человека. Например, недавно группа видных биологов призвала своих коллег прекратить эксперименты, связанные с получением новых типов биологически функциональных бактериальных плазмид²[Прим. перев.: Плазмиды (эписомы, эписомные факторы) - необязательные генетические элементы, содержащиеся в бактериальных клетках в одном из двух взаимоисключающих состояний - автономном (независимом от бактериальной хромосомы) или интегрированном (включенным в хромосому). Биологический смысл существования эписом состоит в том, что они обеспечивают при необходимости экстренную передачу некоторых генетических потенций другим особям бактериальной популяции]. Они выразили "серьезную озабоченность тем, что некоторые из этих искусственных рекомбинантных молекул ДНК могут оказаться опасными с биологической точки зрения". Их опасения, как они пишут, "относятся к возможным тяжелым последствиям неконтролируемого применения этих методов" [Прим. перев.: ДНК - сокращенное название дезоксирибонуклеиновой кислоты, представляющей собой важную составную часть клеточного ядра. ДНК является материальной формой хранения наследственной информации. У бактерий ДНК локализуется в нуклеоидах (ядерных субстанциях 'бактериальной клетки) и в эписомах. Рекомбинация представляет собой процесс образования смешанного потомства в результате генетического обмена между двумя клетками, различающимися между собой одним или несколькими генетическими маркерами - признаками, используемыми при изучении генетических процессов. Биологический смысл генетической рекомбинации состоит в возникновении новых индивидуумов, наделенных свойствами родителей].

Их обращение - это, несомненно, шаг в правильном направлении, и их инициативу следует приветствовать. Тем не менее можно было бы задать вопрос, почему, они вообще считают себя обязанными приводить причины, побудившие их выступить с подобными рекомендациями. Разве основной долг человека, в том числе и ученого, - освобождение самой жизни от безумия отношения абсолютно ко всему как к объектам - не есть уже достаточная причина, причем такая, которую не нужно даже обсуждать? Почему это нужно объяснять? Оказывается, что самые благородные поступки людей, действующих из наилучших побуждений, отравлены разъедающей атмосферой "ценностей" нашего времени.

Простое объяснение этого явления, и, возможно, в нем есть доля истины, заключается в том, что "благие намерения" полностью вытеснили благородство. Существует и более тонкое объяснение. Наш век гордится тем, что он наконец добился свободы от цензуры, против которой боролись свободомыслящие люди всех времен. Сексуальные проблемы могут теперь обсуждатъся так свободно, как никогда раньше, женщины начинают занимать принадлежащее им по праву положение в обществе и идеи, о которых еще десять или около десяти лет назад можно было говорить только шепотом, распространяются теперь безо всяких ограничений.

Честь этих великих достижений приписывается новому духу рационализма, рационализму, который, как утверждается, позволил, наконец, сорвать с глаз человека пелену, образованную мистическим мышлением, религией и такими мощными иллюзиями, как свобода и чувство собственного достоинства.

Наука принесла нам великую победу над невежеством. Но при более внимательном рассмотрении эту победу можно считать также триумфом еще более глубокого невежества: то, что мы приобрели, оказалось новым конформизмом, позволяющим нам говорить все, что можно сказать на функциональных языках инструментального мышления, но запрещающим упоминать о том, что было названо Ионеско живой истиной. Так же, как экраны наших телевизоров демонстрируют необузданное насилие в "натуральном цвете" и не показывают сцен глубокой и подлинной любви (первое из-за отвратительного самого по себе извращения ценностей, называемых "реальными", второе - из-за объявления его непристойным), так мы можем обсуждать и само производство жизни и производимые над ней как над "объектом" манипуляции, но не в состоянии понимать бога, милосердие и мораль.

Возможно, биологи, призывающие своих коллег поступать правильно, руководствуются неверными обоснованиями, но основа их поступка - глубокое благоговение перед жизнью и подлинная человечность, хотя они все-таки не осмеливаются в этом признаться. В любом случае подобные аргументы не были бы "эффективными", а иначе говоря - инструментальными.

Если это так, то тот, кто подвергает цензуре их собственные высказывания, делает это, пользуясь старомодным выражением, подвергая риску свою душу.

Существует еще один способ оправдания отказа ученого продолжать определенную линию исследований - этот способ таков, что все мы можем извлечь из него уроки, полезные для нашей жизни. Способ основан на том принципе, что размер ответственности человека должен быть соразмерен с результатами его деятельности. В свое время этот принцип привел к рождению системы этики, суть которой поведение людей по отношению друг к другу.

Библейские десять заповедей говорят в основном о том, каковы обязанности человека по отношению к его семье и соседям. В библейские времена очень немногие могли бы сделать нечто, что затронуло бы людей за пределами их собственной сферы обитания. Наука и техника, созданные человеком, коренным образом изменили эту ситуацию. Деятельность современного человека может повлиять не только на всю планету - его естественную среду обитания, но и предопределить будущее человека как вида в целом. Следовательно, это означает, что ответственность человека, а особенно ученого и инженера, выходит за пределы сиюминутной ситуации и простирается непосредственно до будущих поколений. Эта ответственность особенно серьезна потому, что будущие поколения лишены возможности сегодня защищать свои права. Все мы сегодня являемся их опекунами³.

Публичный отказ биологов, как бы они его не обосновывали, это пример, которому всем ученым стоило бы последовать. Значит ли это, что ученые должны захлопнуть свои умы перед всякого рода "аморальными" гипотезами? Совсем нет. Научная гипотеза, по крайней мере с научной точки зрения, либо истинна, либо ложна. Это относится и к гипотезам Саймона о том, что человек "весьма прост" и полностью поддается машинной имитации, и к гипотезе Маккарти о существовании некоторого логического исчисления, с помощью которого можно формализовать все сущее. Было бы глупейшей логической ошибкой навешивать подобным гипотезам (или любым другим) ярлык моральности или аморальности, или, коли на то пошло, ответственности или безответственности.

Сама научная гипотеза может не иметь моральной или этической окраски. Но индивидуальное решение принять ее даже в качестве рабочей гипотезы, а тем более объявление своей приверженности ей широкой публике самым определенным образом включает ценностные оценки и, следовательно, неизбежно приобретает такую окраску. Как недавно писал экономист из Гарварда [Прим. перев.: Имеется в виду Гарвардский университет - один из старейших и наиболее почитаемых университетов США. Расположен в Кембридже, штат Массачусетс] Марк Дж. Робертс:

"Допустим, мы должны выбрать одну из двух гипотез. Независимо от того, какую мы выбрали, всегда существует возможность считать, что другая - правильная. Очевидно, что относительное правдоподобие совершения ошибки при выборе той или иной гипотезы зависит (но также от этих факторов зависит и цена ошибок выбора альтернативных вариантов) от стоимости признания гипотезы "А" истинной, когда, на самом деле, истинна гипотеза "Б", или наоборот. Мы вполне могли бы предпочесть риск совершить более вероятную ошибку малой ценой, чем менее вероятную ошибку высокой ценой. И все же во всех случаях стоимости ошибки нельзя определить никак иначе, чем на основе наших ценностей."

"Рассмотрим крайний случай: точку зрения, согласно которой в умственной деятельности различных рас имеются различия. Допустим, общество должно было бы принять эту точку зрения, а она оказалась ложной. Я считают, что это было бы большим несчастьем. Допустим, с другой стороны, что общество приняло точку зрения, предполагающую отсутствие различий, но она оказалась бы ошибочной. От этой ситуации я ожидаю меньше вреда. Задавшись такими оценками стоимостей, я буду стремиться получать данные, делающие гипотезу о межрасовом различии очень маловероятной, в действительности, прежде, чем я ее отвергну.

Мой научный выбор базируется на моей системе ценностей, и это происходит не потому, что я некритичен или предпочел бы считать такие различия несуществующими, но потому, что сообразный выбор в условиях неопределенности можно делать, лишь ориентируясь на стоимость совершения альтернативных ошибок. И наоборот, "ученый, претендующий на независимость от системы ценностей", будет, вероятно, исходить из допущения о существовании подобных различий, как только какие-то данные будут свидетельствовать о хотя бы чуть более высокой ее вероятности, чем вероятность противоположного допущения."

"Эти проблемы не возникают в повседневной научной работе, поскольку традиционные статистические методы обычно относят их к проблемам выбора статистического критерия или конкретного метода оценивания какой-либо величины. В результате этот выбор производится на общепринятой или традиционной основе, обычно без всякого обсуждения, обоснования или даже признания, что был произведен выбор системы ценностей"⁴.

Робертc предпочитает приводить ценностные характеристики, учитываемые ученым в процессе решения вопроса, приемлема или неприемлема потенциальная стоимость ошибки, демонстрируя, что научная гипотеза не "независима от системы ценностей". Ценностные оценки, как я попытаюсь показать, учитываются при осуществлении учеными выбора также и другими (с моей точки зрения, более важными) способами. В данный момент, однако, я хочу лишь подчеркнуть, что вполне уместно крикнуть "браво" биологам, о которых упоминалось выше, и крикнуть "позор" ученым, написавшим недавно, что "симбионт" "машина-животное", располагающий зрительной системой и мозгом животного, обеспечивающими расширение его механических функций", будет технически "осуществим" в течение ближайших пятнадцати лет"⁵.

Использование слов типа "этика" и "долг" в беседе на научную тему едва ли не всегда вызывает некоторую натянутость, несколько похожую на ту напряженность, которая возникает всякий раз, когда, разговаривая с немецкими университетскими профессорами преклонного возраста, вам случится упомянуть о карьере одного их их коллег, преуспевавшего в годы гитлеризма. В последнем случае охлаждение атмосферы беседы выдает страх перед тем, что может быть сказано что-то "неудачное" и в особенности упомянута неспособность коллеги в прошлом поступиться своим честолюбием из моральных соображений. Таким образом, это служит признанием того факта, что сомнительным оказалось не только поведение именно этого коллеги, но и всех профессоров и преподавателей высших учебных заведений Германии того времени.

В первом же случае натянутость возникает из-за аналогичных соображений, поскольку этика в своей основе не уделяет так много внимания чему-нибудь еще, как отказу. Эта напряженность выдает страх перед тем, что будет сказано нечто о том, что наука, и, следовательно, ученые должны и не должны делать. И это есть признание того факта, что то, что могло бы быть сказано об этом, не относится исключительно к науке вообще или к некоторой абстрактной совокупности, именуемой учеными, но применимо к каждому из присутствующих.

Некоторые ученые (ни в коем случае не все) считают сферу науки универсальной и уверены в невозможности существования ничего такого, что в силу некоего "высшего" принципа не следовало бы изучать. Из этой предпосылки обычно делается вывод, что всякие разговоры об этических "долгах", относящиеся к науке, по своей природе имеют разрушительный характер и направлены против науки и даже против разума.

Какова бы ни была ценность этого довода в абстрактно-логическом отношении, он теряет смысл в конкретных ситуациях, поскольку предметом научного исследования могло бы стать бесконечное множество вопросов, но в распоряжении науки имеется лишь ограниченное количество ресурсов. Следовательно, человек должен выбирать, какими проблемами заниматься, а какие отложить. Нам неизвестно, например, имеется ли какая-нибудь корреляция между числом пор в коже человека и числом нейронов его мозга. Этот вопрос не вызывает интереса, поэтому нет споров о том, следует или нет науке его изучать. Китайцы использовали иглотерапию в течение многих веков, не привлекая интереса науки западных стран. Теперь западные ученые вдруг заинтересовались иглотерапией. Эти примеры показывают, что научный "прогресс" развивается не по какому-то пути, предопределенному самой природой, а является зеркалом интересов и забот человека.

Несомненно, тонко отточенный интеллект человека - один из наиболее дефицитных ресурсов современного общества. И очевидно, что некоторые проблемы, поддающиеся научному исследованию, важнее других. Человеческое общество неизбежно сталкивается с проблемой разумного распределения такого дефицитного ресурса, как научные таланты. Существует необходимость (от нее нельзя произвольно отделаться) решить, какие задачи важнее или интереснее, чем другие. Любое общество должно постоянно искать способы удовлетворить это требование. Вопрос в данном случае заключается в том, каким образом эти способы следует отыскивать в открытом обществе; должны ли они устанавливаться, скажем, вооруженными силами или путем открытого обсуждения гражданами и учеными? Если их нужно обсуждать, то почему из дискуссии должны исключаться этические вопросы? И, наконец, как можно прийти к чему-либо разумному, если предварительно все не согласятся с тем, что, вопреки утверждению Джона фон Неймана, технические возможности не являются неодолимым искушением для человека? "Можно" не означает "должно".

К несчастью, новый конформизм, позволяющий нам говорить обо всем, за исключением нескольких простых истин, записанных в наших сердцах и в священных книгах любой из множества религий, исповедуемых человеком, считает все доводы, основанные на этих истинах (независимо от того, сколь тщательно они продуманы или красноречиво сформулированы), смехотворными для ученых и инженеров. Это само по себе, возможно, наиболее трагический пример того, как неправильное использование идеи обращает ее в ее противоположность.

Ученые, продолжающие болтать о "знании ради знания", чтобы использовать этот лозунг в своих собственных интересах, лишают науку и технику всяческих контактов с реальным миром. Центральная проблема знания, после того как оно "получено", - это придание ему законной силы; но мы видим, что почти во всех сферах, особенно в обсуждавшихся нами разделах информатики, подтверждение достоверности научного знания свелось к демонстрации технических чудес. Объяснить это можно двояко: либо природа, с которой связана наука, состоит исключительно из сырья, которое необходимо переплавлять и обрабатывать как некий объект; либо знание, приобретаемое наукой для человека, не имеет совершенно никакого отношения к самому человеку. Наука не может согласиться с истинностью последнего, поскольку в противном случае она утратила бы свое разрешение "заниматься практикой". Это лишение, естественно, будет иметь практические последствия (в том числе утрата финансирования и т. д.), которым ученые стали бы сопротивляться изо всех сил. Если же верно первое, то сам человек превратится в некий объект. Есть много свидетельств, что на самом деле именно это и произошло. Но в таком случае и знание утратило свою чистоту, которой ученые так гордились; то знание превратилось в предприятие не более и не менее важное и не более по существу значительное, чем, скажем, знание о том, как расположить автосборочный конвейер. Кто станет интересоваться тем, что все это "ради знания"?

Этот процесс трагичен потому, что лишает науку самой возможности руководствоваться подлинными человеческими стандартами, не ограничивая в то же время никоим образом возможности науки передавать в руки человека все более и более могущественные силы. Здесь мы также обнаруживаем корни столь широко обсуждаемой дегуманизации человека. Человек дегуманизируется всегда, когда рассматривается как нечто меньшее, чем целостная личность. Различные формы инженерной психологии и социальной инженерии, рассматриваемые в книге, относятся к человеку постольку, поскольку они разрушают всю человеческую специфику, особенно ту, которая придает реальное значение языку человека.

То обстоятельство, что аргументы, взывающие к высшим принципам, например к обязательствам человека перед его детьми или к самой природе, не признаются имеющими законную силу, порождает серьезную дилемму для любого человека, стремящегося склонить своих коллег к сотрудничеству в наложении определенных ограничений на их исследования. Если он тем не менее использует подобные доводы, надеясь побудить своих коллег к своего рода обращению, то он рискует вообще не произвести никакого эффекта и даже подвергнуться отлучению, попав в положение смехотворного дурака. Если он настаивает на самоограничении, исходя из необратимости последствий, к которым могут привести неограниченные исследования, то он включается в узаконивание злоупотреблений инструментального мышления (скажем, под личиной анализа затрат и результатов) и способствует тому, против чего он собирался вести борьбу.

Разрешение описанной дилеммы состоит в отказе от правил игры, ее породивших. Это справедливо и для множества других дилемм. Для этой дилеммы имеется следующее правило: спасение мира (это именно то, о чем я толкую) зависит от обращения остальных к правильным идеям. Это ложное правило. Спасение мира зависит только от отдельного человека, для которого это его мир. Во всяком случае, каждый человек должен вести себя так, как будто будущее мира, всего рода людского всецело зависит от него. Все меньшее представляет собой уклонение от ответственности и само превращается в дегуманизирующую силу, поскольку это меньшее побуждает личность относиться к себе просто как к актеру, участвующему в драме, которая написана неизвестно кем, как к чему-то, не достигшему уровня целостной личности. А все это - истоки покорности и бесцельности.

Это не довод в пользу солипсизма [Прим. перев.: Солипсизм - крайняя форма субъективного идеализма, в которой несомненной реальностью признается только мыслящий субъект, а все остальное объявляется существующим только в его сознании. Термин "солипсизм" употребляется также в этическом смысле для обеспечеиия крайнего эгоизма и эгоцентризма. Последовательный солипсизм лишает всякого смысла человеческую деятельность и науку], но и не призыв к тому, чтобы каждый человек жил исключительно для себя. Но он предполагает, что всякий человек должен в первую очередь жить для себя. Дело в том, что, только подвергнув испытанию свои собственные внутренние ценности, абсолютно не зависящие от "использования" его в качестве некоторого инструмента, он может установить те трансцендентные для него цели, которые в конечном итоге сообщают ему его подлинность и единственно служат окончательным подтверждением подлинности человеческого знания.

Однако то обстоятельство, что каждый человек несет ответственность за весь мир и выполнение им этой обязанности предусматривает в первую очередь ответственность каждого человека перед самим собой, отнюдь не противоречит тому, что у каждого из нас есть обязанности по отношению друг к другу. Главная из них заключается в обучении друг друга наилучшим доступным нам образом. Основной же и наиболее эффективной формой обучения, которую мы можем использовать, является пример нашего собственного поведения, даваемый тем, кого оно затрагивает. Учителя и писатели несут особенно тяжелую ответственность именно потому, что они занимают положение, благодаря которому их пример доступен значительно более широкому кругу людей, чем их непосредственное окружение.

[Прим. перев.: В предисловии к переводу книги на русский язык уже отмечалась характерность рекомендаций Дж. Вейценбаума для позиций зарубежной левой либеральной интеллигенции. Прекрасно, с нашей точки зрения, прокомментировал тезис "трансформации человеческого существа и составят ту Человеческую революцию, благодаря которой наконец обретут цель и смысл, достигнут своей кульминации и остальные революционные процессы" Д. М. Гвишиани. Он пишет по этому поводу: "Важны ли изменения в человеческом сознании для решения глобальных проблем? Безусловно! Являются ли они... той главной движущей силой, которая способна избавить человечество от кричащих противоречий глобального развития? Ответ на этот вопрос требует гораздо более глубокого, научно обоснованного суждения, чем ... аргументация, отрывающая в своей сущности общественное сознание, сознание индивида от первичных по отношению к сознанию факторов социального развития. Глобальные проблемы, как это неоднократно отмечали исследователи-марксисты, объективно свидетельствуют о необходимости глубоких социальных преобразований в общественных отношениях. Pi только на этой основе, как следует из практики социалистического строительства, осуществляется дальнейшее совершенствование индивида, ибо планомерное социальное действие регулирует наряду с другими процессами и развитие самой личности". (А. Печчеи. Человеческие качества: Пер. с англ. О. В. Захаровой/ Общ. ред. и послесловие академика Д. М. Гвишиани. - М.: Прогресс, 1980, с. 292-293)]

Такой подход предполагает, что я сам должен продемонстрировать несколько своих собственных решений относительно того, что могу и чего не могу делать в информатике. Я сделаю это, несмотря на дурные предчувствия; я убедился в том, что люди постоянно спрашивают друг друга, что им следует делать, в то время как единственный истинно важный вопрос заключается в том, какими они должны быть. Физик Стивен Уайнберг, комментируя критику в адрес науки, писал:

"Я пытался понять этих критиков, просматривая некоторые их работы, и нашел в них много существенного и даже волнующего. Особенно я разделяю их недоверие к тем (от Давида Рикардо до Римского клуба), кто чрезмерно самонадеянно применяет методы естественных наук к делам человеческим. Но в результате я озадачен. Что же они хотят, чтобы я делал?"⁶

Мои опасения связаны с тем, что меня сочтут отвечающим на вопрос типа заданного Уайнбергом. Это не входит в мои намерения. Но риск быть неправильно понятым не может служить мне оправданием уклонения от исполнения своего долга.

В настоящее время, с моей точки зрения, в информатике нет проекта, который был бы неприемлем по моральным соображениям и от участия в котором я рекомендовал бы своим студентам и коллегам воздержаться. Те проекты, которые мной обсуждались, и другие, которые я только упоминал, строго говоря, не относятся к информатике. Вычислительные машины не имеют решающего значения для работ Форрестера и Скиннера. Иные же не имеют отношения к "науке информатике", потому что по большей части они вообще не имеют никакого отношения к науке. Они, как я уже отмечал, представляют собой искусное объединение различных методов, созданное для того, чтобы решить некую конкретную задачу. Возможно, благодаря исторической случайности, в силу которой кафедры высших учебных заведений, занимавшиеся вычислительными машинами, стали называть "computer science departments", все работы, проводящиеся на таких кафедрах, стали безо всякого разбора именовать "научными", несмотря на то, что лишь часть из них заслуживает подобной чести.

[Прим. перев.: Здесь имеет место игра слов, пропадающая при переводе в связи с особенностями передачи на русском языке термина "computer science". По-английски "computer" - вычислительная машина, "science" - наука. Буквальная передача термина должна была бы иметь вид "наука о вычислительных машинах" (приблизительная аналогия - кафедры "вычислительной техники", действующие в советских высших учебных заведениях; слово "техника" в их названии отнюдь не означает, что сфера их интересов ограничена сугубо техническими вопросами).

Термин "computer science" был введен в 1961 г. Джорджем Форсайтом, организатором и первым руководителем "The Computer Science Department" в Станфордском университете (США). Предложив этот термин в качестве названия для новой науки, он включил в сферу ее интересов теорию программирования, численный анализ, обработку данных и теорию вычислительных систем. Позднее к этому направлению стали относить работы в области искусственного интеллекта, в частности, связанные с роботами и решением задач, а также математическую теорию обработки информации (на вычислительных машинах), т. е. проблемы, связаные со скоростью, оптимальностью, эффективностью обработки, структурами данных, требованиями к памяти при решении определенных классов задач, доказательством правильности программ. В результате возникли весьма обширные области пересечения интересов "computer science" и дискретного анализа (так, Доналд Э. Кнут, видный американский ученый, профессор информатики Станфордского университета, считает, что "лучший... способ определить "computer science" - это сказать, что она занимается изучением алгоритмов"). С другой стороны, А. Ньюэлл, А. Дж. Перлис и X. А. Саймон определили "computer science" как изучение вычислительных машин, точно так же, как ботаника есть наука об изучений растений, астрономия - об изучении звезд и т. д. При переводе этого термина на русский язык до сих пор не достигнуто единообразия: имеется обширная номенклатура названий - "вычислительная математика и кибернетика", "теоретическая кибернетика", "математическая кибернетика", "вычислительная техника", "вычислительные науки", "теория обработки информации на ЭВМ", "теория вычислений" и т. д. Отчасти этот разнобой объясняется различным пониманием термина "кибернетика" в СССР и США. У нас под кибернетикой понимается научное направление, охватывающее комплексным изучением процессы управления и переработки информации в сложных динамических системах различной природы, в котором используются точные математические методы и средства современной автоматики, в первую очередь электронные вычислительные машины. В США термин "кибернетика"

применяется, как правило, в более узком смысле - для обозначения работ по моделированию процессов и систем живой природы, включая человеческую форму (переработки информации (см. примечания Б. В. Бирюкова к книге X. Дрейфус. Чего не могут вычислительные машины. Критика искусственного разума: Пер. с англ. Н. Родман/ Общ. редакция, послесловие и примечания Б. В. Бирюкова. - М.: Прогресс, 1978, с. 290-291). В 70-е годы в нашей стране термин "computer science" часто стали заменять термином "информатика" (судя по всему, первым ввел этот термин в таком смысле чл.-кор. АН СССР А. П. Ершов). Этот термин, отталкиваясь от "сырья", обрабатываемого с помощью алгоритмов (информации или данных), безотносительно к тому-с помощью вычислительных машин или без их участия, удачно передает специфику науки об общих законах получения, хранения, передачи и переработки информации. Поскольку нам "информатика" также представляется наиболее удачным русским эквивалентом для "computer science", то в этой книге мы постоянно использовали этот термин в указанном смысле]

Лудильщики, получив в свое распоряжение современную технику ("машинопоклонники", как называл их Норберт Винер), иногда не могут преодолеть искушения отождествлять себя с наукой и объявить горы накопленных ею сокровищ гарантией правомерности своей деятельности. Не всякий, однако, называющий себя певцом, имеет голос.

Нет никакого сомнения в том, что далеко не все проекты, откровенно ориентированные на практическое использование, опасны или неприемлемы по моральным соображениям. Многие из них действительно помогают человеку выполнять повседневную работу в более безопасных условиях и с большей эффективностью. Например, навигационные вычислительные устройства и системы предотвращения столкновений обеспечивают возможность эксплуатации кораблей и самолетов в невозможных прежде условиях. Перечень способов, позволяющих извлечь пользу из применения вычислительных машин, несомненно весьма длинен. Имеются, однако, две разновидности использования вычислительных машин, к которым либо вообще не следовало бы прибегать, либо, если о них все-таки заходит речь, они требуют предельно осторожного отношения.

Первую разновидность я бы назвал просто отвратительной. Это проекты, сама мысль о которых должна вызывать у каждого цивилизованного человека чувство омерзения. Примером такого проекта служит упоминавшееся мной предложение соединить с вычислительной машиной зрительную систему и мозг животного. Это наступление на саму жизнь. Следует задаться вопросом, что же должно было произойти с восприятием жизни авторами этого предложения, а следовательно, с их восприятием себя как части континуума жизни, если они способны просто подумать о такой идее, не говоря уже о том, чтобы отстаивать ее. Переходя на значительно более низкий уровень, следовало бы задаться вопросом, какая мыслимая потребность человека вообще могла бы быть удовлетворена с помощью подобного "устройства", а еще хуже - исключительно с помощью такого устройства.

К этой же категории я отнес бы все проекты, предлагающие заменить вычислительной системой человека, осуществляющего функции, связанные с межличностными отношениями, пониманием и любовью. Поэтому я отвергаю предложение Колби использовать вычислительные машины в качестве психотерапевтов не потому, что подобный проект мог бы оказаться технически неосуществимым, а в связи с его аморальностью. Я знаком с попытками защищать это предложение, сводящимися к тому, что человек может получить определенную психологическую поддержку в результате беседы с вычислительной машиной, даже если, как всем совершенно ясно, вычислительная машина человека не "понимает". Один из приводившихся мне примеров был связан с вычислительной системой, предназначенной для приема текста на естественном языке, вводимого в нее через ее телетайпный пульт, и отвечавшей на введенный текст рандомизированной последовательностью, состоящей из "да" и "нет". Больной "беседовал" с этой системой и это якобы заставило его более глубоко обдумать его проблемы и прийти к якобы полезным выводам. До этого он испытывал беспричинное беспокойство. В принципе, тот же результат можно было бы получить с помощью китайского ритуального печенья или колоды карт.

Вычислительная машина, однако, создает определенную атмосферу (источником которой, естественно, служит наука), позволяющая "пациенту" верить ей, в то время как ритуальное печенье и карты он мог бы отбросить как орудия суеверия. В таком случае возникает вопрос, в котором содержится ответ: хотим ли мы, чтобы люди строили свою жизнь на основе явного обмана, шарлатанства и разрыва с действительностью? И, что еще важнее, неужели мы действительно верим, что людям, живущим в нашем уже чрезмерно машинообразном мире, полезнее обращаться к лечению, проводимому машиной, а не людьми? Я слышал, как ответ на второй вопрос сопровождался утверждением, что моя позиция сводится к совету "пусть едят пирожные" [Прим. перев.: Имеется в виду знаменитая фраза Марии Антуанетты, королевы Франции. Услышав, что народ Парижа голодает, она заметила: "У них нет хлеба - пусть едят пирожные"].

Говорят, что, несмотря на нехватку хороших психотерапевтов, больные лишаются даже небольшой помощи, которую могут оказать им сегодня вычислительные машины, и только из-за того, что имеющиеся в нашем распоряжении вычислительные машины "еще" не достигли уровня, скажем, лучших психоаналитиков. Это возражение, однако, бьет мимо цели. Дело здесь в том (вопреки противоположному мнению Саймона и Колби), что человеку свойственны некоторые функции, для замещения которых не следует привлекать вычислительные машины. Это не имеет ничего общего с тем, чего можно и чего нельзя добиться от вычислительных машин. Уважение, понимание и любовь - это не технические задачи.

Вторая разновидность применения вычислительных машин, которого следует избегать или, по меньшей мере, обращаться к нему только после очень тщательного изучения, - это применения, которые, как нетрудно установить, могут привести к необратимым или не поддающимся точной оценке побочным эффектам. Если к тому же не удается показать, что подобные приложения вычислительных машин удовлетворяют неотложные потребности человека, которые нельзя быстро удовлетворить любым другим способом, то эту работу проводить не следует. Последнее ограничение непосредственно следует из аргумента, уже приводившегося мной в связи с дефицитом человеческого интеллекта. Пример, который я приведу, связан с автоматическим распознаванием человеческой речи. Сейчас в США действуют три или четыре основных проекта, посвященных наделению вычислительных машин способностью понимать речь человека, т. е. созданию для них таких программ, чтобы обращенная к ним устная речь преобразовывалась в те же внутренние представления, которые были бы получены, если бы сказанное вслух вводилось в вычислительную машину с телетайпного пульта.

Задача, как в этом легко убедиться, намного сложнее, чем просто понимание естественного языка, поскольку для понимания потока связной речи, в первую очередь, необходимо понимать язык, на котором эта речь звучит. Следовательно, решение "задачи понимания речи" требует в качестве предварительного условия "задачи понимания естественного языка". И мы убедились в том, что для решения последней мы располагаем лишь "тончайшим пластом необходимых знаний". Но в данном случае меня не волнует техническая разрешимость этой задачи и не интересует оценка того, сколь мал или велик может быть наш оптимизм по поводу ее благополучного завершения.

Почему вообще мы должны хотеть заниматься этой задачей? Я задавал этот вопрос многим энтузиастам проекта. Самый благоприятный ответ, который мне удалось получить, заключался в том, что решение задачи облегчит врачам ведение записей и позволит более эффективно использовать их в процессе работы. Конечно, все, что хоть каким-то образом связано с медициной, автоматически объявляется благим делом. Здесь, нам, однако, следует вспомнить, что задача эта столь грандиозна, что лишь самые большие из существующих вычислительных машин годятся для ее решения. Другими словами, даже если искомая система будет успешно создана, для ее реализации, вероятно, потребуется такая большая и, следовательно, такая дорогая вычислительная машина, что только самые крупные и очень хорошо финансируемые больницы смогут позволить себе использовать ее (на самом же деле система в целом может оказаться столь недоступно дорогой, что даже такие больницы не смогут себе этого позволить).

В таком случае возникает вопрос: действительно ли это то, в чем медицина нуждается в настоящее время больше всего? Не лучше ли обратить таланты, не говоря уже о деньгах и соответствующих ресурсах, на проекты, посвященные более неотложным и фундаментальным проблемам здравоохранения?

Однако тогда мнимое обоснование "исследований" в области распознавания речи - просто попытка найти какое угодно разумное объяснение. (Я заключил слово "исследования" в кавычки, поскольку обсуждаемые нами работы - чистое ремесленничество, но у меня нет возражений против изучения психофизиологии распознавания речи человеком серьезными учеными).

Если задать эти вопросы основному заказчику работы - управлению перспективного планирования научно-исследовательских работ [Advanced Research Projects Agency (ARPA)] министерства обороны США, как это было недавно сделано на одном открытом совещании, то получим следующий ответ: военно-морской флот надеется управлять кораблями и другими видами своего оружия с помощью устных команд. Таким образом, с точки зрения основного заказчика этот проект представляет собой крупный шаг на пути к полностью автоматизированному бою. Я не вижу оснований советовать своим студентам посвящать свои таланты этой цели.

Я предлагал своим студентам и коллегам задать по поводу этого проекта еще один вопрос. Допуская, что машина, распознающая речь, неизбежно должна быть исключительно дорогой и поэтому только правительство и несколько очень крупных корпораций смогут позволить себе пользоваться ею, для чего они будут ее использовать? Для чего бы она могла быть, в принципе, использована? У меня нет никаких сомнений в том, что у человека не существует таких насущных проблем, разрешение которых облегчило бы наличие такой машины. Но подобные слышащие машины сделали бы слежение за речевой связью намного легче, чем оно представляется сейчас. Может быть, единственной причиной чрезвычайной ограниченности слежки за телефонными разговорами, практикуемой правительствами многих стран, является то обстоятельство, что подобная слежка требует участия очень большого числа людей. Каждый разговор по подслушиваемому телефону должен быть когда-то потом прослушан каким-то человеком. Машина же, распознающая речь, может отсеивать все "неинтересные" разговоры и представлять своим хозяевам расшифровки только оставленных. Я абсолютно не верю в то, что такие возможности окажутся в нашем распоряжении в будущем, столь отчетливо видимым Ньюэллом и Саймоном. Но я все-таки спрашиваю, почему талантливые специалисты в области вычислительной техники должны оказывать поддержку подобному проекту? Как гражданин, я опрашиваю, почему мое правительство должно тратить приблизительно 2,5 млн. долларов ежегодно (как оно это делает сейчас) на этот проект?

Несомненно, подобные вопросы вставали перед мыслящими людьми на более ранних этапах развития науки и техники. Но до недавнего времени общество всегда могло справиться с нежелательными и опасными эффектами новых изобретений при помощи своего рода самооздоровления, устраняющего или минимизирующего влияние этих эффектов. Скученность в городах можно было уменьшить географическим расширением города. Человек мог спастись от ужасных последствий промышленной революции в Англии, эмигрировав в Америку. А Америка могла спастись от многих последствий роста мощи оружия, укрываясь за своими двумя крепостными рвами-океанами. Но эти дни прошли. Ученый и инженер больше не могут избегать ответственности за результаты своей деятельности, уповая на безграничные возможности общества преобразовывать себя в соответствии с новыми реальностями и залечивать раны, нанесенные ему ими. Определенные пределы уже пройдены. Преобразования, которые, возможно, потребует новая техника, могут оказаться неосуществимыми, а невозможность их осуществить может означать тотальное уничтожение жизни. Никто не имеет права ставить человечество перед необходимостью подобного выбора. Я говорю здесь о том, что следует и чего не следует делать, что неприемлемо с моральной точки зрения, что опасно. Я, естественно, прекрасно сознаю то обстоятельство, что эти мои моральные оценки не имеют сами по себе моральной силы ни для кого, кроме меня самого. И, как я уже указывал, я совершенно не намерен учить других, какими задачами они должны заниматься, а какими не должны. Я лишь призываю всех оценивать последствия того, что они действительно делают, причем сейчас я имею в виду не только очевидные, прямые последствия, оказываемые их деятельностью на окружающий мир. Я говорю, скорее, о последствиях, сказывающихся на них самих, на том, как конструируют свои разумные объяснения, как подавляют истину, побуждающую их следовать иным курсом, и как шаг за шагом отказываются от собственной независимости. Тот факт, что так много людей столь часто спрашивают, что им делать, служит признаком того, что понятия "быть" и "делать" поменялись местами. Тем, кому известно, кто они и что собой представляют, нет нужды спрашивать, что им следует делать. Те же, кто вынужден опрашивать, не смогут покончить с вопросами до тех пор, пока не начнут вглядываться в себя. Задача же каждого показывать с помощью собственного примера, какие вопросы можно задавать себе, и демонстрировать, что человек может жить, пользуясь теми немногими ответами, которые у него имеются.

Но точно так же, как я не обладаю лицензией определять действия других, так и "конструкторы" того мира, в котором я вынужден жить, не имеют безусловного права навязывать мне свои представления. На ученых и инженерах в силу их возможностей лежит особенно большая ответственность - ответственность, от которой нельзя отделаться, прикрываясь лозунгами типа технической неизбежности. В мире, где человек все в большей мере имеет дело лишь с результатами собственной деятельности, причем только в виде произведенных им продуктов, производители и конструкторы этих продуктов - зданий, самолетов, пищи, бомб и так далее - должны располагать глубочайшей уверенностью в том, что их продукция - результат выбора, сделанного человеком.

Люди могут захотеть получить вместо того, что у них есть, действительно безопасные автомобили, хорошие телевизоры, прекрасные дома для всех или комфортабельную, безопасную и широко разветвленную систему общественного транспорта. Отсутствие всего этого в стране, располагающей достаточными возможностями, не является следствием технической неизбежности или того обстоятельства, что больше некому делать выбор - люди решили производить и захотели иметь именно то, что мы производим и имеем на самом деле.

Когда видишь особенно противную телевизионную рекламу, трудно себе представить, что взрослые люди когда-то и где-то усаживались вокруг стола и решали сделать именно эту рекламу и передавать ее сотни раз. Но именно так все и происходит. Все это результат деятельности не безымянных сил, а групп людей, пришедших к соглашению, что подобное загрязнение сознания людей отвечает их интересам.

Но, как это часто бывало с самого начала писаной истории, решения, имевшие самые зловещие последствия, часто принимались во имя ложно понятого блага. Например, летом 1966 г. в США ощущалось острое беспокойство по поводу интенсивных бомбардировок американцами Северного Вьетнама. (Разрушения американскими бомбардировщиками Южного Вьетнама были в меньшей степени предметом публичных дебатов, поскольку публика еще считала, что Америка "помогает" этой несчастной стране.) Около 40 американских ученых высокого научного ранга решили содействовать прекращению бомбардировок, организовав Летнюю исследовательскую группу при помощи Института оборонных исследований, пользующейся высоким престижем консультативной фирмы, которая работала для министерства обороны. Они хотели продемонстрировать, что бомбардировки были фактически неэффективны⁷. Они показали это, применяя самые лучшие научные инструменты - исследование операций, системный анализ и пр. Но они чувствовали, что министр обороны не станет их слушать до тех пор, пока они не предложат какую-либо альтернативу бомбардировкам. Они предложили установить "электронный забор" в так называемой демилитаризованной зоне, разделявшей Северный и Южный Вьетнам. Предполагалось, что это препятствие должно прекратить проникновение с севера. Среди прочего в его состав входили маленькие мины, закапываемые в землю и сконструированные так, чтобы они взрывались под ногой носильщика, но не реагировали на грузовик, проезжающий по ним. Другие устройства были предназначены для прекращения движения грузовиков. Разнообразные электронные датчики, системы управления и тому подобное в конце концов стали частью так называемой линии Макнамары. Так было положено начало тому, что развилось впоследствии в концепцию электронной войны.

В намерения большинства этих людей не входило изобретение или рекомендации новой технологии, которая сделала бы войну еще более ужасной и, кстати, менее дорогой для высоко промышленно развитых стран за счет "слабо развитых". Они хотели прекратить бомбардировки. В этом отношении они были всецело на стороне групп, призывавших к миру, и вообще всех граждан, преисполненных самых благих намерений. И они действительно добились поставленной цели: бомбардировки Северного Вьетнама на время прекратились и "забор Макнамары" установлен. Но ведь эти чрезвычайно заметные и влиятельные люди могли бы вместо этого просто заявить, что они считают бомбардировки, а в сущности, всю вьетнамскую авантюру Америки ошибочными и они больше не будут "оказывать содействие".

Мне известно, что по крайней мере некоторые члены этой группы считали войну ошибочной; может быть, они все так считали. Но, как позже объяснили мне некоторые из них, они чувствовали, что, если бы выступили с подобным заявлением, их бы не стали слушать ни тогда, ни когда-либо еще. И все же какой бы был эффект, если бы 40 ведущих американских ученых летом 1966 г. присоединились к группам, требовавшим мира, категорически отвергнув войну по моральным соображениям! Помимо того положительного влияния, которое такой шаг мог бы оказать на развитие событий в мире, какое негативное влияние оказал компромисс на них самих, на их коллег и студентов, для которых они служили примером!

Из этого эпизода можно извлечь несколько уроков. Первый заключается в том, что не техническая неизбежность и не какие-то безымянные силы изобрели электронную войну. Люди такие же, как те, которые делают телевизионную рекламу, собрались вокруг стола и выбрали этот путь. И все же исход обсуждений Летней исследовательской группой в 1966 г. был в определенном смысле предрешен. Диапазон получаемых вами ответов определяется диапазоном задаваемых вами вопросов. Как только было решено, что Летняя исследовательская группа будет заниматься только техническими вопросами, решение проблемы прекращения бомбардировок Северного Вьетнама свелось, в сущности, к вычислительной задаче. Когда было введено дополнительное условие о том, что группа должна любой ценой сохранить доверие заказчиков и не должна затрагивать статус участников "как членов своих организаций", все степени свободы, которыми члены группы могли бы обладать сначала, были практически утрачены.

Многие члены группы, как мне известно, выступали в защиту академической свободы как своей собственной, так и своих коллег, карьера которых находилась под угрозой по политическим причинам. Эти люди не считали, что рискуют своей академической или научной свободой, принимая участие в консультациях типа Летней исследовательской группы. Но отказ от тех степеней свободы, которыми они располагали бы, не будь всецело преданы своим заказчикам, независимо от того, принесли они эту жертву сознательно или нет, представлял собой значительно более жесткую форму цензуры, чем наложенная официальными представителями государства. Эта разновидность интеллектуального членовредительства, именно из-за того, что оно совершается в значительной мере неосознанно, является основным источником чувства бессилия, испытываемого таким множеством людей, занимающих, по крайней мере внешне, руководящие позиции.

Второй урок таков. Эти люди были способны дать тот совет, который дали, поскольку действовали на колоссальной психологической дистанции от тех, кто будет искалечен или убит с помощью систем оружия, в которые претворятся идеи, предложенные ими своим заказчикам. Следовательно, урок заключается в том, что ученые и инженеры должны, опираясь на свою волю и воображение, активно стремиться уменьшать психологические дистанции подобного рода и противостоять силам, пытающимся отделить их от последствий их деятельности. Они должны (этой простой вещи вполне достаточно) думать о том, что в действительности делают. Они должны научиться прислушиваться к своему внутреннему голосу и научиться говорить "нет!".

И, наконец, имеет значение само действие. Когда оно определяется исключительно инструментальным мышлением, поступки, совершаемые на его основе, лишаются их истинного значения и существуют в этическом вакууме. Я слышал недавно, как официальный представитель крупного университета публично защищал принятое им важное политическое решение, против которого по моральным соображениям выступали многие студенты, профессора и преподаватели университета. Он сказал: "Мы могли бы занять моральную позицию, но что хорошего это принесло бы?" Но благо морального поступка заключено в самом поступке. Именно поэтому поступок сам по себе может облагородить или развратить человека, совершающего его. Одержав в наше время победу, инструментальное мышление послужило причиной фактического исчезновения понимания этого обстоятельства и, таким образом, предопределило объявление вне закона самой идеи благородства.

Я, естественно, сознаю, что вряд ли кто-нибудь, читая эти строки, сочтет их адресованными себе, - так глубоко убеждение в нашей общей подчиненности действию безымянных сил, находящихся вне нашего контроля, проникло в современное общественное сознание. Сопровождается же это убеждение инфляцией идеи гражданского мужества.

Широко распространено, но глубоко ошибочно убеждение в том, что гражданское мужество подвергается испытаниям лишь во время событий, потрясающих весь мир. Как раз наоборот, наиболее трудные испытания ожидают его в тех локальных ситуациях, когда необходимо преодолеть страхи, связанные с мелочными заботами о карьере, об отношениях с теми, кто кажется обладающим властью над ними, обо всем том, что может нарушить ваше спокойное мирское существование. Если эту книгу необходимо рассматривать, как защиту чего-то, пусть она будет призывом к этой простой форме гражданского мужества. И поскольку эта книга в основном посвящена вычислительным машинам, пусть этот призыв в первую очередь будет услышан преподавателями информатики.

Пусть они услышат, как я настаиваю на том, что вычислительная машина - новая мощная метафора, которая может помочь понять многие аспекты нашего мира, но она порабощает сознание, не располагающее иными метафорами и имеющее мало других возможностей, к которым оно могло бы апеллировать. Мир очень разнообразен, и нет такой единой, достаточно емкой схемы, чтобы охватить все: ее нет ни для науки, созданной человеком, ни для поэзии, ни для вычислительного мышления, ни для чистой интуиции. Как недостаточно любви к музыке для игры на скрипке - необходимо, кроме этого, освоить искусство владения инструментом и саму музыку, так недостаточно и одной любви к человечеству, чтобы помочь ему выжить. Таким образом, долг учителя учить своему делу почетен. Но он обязан делать больше: его обучение не должно ограничиваться пределами единственной метафоры, и ему следует учить больше примером собственного поведения, чем тем, что он пишет на доске. Он должен учить сознанию ограниченности своих инструментов так же, как и их могуществу.

Программированию обучиться довольно легко. Почти любой человек, обладающий достаточно упорядоченным умом, может стать довольно неплохим программистом после совсем незначительного обучения и практики. И поскольку программирование вознаграждается почти немедленно, так как вычислительная машина очень быстро и почти точно начинает выполнять указания программиста, оно очень соблазнительно, особенно для начинающих. Более того, особенно сильно программирование привлекает людей недостаточно зрелых в том смысле, что они могут спокойно относиться к длительным промежуткам времени между затратой усилий и получением конкретного результата. Поэтому юные студенты легко впадают в заблуждение, считая, что они действительно овладели мастерством, обеспечивающим им необычайное могущество и имеющим колоссальное значение, хотя, на самом деле, они изучили лишь его зачатки и ничего существенного, вообще говоря. Быстрое восхождение студента от состояния абсолютной неосведомленности о вычислительных машинах к тому, что представляется ему вершинами программирования, а в действительности является лишь очень невысокой возвышенностью, может породить у него победную эйфорию и вызвать убеждение в том, что он обрел свое подлинное призвание. Преподаватель, конечно, тоже склонен, испытывать удовлетворение от явного энтузиазма студента и поощрять его, возможно, неосознанно и вопреки своим совершенно правильным убеждениям. Для студента такое положение, возможно, окажется западней. Он может так всецело предаться тому, что он по наивности считает информатикой, а на самом деле обыкновенной шлифовке своих программистских навыков, что это может полностью воспрепятствовать обучению его чему-нибудь существенному.

К сожалению, многие университеты предлагают студентам младших курсов программы по "информатике", что позволяет учащимся выбирать подобный путь и даже поощрять их в этом. Когда такие студенты завершают курс обучения, они оказываются в положении людей, научившихся прекрасно говорить на иностранном языке, но которые, попытавшись написать что-нибудь на этом языке, обнаруживают, что им самим сказать буквально нечего.

Отсюда вытекает вывод: хотя обучение ремеслу важно, оно не может заменить всего остального.

Задача университета не может сводиться к простому предложению студентам каталога "зданий", из которого они могут выбирать. Если бы функция университета была такова, то следовало бы предполагать, что приходящие в него студенты уже стали тем, кем должны стать. Тогда студента можно было бы рассматривать как своего рода корзину универсама, которую предстоит наполнить товарами, перечисленными в университетском интеллектуальном каталоге, или как объект, очень похожий на вычислительную машину, память которой беспрестанно жаждет новых "данных". Однако задача университета иная. Несомненно, он должен относиться ко всем своим "гражданам" - студентам и профессорско-преподавательскому составу в равной степени, в первую очередь как к людям, ищущим (как иначе назвать это?) истину и, следовательно, ищущим себя. С каждым членом университетского сообщества постоянно должно что-то происходить: каждый должен покидать аудитории университета иным, чем тот, кто вошел туда утром этого дня. Чистое обучение ремеслу не может исчерпать высокие функции университета.

Именно потому, что весьма значительная часть курса информатики посвящена навыкам вычислений, преподавателю, вероятно, легко усвоить привычку заниматься чистым натаскиванием. Нo, если бы он делал именно это, он тем самым умалил бы и собственное значение и значение своей профессии. Он также отделил бы себя от остальной интеллектуальной и моральной жизни университета. Университет должен являть каждому из своих "граждан" и всему миру в целом образ того, чем могли бы стать любой мужчина или любая женщина. Он выполняет эту задачу, обеспечивая вечное обновление идей мужчин и женщин, которые своими достижениями внесли вклад в строительство дома, где мы все живем. И он делает это, в радости и в горе, при помощи примера, подаваемого каждым членом университетского сообщества каждому члену университетского сообщества.

Преподаватель информатики не в большей и не в меньшей степени, чем любой профессор или преподаватель, по существу, непрерывно призывает своих студентов стать теми, кем является он сам. Если он считает себя просто репетитором, обыкновенным проводником "методов" достижения целей, определенных другими, то он оказывает своим студентам две плохие услуги. Во-первых, он призывает их быть личностями, не имеющими полной независимости. Он призывает их стать просто исполнителями приказов, отдаваемых другими, и, в конце концов, оказаться ничуть не лучше машин, которые могут когда-нибудь заменить их в этом качестве. Во-вторых, он лишает их даже малейшего представления об идеях, которые только и оправдывают место, занимаемое информатикой в университетской программе. Поступая так, преподаватель информатики не дает студентам возможности познакомиться с примерами, которые ученый-информатик мог бы представить им в качество творческой личности, а следовательно, лишает их лучшей возможности стать воистину хорошими учеными-информатиками самим⁸.

И, наконец, преподаватель информатики сам подвержен чрезвычайно сильному искушению надменно считать свое значение в каком-то смысле "более основательным", чем знание своих коллег-гуманитариев. Но эта прочность знания, доступного ему, не дает вовсе никаких преимуществ. Это знание просто менее неоднозначно и в результате подобно машинным языкам обладает меньшими возможностями воспроизводить действительность. Человеческой природе, в частности,

"Особенно близок неоднозначный, неподатливый, иногда недоступный [моральный] мир, не сводимый ни к какому соответствию с символами, с помощью которых можно было бы попытаться измерить его. Это мир, стоящий в стороне от всех попыток историков свести [его] к законам истории, мир, не поддающийся любым усилиям людей искусства понять его фундаментальные законы прекрасного. Практическая деятельность [человека] должна иметь дело с чем-то менее жестким, чем являет собой научное знание. ...это не отступление, а продвижение вперед"⁹.

Преподаватель информатики должен иметь мужество противостоять искушению высокомерия и в процессе обучения отстаивать снова, главным образом, с помощью своего собственного примера, достоверность и законность этой не столь жесткой разновидности знания. Почему же нужно говорить в этой связи о мужестве? По двум причинам. Первая и наименее важная заключается в том, что, чем больше он будет преуспевать в подобной манере преподавания, тем больше риска подвергнуться цензуре коллег, которые, обладая меньшим, чем он, мужеством, приняли упрощенные представления о мире, являющиеся неотъемлемым элементом предоставления науке имперских прав. Вторая причина состоит в том, что если он будет учить этому с помощью личного примера, то ему следует иметь мужество, по словам Джерома Брунера, признавать результаты собственного субъективизма.

Выше я сравнил бессознательное с бурным морем, а границу, отделяющую сознательное и логическое мышление от бессознательного, с береговой линией в шторм. Эта аналогия полезна и здесь, так как мужество, необходимое для исследования опасного побережья, подобно мужеству, которым необходимо обладать для изучения собственного подсознания, чтобы впустить в свое сердце и в свой мозг вынесенное океаном подсознания на берег и чтобы без страха продолжать исследование. Ведь подсознание может принести не только проявление творческих сил, не только жемчужины, требующие лишь шлифовки перед включением в структуры, о которых можно затем говорить с гордостью, но и самые мрачные истины о вашей внутренней сущности. Все это тоже должно быть изучено, понято и каким-то образом включено в вашу жизнь.

Если преподаватель или кто бы то ни было должен служить людям примером целостной личности, то прежде всего ему следует стремиться быть целостной личностью. Не имея мужества противостоять внутреннему миру, как и внешнему, достичь подобной целостности невозможно. Одно инструментальное мышление не в состоянии дать этого. И именно в этом заключается решающее различие между человеком и машиной: человек, чтобы обрести целостность, должен непрестанно исследовать свои внутренние и внешние реальности. Его жизнь исполнена риска, но риска, на который он имеет мужество идти, потому что, будучи исследователем, он учится верить в свои возможности терпеть и преодолевать. Какие значения можно вкладывать в понятия риска, мужества, веры, стойкости и преодоления, говоря о машинах?