Мы привыкли к тому, что язык является ведущим средством передачи мысли. Но какую роль язык играет сегодня, когда искусственный интеллект проникает во все сферы жизни и предлагает нам готовые решения, а ученые работают над реализацией прямой связи «мозг-компьютер», позволяющей людям передавать мысли напрямую, без использования письменного или разговорного языка? Какие функции языка остаются незаменимыми и приобретают особое значение в цифровую эпоху? Эту проблему в своей диссертации иccледовая аспирант Кембриджского университета Павел Шопин. Предлагаем вам перевод фрагмента* его работы.
В цифровую эпоху исключительно важно понять роль языка в нашем обществе и исследовать те возможности, которые создают для него новые технологии. Некоторые нейробиологи и философы утверждают, что язык потерял своё уникальное значение и больше не является единственным средством для передачи мысли.
В аналитической философии любой смысл можно выразить посредством языка. Джон Сёрл в своей книге «Выражение и смысл» называет такую идею «принципом выразимости». Согласно этому принципу, все, что подразумевается, может быть сказано, любая осмысленная идея может быть облачена в слово. «Границы моего языка, — говорит Людвиг Витгенштейн в «Логико-философском трактате», — означают также границы моего мира».
Вне замкнутого пространства логического позитивизма существование границ естественного языка, его небезграничные возможности, давно были признаны как в искусстве, так и в науке. Психология и лингвистика допускают, что язык – несовершенное средство коммуникации. Как известно, многие наши мысли могут быть выражены невербально, и только некоторая их часть находит своё воплощение в языке. Примечательно, что языку часто не удаётся выразить конкретный опыт, порождаемый искусством, он также не способен точно отразить суть абстрактной мысли, присущей научному сознанию. Язык – проводник наших мыслей и чувств, который не лишён недостатков.
В области искусственного интеллекта то, как работает машина, часто необъяснимо даже для экспертов. В своём эссе «Останется ли искусственный интеллект навсегда загадкой?» Аарон Борнштейн, нейробиолог Принстонского университета, рассматривает проблему в свете изучения искусственных нейронных сетей (комплекса программ, построенных по принципу функционирования биологических нейронных сетей живого организма): «никто не знает, как именно они функционируют. Поэтому никто не может предугадать момент, когда они могут выйти из строя». Это представляет опасность для человека в случае, если, например, доктор, оценивая состояние пациента и определяя возможность развития у него осложнений, полагается исключительно на эту технологию.
Борнштейн говорит, что иногда организации выбирают менее эффективные, но более понятные, прозрачные инструменты для анализа данных; сегодня «даже правительства начинают выражать свою озабоченность возрастающим влиянием предсказаний этих загадочных нейронных оракулов». Борнштейн считает, что требование интерпретации алгоритма их действий может быть рассмотрено как ещё одно ограничение, препятствующее «чистому» решению поставленных задач: когда машина выводит значение только из начальных данных, вводимых в систему. Все остальное может исказить точность результата. Человеческий разум ограничивает искусственный интеллект.
Рёта Канай, нейробиолог и генеральный директор токийского стартапа Araya, убежден, что сложность в первую очередь заключается в распознавании, каким образом машинный интеллект производит решения, а уже потом, как он переводит этот процесс на язык, понятный человеку. В этой связи Канай и его коллеги пытаются обеспечить нейронные сети метакогницией (языком, который бы объяснял процессы, происходящие в системе),чтобы машина сама могла сообщать о состоянии своей внутренней системы.
Цель нейробиолога – дать голос машине:
«Мы хотим, чтобы эти системы объясняли, как и почему они делают то, что они делают». Такая форма коммуникации должна быть разработана машинами самостоятельно.
Получая подобную ответную реакцию, учёные смогут дать обществу ответ, почему машинный интеллект принял именно это решение, а не другое. Что касается человеческого языка, Канай говорит, что он станет дополнительной сложностью в процессе обучения автоматизированной информационной системы (АИС) выражать себя. (Это, между прочим, предполагает, что у компьютерной модели есть «самость»). Язык – вызов искусственному интеллекту.
Элон Маск поддерживает эту идею. Он заявляет, что отношения «человек-машина» следует вывести на более высокий уровень: установить прямую связь «мозг-компьютер». Он основал компанию Neuralink, которая планирует подключать людей к системе, с помощью которой они смогут обмениваться мыслями, не тратя своё время и энергию на словесность. Как этот процесс описывает в своём эссе Кристофер Марку, аспирант факультета права Кембриджского университета, «это сделает нас способными обмениваться мыслями, страхами, надеждами и желаниями не прибегая к письменному или разговорному языку».
С точки зрения гуманитарных наук, проект Маска предлагает нечто жуткое: вместо того чтобы улучшать вербальную коммуникацию, Маск предлагает отказаться от неё, как от неполноценного средства социального взаимодействия. В общем и целом, люди поддерживают совершенствование коммуникационных сетей, разработанных для передачи естественного языка, но сейчас им предлагают утопическую модель будущей технотелепатии и невыносимую безысходность настоящего, в котором язык – препятствие для сотрудничества. Парадоксально и обнадеживающе, подобная критика языка успешно ведется на том же естественном языке, от которого эксперты хотят отказаться.
В своём эссе «Проблема Кекуле» американский писатель Кормак Маккарти рассматривает происхождение языка и скептически относится к его роли в формировании сознания:
«В целом проблемы хорошо формулируются с помощью языковых выражений, и язык остаётся удобным инструментом для их объяснения. Но реальный процесс мышления – безотносительно к какой-либо отрасли знания – в значительной степени процесс бессознательный».
Он определяет бессознательное как «механизм управления животным».
Маккарти рассматривает язык как относительно новое изобретение и сравнивает его с вирусом, который стремительно распространился среди людей тысячелетия назад. Его взгляд на язык неадекватен по ряду причин. Во-первых, язык – это человеческая способность, развившаяся в процессе постепенной эволюции коммуникации. Трудно вообразить себе, что причиной его появления был «вирус» или неожиданное измышление, чье-то уникальное изобретение. Во-вторых, для того, чтобы быть невербальной, мысль не обязательно должна быть бессознательной. Наконец, современные проблемы чрезвычайно сложно сформулировать и объяснить с помощью естественного языка.
В то время как язык, вероятно, не самое совершенное средство выражения мыслей, это наиболее эффективное средство коммуникации, создавшее современные общества, социальные институты, государства и культуры. Ресурсы языка позволяют нам установить общественные отношения и сконструировать новые формы сотрудничества. Это надёжная и высоко оптимизированная форма коммуникации, развившаяся в результате постепенных изменений. На протяжении тысячелетий язык был инструментом социального взаимодействия. Это социальное взаимодействие подвергается серьёзной опасности (авторитарность, изоляционизм, конфликты…), потому что субъективный опыт (подумайте о пределах эмпатии, когда речь заходит об эмигрантах) и знания (сложность проблемы глобального потепления), которые запечатлены в искусстве и науке, вышли далеко за рамки выразительной способности языка.
Человечество зависит от способности языка выражать сложные новые идеи и таким образом интегрировать их в культуру. Если люди не смогут осознать и начать обсуждать возникающие глобальные проблемы, они не смогут согласованно их решать. Роберт Бертон, бывший заместитель директора отдела нейронаук в Медицинском центре Калифорнийского университета в Сан-Франциско, подчёркивает сложность этой проблемы в своём эссе «Наш мир умнее нас», опубликованной в журнале Aeon. Отдельный человек не способен остановить изменение климата или предотвратить возрастающее неравенство распределения доходов. Эти цели могут быть достигнуты только совместными усилиями. Для сотрудничества людям нужен язык.
Искусство дает понять, что субъективные переживания не всегда могут быть переданы языком. Художники вынуждены справляться с ограниченностью выразительности языка. Ученые в свою очередь понимают, что язык является элементарным орудием, неадекватным для передачи абстрактных идей. Наука испытывает пределы абстрактного мышления; как и искусство, она не удовлетворена вербальной коммуникацией. Чтобы получить знание, ученые часто отказываются от естественного языка. Чтобы добиться желаемого эстетического эффекта, художники прибегают к его отчуждению.
В удачно названном эссе «Наука переросла человеческий разум и его ограниченные способности» Ахмед Альхатиб, молекулярный биолог из Медицинской школы Гарварда, говорит, что в эпоху больших данных человеческий разум просто не в состоянии совершить такое количество операций, которые легко даются машине. Но проблема заключается в том, что именно язык является тем инструментом, который используется обществом для накопления знаний и утверждения красоты.
Отказ от языка изолирует искусство и науку. Они становятся недоступными для всего человеческого сообщества. Без языка искусство и наука теряют культурное значение и политическое влияние: искусство не трогает сердца людей, науке труднее просвещать общество. Когда искусство и наука находятся на периферии, общество становится беззащитным перед сложными вызовами и подрывает свои культурные гаранты. Сегодняшним доминирующим нарративом стал прогресс науки и демократизация искусства, но глобальные проблемы требуют еще более активного участия человечества в решении научных, моральных и эстетических дилемм. Язык – один из ключевых инструментов, способных осуществить это стремление.
Важно установить равновесие между расширением границ языка и использованием его в качестве инструмента общения и сотрудничества. Художникам и учёным исключительно важно обладать умением выражать на языке даже самые сложные идеи, иначе они не будут восприняты обществом. В эссе «Чтобы решить проблему климата, рассказывайте истории лучше» Майкл Сигал, главный редактор Nautilus, утверждает, что для того, чтобы стать частью культуры, науке нужны нарративы. Нарративы могут помочь человечеству в решении глобальных проблем. В научно-популярной статье «Смотрители Земли» Керри Арнольд раскрывает данный потенциал нарративов, когда она делает обзор исследований о том, как коренные народы сочиняют мифы, содержащие предзнаменования природных катастроф. Сегодня люди могут составлять подобные тексты на основе экспертных знаний о мире. Язык – лучшее средство для решения этой задачи.
Так, Тимоти Снайдер, профессор истории Йельского университета, в своей книге «О тирании: двадцать уроков ХХ века», вошедшей в список бестселлеров Нью-Йорк Таймс 2017 года, рассматривая историю двадцатого столетия, делает выводы о причинах, приведших к росту авторитарных режимов. От общего он переходит к частному, к конкретному человеку, поясняя, что каждый из нас должен позаботиться о сохранении мира в современном обществе. Он просит читателей взять на себя ответственность за состояние общества, защищать институты, помнить о профессиональной этике, верить в правду, бороться с проявлениями тирании. Язык его книги убедительный и ясный. Такой нарратив может помочь решить сложные социальные проблемы, в том числе и проблемы охраны окружающей среды, используя категории языка, доступные для понимания каждого.
В конечном итоге искусство и наука создают критически необходимые знания и бесценный опыт, но зачастую не могут отразить их в языке. Как сказал Витгенштейн, «о чем нельзя говорить, о том нужно молчать». Это молчание может привести к печальным последствиям для человечества. Крайне важно его нарушить. Искусство и наука должны говорить с общественностью и тем самым расширять границы языка и культуры.
