Подстройка по ценностям — Психологос
Фильм «Статский советник»
Возможно, у кого-то прекрасно идет вчувствование, и такие естественные точные подстройки по телу, ритму и дыханию, которые сами собой делает он, для вас мечта недосягаемая. Кто-то, предположим, с развитым слухом практикует богатейшую подстройку по голосу, ритму — и, автоматически, по дыханию, а вы так не можете (пока).А для вас, возможно, оптимальным вариантом будет подстройка по ценностям, тем более что хорошо выполненная подстройка по ценностям настраивает вас в тон собеседнику, почти автоматически делает похожим и внутренний ритм, и настроение, а за ними сами подстраиваются и голос, и дыхание, а, значит, и тело.
Ценности — это то, в безусловную важность чего человек верит, ради чего он живет, к чему стремится и чем руководствуется в своих выборах. Люди с похожими личными ценностями при прочих равных симпатизируют друг другу. Похожесть личных ценностей, совпадение главных жизненных ценностей укрепляет взаимоотношения людей, расхождение или конфликт ценностей ставит взаимоотношения под угрозу.
Иногда ценностные ориентиры человека можно выразить одним или двумя характерными словами, чаще — это довольно широкий круг убеждений в обрамлении определенной философии и обеспеченный соответствующей технологией жизни. Образно это выглядит как паровозик, где за словами-лидерами (метками, ярлычками ценности) тянется хвост слов и понятий, частотно (вероятностно) с ними связанных: ценностный круг человека.
Ценности человека не есть что-то для него отдельное и чужое, это часть его жизни и души, и если вы наезжаете на его ценности, вы наезжаете лично на него. Воспитанные люди уважают ценности другого человека и без нужды их не задевают. Ни высмеиваний, ни возражений ценностным убеждениям человека без настоятельной необходимости допускать нельзя. Возражения, тем более «прямо сразу», ценностей человека не изменят, но поставят вас по разные стороны баррикад. Его ценности могут вам казаться абсолютно безосновательными глупостями, но лучшее, что вы можете сделать — это оставить их такими, как есть, и продемонстрировать к ним уважение.
Как понять и услышать, что нечто является для человека — ценностью? Смотрите и слушайте. При произнесении своих ценностных флагов человек, как правило, широко открывает свои выразительные глаза, если же это для данного типажа не характерно, слушайте интонации: любимые «фишки» всегда выделяются паузами или интонационно. Задавайте ценностно-ориентированные вопросы. Бывает достаточно нескольких, может быть вскользь, вопросов «зачем?» и «с какой целью?», чтобы вы услышали ключевые слова, ярлычки ценностей партнера. Зная ключевые слова, обычно несложно «вычислить» и связанный с ним традиционный ценностный круг. Имея некоторый опыт, можно с высокой вероятностью прогнозировать смысловую цепочку, тянущуюся за ценностным словом-лидером.
Умные люди для более эффективного общения осуществляют подстройку по ценностям. Говоря о то, что человеку важно, нужно по возможности говорить на том же языке, что и ваш партнер. Тогда с кем-то ключевыми словами окажутся «финансы», «порядок» и «порядочность», а с кем-то «круто», «кайф» и «прикол».
Ценности партнера — это не то, что вам противостоит, это то, чем вы можете с большим удобством пользоваться. Если вы хотите, чтобы ваши суждения имели больший вес, привязывайте их к ценностям партнера, ставьте на них свои соображения, обосновывайте ими свои идеи.
НЛП: Раппорт, подстройка
Автор: Михаил Антончик
Как вызывать доверие и достигать понимания в общении с людьми.
Объясняю по-русски.
Этот материал можно использовать как в познавательных целях, так и в целях обучения.
Взаимоотношения между людьми, основываются на отработанных веками психологических механизмах, знание которых позволяет управлять процессом.
Вы начали общаться с другим человеком.
Его отношение к вам и к тому, что вы говорите, можно описать двумя группами критериев:
Доверие.
Внимание.
Согласие.
Открытость.
Готовность учиться.
Удивление.
Радость.
Принятие.
Сомнение.
Отвлечённость.
Спор.
Скрытость.
Желание научить.
Презрение.
Опасение.
Отторжение.
Очевидно, мы хотим общаться с людьми, которые соответствуют первой категории.
Иногда, нам встречаются они, иногда другие.
До изучения НЛП мы говорили в обоих случаях примерно так — ну, такой он человек, что поделать/и это прекрасно.
Другими словами, мы думали, что его отношение к нам зависит от каких-то обстоятельств в окружающем мире, и мы на это почти не влияем.
Попался нам клиент из второй категории — он такой, что поделать.
Или вот, был человек всегда в общении с нами из первой категории, а сегодня как-то больше перешёл во вторую. Ну, видимо, у него такой день.
Мы не управляли этим никак. Хотя я не настаиваю.
Позволим себе маленькое отступление в нейрофизиологию.
Наш мозг просто усыпан особыми клетками, которые называются — зеркальные нейроны.
Что же они зеркалят?
Учёные выяснили, что эти нейроны начали появляться у обезьян в то время, когда они начали использовать простейшие орудия труда.
Например, камень, которым можно колоть орехи.
В отличие от способности лазить по деревьям, передвигаться, хватать фрукты, отчищать их и есть, прятаться от хищников, кормить детёныша — орудовать камнем не является врождённым навыком, которым пользовались сотни поколений предков.
Для того, чтобы научиться этому у другого, надо в точности повторить его поведение.
И тут на выручку приходят зеркальные нейроны. Они позволяют копировать поведение в процессе обучения.
Сегодня у зеркальных нейронов человека есть ещё две функции:
Сопереживание — это способность чувствовать то, что происходит с другим человеком.
Когда близкий человек расстроен, вы это не только понимаете, но и в некоторых случаях чувствуете расстройство.
Угадывание намерения — это способность по некоторым элементам поведения понять, что дальше будет делать человек.
Если он рядом с кучей дров, схватил топор — скорее всего, будет рубить.
Таким образом, работа зеркальных нейронов связана с обучением, копированием и пониманием другого человека.
Ещё важно сказать, что большая часть этих нейронов отключена, иначе мы бесконтрольно будем чувствовать всё время то, что чувствуют окружающие, и повторять за ними. Значит, зеркальные нейроны могут включаться и выключаться.
Теперь вернёмся к нашим знакомым из двух колонок.
У каждого человека есть уникальная модель мира.
Это свод правил и законов этого мира, с которыми человек согласен и верит в их истинность.
В НЛП это называется карта.
В карте есть всё, что мы знаем и думаем о себе, других людях и мире, в котором живём.
Карта одного человека сильно отличается от карты другого. Но есть в них и сходства.
Один из них любит гулять в пасмурную погоду, другой не любит.
Но оба верят в жизнь на Марсе.
Оказывается, если мы начинаем общение с человеком, и в первые минуты мы так или иначе предъявляем друг-другу схожие участки карты, то наши состояния начинают стремиться к критериям из первой категории.
Если же мы увидели различия — появляются элементы второй.
Комплекс состояний и условий восприятия, описанный в первой колонке — называется Раппорт.
Опытные психотерапевты интуитивно пришли к тому, что рассчитывать на случайность не стоит, и в общении с клиентом стали демонстрировать сходства в картах.
И это вызывало раппорт.
Наблюдая за ними, создатели НЛП заметили эту хитрость и тщательно изучили этот процесс.
Процесс намеренной демонстрации схожести с собеседником — назвали подстройкой.
Если подстроиться к собеседнику — наступит раппорт, и он начнёт доверять нам, станет соглашаться, принимать в дальнейшем какие-то наши идеи, даже если раньше отрицал их.
Он начнёт проявлять к нам и нашим идеям интерес, его будут удивлять и радовать вещи, которые мы ему сообщаем, и он будет готов расширить свою карту — научиться у нас чему-то.
У вас есть случаи в прошлом, когда вы от доверенного человека услышали что-то вроде — на самом деле … И после этого стали верить, что это так.
Дело в том, что все процессы в нашем мозге двунаправленны.
Если нам весело, мы улыбаемся.
Если мы специально будем улыбаться, через некоторое время нам станет весело.
Этой хитростью и пользуются профессионалы.
Если человек учится у нас, и его зеркальные нейроны активны по отношению к нам — он нас копирует.
Если мы копируем человека, то для его подсознания нет разницы, мы его копируем или он нас. Есть факт сходства, который становится причиной запуска зеркальных нейронов и всех связанных с этим событий. Возникает раппорт.
Прекрасная новость. Осталось разобраться с тем, как можно подстраиваться, и мы на коне. В общении с любым собеседником, его состояние доверия или недоверия, зависит теперь от нашего поведения.
Подстраиваться можно к поведению, а можно к речи. Рассмотрим основные виды подстройки.
Подстройка к положению тела.
Если ваш собеседник сидит, скрестив ноги, и вы тоже скрещиваете ноги — это подстройка.
Делать это надо незаметно. Поэтому даю рекомендацию.
Меняйте положение тела в тот момент, когда начинаете говорить.
Это выглядит естественно. Появилась словесная активность, появилась и активность в теле.
Если он стоит, рука опирается на стол, сделайте также, и это будет подстройкой.
Подстройка к голосу.
Подстраиваться можно к скорости, громкости и высоте.
Наиболее важной для подстройки является скорость голоса. И управлять ей проще, чем высотой.
Дело в том, что наша речь — это перевод мозгом внутренних образов, звуков и чувств в слова. Каждый человек осуществляет этот процесс со своей привычной скоростью. Кто-то быстрее, кто-то медленнее. И отражается это в скорости голоса.
Если вы говорите с человеком быстрее, он не успевает переводить ваши слова в образы, звуки и чувства. Если вы говорите медленней, его напрягает излишнее ожидание информации. И если вы говорите с его скоростью, вы не только демонстрируете его подсознанию сходство, чем подстраиваетесь, вы ещё и облегчаете процесс его понимания, что вызывает позитивные эмоции.
Более того, быстрый голос автоматически становится громче, а медленный тише, что обеспечивает подстройку к громкости.
Если голос быстрый, сядьте ровно или откиньтесь на спинку стула, если медленный — упритесь локтями в бедра. Так будет легче управлять скоростью.
Подстройка к системам восприятия.
Эта подстройка требует развития навыка, переключения в одну из систем восприятия.
Визуальную, аудиальную или чувственную.
Если ваш собеседник говорит — обратите внимание, какая чёткая идея.
Я вижу, мы с вами договоримся — он явно предпочитает больше черпать информации из визуальной системы. И если мы умеем переключиться в визуальное восприятие и передачу информации визуальной речью — мы подстраиваемся.
Или он говорит — я чувствую, что это весомый аргумент. Нам надо попробовать поработать вместе — это чувственная речь.
Важно не начать использовать в речи слова из другой системы, важно самому переключиться в состояние такого восприятия мира.
Подстройка к убеждениям.
Когда человек говорит — гречневая каша — это не вкусно. Он высказывает убеждение.
Если мы согласимся с ним — это будет подстройка.
Немного ниже я опишу, как можно по-разному выражать согласие.
— Погода сегодня так себе.
— Согласен.
Старайтесь при этом вести себя так, как если бы вы честно были согласны с собеседником. И в эмоциях, и в голосовой игре.
Подстройка к целям.
Когда человек заявляет о том, что он чего-то хочет или желает, мы можем одобрить это, и тогда мы подстроимся.
— Хочу дом на берегу моря!
— Прекрасное желание, могу представить, какое это удовольствие так жить.
Важно показать не то, что вам нравится эта цель, а что вы её тоже хотите.
Подстройка к проблеме.
Если собеседник рассказывает о своих проблемах, и мы разделяем то, что это проблема, что это действительно неприятно или плохо — мы подстраиваемся.
— В последний месяц стало меньше клиентов…
— Это, безусловно, проблема. Я и сам в таких ситуациях бывал и понимаю вас.
Не используйте только такую подстройку как — прекрасно, хорошо.
Подстройка к возражениям.
Бывает, что человек высказывает несогласие с нашими идеями или предложениями.
Мы, конечно, можем ему доказать свою правоту, но перед этим стоит согласиться, тогда мы подстроимся.
— Мне кажется, что как вы тут рассказали, у нас не получится.
— Я бы на вашем месте также отреагировал. Прекрасно вас понимаю.
Реакцией после подстройки обычно следует аргумент, разбивающий это возражение.
— Но у меня прекрасный опыт, который подсказывает, что со мной у вас получится всё.
Подстройка к хобби и увлечениям.
Люди коллекционируют марки, увлекаются спортом, вяжут крестиком или гуляют по парку каждый день.
Если у человека есть хобби и у нас есть такое же, мы подстроимся, заявив об этом.
— Прогуливаться каждый день по часу в парке — это прекрасно!
— Кто бы сомневался. Естественно это так.
Если вы не разбираетесь хорошо в вопросе — не стоит говорить, что вы занимаетесь тем же.
После минуты разговора об этом вы начнёте теряться от нехватки информации.
Подстройка к ценностям.
Семья, дружба, любовь, саморазвитие, самореализация, общение, комфорт, здоровье — это наши ценности.
Некоторые для нас в определённый период жизни более важны, некоторые менее.
Если нам удалось выявить важные ценности собеседника, мы можем показать, что и нам это важно. И это будет мощная подстройка.
— Я бы продолжил с вами беседовать, да надо за ребёнком в сад ехать.
— Дети, несмотря на все сложности, какое это счастье!
Выявление приоритетных ценностей, процесс не на 2 фразы. Человек может сообщить о наличии детей, но надо ещё узнать, как он к этому факту относится.
Важно понимать, что подстройка не должна выводить вас из комфортного состояния.
Иначе вы всё испортите, в том числе своё настроение и результат общения.
Если у собеседника так скручены ноги, как вы можете их скрутить только на занятиях по йоге, делать этого не стоит.
На то у нас и есть целый арсенал подстроек, что бы выбрать те из них, которые проще всего будет воспроизвести.
Не получается по голосу, подстраивайтесь по убеждениям и положению тела.
ТТеперь о том, какие существуют способы речевой подстройки, которую мы используем с пунктах 4–9
Позитивные оценки.
Хорошо, отлично, прекрасно, верно, здорово, великолепно, да, правильно, точно, …
— Мы уже работаем с аналогичной компанией.
— Прекрасно. Давайте я вам расскажу, что уникального можем предложить мы.
Переход в позицию собеседника.
Я вас понимаю, согласен, на вашем месте я бы думал/говорил/чувствовал/делал тоже самое.
— Это дорого.
— Согласен. И я вам сейчас объясню — почему.
Аналогичная ситуация.
Общая идея в следующем — со мной такое происходило.
— Так меня сегодня достали звонками по рекламе.
— О, у меня недавно была такая ситуация. 5 раз за один день в офис приходили от разных компаний и предлагали страховку.
Важно, что в этой стратегии подстройки мы действительно выбираем похожую ситуацию, а не такую же точно.
Если ему звонили, к нам приходили. Если у него реклама, у нас страховка.
Повтор.
Мы повторяем ключевую фразу, которую сказал человек.
— Это дорого!
— Это дорого… [задумчиво, как если бы это случайно вырвался наружу внутренний диалог]
либо
— Мне не нравится внешний вид.
— Таак, вам не нравится внешний вид… [интонация констатации факта, как если бы сам себе напоминал]
Конечно, способов подстроиться в нлп больше.
Можно подстроиться к эмоциональному состоянию, правда, не со всеми эмоциями — это просто отзеркаливание. Можно к мета-программам, можно к архетипу, можно к высоте и громкости голоса, к привычным стратегиям, к телесным сигналам, к окружению, к лидеру группы…
Но, когда в ходе тренировок вы сможете переключиться в состояние мастера айкидо, который сначала реагирует принятием на каждый шаг оппонента, а потом использует его поведение для выполнения приема.
Вы будете ощущать желание согласиться с человеком и услышать абсолютно всё, что он скажет.
Вы почувствуете благодарность за то, что он не молчит, а даёт вам материал для воздействия на себя.
Когда это начнёт происходить с вами, выше описанных приёмов хватит с избытком, для установления раппорта.
Подстройка основывается на идее, что карта — это не территория.
Что восприятие каждого из нас может отличаться от восприятия другого, и эта разница в восприятии не указывает на правильное или неправильное.
Оба человека по-своему успешно играют по жизни, но у них во многом различаются карты.
Когда мы так думаем об окружающих, мы уважаем их мысли, идеи и стратегии.
И просто не можем сказать — нет, когда они говорят что-то, что выходит за границы нашей карты.
Мы говорим — прекрасно!
А потом уже, когда раппорт установлен, уносим человека в другую реальность.
Желаю вам успехов в освоении стратегий гениев на практике.
Михаил Антончик, тренер Института Современного НЛП
Как привести искусственный интеллект в соответствие с человеческими ценностями?
Щелкните здесь, чтобы просмотреть эту страницу на других языках: Китайский Немецкий Японский Русский
Грядут серьезные перемены в неизвестные сроки, но в каждом сегменте общества, и люди, участвующие в этом переходе, несут огромную ответственность и возможность сформировать его в лучшую сторону.
Что вызовет это изменение? Искусственный интеллект.
Недавно некоторые ведущие специалисты в области искусственного интеллекта (ИИ) и смежных областях собрались вместе, чтобы обсудить, как мы можем обеспечить сохранение преимуществ ИИ на протяжении всего этого перехода, и результатом стал документ Asilomar AI Principles. Цель этих 23 принципов — предложить основу, которая поможет искусственному интеллекту принести пользу как можно большему количеству людей. Но, как сказал о Принципах эксперт по искусственному интеллекту Тоби Уолш: «Конечно, это только начало… работа в процессе».
Принципы представляют собой начало разговора, и теперь, когда разговор уже начался, нам нужно продолжить широкое обсуждение каждого отдельного принципа. Принципы будут означать разные вещи для разных людей, и чтобы принести пользу обществу как можно больше, нам нужно думать о каждом принципе в отдельности.
В рамках этой работы я взял интервью у многих исследователей ИИ, подписавших документ «Принципы», чтобы узнать их мнение о том, почему они подписали его, и какие вопросы все еще стоят перед нами.
Согласование ценностей
Сегодня мы начнем с принципа согласования ценностей.
Согласование ценностей: Высокоавтономные системы искусственного интеллекта должны быть спроектированы таким образом, чтобы их цели и поведение соответствовали человеческим ценностям на протяжении всей их работы.
Стюарт Рассел, принимавший участие в разработке идеи согласования ценностей, любит сравнивать это с историей царя Мидаса. Когда царь Мидас попросил, чтобы все, к чему он прикасался, превращалось в золото, он просто хотел разбогатеть. На самом деле он не хотел, чтобы его еда и близкие превращались в золото. Мы сталкиваемся с похожей ситуацией с искусственным интеллектом: как мы можем гарантировать, что ИИ будет делать то, что мы действительно хотим, не причиняя вреда людям в ошибочной попытке выполнить то, что запросил его создатель?
«Роботы не будут пытаться восстать против человечества, — объясняет Анка Драган, доцент и коллега Рассела из Калифорнийского университета в Беркли, — они просто попытаются оптимизировать все, что мы им прикажем.
Поэтому нам нужно обязательно сказать им, чтобы они оптимизировали мир, который нам действительно нужен».
Чего мы хотим?
Понимание того, чего «мы» хотим, является одной из самых больших проблем, стоящих перед исследователями ИИ.
«Вопрос, конечно, в том, чтобы определить, что именно представляют собой эти ценности, потому что у людей могут быть разные культуры, разные части мира, разное социально-экономическое происхождение — я думаю, что у людей будут очень разные мнения об этих ценностях. И это действительно сложная задача», — говорит Стефано Эрмон, доцент Стэнфордского университета.
Роман Ямпольский, доцент Университета Луисвилля, согласен. Он объясняет: «Очень сложно закодировать человеческие ценности в языке программирования, но проблема усложняется тем фактом, что мы, как человечество, не согласны с общими ценностями, и даже некоторые части, которые мы согласны, меняются со временем».
И хотя с некоторыми ценностями трудно прийти к единому мнению, существует множество значений, с которыми мы все неявно соглашаемся.
Как отмечает Рассел, любой человек понимает эмоциональные и сентиментальные ценности, с которыми он общался, но трудно гарантировать, что робот будет запрограммирован с таким же пониманием.
Но научный сотрудник IBM Франческа Росси полна надежд. Как отмечает Росси, «можно провести научное исследование, чтобы действительно понять, как перейти от этих ценностей, с которыми мы все согласны, к внедрению их в систему ИИ, которая работает с людьми».
Исследование Драгана подходит к проблеме с другой стороны. Вместо того, чтобы пытаться понять людей, она пытается обучить робота или ИИ гибкости в достижении своих целей при взаимодействии с людьми. «В Беркли, — объясняет она, — мы считаем, что для агентов важно иметь неуверенность в своих целях, а не предполагать, что они точно определены, и относиться к человеческому вкладу как к ценным наблюдениям об истинной основной желаемой цели».
Переписать принцип?
Хотя большинство исследователей согласны с основной идеей Принципа выравнивания ценностей, не все согласны с его формулировкой, не говоря уже о том, как его применять.
Йошуа Бенжио, пионер искусственного интеллекта и профессор Монреальского университета, предполагает, что слово «уверенный» может быть слишком сильным. Он объясняет: «Возможно, невозможно полностью выровняться. Есть много врожденных вещей, которые мы не сможем получить с помощью машинного обучения, и которые может быть трудно получить с помощью философии или самоанализа, поэтому не совсем ясно, сможем ли мы идеально выровняться. Я думаю, что формулировка должна быть примерно такой: «мы сделаем все возможное». В остальном я полностью согласен».
Уолш, который в настоящее время является приглашенным профессором Берлинского технического университета, сомневается в употреблении слова «очень». «Я думаю, что любая автономная система, даже слабо автономная, должна соответствовать человеческим ценностям. Я бы словесно избавился от «кайфа», — говорит он.
Уолш также отмечает, что, хотя согласование ценностей часто считается проблемой, которая возникнет в будущем, он считает, что ее необходимо решать как можно раньше.
«Я думаю, что сегодня мы должны побеспокоиться о соблюдении этого принципа, — объясняет он. «Я думаю, что это поможет решить более сложную проблему согласования ценностей по мере того, как системы становятся все более изощренными.
Росси, который поддерживает принцип выравнивания ценностей как «самый близкий моему сердцу», согласен с тем, что этот принцип должен применяться к современным системам ИИ. «Я бы сказала еще более общее, чем то, что вы написали в этом принципе», — говорит она. «Потому что этот принцип имеет отношение не только к автономным системам искусственного интеллекта, но … очень важен и необходим также для систем, которые тесно взаимодействуют с людьми и где человек принимает окончательное решение. Когда у вас есть человек и машина, тесно работающие вместе, вы хотите, чтобы это была настоящая команда».
Но, как объясняет Драган, «это один шаг к тому, чтобы помочь ИИ понять, что он должен делать, и постоянное уточнение целей должно быть непрерывным процессом между людьми и ИИ».
Да начнётся диалог
А теперь мы переходим к вам. Что для вас значит наличие искусственного интеллекта в соответствии с вашими жизненными целями и стремлениями? Как это может быть согласовано с вами и всеми остальными в мире одновременно? Как мы можем гарантировать, что версия идеального ИИ одного человека не усложнит вам жизнь? Как нам договориться о человеческих ценностях и как мы можем гарантировать, что ИИ понимает эти ценности? Если у вас есть личный ИИ-помощник, как его нужно запрограммировать? Если у нас будет ИИ, более вовлеченный в такие вещи, как медицина, полиция или образование, как это должно выглядеть? О чем еще мы, как общество, должны спрашивать?
Опасности несогласования искусственного интеллекта с человеческими ценностями
В искусственном интеллекте (ИИ) «проблема согласования» относится к проблемам, вызванным тем фактом, что машины просто не имеют тех же ценностей, что и мы. На самом деле, когда дело доходит до ценностей, то на фундаментальном уровне машины не становятся намного более изощренными, чем понимание того, что 1 отличается от 0.
Опасности несогласования искусственного интеллекта с человеческими ценностями
Adobe StockКак общество мы сейчас находимся в точке, когда мы начинаем позволять машинам принимать решения за нас. Так как же мы можем ожидать, что они поймут, что, например, они должны делать это так, чтобы не возникало предрассудков по отношению к людям определенной расы, пола или сексуальной ориентации? Или что погоня за скоростью, или эффективностью, или прибылью должна осуществляться таким образом, чтобы уважать высшую святость человеческой жизни?
Теоретически, если вы скажете беспилотному автомобилю двигаться из пункта А в пункт Б, он может просто разбить свой путь к месту назначения, независимо от автомобилей, пешеходов или зданий, которые он разрушает на своем пути.
Точно так же, как заметил оксфордский философ Ник Бостром, если вы скажете разумной машине делать скрепки, она может в конечном итоге уничтожить весь мир в поисках сырья для изготовления скрепок.
Принцип заключается в том, что он просто не имеет представления о ценности человеческой жизни или материалов или что некоторые вещи слишком ценны, чтобы их можно было превратить в скрепки, если только его этому специально не научат.
Это легло в основу последней книги Брайана Кристиана, Проблема мировоззрения — как ИИ изучает человеческие ценности . Это его третья книга на тему ИИ после его более ранних работ, The Most Human Human и Algorithms to Live By . Мне всегда было приятно читать то, что пишет Кристиан, но в то же время оно очень поучительно, поскольку он не боится увязнуть в компьютерном коде или математике. Но это, конечно, не означает, что он какой-то легкий или неинтеллектуальный.
БОЛЬШЕ ОТ FORFORBES ADVISOR
Скорее, его внимание сосредоточено на социальных, философских и психологических последствиях нашей постоянно растущей способности создавать мыслящие, обучающиеся машины. Во всяком случае, это тот аспект ИИ, где нам нужно, чтобы наши лучшие мыслители сосредоточили свои усилия.
В конце концов, технология уже здесь, и она будет только улучшаться. Что гораздо менее определенно, так это то, достаточно ли само общество созрело и имеет ли оно достаточные гарантии, чтобы максимально использовать удивительные возможности, которые оно предлагает, и в то же время не допустить, чтобы серьезные проблемы, которые оно может принести с собой, стали реальностью.
Недавно я встретился с Кристианом, чтобы обсудить некоторые темы. Работа Кристиана особенно связана с вторжением автоматизированного принятия решений в такие области, как здравоохранение, уголовное правосудие и кредитование, где они явно могут вызвать проблемы, которые могут в конечном итоге повлиять на жизнь людей очень реальным образом.
«Есть одна фундаментальная проблема… история которой восходит к 1960-м годам, и кибернетик из Массачусетского технологического института Норберт Винер сравнил эти системы с историей Ученика чародея», — говорит мне Кристиан.
Большинство людей, читающих это, вероятно, знакомы с мультфильмом Диснея, в котором Микки Маус пытается избавить себя от работы по дому, используя магическое заклинание, чтобы наделить метлу разумом и автономией.
История служит хорошим примером опасности этих качеств, когда они не сопровождаются человеческими ценностями, такими как здравый смысл и суждение.
«Винер утверждал, что это не сказки. Это то, что нас ждет, если мы разработаем эти системы, которые будут достаточно общими и мощными… Я думаю, что мы находимся в моменте в реальном мире, когда мы наполняем мир этими метлами, и это станет реальная проблема».
Один случай, который Кристиан использует, чтобы проиллюстрировать, как это смещение может проявляться в реальном мире, — это первое зарегистрированное убийство пешехода в результате столкновения с участием беспилотного автомобиля. Это была смерть Элейн Херцберг в Аризоне, США, в 2018 году. ИИ, управляющий автомобилем, не знал о концепции перехода улицы в неположенном месте. Совершенно не готов иметь дело с человеком, находящимся посреди дороги, где его быть не должно.
Кроме того, система была обучена жесткому сегментированию объектов на дороге по ряду категорий, таких как другие автомобили, грузовики, велосипедисты и пешеходы.
Человек, толкающий велосипед, не подходил ни к одной из этих категорий и не вел себя так, как можно было бы ожидать ни от одной из них.
«Это полезный способ подумать о том, как в реальных системах могут возникнуть сбои, — говорит Кристиан. — Это зависит от двух факторов: во-первых, от качества обучающих данных. Отражают ли данные в основном реальность? И оказывается, нет — ключевого понятия, называемого переходом улицы, которого не было».
Второй фактор — это наша собственная способность математически определить, что должна делать система, такая как автономный автомобиль, когда сталкивается с проблемой, требующей ответа.
«В реальном мире не имеет значения, велосипедист это или пешеход, потому что вы хотите избежать их в любом случае. Это пример того, как довольно интуитивный дизайн системы может пойти не так». обучение с подкреплением и имитационное обучение.Оказывается, что каждый из них представляет свои собственные проблемы, когда речь идет о согласовании ценностей и поведения машин с людьми, которые используют их для решения проблем.
Иногда причиной проблем является тот факт, что машинное обучение пытается воспроизвести человеческое обучение. Это может быть тот случай, когда ошибки в данных означают, что ИИ сталкивается с ситуациями или поведением, с которыми человеческий мозг никогда бы не столкнулся в реальной жизни. Это означает, что точки отсчета нет, и машина, вероятно, будет продолжать делать все больше и больше ошибок в серии «каскадных отказов».
При обучении с подкреплением, которое включает обучение машин для максимизации их шансов на получение вознаграждения за принятие правильного решения, машины могут быстро научиться «играть» с системой, что приводит к результатам, не связанным с желаемыми. Здесь Кристиан использует пример попытки главы Google X Астро Теллера стимулировать футбольных роботов к победе в матчах. Он разработал систему, которая вознаграждает роботов каждый раз, когда они овладевают мячом — на первый взгляд, действие, которое, кажется, способствует победе в матче. Однако машины быстро научились просто подходить к мячу и многократно касаться его.