Как развить бредогенератор: Бредогенератор — Психологос

Содержание

Бредогенератор — Психологос

Бредогенератор, как следует из названия, — умение генерировать бред. Зачем это надо? В стратегии Уолта Диснея это прекрасное умение, позволяющее вашему внутреннему Мечтателю наработать максимум материала, который позже обработают ваши внутренние Реалист и Критик. А в пикапе с помощью бредогенератора можно решить проблему типа «о чём говорить с девушкой» или «чем заполнить паузы в разговоре». В общении с девушками это устройство проявляет себя как асфальтоукладочный каток без тормозов, который едет вниз с горы Арарат. С помощью бредогенератора можно разговаривать с любой девушкой на любые темы, особенно не задумываясь о связности и последовательности текста. Основная задача бредогенератора, как ни странно, состоит в генерировании бреда, или выдачи огромного количества слов в минимальное время.

Сам по себе бредогенератор является естественным человеческим устройством. Он представляет собой развитый механизм ассоциативных переходов по аналогиям, и более ничего.

Именно поэтому этот механизм надо тренировать очень долго – не менее 3-х месяцев. Этапы развития сего замечательного прибора в виде упражнений идут ниже. Самое главное – эти упражнения делать. Самому, с друзьями, с телевизором и котом – не важно. Важно развивать себя.

Авторство понятия Бредогенератор приписывается Ф.О. Богачёву и следующие упражнения по развития бредогенератора взяты из его книги РМЭС.

Упражнение 1: Лингвистические пирамиды

Цель этого упражнения: понять свои особенности мышления, развить навыки обобщения, разобобщения и перехода по аналогиям.

Для начала, расскажу, что же такое это есть – «лингвистические пирамиды». Начнем с того, что оглянемся по сторонам. Первое, на что упал мой взгляд – кружка. Сама по себе кружка является просто кружкой, ничем больше. Однако кружку можно определить в более высокий класс – посуда. Таким образом, мы перешли на 1 класс наверх (обобщили кружку до посуды). С другой стороны, кружка бывает для кофе, чая, полулитровая, алюминиевая, фарфоровая (Разобобщили кружку на различные подвиды кружек).

Это базовая модель лингвистических пирамид – все есть подвидом чего-то и состоит из чего-то. Кроме этого, в пределах одного класса есть аналогичные предметы. То есть, если мы обобщили кружку до посуды, то аналогиями будут тарелки, миски, стаканы и множество других вещей.

Таким образом, можно тренировать навыки обобщения, разобобщения и перехода по аналогиям. Упражнение делается так. Нужно два человека (ты и твой друг). Один из вас – ведущий, другой – ведомый. Ведомый называет любой предмет, на который падает взгляд. Ведущий начинает показывать, что с этим предметом делать – найти ему аналогию, обобщить до более высокого уровня, разобобщить до более низкого. Чтобы делать это молча, очень хорошо подходит такая система знаков: большой палец вверх – обобщение, вниз – разобобщения, вбок – аналогия. Делать упражнение с 1 предметом около 5 минут, стараясь переходить между классами очень быстро, а не путешествовать только вверх-вниз по посуде. Потом вы меняетесь ролями.

Это упражнение еще не развивает бредогенератор. Это упражнение учит ваш мозг быстро находить аналогии, что будет дальше развиваться следующими упражнениями.

Упражнение: Чем ворон похож на стол

Это упражнение ведет свое начало от знаменитой загадки Льюиса Кэрролла. Она звучит так: «Чем ворон похож на стол?». Сам он ответа на загадку так и не дал, и фанаты этого замечательного человека до сих пор находят новые решения, создавая сайты в сети и ища новые решения. Вот так вот и рождаются упражнения по развитию бредогенератора.

Цель упражнения: научиться созданию аналогий по разным классам.

Само упражнение делается просто, прямо как детская игра. Нужно три человека (или один человек и две кучки бумажек). Один человек называет живое создание (ворон), другой человек называет неживой предмет (стол). Третий рассказывает, чем одно похоже на другое. (Ворон похож на стол тем, что такой же черный, может складываться, как крылья и ящики.). После того, как названо сходство, участники меняются ролями. Упражнение делается по 20-30 раз за один день.

Второй, более продвинутый вариант. Один участник называет эмоцию или состояние, другой человек называет первый попавшийся ему на глаза предмет, третий говорит, что у них общего.

После нескольких повторений этого упражнения ты сможешь легко говорить, что общего у души и танка. Это же элементарно: Вертолеты – это души погибших танков! Потом переходи к следующему упражнению.

Упражнение: Продвинутое связывание

Само по себе это упражнение очень похоже на предыдущее. За одним исключением – если в прошлом упражнении ты простраивал одну цепочку аналогий между двумя, на первый взгляд, никак не связанными вещами, то в этом упражнении ты научишься простраивать множественные аналогии. В этом и состоит цель упражнения – умение создавать множественные связи между двумя предметами.

Как делается упражнение. Опять желательно три человека в числе участников. Один человек называет любой предмет, который приходит ему в голову, другой назовет любой предмет, на который падает его взгляд. Третий человек говорит, чем одно похоже на другое. Вроде бы все то же самое, что и в прошлый раз? Конечно же нет. После того, как третий участник создал одну аналогию, остальные участники начинают спрашивать, чем часть предмета (или его функция) похожа на то, что есть в другом предмете и как это связано.

Пример: Чем часы похожи на плеер?

— Они оба могут отсчитывать прошедшее удовольствие, показывая, как много мы получили.

— Классно. А вот это колесико сбоку от часов – в плеере это что?

— Это же элементарно! Колесико служит для установки времени, а в плеере это делают специальные кнопки. Если колесико можно вращать вперед и назад, то в плеере есть две кнопки, которые вращают кассету вперед и назад.

— А вот эта стрелка на часах – в плеере это что?

— Это и в часах и в плеере помогает нам понять, что они показывают. В часах – это стрелка, в плеере – индикатор ленты.

Это упражнение желательно делать раза 2-3 в неделю минут по 15-20, пока ты легко не сможешь объяснить девушке, почему автобус и презерватив представляют собой две стороны одной вселенской медали.

Упражнение: О чем вижу, о том и пою

Цель упражнения: Развитие легкости и ассоциативности в речи.

Упражнение делается в парах. Один человек показывает на любой предмет, который находится в поле зрения. Задача второго – не менее 5 минут рассказывать про этот предмет, его историю, функции и причины его появления на свет. Так же можно затронуть вопрос его жизненной необходимости для сохранения мира во всем мире.

Критерием успешного овладения этим навыком будет получасовой рассказ о предметах в отдельно взятом ночном клубе, где ты оказался первый раз в жизни.

Упражнение: поток сознания

Цель упражнения: умение начинать разговор с любого места на любую тему.

Как упражнение выполняется: нужен только ты и зеркало. Обоих ингредиентов ровно по 1 экземпляру. Потом ты помещаешь себя перед зеркалом и начинаешь думать. Спустя 3 секунды начинаешь озвучивать ВСЕ, что ты думаешь, то есть думать вслух. Спустя 10 минут подобного монолога просто замечай, как это легко и естественно получается.

Это упражнение стоит делать раза 2-3 в неделю минут по 10. Через пару месяцев твой ясный разум затопит берега любого девичьего сознания.

Упражнение: Продолжить тему

Цель: Развитие навыка общения на произвольную тему.

Выполнение (1 вариант): собираются несколько человек, обычно 6. Участников 5 и один ведущий. Первый участник начинает рассказ (монолог) на любую тему, по сигналу ведущего рассказ продолжает другой участник, которого выбрал ведущий. После 5 минут ведущим становится следующий член группы.

После хорошей отработки этого упражнения становится легко разговаривать и поддерживать беседу.

Выполнение (2 вариант): В отличие от предыдущего варианта, тут ты сможешь тренироваться один. Включи телевизор или радио, на любой канал или станцию. Пару минут послушай ведущего, потом выключай и продолжай рассказ, пока не выдохнешься. Потом снова включай и продолжай. Выполнять раз в день по 20 минут, на протяжении месяца.

Упражнение: оранжевое настроение

Цель упражнения: развитие «альтернативного» взгляда на вещи, умение обсуждать происходящее «под другим углом зрения».

В принципе, эти навыки и определяют успешный бредогенератор – умение говорить о привычных вещах непривычным образом.

Выполнение упражнения: нужно 2 человека. Первый человек называет любое существительное, второй называет к этому существительному 5 прилагательных, которые к нему могут подойти, но находятся на грани фола. Фактически, наделяет предмет новыми характеристиками.

Примеры:

Оранжевое настроение
Кислая шляпа
Монотонная тарелка
Звонкие таблетки
Бледная вилка
Хрустящее кресло

Выполнять по 20-30 раз в день на протяжении месяца.

После этого упражнения образуется дополнительный навык – умение генерировать на лету трансовые синестезии.

Упражнение: Решение проблемы

Цель: Развитие начального бредогенератора.

Выполнение: Лучше всего выполнять вдвоем. Ведущий рассказывает максимально подробно о какой-нибудь затруднительной ситуации в своей жизни, решить которую ему на данный момент сложно. Ведомый начинает подсказывать варианты развития событий и решения поставленной задачи. В это время ведущий молчит, это очень важно. Если бы это было все, то было бы скучно. Так вот.

В первый раз для решения проблемы надо воспользоваться абсолютно нереальным предметом или созданием, желательно из другой галактики.

Во второй раз, этот предмет должен помочь с помощью физически невыполнимых действий и неосуществимым способом.

В третий раз к первым двум случаям добавляются описание действий на несуществующем языке. Желательно, чтобы названия этих действий имели вполне понятное звучание, но не имели смысла. Помните, как у Льюиса Кэррола в переводе Дины Орловской:

Варкалось, хливкие шорьки пырялись по наве…

Критерием развитого бредогенератора будет истеричный смех человека, который это слушает.

Упражнение: Альтернативные реальности (базовые)

И тут мы подходим к построению продвинутого бредогенератора, и уже в этом упражнении мы научимся генерировать настоящий бред эталонного качества. Чтобы это упражнение состоялось, потребуется допустить только одну мысль – мы сейчас находимся в альтернативной реальности, которая неуловимым образом похожа на нашу, за одним исключением. Эта реальность состоит не из атомов и молекул, а лампочек. Самых разнообразных лампочек. И все, что мы видим, сделано из лампочек, продуктов их переработки, в специальных лампочкообрабатывающих мастерских и лампочкоперегонных заводах.

И сейчас наступает упражнение. Для этого тебе потребуется друг, к сожалению, они иногда нужны. Твой друг закрывает глаза, и ты начинаешь его водить по комнате, при этом, подводя его руку к любому предмету, объясняешь, каким образом он состоит из лампочек. Потом дальше. И так – 10 минут. Потом вы меняетесь ролями. Результатом упражнения будет являться переход в альтернативную реальность. Разумеется, что кроме лампочек, это может быть абсолютно любая Альтернативная Реальность, состоящая из чего угодно. Хоть из телепузиков и мобильных плакатов.

Еще раз: твоя задача состоит в ясном и логическом связывании того, что человек ощущает, с тем, что ты придумал. Вроде бы все просто, а вроде бы и нет. Пробуй. Я помню, когда я первый раз сам для себя делал это упражнение, я выбрал Реальность Пупырышков. Подвел человека к стене и сказал «Это пупырышек. Просто он настолько большой, что радиус кривизны просто так не измерить». Тут такое началось, словами не передать. Продолжили мы минут только через 10 — и я думаю, что это упражнение доставит вам столько же радости, сколько мне в свое время. В общем, это упражнение нужно проделать раз 5-6 для закрепления навыка и переходить к следующему.

Упражнение: Конструирование альтернативных реальностей

Это упражнение служит вторичным навыком, дополняющим бредогенератор. То есть это упражнение направлено, в первую очередь, на закрепление навыков, развитых многочасовыми потными тренировками (или секундным чтением этой главы по диагонали).

Для этого упражнения тебе потребуется первоначальное состояние Альтернативной Реальности, как, например, после выполнения предыдущего упражнения. И больше ничего. То есть требуется, настоятельно требуется немного измененное состояние сознания.

Выполнение: тебе потребуется только твоя рука. Этой рукой надо касаться любого предмета, перенося его в свою реальность. То есть, если у тебя реальность лампочек, то после того, как ты прикоснешься к любому дереву в своем дворе, тебе нужно будет заметить, как все в этом дереве начинает состоять из лампочек – ветки, листья, кора, корни. После того, как процесс завершится, переходи к другому предмету. Это упражнение делается молча, в одиночестве и минут 15, не меньше. Двух-трех раз на выполнение будет вполне достаточно, и ты почти разовьешь в себе бредогенератор киловатта так на три с полтиной. Завершить этот процесс можно будет с помощью следующего упражнения.

Упражнение: Альтернативные реальности (продвинутые)

После того, как ты научился в альтернативные реальности входить и их конструировать, для полного счастья тебе нужно только одно. Сделать так, чтобы в этой альтернативной реальности появилась хотя бы одна девушка. Вроде бы мелочь какая, мелюзга пузатая, а приятно. В конце концов, не мастурбировать же в этой реальности в гордом одиночестве?

Цель упражнения: создание кокона общения с девушкой, наведение разговорного транса, умение связно и конгруэнтно убеждать в своей точке зрения, свободно простраивать ассоциативные цепочки в разговоре.

Упражнение 1: Лингвистические пирамиды.

Бредогенератор, как следует из названия, — умение генерировать бред. Зачем это надо? Например, в пикапе. С помощью бредогенератора можно решить проблему типа «о чём говорить с девушкой» или чем «чем заполнить паузы в разговоре». В общении с девушками это устройство проявляет себя как асфальтоукладочный каток без тормозов, который едет вниз с горы Арарат. С помощью бредогенератора можно разговаривать с любой девушкой на любые темы, особенно не задумываясь о связности и последовательности текста. Основная задача бредогенератора, как ни странно, состоит в генерировании бреда, или выдачи огромного количества слов в минимальное время.

Сам по себе бредогенератор является естественным человеческим устройством. Он представляет собой развитый механизм ассоциативных переходов по аналогиям, и более ничего. Именно поэтому этот механизм надо тренировать очень долго – не менее 3 месяцев. Этапы развития сего замечательного прибора в виде упражнений идут ниже. Самое главное – эти упражнения делать. Самому, с друзьями, с телевизором и котом – не важно. Важно развивать себя.

Для начала, расскажу, что же такое это есть – «лингвистические пирамиды». Начнем с того, что оглянемся по сторонам. Первое, на что упал мой взгляд – кружка. Сама по себе кружка является просто кружкой, ничем больше. Однако, кружку можно определить в более высокий класс – посуда. Таким образом, мы перешли на 1 класс наверх (обобщили кружку до посуды). С другой стороны, кружка бывает для кофе, чая, полулитровая, алюминиевая, фарфоровая (Разобобщили кружку на различные подвиды кружек).

Цель упражнения: научится созданию аналогий по разным классам.

Как искусственный интеллект искажает процесс принятия решений и делает диктаторов более опасными

В политических кругах дискуссии об искусственном интеллекте неизменно противопоставляют Китай и США в гонке за технологическое превосходство. Если ключевым ресурсом являются данные, то Китаю с его более чем миллиардом граждан и слабой защитой от государственного надзора, похоже, суждено победить. Кай-Фу Ли, известный ученый-компьютерщик, заявил, что данные — это новая нефть, а Китай — новая ОПЕК. Однако если передовые технологии обеспечивают преимущество, то у Соединенных Штатов с их университетской системой мирового класса и талантливой рабочей силой все еще есть шанс выйти вперед. Эксперты предполагают, что для любой страны превосходство в ИИ естественным образом приведет к более широкому экономическому и военному превосходству.

Но, рассматривая ИИ как гонку за господство, мы упускаем из виду более фундаментальные способы, которыми ИИ меняет глобальную политику. ИИ не столько изменит соперничество между державами, сколько изменит самих соперников. Соединенные Штаты — это демократия, а Китай — авторитарный режим, и машинное обучение бросает вызов каждой политической системе по-своему. Вызовы демократиям, таким как Соединенные Штаты, слишком очевидны. Машинное обучение может усилить поляризацию — перестроить онлайн-мир, чтобы способствовать политическому расколу. Это, безусловно, увеличит дезинформацию в будущем, создавая убедительные фальшивые речи в больших масштабах. Вызовы автократиям более тонкие, но, возможно, более разрушительные. Точно так же, как машинное обучение отражает и усиливает разделение демократии, оно может сбивать с толку автократии, создавая ложную видимость консенсуса и скрывая глубинные социальные разногласия, пока не станет слишком поздно.

Первые пионеры ИИ, включая политолога Герберта Саймона, поняли, что технология ИИ имеет больше общего с рынками, бюрократией и политическими институтами, чем с простыми инженерными приложениями. Другой пионер искусственного интеллекта, Норберт Винер, описал ИИ как «кибернетическую» систему, которая может реагировать и адаптироваться к обратной связи. Ни Саймон, ни Винер не ожидали, что машинное обучение станет доминировать над ИИ, но его эволюция соответствует их образу мыслей. Facebook и Google используют машинное обучение в качестве аналитического механизма самокорректирующейся системы, которая постоянно обновляет свое понимание данных в зависимости от того, успешны или нет ее прогнозы. Именно эта петля между статистическим анализом и обратной связью из среды сделала машинное обучение такой огромной силой.

Гораздо менее понятно то, что демократия и авторитаризм также являются кибернетическими системами. При обеих формах правления правительства проводят политику, а затем пытаются выяснить, была ли эта политика успешной или неудачной. В демократиях голоса и голоса дают мощную обратную связь о том, действительно ли работает тот или иной подход. Исторически сложилось так, что авторитарным системам было гораздо труднее получить хорошую обратную связь. До наступления информационного века они полагались не только на внутреннюю разведку, но и на петиции и тайные опросы общественного мнения, пытаясь выяснить, во что верят их граждане.

Теперь машинное обучение подрывает традиционные формы демократической обратной связи (голоса и голоса), поскольку новые технологии облегчают дезинформацию и усугубляют существующие предубеждения, беря предрассудки, скрытые в данных, и уверенно превращая их в неверные утверждения. Между тем автократам, копающимся в темноте, машинное обучение кажется ответом на их молитвы. Такая технология может сказать правителям, нравится ли их подданным то, что они делают, без хлопот с опросами или политических рисков открытых дебатов и выборов. По этой причине многие наблюдатели беспокоятся, что достижения в области ИИ только укрепят позиции диктаторов и позволят им еще больше контролировать свои общества.

Правда сложнее. Предвзятость явно является проблемой для демократий. Но поскольку он более заметен, граждане могут смягчить его с помощью других форм обратной связи. Когда, например, расовая группа видит, что алгоритмы найма настроены против нее, они могут протестовать и добиваться возмещения ущерба с некоторым шансом на успех. Авторитарные страны, вероятно, так же склонны к предвзятости, как и демократии, а может быть, и в большей степени. Большая часть этой предвзятости, вероятно, будет невидимой, особенно для лиц, принимающих решения наверху. Это значительно усложняет исправление, даже если лидеры видят, что что-то нужно исправить.

Вопреки общепринятому мнению, ИИ может серьезно подорвать автократические режимы, укрепляя их собственные идеологии и фантазии за счет более тонкого понимания реального мира. Демократические страны могут обнаружить, что, когда дело доходит до ИИ, главная задача двадцать первого века состоит не в том, чтобы выиграть битву за технологическое превосходство. Вместо этого им придется бороться с авторитарными странами, которые оказались в агонии спирали заблуждений, питаемой искусственным интеллектом.

ПЛОХАЯ ОБРАТНАЯ СВЯЗЬ

Большинство дискуссий об ИИ связано с машинным обучением — статистическими алгоритмами, которые извлекают взаимосвязи между данными. Эти алгоритмы делают предположения: есть ли на этой фотографии собака? Выиграет ли эта шахматная стратегия партию за десять ходов? Какое следующее слово в этом полузаконченном предложении? Так называемая целевая функция, математический способ подсчета результатов, может вознаградить алгоритм, если он угадает правильно. Именно так работает коммерческий ИИ. YouTube, например, хочет, чтобы его пользователи были вовлечены, просматривая больше видео, чтобы они продолжали видеть рекламу. Целевая функция предназначена для максимального вовлечения пользователей. Алгоритм пытается обслуживать контент, который удерживает взгляд пользователя на странице. В зависимости от того, была ли его догадка верной или ошибочной, алгоритм обновляет свою модель того, на что, скорее всего, отреагирует пользователь.

Способность машинного обучения автоматизировать этот цикл обратной связи практически без вмешательства человека изменила электронную коммерцию. Возможно, когда-нибудь это позволит создавать полностью самоуправляемые автомобили, хотя это продвижение оказалось гораздо более сложной проблемой, чем предполагали инженеры. Разработка автономного оружия — еще более сложная задача. Когда алгоритмы сталкиваются с действительно неожиданной информацией, они часто не могут ее понять. Информация, которую человек может легко понять, но которую машинное обучение неправильно классифицирует, известная как «состязательные примеры», может сильно испортить работу. Например, черно-белые наклейки, размещенные на знаке «Стоп», могут помешать системе технического зрения беспилотного автомобиля распознать этот знак. Такие уязвимости предполагают очевидные ограничения полезности ИИ в военное время.

Погружение в сложности машинного обучения помогает разобраться в спорах о технологическом превосходстве. Это объясняет, почему некоторые мыслители, такие как ученый-компьютерщик Ли, считают, что данные так важны. Чем больше у вас данных, тем быстрее вы сможете улучшить производительность своего алгоритма, повторяя крошечное изменение за крошечным, пока не добьетесь решающего преимущества. Но машинное обучение имеет свои пределы. Например, несмотря на огромные инвестиции технологических фирм, алгоритмы гораздо менее эффективны, чем принято считать, в том, что касается того, чтобы заставить людей покупать один почти идентичный продукт вместо другого. Надежно манипулировать поверхностными предпочтениями сложно, и, вероятно, гораздо труднее изменить глубоко укоренившиеся мнения и убеждения людей.

Авторитарные правительства часто плохо понимают, как устроен мир.

Общий ИИ, система, которая может извлекать уроки из одного контекста и применять их в другом, как и люди, сталкивается с аналогичными ограничениями. Статистические модели склонностей и предпочтений пользователей Netflix почти наверняка отличаются от моделей Amazon, даже если обе компании пытаются моделировать одних и тех же людей, пытающихся принять аналогичные решения. Доминирование в одном секторе ИИ, например в показе коротких видеороликов, привлекающих внимание подростков (триумф приложения TikTok), нелегко трансформируется в доминирование в другом, например в создании автономных систем вооружения на поле боя. Успех алгоритма часто зависит от тех самых инженеров-людей, которые могут извлечь уроки из различных приложений, а не от самой технологии. Пока эти проблемы остаются нерешенными.

Предвзятость также может проникнуть в код. Когда Amazon попыталась применить машинное обучение к набору персонала, она обучила алгоритм на данных из резюме, которые оценивали рекрутеры. В результате система воспроизвела предубеждения, заложенные в решениях людей, дискриминируя резюме от женщин. Такие проблемы могут быть самоусиливающимися. Как отметила социолог Руха Бенджамин, если бы политики использовали машинное обучение, чтобы решить, куда направить полицейские силы, эта технология могла бы помочь им выделить больше полиции в районы с высоким уровнем арестов, в процессе направляя больше полиции в районы с расовыми группами, которые полиция продемонстрировала предубеждения против. Это может привести к большему количеству арестов, которые, в свою очередь, закрепят алгоритм в порочном круге.

Старая программная поговорка «мусор на входе, мусор на выходе» имеет другое значение в мире, где входные данные влияют на выходные и наоборот. Без надлежащей внешней коррекции алгоритмы машинного обучения могут приобрести вкус к мусору, который они сами производят, создавая цикл принятия неправильных решений. Слишком часто политики относятся к инструментам машинного обучения как к мудрым и беспристрастным оракулам, а не как к ошибочным инструментам, которые могут усугубить проблемы, которые они призваны решать.

ЗВОНОК И ОТВЕТ

Политические системы также являются системами обратной связи. В демократиях общественность буквально оценивает и оценивает лидеров на выборах, которые должны быть свободными и справедливыми. Политические партии дают обещания с целью завоевать власть и удержать ее. Легальная оппозиция освещает ошибки правительства, а свободная пресса сообщает о противоречиях и правонарушениях. Должностные лица регулярно встречаются с избирателями и узнают, заработали они или потеряли общественное доверие в постоянно повторяющемся цикле.

Но обратная связь в демократических обществах не работает идеально. У общественности может не быть глубокого понимания политики, и она может наказывать правительства за вещи, не зависящие от них. Политики и их сотрудники могут неправильно понять, чего хочет общественность. У оппозиции есть стимулы лгать и преувеличивать. Состязание на выборах стоит денег, а настоящие решения иногда принимаются за закрытыми дверями. Средства массовой информации могут быть предвзятыми или больше заботиться о том, чтобы развлечь своих потребителей, чем научить их.

Тем не менее, обратная связь делает возможным обучение. Политики узнают, чего хочет общественность. Общественность узнает, чего она может и чего не может ожидать. Люди могут открыто критиковать ошибки правительства, не попадая в тюрьму. По мере появления новых проблем могут организовываться новые группы, чтобы опубликовать их и попытаться убедить других решить их. Все это позволяет политикам и правительствам взаимодействовать со сложным и постоянно меняющимся миром.

Президент России Владимир Путин на конференции по искусственному интеллекту в Москве, ноябрь 2021 г.

Сергей Гунеев/Sputnik/Reuters

В автократиях обратная связь работает совсем по-другому. Лидеров выбирают не посредством свободных и честных выборов, а посредством безжалостных сражений за преемственность и зачастую непрозрачных систем внутреннего продвижения по службе. Даже там, где оппозиция правительству формально легальна, ее подавляют, иногда жестоко. Если СМИ критикуют правительство, им грозит судебный иск и насилие. Выборы, когда они происходят, систематически склоняются в пользу действующих лиц. Граждане, выступающие против своих лидеров, сталкиваются не только с трудностями при организации; им грозит суровое наказание за высказывание, включая тюремное заключение и смерть. По всем этим причинам авторитарные правительства часто не имеют четкого представления о том, как устроен мир или чего хотят они и их граждане.

Таким образом, такие системы сталкиваются с выбором между краткосрочной политической стабильностью и эффективной политикой; желание первых склоняет авторитарных лидеров к тому, чтобы не допускать посторонних к выражению политических мнений, тогда как необходимость вторых требует от них некоторого представления о том, что происходит в мире и в их обществах. Из-за жесткого контроля над информацией авторитарные правители не могут полагаться на граждан, средства массовой информации и голоса оппозиции для обеспечения корректирующей обратной связи, как это делают демократические лидеры. В результате они рискуют потерпеть неудачу в политике, которая может подорвать их долгосрочную легитимность и способность править. Катастрофическое решение президента России Владимира Путина вторгнуться в Украину, например, похоже, было основано на неточной оценке украинского морального духа и силы его собственной армии.

Еще до изобретения машинного обучения авторитарные правители использовали количественные показатели как грубый и несовершенный показатель общественного мнения. Возьмем Китай, который десятилетиями пытался сочетать децентрализованную рыночную экономику с централизованным политическим надзором за некоторыми важными статистическими данными, в частности, за ВВП. Местные чиновники могли получить повышение, если в их регионах наблюдался особенно быстрый рост. Но ограниченное количественное видение Пекина давало им мало стимулов для решения назревающих проблем, таких как коррупция, долги и загрязнение окружающей среды. Неудивительно, что местные чиновники часто манипулировали статистикой или проводили политику, которая увеличивала ВВП в краткосрочной перспективе, оставляя долгосрочные проблемы своим преемникам.

Не существует такой вещи, как принятие решений без политики.

Мир мельком увидел эту динамику во время первоначального реагирования Китая на пандемию COVID-19, которая началась в провинции Хубэй в конце 2019 года. Китай создал интернет-систему отчетности о заболеваниях после кризиса атипичной пневмонии 2003 года, но вместо Используя эту систему, местные власти в Ухане, столице провинции Хубэй, наказали врача, который первым сообщил о наличии инфекции, похожей на атипичную пневмонию. Правительство Ухани усердно работало над тем, чтобы информация о вспышке не достигла Пекина, постоянно повторяя, что «новых случаев не было» до тех пор, пока не завершились важные местные политические встречи. Врач Ли Вэньлян сам скончался от болезни и умер 7 февраля, вызвав бурное возмущение по всей стране.

Затем Пекин взял на себя ответные меры на пандемию, приняв подход «ноль COVID», который использовал принудительные меры для подавления подсчета случаев. В краткосрочной перспективе эта политика сработала хорошо, но с огромной трансмиссивностью варианта Omicron политика нулевого COVID, похоже, все чаще приводила только к пирровым победам, требуя массовых блокировок, которые оставили людей голодными, а экономику разорили. Но он по-прежнему успешно достигал одного важного, хотя и грубого показателя — поддержания низкого числа инфекций.

Данные, кажется, обеспечивают объективные измерения, которые объясняют мир и его проблемы, без каких-либо политических рисков и неудобств, связанных с выборами или свободными СМИ. Но нет такой вещи, как принятие решений без политики. Беспорядочность демократии и риск нарушения процессов обратной связи очевидны для любого, кто обращает внимание на политику США. Автократии страдают от подобных проблем, хотя они менее заметны. Чиновники, придумывающие цифры, или граждане, отказывающиеся превратить свой гнев в широкомасштабные протесты, могут иметь серьезные последствия, повышая вероятность принятия неверных решений в краткосрочной перспективе и провал режима в долгосрочной перспективе.

ЭТО ЛОВУШКА?

Самый насущный вопрос заключается не в том, выиграют или проиграют США или Китай в гонке за господство ИИ. Именно так ИИ изменит различные циклы обратной связи, на которые полагаются демократии и автократии для управления своими обществами. Многие наблюдатели предполагают, что по мере повсеместного распространения машинного обучения оно неизбежно нанесет ущерб демократии и поможет автократии. По их мнению, например, алгоритмы социальных сетей, которые оптимизируют взаимодействие, могут подорвать демократию, нанеся ущерб качеству отзывов граждан. Пока люди просматривают видео за видео, алгоритм YouTube предлагает шокирующий и тревожный контент, чтобы поддерживать их интерес. Этот контент часто включает теории заговора или экстремистские политические взгляды, которые заманивают граждан в темную страну чудес, где все перевернуто с ног на голову.

Машинное обучение, напротив, должно помочь автократиям, способствуя большему контролю над их людьми. Историк Юваль Харари и множество других ученых утверждают, что ИИ «одобряет тиранию». Согласно этому лагерю, ИИ централизует данные и власть, позволяя лидерам манипулировать обычными гражданами, предлагая им информацию, рассчитанную на нажатие их «эмоциональных кнопок». Предполагается, что этот бесконечно повторяющийся процесс обратной связи и реакции создает невидимую и эффективную форму социального контроля. В этом случае социальные сети позволяют авторитарным правительствам следить за пульсом населения, а также завладевать его сердцем.

Но эти аргументы основаны на сомнительных основаниях. Хотя утечки из Facebook говорят о том, что алгоритмы действительно могут направлять людей к радикальному контенту, недавние исследования показывают, что алгоритмы сами по себе не меняют то, что ищут люди. Людей, которые ищут экстремальные видео на YouTube, скорее всего, направят к тому, чего они хотят, но люди, которые еще не заинтересованы в опасном контенте, вряд ли будут следовать рекомендациям алгоритмов. Если бы обратная связь в демократических обществах становилась все более ненормальной, машинное обучение не было бы полностью виновато; это только протянуло бы руку помощи.

Больше машинного обучения может привести к тому, что авторитарные режимы будут удваивать неверные решения.

Нет веских доказательств того, что машинное обучение позволяет осуществлять всеобщий контроль над разумом, который опустошит демократию и укрепит авторитаризм. Если алгоритмы не очень эффективны в том, чтобы заставить людей что-то покупать, они, вероятно, гораздо хуже в том, чтобы заставить их изменить свое мнение о вещах, которые затрагивают близкие ценности, такие как политика. Утверждения о том, что Cambridge Analytica, британская политическая консалтинговая фирма, использовала какой-то магический метод, чтобы исправить результаты президентских выборов в США в 2016 году для Дональда Трампа, были опровергнуты. Предполагаемый секретный соус фирмы, предоставленный предвыборному штабу Трампа, по-видимому, состоял из стандартных психометрических методов таргетинга — использования личностных опросов для категоризации людей — ограниченной полезности.

Действительно, полностью автоматизированный авторитаризм, управляемый данными, может оказаться ловушкой для таких государств, как Китай, которые концентрируют власть в руках крошечной изолированной группы лиц, принимающих решения. В демократических странах есть корректирующие механизмы — альтернативные формы обратной связи с гражданами, которые могут контролировать правительства, если они сбиваются с пути. Авторитарные правительства, которые удваивают машинное обучение, не имеют такого механизма. Хотя повсеместная государственная слежка может оказаться эффективной в краткосрочной перспективе, опасность заключается в том, что авторитарные государства будут подорваны формами самоусиливающейся предвзятости, которым способствует машинное обучение. Поскольку государство широко использует машинное обучение, идеология лидера будет определять, как будет использоваться машинное обучение, цели, вокруг которых оно оптимизируется, и как оно интерпретирует результаты. Данные, которые появятся в результате этого процесса, скорее всего, отразят предубеждения лидера.

Как объяснил технолог Мацей Цегловски, машинное обучение — это «отмывание денег для предвзятости», «чистый математический аппарат, который придает статус-кво ауру логической неизбежности». Что произойдет, например, когда штаты начнут использовать машинное обучение, чтобы выявлять жалобы в социальных сетях и удалять их? Лидерам будет труднее увидеть и исправить политические ошибки, даже если эти ошибки наносят ущерб режиму. Исследование, проведенное в 2013 году, показало, что Китай медленнее удаляет онлайн-жалобы, чем можно было бы ожидать, именно потому, что такое недовольство дает руководству полезную информацию. Но теперь, когда Пекин все больше внимания уделяет социальной гармонии и стремится защитить высокопоставленных чиновников, этот подход невмешательства будет труднее поддерживать.

Дезинформация, подпитываемая искусственным интеллектом, может отравить колодец как демократическим, так и автократическим государствам.

Президент Китая Си Цзиньпин знает об этих проблемах, по крайней мере, в некоторых областях политики. Он давно заявлял, что его кампания по борьбе с бедностью — попытка искоренить обнищание сельских жителей — стала знаковой победой, основанной на интеллектуальных технологиях, больших данных и искусственном интеллекте. Но с тех пор он признал недостатки кампании, в том числе случаи, когда чиновники выгоняли людей из их сельских домов и прятали их в городских квартирах, чтобы играть в статистику бедности. Когда переселенцы снова погрузились в нищету, Си опасался, что «единые количественные целевые показатели» уровня бедности могут оказаться неправильным подходом в будущем. Данные действительно могут стать новой нефтью, но они могут скорее загрязнить, чем повысить способность правительства управлять.

Эта проблема имеет последствия для так называемой системы социального кредита Китая, набора институтов для отслеживания просоциального поведения, которое западные комментаторы изображают как идеально функционирующий «режим наблюдения с использованием ИИ, который нарушает права человека». Как отмечают эксперты по информационной политике, такие как Шазеда Ахмед и Карен Хао, система на самом деле гораздо более грязная. Китайская система социального кредита на самом деле больше похожа на кредитную систему США, которая регулируется такими законами, как Закон о достоверной кредитной отчетности, чем на идеальную оруэлловскую антиутопию.

Расширение возможностей машинного обучения может также привести к тому, что авторитарные режимы будут удваивать неверные решения. Если машинное обучение будет обучено выявлять возможных диссидентов на основе записей об арестах, оно, скорее всего, будет генерировать самоусиливающиеся предубеждения, подобные тем, которые наблюдаются в демократиях, — отражая и подтверждая убеждения администраторов о неблагоприятных социальных группах и неумолимо закрепляя автоматические подозрения и негативную реакцию. В демократиях общественное противодействие, пусть и несовершенное, возможно. В авторитарных режимах сопротивляться гораздо труднее; без него эти проблемы невидимы для тех, кто находится внутри системы, где чиновники и алгоритмы разделяют одни и те же предубеждения. Вместо хорошей политики это приведет к нарастанию патологий, социальной дисфункции, обидам и, в конце концов, волнениям и нестабильности.

ВООРУЖЕННЫЙ ИИ

Международная политика ИИ не приведет к простой гонке за господство. Грубое представление о том, что эта технология является экономическим и военным оружием, и что данные — это то, что дает ей силу, скрывает большую часть реальных действий. На самом деле самые большие политические последствия ИИ связаны с механизмами обратной связи, на которые полагаются как демократические, так и авторитарные страны. Некоторые данные указывают на то, что ИИ нарушает обратную связь в демократических странах, хотя и не играет такой большой роли, как предполагают многие. Напротив, чем больше авторитарные правительства полагаются на машинное обучение, тем больше они будут продвигать себя в воображаемый мир, основанный на их собственных предубеждениях, основанных на технологиях. Классика политолога Джеймса Скотта 19В книге 98, Seeing Like a State , объяснялось, как государства двадцатого века были слепы к последствиям своих собственных действий отчасти потому, что они могли видеть мир только через бюрократические категории и данные. Как утверждали социолог Марион Фуркад и другие, машинное обучение может создавать те же проблемы, но в еще большем масштабе.

Эта проблема создает совершенно другой набор международных проблем для таких демократий, как Соединенные Штаты. Россия, например, вкладывала средства в кампании по дезинформации, призванные посеять замешательство и смятение среди российской общественности, применяя те же инструменты в демократических странах. Хотя сторонники свободы слова долгое время утверждали, что ответом на скверную речь будет больше сквернословия, Путин решил, что лучший ответ на сквернословие — больше сквернословия. Затем Россия воспользовалась открытыми системами обратной связи в демократических странах, чтобы загрязнить их дезинформацией.

Демонстрация системы распознавания лиц китайской фирмы по искусственному интеллекту, Пекин, февраль 2022 г.

Флоренс Ло / Рейтер

Одна из быстро возникающих проблем заключается в том, как автократии, такие как Россия, могут использовать в качестве оружия большие языковые модели, новую форму ИИ, которая может создавать текст или изображения в ответ на словесную подсказку для создания масштабной дезинформации. Как предупредили ученый-компьютерщик Тимнит Гебру и ее коллеги, такие программы, как система GPT-3 компании Open AI, могут создавать плавный текст, который трудно отличить от обычного человеческого письма. Bloom, новая модель большого языка с открытым доступом, только что была выпущена для всех. Его лицензия требует, чтобы люди избегали жестокого обращения, но полицейским будет очень трудно.

Эти события создадут серьезные проблемы для обратной связи в демократических странах. Нынешние онлайн-системы комментирования политики почти наверняка обречены, поскольку им требуется мало доказательств, чтобы установить, является ли комментатор реальным человеком. Подрядчики крупных телекоммуникационных компаний уже наводнили Федеральную комиссию по связи США фальшивыми комментариями, связанными с украденными адресами электронной почты, в рамках своей кампании против законов о сетевом нейтралитете. Тем не менее было легко распознать уловку, когда были опубликованы десятки тысяч почти идентичных комментариев. Сейчас или в самом ближайшем будущем будет тривиально просто заставить большую языковую модель написать, скажем, 20 000 различных комментариев в стиле колеблющихся избирателей, осуждающих сетевой нейтралитет.

Дезинформация, подпитываемая искусственным интеллектом, может отравить колодец и автократиям. По мере того, как авторитарные правительства наполняют свои собственные публичные дебаты дезинформацией, становится легче сломить оппозицию, но труднее сказать, во что на самом деле верит общественность, что значительно усложнит процесс принятия политических решений. Авторитарным лидерам будет все труднее избегать наживы за счет собственного предложения, что заставит их поверить в то, что граждане терпимы или даже любят крайне непопулярную политику.

ОБЩИЕ УГРОЗЫ

Каково было бы делить мир с авторитарными государствами, такими как Китай, если они все больше попадают в ловушку собственных нездоровых информационных петель обратной связи? Что происходит, когда эти процессы перестают обеспечивать кибернетическое руководство и вместо этого отражают собственные страхи и убеждения правителей? Одним из эгоистичных ответов демократических конкурентов было бы предоставление автократам самим себе, рассматривая все, что ослабляет авторитарные правительства, как чистую выгоду.

Однако такая реакция может привести к гуманитарной катастрофе. Многие из нынешних предубеждений китайского государства, такие как его политика по отношению к уйгурам, активно пагубны и могут стать намного хуже. Предыдущие последствия слепоты Пекина к реальности включают великий голод, унесший жизни около 30 миллионов человек в период с 1959 по 1961 год и вызванный идеологической политикой и скрытый нежеланием провинциальных чиновников сообщать точные статистические данные. Даже несгибаемые циники должны признать опасность внешнеполитических катастроф, вызванных искусственным интеллектом, в Китае и других странах. Например, усиливая националистические предубеждения, ИИ может легко усилить ястребиные группировки, стремящиеся к территориальному завоеванию.

Данные могут стать новой нефтью, но они могут скорее загрязнить, чем повысить способность правительства управлять.

Возможно, что еще более цинично, у политиков на Западе может возникнуть соблазн использовать замкнутые контуры авторитарных информационных систем. До сих пор Соединенные Штаты были сосредоточены на продвижении свободы Интернета в автократических обществах. Вместо этого он может попытаться усугубить авторитарную информационную проблему, усиливая петли предвзятости, которым подвержены эти режимы. Это можно сделать, искажая административные данные или дезинформируя авторитарные социальные сети. К сожалению, виртуальной стены, разделяющей демократические и авторитарные системы, не существует. В демократические общества могут просачиваться не только неверные данные и безумные убеждения из авторитарных, но и ужасные авторитарные решения могут иметь непредсказуемые последствия для демократических стран. Размышляя об ИИ, правительства должны осознавать, что мы живем во взаимозависимом мире, где проблемы авторитарных правительств, скорее всего, перерастут в демократию.

Таким образом, более разумный подход может заключаться в том, чтобы смягчить слабые стороны ИИ за счет общих механизмов международного управления. В настоящее время разные части китайского государства расходятся во мнениях относительно надлежащей реакции на регулирование ИИ. Управление киберпространства Китая, его Академия информационных и коммуникационных технологий и его Министерство науки и технологий, например, имеют все предложенные принципы регулирования ИИ. Некоторые предпочитают модель «сверху вниз», которая может ограничить частный сектор и предоставить правительству полную свободу действий. Другие, по крайней мере косвенно, также признают опасность ИИ для правительства. Разработка общих принципов международного регулирования может помочь в распространении знаний о политических рисках ИИ.

Этот совместный подход может показаться странным в контексте растущего соперничества между США и Китаем. Но тщательно продуманная политика может сослужить хорошую службу Вашингтону и его союзникам. Одним из опасных путей было бы втягивание Соединенных Штатов в гонку за доминирование ИИ, что еще больше расширило бы конкурентные отношения. Другой вариант — попытаться усугубить проблемы обратной связи авторитаризма. Оба рискуют катастрофой и возможной войной. Поэтому гораздо безопаснее для всех правительств признать общие риски ИИ и работать вместе над их снижением.

Загрузка…
Пожалуйста, включите JavaScript для корректной работы сайта.

Этапы работы с бредом

Работа с бредом аналогична галлюцинациям, за исключением того, что требуется больше невербальных техник. Вам нужно будет сидеть в тишине дольше и с большим терпением, так как иллюзии никогда не исчезают. Человек может не так часто выражать их вербально, но обычно они вездесущи.

1. Установить доверительные межличностные отношения

Не рассуждайте, не спорьте и не оспаривайте заблуждения. Попытки опровергнуть заблуждение бесполезны и вызовут недоверие.
Убедите человека, что он в безопасности и не причинит вреда.
Не оставляйте человека одного – всегда используйте открытость и честность.
Поощряйте человека озвучивать чувства беспокойства, страха и незащищенности — предлагайте заботу и защиту, чтобы предотвратить причинение вреда себе или другим.
Выразите признание необходимости ложного убеждения.
Сосредоточьтесь на построении доверительных отношений с человеком, а не на необходимости контролировать его симптомы — сохраняйте спокойствие.

2. Определите содержание и/или тип бреда

Сочувствуйте человеку и попытайтесь понять цель бреда.
Перефразируйте то, что человек говорит или пытается сказать, чтобы прояснить любую путаницу в отношении бреда, который он описывает.
Не соглашаясь и не споря, подвергайте сомнению логику или обоснование бреда. Например: «Если вас преследует ЦРУ, кто является контактным лицом?»
Не подтверждайте и не подпитывайте бред, задавая вопросы о нем, когда человек не находится в психозе. Например: НИКОГДА не спрашивайте: «Как ЦРУ сегодня?» когда человек здоров.
Определите, что может быть центральной темой.
Определите основное чувство и/или тон бреда.

3.

Выясните, как бред влияет на жизнь человека

Оцените, мешают ли и каким образом бредовые идеи жизни человека. Например, они больше не в состоянии функционировать или участвовать в обычной повседневной жизни?
Оцените, влияет ли бред на отношения человека с другими.
Определите, предпринял ли человек действие на основании своего заблуждения.

4. Оцените интенсивность, частоту и продолжительность бреда

Ведите журнал, документируя интенсивность, частоту и продолжительность бреда человека.
Определите, возникают ли их бредовые идеи в определенное время суток или связаны с определенными действиями или действиями. Это может помочь вам найти способы избежать ситуаций, которые могут спровоцировать паранойю или бред.
Некоторые бредовые идеи мимолетны и кратки, тогда как другие более длительны и сохраняются в течение длительного периода времени.

5. Попытка перенаправить или отвлечь человека от его бреда

Всегда ли человек приветствует вас с бредом? Если это так, просто тихо выслушайте, а затем дайте направление для выполнения задачи.
Если кажется, что человек не может перестать говорить о бреде, мягко спросите, помнит ли он, что вы делали, и что пора возобновить эту деятельность.
Если человек очень хочет рассказать вам о заблуждении, просто спокойно слушайте, пока не отпадет необходимость обсуждать это дальше.
Помните, что во время бреда полезно дать человеку уверенность в том, что с ним, как с личностью, все в порядке.

Способы справиться с человеком, страдающим бредом

Попробуйте проявить сочувствие и сосредоточиться на эмоциях, которые испытывает человек. Оспаривание фактов и деталей может заставить человека закрыться и воспринять вас как осуждающего его. Предлагая поддержку без осуждения, которое не подтверждает или не опровергает иллюзию, человек может почувствовать утешение и поверить, что вы заботитесь о нем. О чем следует помнить, когда вы разговариваете с человеком:

1. Обратите внимание на эмоции человека