Интеллект человека: Общая психопатология | Обучение | РОП

Образцы пещерного искусства свидетельствуют об удивительном уровне интеллекта людей того времени

Начиная с австралопитека и дальше, наши предки объединялись во все большие и большие группы — поначалу, возможно, для того, чтобы было легче защититься от хищников.

Кроме того, такая жизнь позволяла людям объединять ресурсы и успешней преодолевать риски постоянно меняющихся обстоятельств — в том числе и совместно растить детей.

Но, как знает каждый из нас из собственного опыта, порой жить с другими — это тяжелый труд: вам приходится изучать характер каждого, его предпочтения и антипатии, пытаться понять, можно ли доверять тому, что тебе рассказывает конкретный человек, и т.д.

А когда вы участвуете в таких совместных мероприятиях, как, предположим, охота, вы должны быть способны следить за тем, что делает каждый член вашей группы, чтобы координировать действия.

Сегодня для человека непонимание общества может быть причиной смущения. Для наших предков это было вопросом жизни и смерти.

Но помимо всех этих трудностей членство в больших социальных группах давало людям возможность делиться идеями и пользоваться изобретениями друг друга, в результате чего развивались технологии и культура (например, появлялись новые орудия для охоты).

А чтобы всё это работало, необходимы способности наблюдать и учиться у других — что приводило к дальнейшему их развитию.

Примерно 400 000 лет назад мозг Homo heidelbergensis (гейдельбергского человека) достиг размера около 1200 кубических сантиметров — немногим меньше, чем мозг современного человека (1300 куб.см).

Когда наши предки примерно 70 тыс. лет назад покинули Африку, они уже были достаточно умны для того, чтобы адаптироваться к жизни в почти любом уголке планеты.

Потрясающие рисунки на стенах пещер свидетельствуют о том, что люди были вполне способны задаваться серьезнейшими космологическими вопросами — в том числе и таким: откуда мы взялись?

Автор фото, Getty Images

Средние результаты тестов IQ в 1920-х были ниже, чем сегодня

Мало кто из экспертов считает, что самые последние изменения в IQ — это результат генетической эволюции — рост слишком быстрый в течение короткого промежутка времени (считается, что эволюционные изменения генов занимают тысячи лет).

В конце концов, ученые придумали «коэффициент умственных способностей» всего лишь 100 лет назад. И успех этого теста базируется на том, что многие наши способности коррелируются.

То есть наша способность к пространственному мышлению или к распознаванию образов привязана к математическим способностям или способностям связно излагать мысли и так далее. По этой причине считают, что IQ отражает «общее умственное развитие» — нечто вроде базового интеллекта.

Хотя тесты на IQ часто критикуют, серьезный объем исследований показывает: полученный коэффициент может быть полезным индикатором того, каких результатов вы достигнете, выполняя разные задачи.

Особенно хорошо результаты этого теста прогнозируют успехи в учебе (что неудивительно, поскольку тест изначально разрабатывался для применения в школах), но также и то, насколько быстро вы сможете учиться новым рабочим навыкам.

Конечно, это не совершенный инструмент, множество других факторов влияет на конечный успех, но в общем результаты теста на IQ отражают реальную разницу между способностями разных людей учиться и обрабатывать сложную информацию.

Рост IQ, судя по всему, начался в первой половине XX века, но только относительно недавно психологи стали обращать серьезное внимание на этот феномен.

Когда исследователь Джеймс Флинн изучил результаты тестов на протяжении прошлого столетия, он обнаружил устойчивый рост — около трех баллов за каждое десятилетие. В итоге сегодня в некоторых странах рост составил 30 баллов.

И хотя о причинах эффекта Флинна можно спорить, все-таки это многочисленные факторы окружающей среды, а не генетические изменения.

Автор фото, Getty Images

По сравнению с прошлым веком рост людей увеличился, но это произошло не из-за перемен в генетике

Возможно, будет понятнее, если сравнить это с изменением роста людей: например, нынче мы на 11 см выше, чем в XIX веке. Но это вовсе не означает, что изменились наши гены — просто мы стали здоровее.

Действительно, некоторые из факторов несут ответственность за перемены и в IQ, и в росте. Выросший уровень медицины, сокращение распространения детских инфекционных заболеваний, лучшее питание — все это помогает и нашему телу, и нашему мозгу.

В обществе за последний век произошли грандиозные перемены — прежде всего в интеллектуальной среде. Теперь с раннего возраста у ребенка развиваются способности к абстрактному мышлению и рассуждениям.

В сфере образования, например, большинство детей учатся мыслить в абстрактных категориях.

Мы полагаемся на все более абстрактное мышление и в вопросах современных технологий. Возьмите, к примеру, компьютеры и все эти символы, которые нам приходится понимать, чтобы выполнять даже самые простейшие задачи.

Мы растем погруженными в такого типа мышление, которое помогает развивать способности, вполне достаточные для того, чтобы отлично справиться с заданиями теста на IQ.

Что бы ни было причиной эффекта Флинна, уже есть подтверждения тому, что, похоже, мы в конце «золотого века» — рост IQ замедлился, а кое-где даже пошел в обратную сторону.

Например, в Финляндии, Норвегии и Дании поворотным моментом была середина 1990-х, после чего среднестатистический коэффициент интеллекта падал примерно на 0,2 балла в год. Таким образом разрыв между поколениями может составить до 7 баллов.

Автор фото, Getty Images

Начнет ли IQ всего человечества снижаться?

Отчасти потому, что эта тенденция возникла совсем недавно, ее объяснить еще трудней, чем эффект Флинна. Одна из причин, возможно, — система образования стимулирует менее, чем раньше — или, по крайней мере, стимулирует развитие не тех способностей.

Например, некоторые тесты на IQ применялись, чтобы оценить, как люди считают в уме — но, как верно заметил Оле Рогеберг из Университета Осло (Норвегия), нынешние школьники и студенты считают на калькуляторе, который есть в любом смартфоне.

И теперь уже ясно, что наша культура формирует наш интеллект непостижимым образом.

Пока ученые продолжают распутывать головоломку причин этих тенденций, полезно задаться вопросом: какое значение для общества в целом имеют эти перемены в коэффициенте интеллекта?

Принесли ли нам последствия эффекта Флинна те дивиденды, на которые мы надеялись? И если нет — то почему?

Людям, наверное, сейчас легче разобраться в сложном смартфоне и других технологических инновациях, чем это было в начале XX века. Но в плане нашего поведения как общества в целом — вам нравится то, что эти дополнительные 30 баллов [в тестах на IQ] дали нам? Президентские выборы в США 2016 года были, пожалуй, одними из самых незрелых и легкомысленных в нашей истории… Более того, повышенный IQ не принес решений важнейших проблем страны или мира, среди которых — углубляющаяся пропасть неравенства в доходах, повсеместная нищета, изменения климата, загрязнение окружающей среды, насилие, смерти от отравления опиоидами.

Стернберг здесь, возможно, излишне пессимистичен. Например, медицина достигла больших успехов на пути искоренения таких проблем, как высокая детская смертность, а от нищеты мир хоть и не избавился, но в глобальном масштабе она сократилась.

И это мы еще не упоминаем о невероятных преимуществах, которые нам принесли научно-технические достижения, связанные с высокой интеллектуальностью рабочей силы.

Однако Стернберг не одинок, когда задается вопросом: действительно ли эффект Флинна можно рассматривать как нечто, представляющее собой серьезное улучшение наших умственных способностей?

Сам Джеймс Флинн утверждал, что весь прогресс, вероятно, сводится к развитию лишь некоторых, вполне определенных умственных способностей.

Точно так же, как различные физические упражнения могут развивать различные мышцы, но не улучшать общее состояние здоровья, так и мы упражняем лишь некоторые способности к абстрактному мышлению, что совершенно не обязательно настолько же улучшает и познавательные способности в целом.

А между тем, некоторые из тех, других, забытых способностей могут быть важнейшими для улучшения мира в будущем.

Автор фото, Getty Images

Креативность — это больше, чем просто художественная выразительность

Возьмем склонность к творчеству, так называемую креативность. Когда такие исследователи, как Стернберг, обсуждают ее, они говорят не просто о склонности к художественной выразительности, но о более приземленных навыках.

Насколько легко вы можете сгенерировать новаторские решения проблемы? И насколько хороша ваша способность к «контрфактуальному», гипотетическому мышлению — способность учитывать последствия различных, не всегда очевидных сценариев развития событий?

Интеллект, безусловно, должен помочь нам действовать более «креативно», однако что-то не заметно особого подъема в творческих решениях по мере того, как рос наш IQ.

Что бы ни было причиной эффекта Флинна, оно не подтолкнуло нас мыслить по-новому и оригинально.

Есть и вопрос разумности, рациональности — насколько хорошо вы способны выбирать оптимальные решения, взвешивая все доводы и отметая не относящуюся к делу информацию.

Вам может показаться, что чем выше у человека уровень интеллекта, тем рациональней его решения. Но все не так просто.

Хотя более высокий коэффициент интеллекта коррелирует с такими способностями, как математическая грамотность (что важно для понимания вероятностей и взвешивания рисков), есть еще множество элементов принятия разумных решений, которые не объяснишь с помощью высокого или низкого интеллекта.

Простой пример: высокий IQ ничем не поможет, если вам кажется, что продукт, на котором написано «на 95% свободен от жира», здоровее, чем продукт с надписью «5% жира». Даже самых умных людей можно сбить с толку утверждениями, умышленно вводящими в заблуждение.

Люди с высоким IQ точно так же склонны верить только той информации, которая не противоречит их сложившимся взглядам, и игнорируют ту, которая им не нравится. И когда мы говорим о политике, это превращается в серьезную проблему.

Не спасает высокий интеллект и от тенденции бросать большие ресурсы на поддержку заведомо провальных проектов, даже если более разумным было бы прекратить финансирование — и это серьезная проблема уже для бизнеса. (Вспомним, как долго французское и британское правительства продолжали финансирование лайнеров «Конкорд», когда уже было ясно, что весь проект — это коммерческий провал.)

Высокоинтеллектуальные люди действуют почти ничем не лучше других, когда надо отказаться от краткосрочных выгод ради долгосрочных благ, которые обеспечат вам комфортабельное существование в будущем.

Помимо сопротивляемости подобным искушениям существует множество общекритических способностей мыслить — например, умение подвергнуть сомнению собственные предположения, понять, где не хватает информации, и взглянуть на альтернативные объяснения происходящего, прежде чем делать выводы.

Все эти способности имеют решающее значение для правильного мышления, но они не особенно согласуются с коэффициентом интеллекта и совершенно не обязательно возникают с наличием высшего образования.

В одном из исследований, проведенном в США, обнаружилось, что ученые степени почти никак не улучшают способность мыслить критически.

Имея в виду все сказанное, можно понять, почему рост IQ не сопровождался точно таким же удивительным прогрессом во всех областях принятия решений.

Как я пишу в своей книге на эту тему, отсутствие рациональности и критического мышления объясняет, почему финансовые мошенничества по-прежнему распространены и почему миллионы людей тратят огромные деньги на шарлатанов от медицины и их снадобья, рискуя здоровьем.

В нашем обществе все это приводит к ошибкам врачей, к несправедливым приговорам в судах. И даже к мировым финансовым кризисам и таким экологическим катастрофам, как разлив нефти после аварии на буровой платформе Deepwater Horizon.

Играет это роль и в распространении так называемых фейковых новостей, и в политической поляризации в обществе по таким вопросам, как изменения климата — что мешает нам вовремя, пока еще не поздно, выработать правильное решение.

Автор фото, Getty Images

Как нам избежать таких катастроф, как разлив нефти после аварии на платформе Deepwater Horizon, если мы не способны мыслить критически?

Оглядываясь на историю человечества, можно увидеть, как наш мозг учился жить в постепенно усложняющемся обществе. И современная жизнь, хотя и позволяет нам мыслить более абстрактными категориями, судя по всему, не излечила нас от склонности к иррациональным решениям.

Мы считали, что умные люди с течением жизни естественным образом учатся принимать правильные решения — но теперь ясно, что это не так.

Если заглянуть в будущее, «обратный эффект Флинна» и потенциальное снижение среднестатистического IQ, безусловно, могут привести к тому, что нам придется проанализировать, как мы используем свои мозги. Предотвращение дальнейшего снижения IQ должно стать приоритетной задачей на будущее.

Впрочем, мы могли бы предпринять более согласованные усилия, чтобы улучшить и те «другие» важные способности, которые автоматически не гарантируются высоким коэффициентом интеллекта.

Нам теперь известно, что этим способностям мышления можно научить, но это требует осознанного, тщательного и осторожного подхода.

Например, многообещающие исследования того, как решения принимают врачи, дают основания полагать, что распространенных когнитивных ошибок можно избежать, если научить врачей более продуманно относиться к процессу принятия решений. И это может спасти несчетное количество жизней.

Но почему бы не учить этому еще в школе? Ванди Брюйне де Брюйн, сейчас работающая в бизнес-школе Университета Лидса, и ее коллеги продемонстрировали, что обсуждение ошибок в принятии решений можно включить, например, в учебную программу по истории для старшеклассников.

Это не только улучшило показатели школьников в последующем тесте на рациональность мышления, но и усилило их интерес к изучению исторических фактов.

Другие пытаются возродить преподавание критического мышления в школах и университетах. Например, дискуссия о распространенных теориях заговоров учит студентов принципам правильного мышления — как заметить и вычленить распространенные логические ошибки и как взвешенно оценить доказательства.

Благодаря таким урокам учащиеся вырабатывают более скептический подход к ложной информации в целом, в том числе и к фейковым новостям.

Эти истории — лишь намек на то, что можно сделать, если рациональному и критическому мышлению будет уделено столько же внимания, сколько обычно уделяется другим умственным способностям.

В идеале мы могли бы затем наблюдать резкий рост в умении рационально мыслить и даже в мудрости — в сочетании с эффектом Флинна.

И тогда временный провал в результатах тестов на IQ будет означать не конец интеллектуальной золотой эры, а ее начало.

Дэвид Робсон — журналист BBC Future. Частично эта статья основана на материалах, использованных им для книги «Ловушка интеллекта. Почему умные люди делают глупые ошибки» (The Intelligence Trap: Why Smart People Make Dumb Mistakes).

Прочитать оригинал статьи на английском языке можно на сайте BBC Future.

Зачем успешному человеку нужен digital-интеллект

Говоря о характеристиках успешного человека, мы часто используем такое понятие, как интеллект. В середине XX в. стало популярным измерять интеллект, высчитывая его коэффициент (IQ) — фактически это количественная оценка уровня интеллекта человека. Психология не стояла на месте, и постепенно пришло понимание, что лишь формальным интеллектом ограничиваться нельзя. В 90-х гг. XX в. произошла очередная «революция», в результате которой на свет появилась идея эмоционального интеллекта (EI), описывающая способность человека осознавать свои эмоции и проявлять эмпатию к другим людям. Сегодня я все чаще вижу людей с высоким IQ и EI, не способных эффективно работать, так как их знание, а точнее, незнание и неумение пользоваться виртуальным миром, социальными сетями и другими digital-инструментами является серьезным ограничением в новой реальности. Похоже, на поверхность выходит еще одно качество помимо формального и эмоционального интеллекта, которое я стал называть digital-интеллектом.

Стремительное развитие технологии на рубеже веков, которое продолжается и по сей день, задало новые условия для жизни и работы людей: мы стали жить в digital-мире. Все чаще слышны слова «неопределенность», «изменчивость», «неоднозначность», «лавинообразный поток информации». Умение работать с этой частью реальности, способность мыслить и принимать решения в условиях неопределенности, выстраивать сетевую коммуникацию за рамками или сквозь возрастные, культурные или географические границы, расширять возможности физического мира за счет мира виртуального — это то, что можно назвать digital-интеллектом. Именно этот вид интеллекта в очень большой степени определяет эффективность человека в современном мире.

Digital-интеллект включает три составляющие:

— digital-мышление. Информация стала более доступной, но при этом она избыточна, даже «токсична». Раньше ключевой навык был в том, чтобы информацию получить, сейчас — чтобы в ней разобраться, вычленить ее из потока и оценить адекватность источника. Определить по верхушке, тот это айсберг, который нужен в данный момент, или не тот, — важное умение, определяющее digital-мышление.

— digital-коммуникация — умение выстраивать сети социальных контактов и получать одобрение людей через взаимодействие в новом формате. Уже не раз я замечал, что люди, которых я знаю лично, совершенно отличаются своим поведением в сети от того, что было естественно от них ожидать в офлайне: они по-другому раскрываются, могут быть более яркими, харизматичными, эффективнее решать в digital-формате стоящие перед ними задачи.

— digital-развитие — умение постоянно обучаться, подпитываться в онлайн-среде. Современные самообучающиеся информационные системы постоянно получают обратную связь от пользователей, от других систем, тем самым самосовершенствуясь. Так же и человек, живя в этом мире, должен постоянно самосовершенствоваться с точки зрения все большего использования новых технологий.

Я уверен, что день за днем значимость digital-интеллекта будет лавинообразно возрастать и этот вид интеллекта станет неотъемлемым требованием к сотрудникам. Как следствие, надо будет настраивать систему отбора людей и систему обучения. И это вопрос ближайших 2-3 лет.

границ | Человек против искусственного интеллекта

Введение: Искусственный и человеческий интеллект, миры различий

Общий искусственный интеллект на уровне человека

Последние достижения в области информационных технологий и ИИ могут способствовать большей координации и интеграции между людьми и технологиями. Поэтому довольно большое внимание было уделено разработке Human-Aware AI, который нацелен на AI, который в качестве «члена команды» адаптируется к когнитивным возможностям и ограничениям членов команды.Также такие метафоры, как «товарищ», «партнер», «альтер-эго», «умный сотрудник», «приятель» и «взаимопонимание» подчеркивают высокую степень сотрудничества, сходства и равенства в «гибридных командах». Когда партнеры ИИ, осознающие человека, действуют как «человеческие соавторы», они должны уметь ощущать, понимать и реагировать на широкий спектр сложных человеческих поведенческих качеств, таких как внимание, мотивация, эмоции, творчество, планирование или аргументация (например, Krämer et al., 2012; van den Bosch, Bronkhorst, 2018; van den Bosch et al., 2019). Следовательно, эти «ИИ-партнеры» или «товарищи по команде» должны быть наделены человеческими (или гуманоидными) когнитивными способностями, обеспечивающими взаимопонимание и сотрудничество (то есть «человеческое осознание»).

Однако независимо от того, насколько интеллектуальными и автономными агентами ИИ станут в определенных отношениях, по крайней мере, в обозримом будущем, они, вероятно, останутся бессознательными машинами или устройствами специального назначения, которые поддерживают людей в конкретных, сложных задачах. Как цифровые машины они оснащены совершенно другой операционной системой (цифровой и биологической) и, соответственно, с другими когнитивными качествами и способностями, чем биологические существа, такие как люди и другие животные (Moravec, 1988; Klein et al., 2004; Korteling et al., 2018a; Шнейдерман, 2020а). В общем, цифровые агенты для рассуждения и решения проблем только очень поверхностно сравниваются со своими биологическими аналогами (например, Boden, 2017; Shneiderman, 2020b). Помня об этом, становится все более и более важным, чтобы специалисты-люди, работающие с передовыми системами ИИ (например, в военных или политических группах), разработали правильную ментальную модель о различных когнитивных способностях систем ИИ по отношению к человеческому познанию. Этот вопрос станет все более актуальным, когда системы ИИ станут более совершенными и будут развертываться с более высокой степенью автономности.Таким образом, в данной статье делается попытка внести некоторую ясность и понимание фундаментальных характеристик, различий и особенностей человеческого / биологического и искусственного / цифрового интеллекта. В последнем разделе представлена ​​глобальная структура для создания образовательного контента на основе этой «интеллектуальной осведомленности». Это может быть использовано для разработки образовательных и обучающих программ для людей, которым в ближайшем и далеком будущем придется использовать передовые системы искусственного интеллекта или «сотрудничать с ними».

С применением систем искусственного интеллекта с возрастающей автономностью все больше и больше исследователей считают необходимость энергичного решения реальных сложных проблем «человеческого уровня интеллекта» и, в более широком смысле, общего искусственного интеллекта , или AGI, (e.грамм. Goertzel et al., 2014). Я уже предлагал много разных определений A (G) (например, Russell and Norvig, 2014 для обзора). Многие из них сводятся к: технологии, содержащей или предполагающей (человекоподобный) интеллект , (например, Kurzweil, 1990). Это проблематично. В большинстве определений используется термин «интеллект» как существенный элемент самого определения, что делает определение тавтологическим. Во-вторых, идея о том, что A (G) I должна быть человекоподобной , кажется необоснованной.По крайней мере, в естественной среде существует множество других форм и проявлений очень сложного и разумного поведения, которые сильно отличаются от конкретных когнитивных способностей человека (см. Обзор в Grind, 1997). Наконец, подобно тому, что также часто встречается в области биологии, эти определения A (G) I используют интеллект человека в качестве центральной основы или аналогии для рассуждений о — менее знакомом — феномене A (G) I (Coley and Таннер, 2012). Из-за множества различий между лежащим в основе субстратом и архитектурой биологического и искусственного интеллекта этот антропоцентрический способ рассуждения , вероятно, необоснован.По этим причинам мы предлагаем (неантропоцентрическое) определение «интеллекта» как: « способность реализовывать сложные цели » (Тегмарк, 2017). Эти цели могут относиться к узким, ограниченным задачам (узкий ИИ) или к широким областям задач (AGI). Основываясь на этом определении и на определении AGI, предложенном Bieger et al. (2014) и Grind (1997), здесь мы определяем AGI как: « Небиологических возможностей для автономного и эффективного достижения сложных целей в широком диапазоне сред».Системы AGI должны быть способны автоматически и эффективно определять и извлекать наиболее важные функции для их работы и обучения в широком диапазоне задач и контекстов. Соответствующее исследование AGI отличается от обычного исследования AI тем, что касается универсальности и целостности интеллекта, а также тем, что инженерная практика проводится в соответствии с системой, сравнимой с человеческим разумом в определенном смысле (Bieger et al., 2014).

Будет интересно создавать копии самих себя, которые могут итеративно учиться посредством взаимодействия с партнерами и, таким образом, стать способными сотрудничать на основе общих целей, взаимопонимания и адаптации (например.Г. Брэдшоу и др., 2012; Джонсон и др., 2014). Это было бы очень полезно, например, когда высокий уровень социального интеллекта ИИ будет способствовать более адекватному взаимодействию с людьми, например, в сфере здравоохранения или в развлекательных целях (Wyrobek et al., 2008). Истинное сотрудничество на основе общих целей и взаимопонимания обязательно подразумевает некую форму общего гуманоидного интеллекта. Пока это остается целью на далекую перспективу. В данной статье мы аргументируем, почему для большинства приложений также может быть не очень практичным или необходимым (и, вероятно, немного вводящим в заблуждение) энергично нацеливаться или предвосхищать системы, обладающие «человеческими» AGI или «человеческими» способностями или качествами. .Тот факт, что люди обладают общим интеллектом, не означает, что новые неорганические формы общего интеллекта должны соответствовать критериям человеческого интеллекта. В связи с этим в настоящей статье рассматривается то, как мы думаем о (естественном и искусственном) интеллекте в связи с наиболее вероятными потенциалами (и реальными предстоящими проблемами) ИИ в краткосрочной и среднесрочной перспективе. Это даст пищу для размышлений в ожидании будущего, которое трудно предсказать для такой динамичной области, как ИИ.

Что такое «настоящий интеллект»?

В нашем стремлении к созданию систем AGI, обладающих гуманоидным интеллектом, неявно заложена предпосылка о том, что человеческий (общий) интеллект является «настоящей» формой интеллекта. Это даже уже косвенно сформулировано в термине «искусственный интеллект», как если бы он не был полностью реальным, то есть реальным, как неискусственный (биологический) интеллект. Действительно, как люди, мы знаем себя как сущности с самым высоким интеллектом, когда-либо наблюдавшимся во Вселенной.И, как продолжение этого, нам нравится видеть себя разумными существами, способными решать широкий спектр сложных проблем при любых обстоятельствах, используя наш опыт и интуицию, дополненные правилами логики, анализа решений и статистики. Поэтому неудивительно, что нам трудно принять идею о том, что мы могли бы быть немного менее умными, чем мы постоянно говорим себе, то есть «следующее оскорбление для человечества» (van Belkom, 2019). Дело доходит до того, что быстрый прогресс в области искусственного интеллекта сопровождается повторяющимся переопределением того, что следует считать «настоящим (общим) интеллектом».Концептуализация интеллекта, то есть способность автономно и эффективно достигать сложных целей, затем постоянно корректируется и дополнительно ограничивается: «теми вещами, которые могут делать только люди». В соответствии с этим ИИ определяется как «исследование того, как заставить компьютеры делать вещи, в которых на данный момент люди лучше» (Rich and Knight, 1991; Rich et al., 2009). Это включает в себя обдумывание творческих решений, гибкое использование контекстной и базовой информации, использование интуиции и чувств, способность действительно «думать и понимать» или включение эмоций в (этические) соображения.Затем они упоминаются как конкретные элементы реального интеллекта (например, Bergstein, 2017). Например, директор Facebook по искусственному интеллекту и представитель в этой области Янн ЛеКун на конференции в Массачусетском технологическом институте, посвященной будущему работы , упомянул, что машины все еще далеки от «сущности интеллекта». Это включает в себя способность понимать физический мир достаточно хорошо, чтобы делать прогнозы об основных его аспектах — наблюдать за одной вещью, а затем использовать базовые знания, чтобы выяснить, какие другие вещи также должны быть правдой.Другими словами, машины не обладают здравым смыслом (Bergstein, 2017), как подводные лодки, которые не умеют плавать (van Belkom, 2019). Когда исключительные человеческие способности становятся нашей ключевой точкой навигации на горизонте, мы можем упустить некоторые важные проблемы, которые могут потребовать нашего внимания в первую очередь.

Чтобы прояснить этот момент, мы сначала дадим некоторое представление об основной природе человеческого и искусственного интеллекта. Это необходимо для подтверждения адекватной осведомленности об интеллекте ( Intelligence Awareness ), а также адекватных исследований и образования, предвосхищающих разработку и применение A (G) I.На данный момент это основано на трех основных понятиях, которые могут (и должны) получить дальнейшее развитие в ближайшем будущем.

• Что касается познавательных задач, мы, вероятно, менее умны, чем мы думаем. Так почему же мы должны сосредоточиться на человеческих -подобных AGI?

• Возможно множество различных форм интеллекта, поэтому общий интеллект не обязательно совпадает с общим интеллектом гуманоидов (или «ОИИ на человеческом уровне»).

• AGI часто не нужен; Многие сложные проблемы также можно эффективно решать, используя несколько узких ИИ. ¹

Возможно, мы не так умны, как думаем

Насколько мы умны на самом деле? Ответ на этот вопрос в значительной степени определяется точкой зрения, с которой рассматривается этот вопрос, и, следовательно, выбранными мерами и критериями разведки. Например, мы могли бы сравнить природу и возможности человеческого интеллекта с другими видами животных. В этом случае мы кажемся очень умными. Благодаря нашим огромным способностям к обучению, мы располагаем самым обширным арсеналом когнитивных способностей ² для автономного решения сложных задач и достижения сложных целей.Таким образом мы можем решать огромное количество арифметических, концептуальных, пространственных, экономических, социально-организационных, политических и др. Задач. Приматы, которые лишь незначительно отличаются от нас в генетическом отношении, в этом отношении далеко от нас. Таким образом, мы можем законно квалифицировать людей по сравнению с другими известными нам видами животных как высокоинтеллектуальные.

Ограниченная когнитивная способность

Однако мы также можем выйти за рамки этой « относительной межвидовой перспективы» и попытаться квалифицировать наш интеллект в более абсолютных терминах, т.е.е., используя шкалу от нуля до того, что физически возможно. Например, мы могли бы рассматривать вычислительные возможности человеческого мозга как физической системы (Bostrom, 2014; Tegmark, 2017). Среди ученых, занимающихся искусственным интеллектом, преобладает мнение, что интеллект — это, в конечном счете, вопрос информации и вычислений, а не плоти, крови и атомов углерода. В принципе, не существует физического закона, препятствующего построению физических систем (состоящих из кварков и атомов, таких как наш мозг) с гораздо большей вычислительной мощностью и интеллектом, чем человеческий мозг.Это означало бы, что нет непреодолимой физической причины, по которой машины однажды не могут стать намного умнее нас во всех возможных отношениях (Тегмарк, 2017). Таким образом, наш интеллект на относительно выше по сравнению с другими животными, но в абсолютном выражении он может быть очень ограничен в своих физических вычислительных возможностях, хотя только из-за ограниченного размера нашего мозга и максимально возможного количества нейронов и глиальных клеток (например, Кале, 1979).

Для дальнейшего определения и оценки нашего собственного (биологического) интеллекта мы также можем обсудить эволюцию и природу наших способностей биологического мышления.Как биологическая нейронная сеть из плоти и крови, необходимая для выживания, наш мозг прошел процесс эволюционной оптимизации, который длился более миллиарда лет. За этот длительный период он превратился в высокоэффективную и действенную систему для регулирования основных биологических функций и выполнения перцептивно-моторных задач и задач распознавания образов, таких как сбор пищи, борьба и бегство, а также спаривание. Почти на протяжении всей нашей эволюции нейронные сети нашего мозга были дополнительно оптимизированы для этих основных биологических и перцептивных моторных процессов, которые также лежат в основе наших повседневных практических навыков, таких как приготовление пищи, садоводство или работа по дому.Возможно, из-за полученного опыта в решении таких задач мы можем забыть, что эти процессы характеризуются чрезвычайно высокой вычислительной сложностью (например, Moravec, 1988). Например, когда мы завязываем шнурки, миллионы сигналов проходят через большое количество различных сенсорных систем, от тел сухожилий и мышечных веретен в наших конечностях до сетчатки, отолитовых органов и полукруглых каналов в голове. (например, Brodal, 1981). Этот огромный объем информации от множества различных перцепционно-моторных систем непрерывно, параллельно, без усилий и даже без сознательного внимания обрабатывается в нейронных сетях нашего мозга (Minsky, 1986; Moravec, 1988; Grind, 1997).Чтобы достичь этого, мозг имеет ряд универсальных (неотъемлемых) рабочих механизмов, таких как ассоциативное и ассоциативное обучение (Shatz, 1992; Bar, 2007), потенцирование и содействие (Katz and Miledi, 1968; Bao et al., 1997), насыщение и латеральное торможение (Isaacson, Scanziani, 2011; Korteling et al., 2018a).

Эти виды основных биологических и перцептивно-моторных способностей развивались и закладывались в течение многих миллионов лет. Намного позже в нашей эволюции — на самом деле совсем недавно — наши когнитивные способности и рациональные функции начали развиваться.Этим когнитивным способностям или способностям, вероятно, менее 100 тысяч лет, что можно квалифицировать как «эмбриональные» на временной шкале эволюции (например, Petraglia and Korisettar, 1998; McBrearty and Brooks, 2000; Henshilwood and Marean, 2003). ). Вдобавок этот очень тонкий слой человеческих достижений обязательно был построен на «древнем» нейронном интеллекте для выполнения основных функций выживания. Итак, наши «высшие» когнитивные способности развиваются из и с помощью этих (нейро) биологических механизмов регуляции (Damasio, 1994; Korteling and Toet, 2020).В результате неудивительно, что возможности нашего мозга для выполнения этих недавних когнитивных функций все еще довольно ограничены. Эти ограничения проявляются по-разному, например:

— Объем когнитивной информации, которую мы можем сознательно обработать (наша рабочая память, продолжительность или внимание), очень ограничен (Simon, 1955). Пропускная способность нашей рабочей памяти составляет примерно 10–50 бит в секунду (Тегмарк, 2017).

— Большинство когнитивных задач, таких как чтение текста или вычисления, требуют нашего полного внимания, и нам обычно требуется много времени для их выполнения.Мобильные калькуляторы могут выполнять в миллионы раз более сложные вычисления, чем мы (Тегмарк, 2017).

— Хотя мы можем обрабатывать большое количество информации параллельно, мы не можем одновременно выполнять когнитивные задачи, требующие обдумывания и внимания, т. Е. «Многозадачность» (Korteling, 1994; Rogers and Monsell, 1995; Rubinstein, Meyer, and Evans, 2001).

‐Приобретенные когнитивные знания и навыки людей (память) со временем теряют тенденцию, гораздо больше, чем перцептивно-моторные навыки.Из-за этого ограниченного «удержания» информации мы легко забываем значительную часть того, что мы узнали (Wingfield and Byrnes, 1981).

Укоренившиеся когнитивные предубеждения

Ограниченные возможности обработки когнитивных задач — не единственный фактор, определяющий наш когнитивный интеллект. За исключением общей ограниченной способности обработки, обработка когнитивной информации человека демонстрирует систематические искажения. Они проявляются во многих когнитивных искажениях (Tversky and Kahneman, 1973, Tversky and Kahneman, 1974).Когнитивные искажения — это систематические, повсеместно встречающиеся тенденции, склонности или предрасположенности, которые искажают или искажают информационные процессы таким образом, что их результат становится неточным, субоптимальным или просто неправильным (например, Lichtenstein and Slovic, 1971; Tversky and Kahneman, 1981). Многие предубеждения возникают практически одинаково во многих различных ситуациях принятия решений (Shafir and LeBoeuf, 2002; Kahneman, 2011; Toet et al., 2016). В литературе представлены описания и демонстрации более 200 предубеждений. Эти тенденции в значительной степени неявны и бессознательны и кажутся вполне естественными и самоочевидными, когда мы осознаем эти когнитивные наклонности (Пронин и др., 2002; Risen, 2015; Korteling et al., 2018b). Вот почему их часто называют «интуитивными» (Kahneman, Klein, 2009) или «иррациональными» (Shafir, LeBoeuf, 2002). Предвзятые рассуждения могут привести к вполне приемлемым результатам в естественных или повседневных ситуациях, особенно если принять во внимание временные затраты на рассуждения (Simon, 1955; Gigerenzer and Gaissmaier, 2011). Однако люди часто отклоняются от рациональности и / или принципов логики, расчетов и вероятности нежелательными способами (Tversky and Kahneman, 1974; Shafir and LeBoeuf, 2002), что приводит к неоптимальным решениям с точки зрения затраченного времени и усилий (затрат). доступная информация и ожидаемые выгоды.

Смещения в значительной степени вызваны присущими (или структурными) характеристиками и механизмами мозга как нейронной сети (Korteling et al., 2018a; Korteling and Toet, 2020). По сути, эти механизмы — такие как ассоциация, содействие, адаптация или латеральное торможение — приводят к модификации исходных или доступных данных и их обработке (например, взвешиванию их важности). Например, латеральное торможение — это универсальный нервный процесс, приводящий к усилению различий в нервной активности (усиление контраста), что очень полезно для перцептивно-моторных функций, поддержания физической целостности и аллостаза (т.е. функции биологического выживания). Для этих функций наша нервная система была оптимизирована на протяжении миллионов лет. Однако «высшие» когнитивные функции, такие как концептуальное мышление, вероятностное рассуждение или расчет, были развиты в эволюции совсем недавно. Этим функциям, вероятно, меньше 100 тысяч лет, и поэтому их можно квалифицировать как «эмбриональные» на временной шкале эволюции (например, McBrearty and Brooks, 2000; Henshilwood and Marean, 2003; Petraglia and Korisettar, 2003).Вдобавок эволюция не могла развить эти новые когнитивные функции с нуля, а вместо этого должна была выстроить этот эмбриональный и тонкий слой человеческих достижений из своего «древнего» нейронного наследия для основных функций биологического выживания (Moravec, 1988). Поскольку когнитивные функции обычно требуют точного расчета и надлежащего взвешивания данных, преобразования данных, такие как латеральное торможение, могут легко привести к систематическим искажениям (т. Е. Смещениям) в обработке когнитивной информации. Примерами большого количества смещений, вызванных внутренними свойствами биологических нейронных сетей, являются: смещение привязки (смещение решений к ранее полученной информации, Furnham and Boo, 2011; Tversky and Kahneman, 1973, Tversky and Kahneman, 1974), смещение ретроспективного анализа. (тенденция ошибочно воспринимать события как неизбежные или более вероятные, если они уже произошли, Hoffrage et al., 2000; Roese and Vohs, 2012) смещения доступности (оценка частоты, важности или вероятности события по легкости, с которой соответствующие случаи приходят в голову, Tversky and Kahnemann, 1973; Tversky and Kahneman, 1974) и смещения подтверждения ( тенденция выбирать, интерпретировать и запоминать информацию таким образом, чтобы подтверждать предубеждения, взгляды и ожидания, Nickerson, 1998). В дополнение к этим внутренним (структурным) ограничениям (биологических) нейронных сетей, предубеждения могут также происходить из функциональных эволюционных принципов, способствовавших выживанию наших предков, которые, как охотники-собиратели, жили небольшими, сплоченными группами (Haselton et al., 2005; Туби и Космидес, 2005). Когнитивные искажения могут быть вызваны несоответствием между эволюционно рационализированной «эвристикой» («эволюционная рациональность»: Haselton et al., 2009) и текущим контекстом или окружающей средой (Tooby and Cosmides, 2005). С этой точки зрения, та же эвристика, которая оптимизировала шансы на выживание наших предков в их (естественной) среде, может привести к неадаптивному (предвзятому) поведению, когда они используются в наших текущих (искусственных) условиях. Пристрастия, которые рассматривались как примеры такого несоответствия, — это предвзятость действия (предпочтение действия, даже если для этого нет рационального оправдания, Baron and Ritov, 2004; Patt and Zeckhauser, 2000), социальное доказательство (тенденция отражать или копировать действия и мнения других, Чалдини, 1984), Трагедия общественного достояния (приоритет личных интересов над общим благом общества, Хардин, 1968) и предвзятость Ингруп (предпочтение своей собственной группы над другими, Тейлор и Дориа, 1981).

Этот зашитый (нейронно врожденный и / или эволюционно укоренившийся) характер предвзятого мышления делает маловероятным, что простые и простые методы, такие как обучающие вмешательства или курсы повышения осведомленности, будут очень эффективными для устранения предубеждений. Эта трудность смягчения предвзятости действительно подтверждается литературой (Korteling et al., 2021).

Общий интеллект — это не то же самое, что интеллект человека

Фундаментальные различия между биологическим и искусственным интеллектом

Мы часто думаем и размышляем об интеллекте, имея в виду антропоцентрическую концепцию нашего собственного интеллекта как очевидную и недвусмысленную ссылку.Мы склонны использовать эту концепцию в качестве основы для рассуждений о других, менее известных явлениях интеллекта, таких как другие формы биологического и искусственного интеллекта (Coley and Tanner, 2012). Это может привести к интересным вопросам и идеям. Примером может служить обсуждение того, как и когда будет достигнута точка «интеллекта на человеческом уровне». Например, Аккерманн. (2018) пишет: «До достижения суперинтеллекта общий ИИ означает, что машина будет иметь те же когнитивные способности, что и человек».Итак, исследователи подробно обсуждают момент времени, когда мы достигнем общего ИИ (например, Goertzel, 2007; Müller and Bostrom, 2016). Мы полагаем, что подобные вопросы не совсем по цели. Существует (в принципе) множество различных возможных типов (общего) интеллекта, из которых человекоподобный интеллект является лишь одним из них. Это означает, например, что развитие ИИ определяется ограничениями физики и технологий, а не биологической эволюцией.Таким образом, точно так же, как разум гипотетического инопланетного посетителя нашей планеты Земля, вероятно, будет иметь иную (не) органическую структуру с другими характеристиками, сильными и слабыми сторонами, чем человеческие жители, это также применимо к искусственным формам (в целом ) интеллект. Ниже мы кратко суммируем несколько фундаментальных различий между человеческим и искусственным интеллектом (Bostrom, 2014):

‐ Базовая структура: Биологический (углеродный) интеллект основан на нейронном «программном обеспечении», которое принципиально отличается от искусственного (основанного на кремнии) интеллекта.В отличие от биологического влажного ПО, в кремниевых или цифровых системах «оборудование» и «программное обеспечение» не зависят друг от друга (Kosslyn and Koenig, 1992). Когда биологическая система усвоила новый навык, он будет привязан к самой системе. Напротив, если система ИИ приобрела определенный навык, составляющие алгоритмы могут быть напрямую скопированы во все другие аналогичные цифровые системы.

‐Speed: сигналы от систем искусственного интеллекта распространяются почти со скоростью света. У людей скорость проводимости нервов составляет не более 120 м / с, что чрезвычайно медленно в масштабе времени компьютеров (Siegel and Sapru, 2005).

‐Взаимодействие и коммуникация: люди не могут напрямую общаться друг с другом. Они общаются с помощью языка и жестов с ограниченной пропускной способностью. Это медленнее и сложнее, чем обмен данными между системами ИИ, которые могут быть напрямую связаны друг с другом. Благодаря этому прямому соединению они также могут сотрудничать на основе интегрированных алгоритмов.

‐ Обновляемость и масштабируемость: системы искусственного интеллекта почти не имеют ограничений в отношении их обновления или масштабирования и / или перенастройки, чтобы у них были правильные алгоритмы, а также возможности обработки и хранения данных, необходимые для выполнения задач. они должны выполнить.Эта способность к быстрому структурному расширению и немедленному совершенствованию вряд ли применима к людям.

— Напротив, биология делает многое с небольшим: органический мозг в миллионы раз потребляет больше энергии, чем компьютеры. Человеческий мозг потребляет меньше энергии, чем лампочка, тогда как суперкомпьютер с сопоставимой вычислительной производительностью потребляет достаточно электроэнергии, чтобы обеспечить энергией целую деревню (Fischetti, 2011).

Подобные различия в базовой структуре, скорости, возможности подключения, обновляемости, масштабируемости и энергопотреблении обязательно приведут к разным качествам и ограничениям между человеческим и искусственным интеллектом.Наша скорость реакции на простые стимулы, например, во много тысяч раз ниже, чем у искусственных систем. Компьютерные системы очень легко могут быть напрямую связаны друг с другом и как таковые могут быть частью одной интегрированной системы. Это означает, что системы искусственного интеллекта не должны рассматриваться как отдельные сущности, которые могут легко работать вместе друг с другом или иметь взаимные недопонимания. И если две системы ИИ задействованы в задаче, они имеют минимальный риск ошибиться из-за недопонимания (подумайте о беспилотных транспортных средствах, приближающихся к перекрестку).В конце концов, они являются внутренне связанными частями одной и той же системы и одного и того же алгоритма (Герла и др., 2014).

Сложность и парадокс Моравека

Потому что биологические, углеродные, мозговые и цифровые, кремниевые компьютеры оптимизированы для совершенно разных видов задач (например, Moravec, 1988; Korteling et al., 2018b), человеческих и искусственных. интеллект показывает фундаментальные и, вероятно, далеко идущие различия. Из-за этих различий использование собственного разума в качестве основы, модели или аналогии для рассуждений об ИИ может ввести в заблуждение.Это может привести к ошибочным представлениям, например, о предполагаемых способностях людей и ИИ выполнять сложные задачи. В результате недостатки, касающиеся возможностей обработки информации, часто появляются в психологической литературе, в которой термины «сложность» и «трудность» задач используются взаимозаменяемо (см., Например, Wood et al., 1987; McDowd and Craik, 1988). Затем сложность задачи оценивается антропоцентрическим образом, то есть по степени, в которой мы, люди, можем ее выполнить или овладеть ею. Итак, мы используем сложность для выполнения или освоения задачи как меру ее сложности , а производительность задачи (скорость, ошибки) как меру навыков и интеллекта исполнителя задачи.Хотя иногда это может быть приемлемо в психологических исследованиях, это может вводить в заблуждение, если мы стремимся понять интеллект систем ИИ. Нам гораздо труднее перемножить два случайных числа из шести цифр, чем узнать друга на фотографии. Но когда дело доходит до счета или арифметических операций, компьютеры в тысячи раз быстрее и лучше, в то время как те же самые системы только недавно предприняли шаги по распознаванию изображений (что удалось только тогда, когда была внедрена технология глубокого обучения, основанная на некоторых принципах биологических нейронных сетей. развитый).В целом: когнитивные задачи, которые относительно сложны для человеческого мозга (и которые мы поэтому считаем сложными субъективно), не обязательно должны быть вычислительно сложными (например, с точки зрения объективной арифметики, логики и абстрактных операций). И наоборот: задачи, которые относительно просты для мозга (распознавание паттернов, перцептивно-моторные задачи, хорошо обученные задачи), не обязательно должны быть простыми в вычислительном отношении. Это явление, легкое для древней нейронной «технологии» людей и сложное для современной цифровой технологии компьютеров (и наоборот), было названо парадоксом Моравца . Ханс Моравец (1988) писал: «Сравнительно легко заставить компьютеры показывать результаты на уровне взрослых в тестах интеллекта или игре в шашки, и трудно или невозможно дать им навыки годовалого ребенка, когда дело касается восприятия и мобильности. . »

Превосходный перцепционно-моторный интеллект человека

Парадокс Моравека подразумевает, что биологические нейронные сети интеллектуальны по-разному, чем искусственные нейронные сети. Интеллект не ограничивается проблемами или целями, которые мы, люди, обладающие биологическим интеллектом, считаем трудными (Grind, 1997).Интеллект, определяемый как способность реализовывать сложные цели или решать сложные проблемы, — это гораздо больше. Согласно Моравеку (1988), рассуждение высокого уровня требует очень небольшого количества вычислений, но низкоуровневые перцепционно-моторные навыки требуют огромных вычислительных ресурсов. Если мы выразим сложность проблемы в терминах количества элементарных вычислений, необходимых для ее решения, то наш биологический перцептивный двигательный интеллект на намного превосходит нашего когнитивного интеллекта.Наш органический перцептивно-моторный интеллект особенно хорош в ассоциативной обработке инвариантов («паттернов») более высокого порядка в окружающей информации. Они более сложны в вычислительном отношении и содержат больше информации, чем простые отдельные элементы (Гибсон, 1966, Гибсон, 1979). Примером наших превосходных перцепционно-моторных способностей является эффект превосходства объекта : мы воспринимаем и интерпретируем целые объекты быстрее и эффективнее, чем (более простые) отдельные элементы, составляющие эти объекты (Weisstein and Harris, 1974; McClelland, 1978 ; Williams, Weisstein, 1978; Pomerantz, 1981).Таким образом, буквы также воспринимаются более точно, когда они представлены как часть слова, чем когда они представлены изолированно, то есть эффект превосходства слова (например, Reicher, 1969; Wheeler, 1970). Таким образом, сложность задачи не обязательно указывает на присущую ей сложность . Как выразился Моравец (1988): «Мы все потрясающие олимпийцы в области восприятия и моторики, настолько хороши, что делаем сложный вид легким. Однако абстрактная мысль — это новый трюк, которому, возможно, меньше 100 тысяч лет.Мы еще не освоили. Это не так уж и сложно; просто так кажется, когда мы это делаем ».

Предположение о человекоподобном AGI

Итак, если бы существовали системы искусственного интеллекта с общим интеллектом, которые можно было бы использовать для широкого круга сложных задач и задач, эти машины AGI, вероятно, имели бы совершенно другой профиль интеллекта, включая другие когнитивные качества, чем у человека (Goertzel, 2007). Это будет даже так, если нам удастся создать агентов ИИ, которые демонстрируют подобное поведение, как мы, и если они смогут адаптироваться к нашему образу мышления и решению проблем, чтобы способствовать объединению людей и ИИ.Если мы не решим намеренно ухудшить возможности систем ИИ (что было бы не очень умно), базовые возможности и способности человека и машин в отношении сбора и обработки информации, анализа данных, вероятностных рассуждений, логики, объема памяти. и т. д. останутся непохожими. Из-за этих различий мы должны сосредоточиться на системах, которые эффективно дополняют нас и делают систему искусственного интеллекта человека сильнее и эффективнее. Вместо того, чтобы заниматься искусственным интеллектом человеческого уровня, было бы более выгодно сосредоточиться на автономных машинах и (поддерживающих) системах, которые заполняют или расширяют многочисленные пробелы в когнитивном интеллекте человека.Например, в то время как люди вынуждены — из-за медлительности и других ограничений биологического мозга — мыслить эвристически в терминах целей, добродетелей, правил и норм, выраженных (нечетким) языком, ИИ уже создал отличные возможности для обработки и расчета непосредственно на очень сложные данные. Следовательно, или выполнение конкретных (узких) когнитивных задач (логических, аналитических, вычислительных) современный цифровой интеллект может быть более эффективным и действенным, чем биологический интеллект. Таким образом, ИИ может помочь найти лучшие ответы на сложные проблемы, используя большие объемы данных, последовательные наборы этических принципов и целей, вероятностные и логические рассуждения (например,грамм. Korteling et al., 2018b). Таким образом, мы предполагаем, что в конечном итоге разработка систем искусственного интеллекта для поддержки принятия решений человеком может оказаться наиболее эффективным способом, ведущим к принятию лучших решений или разработке лучших решений сложных проблем. Таким образом, сотрудничество и разделение задач между людьми и системами ИИ должно в первую очередь определяться их взаимно специфическими качествами. Например, задачи или компоненты задач, которые обращаются к способностям, в которых превосходят системы ИИ, должны будут меньше (или менее полно) освоены людьми, поэтому, вероятно, потребуется меньше обучения.Системы искусственного интеллекта уже намного лучше людей в логически и арифметически правильном сборе (выборе) и обработке (взвешивании, расстановке приоритетов, анализе, объединении) больших объемов данных. Делают это быстро, точно и надежно. Они также более стабильны (последовательны), чем люди, не испытывают стресса и эмоций, обладают большой настойчивостью и гораздо лучше сохраняют знания и навыки, чем люди. Как машина, они служат людям полностью и без каких-либо «личных интересов» или «собственных скрытых целей».«Основываясь на этих качествах, системы искусственного интеллекта могут эффективно брать на себя задачи или компоненты задач от людей. Тем не менее, по-прежнему важно, чтобы люди продолжали выполнять эти задачи до определенной степени, чтобы они могли взять на себя задачи или предпринять соответствующие действия в случае отказа системы машины.

В целом, люди лучше, чем системы искусственного интеллекта, подходят для гораздо более широкого спектра когнитивных и социальных задач в широком разнообразии (непредвиденных) обстоятельств и событий (Korteling et al., 2018b). В настоящее время люди также лучше справляются с социально-психосоциальным взаимодействием.Например, системам искусственного интеллекта сложно интерпретировать человеческий язык и символы. Для этого требуется очень обширная система отсчета, которой, по крайней мере, до сих пор и в ближайшем будущем, трудно достичь с помощью ИИ. В результате всех этих различий люди по-прежнему лучше реагируют (как гибкая команда) на неожиданные и непредсказуемые ситуации и творчески придумывают возможности и решения для открытых и плохо определенных задач, а также для широкого круга различных и, возможно, неожиданных, обстоятельства.Людям придется дополнительно использовать свои особые человеческие качества (то есть то, в чем люди относительно хороши) и тренироваться для повышения соответствующих компетенций. Кроме того, члены команды должны научиться хорошо справляться с общими ограничениями ИИ. Благодаря такому правильному разделению задач, основанному на конкретных качествах и ограничениях людей и систем искусственного интеллекта, человеческие предубеждения при принятии решений можно обойти и можно ожидать более высокой производительности. Это означает, что усиление команды интеллектуальными машинами, имеющими меньше когнитивных ограничений и предубеждений, может иметь большую прибавочную стоимость, чем стремление к сотрудничеству между людьми и ИИ, у которых развились такие же (человеческие) предубеждения.Хотя для сотрудничества в командах с системами ИИ может потребоваться дополнительное обучение, чтобы эффективно справляться с этим несоответствием смещения, эта неоднородность, вероятно, будет лучше и безопаснее. Это также открывает возможность сочетания высоких уровней значимого человеческого контроля и высоких уровней автоматизации, что, вероятно, приведет к созданию наиболее эффективных и безопасных систем искусственного интеллекта человека (Elands et al., 2019; Shneiderman, 2020a). Вкратце: человеческий интеллект не является золотым стандартом для общего интеллекта; Вместо того, чтобы нацеливаться на человекоподобных AGI, стремление к AGI должно, таким образом, сосредоточиться на эффективном цифровом / кремниевом AGI в сочетании с оптимальной конфигурацией и распределением задач.

Объясняемость и доверие

Достижения, связанные с искусственным обучением, или, в частности, с глубоким (подкрепляющим) обучением, были революционными. Глубокое обучение моделирует сеть, напоминающую многоуровневые нейронные сети нашего мозга. Основываясь на больших объемах данных, сеть учится распознавать закономерности и связи с высоким уровнем точности, а затем связывать их с курсами действий, не зная лежащих в основе причинных связей. Это означает, что трудно обеспечить ИИ с глубоким обучением некоторую прозрачность в том, как и почему он сделал конкретный выбор, например, выразив внятное (для людей) рассуждение о процессе принятия решения, как это делаем мы, ( е.грамм. Белком, 2019). Кроме того, рассуждения о решениях, как это делают люди, — очень гибкий и произвольный процесс (по крайней мере, у людей). Люди, как правило, не осведомлены о своих неявных познаниях или отношениях и, следовательно, не могут адекватно сообщить о них. Поэтому многим людям довольно сложно интроспективно анализировать свои психические состояния, поскольку они являются сознательными, и прикреплять результаты этого анализа к словесным ярлыкам и описаниям (например, Nosek et al. (2011). Во-первых, человеческий мозг едва ли показывает, как он создает сознательные мысли (например,грамм. Фельдман-Баррет, 2017). На самом деле он создает иллюзию того, что его продукты раскрывают его внутреннее устройство. Другими словами: наши сознательные мысли ничего не говорят нам о том, как эти мысли возникли. Также нет субъективного маркера, который отличал бы правильные рассуждения от ошибочных (Kahneman, Klein, 2009). Таким образом, лицо, принимающее решения, не имеет возможности отличить правильные мысли, исходящие от подлинных знаний и опыта, и неправильные, вытекающие из несоответствующих нейроэволюционных процессов, тенденций и первичных интуиций.Итак, здесь мы могли бы задать вопрос: не более ли надежнее иметь настоящий черный ящик, чем слушать рассказывающий о них? Кроме того, согласно Werkhoven et al. (2018), требующие объяснимой наблюдаемости или прозрачности (Belkom, 2019; van den Bosch et al., 2019), могут привести к тому, что системы искусственного интеллекта будут ограничивать свою потенциальную пользу для человеческого общества тем, что может быть понято людьми.

Конечно, мы не должны слепо доверять результатам, генерируемым ИИ. Как и в других областях сложных технологий, (например,грамм. Modeling & Simulation), системы ИИ должны быть проверены (соответствуют спецификациям) и утверждены (соответствуют целям системы) в отношении целей, для которых система была разработана. В целом, когда система должным образом верифицирована и валидирована, ее можно считать безопасной, надежной и пригодной для использования. Поэтому он заслуживает нашего доверия по (логически) понятным и объективным причинам (хотя ошибки все же могут случаться). Точно так же люди доверяют характеристикам самолетов и сотовых телефонов, несмотря на то, что мы почти полностью игнорируем их сложные внутренние процессы.Подобно нашему собственному мозгу, искусственные нейронные сети принципиально непрозрачны (Nosek et al., 2011; Feldman-Barret, 2017). Следовательно, доверие к ИИ должно в первую очередь основываться на его объективных характеристиках. Это формирует более важную основу, чем обеспечение доверия на основе субъективных (обманчивых) впечатлений, историй или изображений, направленных на убеждение и обращение к пользователю. На основе эмпирических проверочных исследований разработчики и пользователи могут явно проверить, насколько хорошо система работает с набором ценностей и целей, для которых была разработана машина.В какой-то момент люди могут захотеть верить, что цели могут быть достигнуты за счет меньших затрат и лучших результатов, когда мы принимаем решения, даже если они могут быть менее прозрачными для людей (Werkhoven et al., 2018).

Влияние технологии множественного узкого ИИ

AGI как Святой Грааль

AGI, как и общий интеллект человека, будет иметь много очевидных преимуществ по сравнению с узким (ограниченным, слабым, специализированным) ИИ. Система AGI была бы намного более гибкой и адаптивной. На основе общих процессов обучения и рассуждений он мог бы автономно понять, как можно решить несколько проблем во всех видах различных областей в зависимости от их контекста (например,грамм. Курцвейл, 2005). Системы AGI также требуют гораздо меньшего вмешательства человека, чтобы уладить различные незакрепленные части между частичными элементами, аспектами и перспективами в сложных ситуациях. AGI действительно понимает проблемы и способен рассматривать их с разных точек зрения (как люди — в идеале — тоже могут это делать). Характерной чертой нынешних (узких) инструментов ИИ является то, что они обладают навыками в очень конкретной задаче, где они часто могут выполнять на сверхчеловеческих уровнях (например, Goertzel, 2007; Silver et al., 2017).Эти конкретные задачи четко определены и структурированы. Узкие системы ИИ менее подходят или совершенно не подходят для задач или сред задач, которые предлагают небольшую структуру, последовательность, правила или рекомендации, в которых могут происходить всевозможные неожиданные, редкие или необычные события (например, чрезвычайные ситуации). Знание установленных процедур и следование им обычно не приводит к правильным решениям в этих различных обстоятельствах. В контексте (непредвиденных) изменений целей или обстоятельств адекватность существующего ИИ значительно снижается, поскольку он не может рассуждать с общей точки зрения и соответствующим образом адаптироваться (Lake et al., 2017; Горовиц, 2018). Как и в случае с узкими системами искусственного интеллекта, тогда необходимы люди, которые будут контролировать эти отклонения, чтобы обеспечить гибкую и адаптивную производительность системы. Поэтому поиски AGI можно рассматривать как поиски своего рода святого Грааля.

Множественный узкий ИИ сейчас наиболее актуален!

Потенциально высокие перспективы AGI, однако, не означают, что AGI будет наиболее важным фактором в будущих исследованиях и разработках в области искусственного интеллекта, по крайней мере, в краткосрочной и среднесрочной перспективе. Размышляя о больших потенциальных преимуществах общего интеллекта, мы склонны рассматривать узкие приложения искусственного интеллекта как отдельные объекты, которые вполне могут быть проиграны более широким AGI, который предположительно может справиться со всем.Но так же, как наш современный мир быстро развивался благодаря разнообразию конкретных (ограниченных) технологических инноваций, на системном уровне весь и широкий спектр появляющихся приложений ИИ также будет иметь революционное технологическое и социальное воздействие (Peeters et al., 2020) . Это будет особенно актуально для будущего мира больших данных, в котором все будет подключено ко всему через Интернет вещей . Таким образом, будет намного выгоднее и выгоднее разрабатывать и создавать (не похожие на человека) варианты ИИ, которые будут отличаться в областях, где люди по своей природе ограничены.Кажется не слишком надуманным предположить, что несколько вариантов узких приложений ИИ также постепенно становятся более взаимосвязанными. Таким образом, можно ожидать развития все более широкой области интегрированных приложений ИИ. Кроме того, уже можно обучить языковую модель AI (Generative Pre-Training Transformer3, GPT-3) с гигантским набором данных, а затем обучить ее различным задачам на основе нескольких примеров — обучение за один или несколько шагов. GPT-3 (разработанный OpenAI) может делать это с задачами, связанными с языком, но нет причин, по которым это невозможно с изображением и звуком или с комбинациями этих трех (Brown, 2020).

Кроме того, парадокс Моравека подразумевает, что развитие «партнеров» ИИ со многими видами человеческих (-уровневых) качеств будет очень трудно получить, в то время как их добавленная стоимость (т.е. за пределами человеческих возможностей) будет относительно низкий. Наиболее плодотворные приложения искусственного интеллекта будут в основном включать дополнения человеческих ограничений и ограничений. Учитывая нынешние стимулы для конкурентного технологического прогресса, множественные формы (связанных) узких систем ИИ будут основным фактором воздействия ИИ на наше общество в краткосрочной и среднесрочной перспективе.В ближайшем будущем это может означать, что приложения искусственного интеллекта останутся очень отличными от человеческих агентов и во многих аспектах почти не сравнимы с ними. Это, вероятно, будет правдой, даже если гипотетическое совпадение общего искусственного интеллекта (AGI) с человеческим познанием будет достигнуто в будущем в долгосрочной перспективе. Интеллект — понятие многомерное (количественное, качественное). Все измерения ИИ разворачиваются и растут по своему собственному пути со своей собственной динамикой. Следовательно, с течением времени все большее количество конкретных (узких) возможностей ИИ может постепенно совпадать, обгонять и превосходить когнитивные способности человека.Учитывая огромные преимущества ИИ, например, в области доступности данных и возможностей обработки данных, реализация AGI, вероятно, в то же время во многих отношениях превзойдет человеческий интеллект. Это означает, что гипотетический момент времени сопоставления человеческих и искусственных когнитивных способностей, то есть ОИИ человеческого уровня, вероятно, будет трудно определить значимым образом (Goertzel, 2007). ³

Итак, когда ИИ по-настоящему поймет нас как «друга», «партнера», «альтер-эго» или «приятеля», как мы это делаем, когда сотрудничаем с другими людьми как с людьми, он превзойдет нас во многих областях. в то же время Моравец (1998).У него будет совершенно другой профиль способностей и способностей, и поэтому будет непросто по-настоящему понять, как он «думает» и приходит к своим решениям. Тем временем, однако, по мере того, как возможности роботов расширяются и переходят от простых инструментов к более интегрированным системам, важно соответствующим образом откалибровать наши ожидания и представления о роботах. Таким образом, нам нужно будет повысить нашу осведомленность и понимание относительно непрерывного развития и развития множества форм (интегрированных) систем искусственного интеллекта.Это касается, например, многогранности интеллекта. Разные типы агентов могут иметь разные комбинации интеллекта самого разного уровня. Агент с общим интеллектом может, например, быть наделен превосходными способностями в области распознавания образов и навигации, вычислений и логических рассуждений, в то же время будучи скучным в области социального взаимодействия и целенаправленного решения проблем. Это осознание многомерной природы интеллекта также касается того, как мы должны иметь дело с антропоморфизмом ( и извлекают выгоду).Это человеческая тенденция во взаимодействии человека с роботом характеризовать нечеловеческие артефакты, которые внешне похожи на нас как обладающие человеческими чертами, эмоциями и намерениями (например, Kiesler and Hinds, 2004; Fink, 2012; Haring et al. ., 2018). Понимание этих проблем человеческого фактора имеет решающее значение для оптимизации полезности, производительности и безопасности систем искусственного интеллекта человека (Peeters et al., 2020).

С этой точки зрения вопрос о том, будет ли реализован «AGI на человеческом уровне», на данный момент не является наиболее актуальным.По мнению большинства ученых в области искусственного интеллекта, это обязательно произойдет, и ключевой вопрос не в том, произойдет ли это, а в КОГДА (например, Müller and Bostrom, 2016). Однако на системном уровне несколько узких приложений искусственного интеллекта, вероятно, обгонят человеческий интеллект во все более широком диапазоне областей.

Выводы и основы

Настоящая статья сосредоточена на обеспечении большей ясности и понимания фундаментальных характеристик, различий и особенностей человеческого и искусственного интеллекта.Сначала мы представили идеи и аргументы, чтобы расширить и дифференцировать нашу концепцию интеллекта, будь то человеческий или искусственный. Центральным в этой более широкой и многогранной концепции интеллекта является представление о том, что интеллект сам по себе является вопросом информации и вычислений, независимо от его физического субстрата. Однако природа этого физического субстрата (биологический / углеродный или цифровой / кремний) в значительной степени будет определять его потенциальную оболочку когнитивных способностей и ограничений.Органические когнитивные способности людей были развиты совсем недавно в ходе эволюции человечества. Эти «эмбриональные» способности были построены на основе аппарата биологической нейронной сети, оптимизированного для аллостаза и (сложных) моторных функций восприятия. Поэтому человеческое познание характеризуется различными структурными ограничениями и искажениями в способности обрабатывать определенные формы небиологической информации. Биологические нейронные сети, например, не очень способны выполнять арифметические вычисления, для которых мой карманный калькулятор подходит в миллионы раз лучше.Эти врожденные и укоренившиеся ограничения, обусловленные биологическим и эволюционным происхождением человеческого интеллекта, можно назвать «жестко запрограммированными».

В соответствии с парадоксом Моравича , мы утверждали, что разумное поведение — это нечто большее, чем , которое мы, как homo sapiens, находим трудным. Поэтому не следует путать сложность задачи (субъективную, антропоцентрическую) со сложностью задачи (объективной). Вместо этого мы выступали за разностороннюю концептуализацию интеллекта и признание его множества возможных форм и составов.Это подразумевает большое разнообразие типов биологического или других форм высокого (общего) интеллекта с широким диапазоном возможных профилей интеллекта и когнитивных качеств (которые могут или не могут превосходить наши во многих отношениях). Это позволит нам лучше понять наиболее вероятные возможности приложений искусственного интеллекта в краткосрочной и среднесрочной перспективе. Например, с этой точки зрения наше основное внимание в исследованиях должно быть сосредоточено на тех компонентах спектра интеллекта, которые относительно сложны для человеческого мозга и относительно легки для машин.Это в первую очередь включает когнитивный компонент , требующий вычислений, арифметического анализа, статистики, вычисления вероятностей, анализа данных, логических рассуждений, запоминания и так далее.

В соответствии с этим мы выступаем за более скромный взгляд на наш человеческий, общий интеллект. Это также означает, что ОИИ человеческого уровня не следует рассматривать как «золотой стандарт» интеллекта (которому следует уделять первоочередное внимание). Из-за множества фундаментальных различий между естественным и искусственным интеллектом, человекоподобный ОИИ будет очень трудно реализовать (а также с относительно ограниченной добавленной стоимостью).В случае, если ОИИ будет реализован в (далеком) будущем, он, вероятно, будет иметь совершенно другой профиль когнитивных способностей и способностей, чем мы, люди. Когда такой ОИИ зашел так далеко, что сможет «сотрудничать», как человек, в то же время будет вероятно, что во многих отношениях он уже может функционировать на гораздо более высоких уровнях по сравнению с тем, на что мы способны. В настоящее время, однако, будет не очень реалистично и полезно нацеливаться на ОИИ, который включает в себя широкий спектр человеческих перцептивно-моторных и когнитивных способностей.Вместо этого наиболее прибыльные приложения ИИ в краткосрочной и среднесрочной перспективе, вероятно, будут основаны на нескольких узких системах ИИ. Эти многочисленные узкие приложения ИИ могут догнать человеческий интеллект во все более широком диапазоне областей.

С этой точки зрения мы выступаем за то, чтобы не слишком подробно останавливаться на вопросе AGI, сможет ли ИИ перехитрить нас, забрать нашу работу или как наделить его всеми видами человеческих способностей, и когда это произойдет. Учитывая нынешнее состояние дел, может быть целесообразно больше сосредоточиться на всей системе множественных инноваций ИИ с людьми как решающим связующим и контролирующим фактором.Это также подразумевает установление и формализацию юридических границ и надлежащих (эффективных, этических, безопасных) целей для систем искусственного интеллекта (Elands et al., 2019; Aliman, 2020). Таким образом, этот человеческий фактор (законодатель, пользователь, «сотрудник») должен иметь хорошее представление о характеристиках и возможностях биологического и искусственного интеллекта (для всех видов задач и условий работы). Как на рабочем месте, так и при разработке политики наиболее плодотворными приложениями ИИ будут дополнять и компенсировать присущие человеку биологические и когнитивные ограничения.По этой причине основные вопросы касаются того, как его использовать с умом? Для каких задач и при каких условиях решения можно безопасно отдать на усмотрение ИИ, а когда требуется человеческое суждение? Как мы можем извлечь выгоду из сильных сторон человеческого интеллекта и как эффективно развернуть системы искусственного интеллекта, чтобы дополнить и компенсировать внутренние ограничения человеческого познания. См. Последние обзоры (Hoffman and Johnson, 2019; Shneiderman, 2020a; Shneiderman, 2020b).

Вкратце: независимо от того, насколько интеллектуальными автономными агентами ИИ станут в определенных отношениях, по крайней мере в обозримом будущем, они останутся бессознательными машинами.У этих машин принципиально другая операционная система (биологическая и цифровая) с соответственно другими когнитивными способностями и качествами, чем у людей и других животных. Итак, прежде чем может начаться надлежащее «командное сотрудничество», члены команды должны будут понять эти виды различий, то есть, чем человеческая обработка информации и интеллект отличаются от — многих возможных и конкретных вариантов — систем ИИ. Только когда люди разовьют эти «межвидовые» различия, они смогут эффективно использовать потенциальные преимущества ИИ в (будущих) командах человек-ИИ.Учитывая высокую гибкость, универсальность и адаптивность людей по отношению к системам ИИ, тогда первой проблемой становится то, как обеспечить адаптацию человека к более жестким возможностям ИИ? ⁴ Другими словами: как мы можем правильно понять разницу между человеческим и искусственным интеллектом?

Framework for Intelligence Awareness Training

Что касается этого вопроса, то проблема Intelligence Awareness у специалистов-людей должна быть решена более решительно.Наряду с компьютерными инструментами для распространения соответствующей информации осведомленности (Collazos et al., 2019) в человеко-машинных системах это требует более качественного образования и обучения тому, как иметь дело с совершенно новыми и разными характеристиками, особенностями и возможностями систем ИИ. . Это включает, например, правильное понимание основных характеристик, возможностей и ограничений свойств когнитивной системы ИИ без антропоцентрических и / или антропоморфных заблуждений. В целом, этот «Intelligence Awareness» очень важен для лучшего понимания, исследования и решения разнообразных возможностей и проблем машинного интеллекта.Эту практическую задачу, связанную с человеческим фактором, можно, например, решить путем разработки новых, целевых и легко настраиваемых (адаптивных) форм обучения и среды обучения для систем искусственного интеллекта человека. Эти гибкие формы обучения и среды (например, симуляции и игры) должны быть нацелены на развитие знаний, понимания и практических навыков, касающихся специфических, нечеловеческих характеристик, способностей и ограничений систем ИИ и того, как с ними справляться в практических ситуациях. Людям придется понимать критические факторы, определяющие цели, производительность и выбор ИИ? Что в некоторых случаях может даже включать простое представление о том, что ИИ волнует не меньше, чем производительность вашего молочного коктейля в вашем холодильнике.Они должны узнать, когда и при каких условиях решения можно безопасно передать ИИ, а когда необходимо или необходимо человеческое суждение? И еще в целом: как он «думает» и решает? Актуальность такого рода знаний, навыков и практик станет только больше, когда повысится степень автономности (и универсальности) передовых систем искусственного интеллекта.

Как выглядит такая учебная программа Intelligence Awareness ? Он должен включать как минимум модуль по когнитивным характеристикам ИИ.Это в основном предмет, аналогичный тем предметам, которые также включены в учебные программы по познанию человека . Этот обширный модуль «Когнитивная наука об ИИ» может включать ряд подтем, начиная с пересмотра концепции «интеллекта», лишенной антропоцентрических и антропоморфных недоразумений. Кроме того, этот модуль должен быть направлен на предоставление знаний о структуре и работе операционной системы ИИ или «разуме ИИ». За этим могут следовать такие предметы, как: восприятие и интерпретация информации ИИ, познание ИИ (память, обработка информации, решение проблем, предубеждения), работа с возможностями и ограничениями ИИ в «человеческих» областях, таких как творчество, адаптивность, автономия, рефлексия. и (самосознание), имея дело с целевыми функциями (оценка действий по соотношению затрат и выгод), этикой ИИ и безопасностью ИИ.Кроме того, такая учебная программа должна включать технические модули, дающие представление о работе операционной системы ИИ. Из-за огромной скорости, с которой развиваются технология и приложения ИИ, содержание такой учебной программы также очень динамично и постоянно развивается на основе технического прогресса. Это означает, что учебный план, средства обучения и среда должны быть гибкими, основанными на опыте и адаптируемыми, что делает рабочую форму серьезной игры идеально подходящей.Ниже мы представляем глобальную основу для разработки новых образовательных программ по осведомленности об ИИ. Эти подтемы выходят за рамки обучения, чтобы эффективно «работать», «управлять» или взаимодействовать с конкретными приложениями ИИ (т. Е. Обычное взаимодействие человека с машиной):

— Понимание основных системных характеристик ИИ («мозг ИИ»). Понимание специфических качеств и ограничений ИИ по сравнению с человеческим интеллектом.

‐Понимание сложности задач и окружающей среды с точки зрения систем искусственного интеллекта.

‐Понимание проблемы предубеждений в человеческом познании по сравнению с предубеждениями в ИИ.

‐Понимание проблем, связанных с контролем ИИ, предсказуемостью поведения ИИ (решений), построением доверия, поддержанием осведомленности о ситуации (самоуспокоенность), динамическим распределением задач (например, принятием на себя задач друг друга) и ответственностью (подотчетность).

‐Как бороться с возможностями и ограничениями ИИ в области «творчества», адаптируемости ИИ, «экологической осведомленности» и обобщения знаний.

— Обучение работе с ограничениями восприятия и познания, а также с возможными ошибками ИИ, которые может быть трудно понять.

-Доверие к работе ИИ (возможно, несмотря на ограниченную прозрачность или способность «объяснять») на основе проверки и подтверждения.

— Научиться справляться с нашей естественной склонностью к антропоцентризму и антропоморфизму («теория разума»), когда мы рассуждаем о взаимодействии человека и робота.

-Как извлечь выгоду из возможностей ИИ, чтобы справиться с внутренними ограничениями обработки информации человеком (и наоборот).

‐Понимание специфических характеристик и качеств системы человек-машина и способность решать, когда, для чего и как интегрированная комбинация человеческих и искусственных способностей может обеспечить наилучший общий потенциал системы.

В заключение: из-за огромной скорости, с которой развиваются технология и приложения ИИ, нам нужна более универсальная концептуализация интеллекта и признание его множества возможных форм и комбинаций. Пересмотренная концепция интеллекта включает также хорошее понимание основных характеристик, возможностей и ограничений различных (биологических, искусственных) свойств когнитивной системы без антропоцентрических и / или антропоморфных заблуждений.Эта «интеллектуальная осведомленность» очень важна для лучшего понимания и решения разнообразных возможностей и проблем машинного интеллекта, например, чтобы решить, когда использовать или развертывать ИИ в зависимости от задач и их контекста. Поэтому рекомендуется разработка образовательных программ с новыми, целевыми и легко настраиваемыми формами обучения и средами обучения для систем искусственного интеллекта человека. Дальнейшая работа должна быть сосредоточена на обучающих инструментах, методах и содержании, которые являются достаточно гибкими и адаптируемыми, чтобы быть в состоянии идти в ногу с быстрыми изменениями в области ИИ и с широким спектром целевых групп и целей обучения.

Вклад авторов

Литературный поиск, анализ, концептуальная работа и написание рукописи были выполнены JEK. Все перечисленные авторы внесли существенный, прямой и интеллектуальный вклад в работу и одобрили ее к публикации.

Конфликт интересов

Авторы заявляют, что исследование проводилось в отсутствие каких-либо коммерческих или финансовых отношений, которые могли бы быть истолкованы как потенциальный конфликт интересов.

Благодарности

Авторы выражают благодарность Дж.ван Диггелен, L.J.H.M. Кестеру за их полезный вклад в эту рукопись. Настоящий документ явился результатом 1) программы BIHUNT (Behavioral Impact of NIC Teaming, V1719), финансируемой Министерством обороны Нидерландов, и программы Wise Policy Making, финансируемой Нидерландской организацией прикладных научных исследований (TNO).

Сноски

¹ Узкий ИИ можно определить как создание систем, отображающих интеллект в отношении конкретных, строго ограниченных задач, таких как игра в шахматы, распознавание лиц, автономная навигация или передвижение (Goertzel et al., 2014).

² Когнитивные способности включают в себя осознанное, концептуальное или аналитическое мышление (например, расчет, статистика, анализ, рассуждения, абстракция)

³ Если, конечно, ИИ не будет намеренно ограничен или понижен до уровня человеческого функционирования.

⁴ Рядом с вопросом о человеко-ориентированном ИИ, т.е. настройке ИИ на когнитивные характеристики человека.

Литература

Алиман, Н-М. (2020). Гибридные когнитивно-эмоциональные стратегии безопасности ИИ .Кандидатская диссертация . Утрехт, Нидерланды: Утрехтский университет. DOI: 10.33540 / 203

CrossRef Полный текст

Бао, Дж. Х., Кандел, Э. Р. и Хокинс, Р. Д. (1997). Участие пре- и постсинаптических механизмов в посттетанической потенциации в синапсах аплизии. Наука 275, 969–973. DOI: 10.1126 / science.275.5302.969Dane

PubMed Аннотация | CrossRef Полный текст | Google Scholar

Барон Дж. И Ритов И. (2004). Предвзятость упущения, индивидуальные различия и нормальность. Организационное поведение. Гм. Decis. Процесс. 94, 74–85. doi: 10.1016 / j.obhdp.2004.03.003

CrossRef Полный текст | Google Scholar

Belkom, R. v. (2019). Duikboten zwemmen niet: de zoektocht naar intelligent machines. Den Haag: Stichting Toekomstbeeld der Techniek (STT).

Google Scholar

Бигер, Дж. Б., Ториссон, К. Р., и Гарретт, Д. (2014). «Повышение уровня ИИ: обучение имеет значение», , 7-я международная конференция, AGI 2014, квебек-сити, Квебек, Канада, 1–4 августа 2014 г., материалы .Редакторы Б. Гертцель, Л. Орсо и Й. Снайдер (Берлин, Германия: Springer). doi: 10.1007 / 978-3-319-09274-4

CrossRef Полный текст | Google Scholar

Bostrom, N. (2014). Сверхразум: пути, опасности, стратегии . Оксфорд Соединенное Королевство: Издательство Оксфордского университета.

Брэдшоу, Дж. М., Дигнум, В., Йонкер, К. М., и Серхейс, М. (2012). Введение в спецвыпуск о совместной работе человека-агента-робота. IEEE Intell. Syst. 27, 8–13. DOI: 10.1109 / MIS.2012.37

CrossRef Полный текст | Google Scholar

Brodal, A. (1981). Неврологическая анатомия применительно к клинической медицине . Нью-Йорк, штат Нью-Йорк, США: Oxford University Press.

Браун, Т. Б. (2020). Языковые модели изучают мало, arXiv 2005, 14165v4.

Google Scholar

Чалдини Р. Д. (1984). Влияние: психология убеждения . Нью-Йорк, штат Нью-Йорк, США: Харпер.

Коли, Дж. Д., и Таннер, К. Д. (2012). Общие истоки различных заблуждений: когнитивные принципы и развитие биологического мышления. CBE Life Sci. Educ. 11 (3), 209–215. doi: 10.1187 / cbe.12-06-0074

PubMed Аннотация | CrossRef Полный текст | Google Scholar

Collazos, C. A., Gutierrez, F. L., Gallardo, J., Ortega, M., Fardoun, H. M., and Molina, A. I. (2019). Описательная теория осведомленности для разработки группового программного обеспечения. J. Окружающий интеллект Humanized Comput. 10, 4789–4818.doi: 10.1007 / s12652-018-1165-9

CrossRef Полный текст | Google Scholar

Дамасио, А. Р. (1994). Ошибка Декарта: эмоции, разум и человеческий мозг . Нью-Йорк, штат Нью-Йорк, США: Сыновья Дж. П. Патнэма.

Эландс, П., Хейзинг Кестер, А. Л., Оггеро, С., и Петерс, М. (2019). Управление этическим и эффективным поведением интеллектуальных систем: новая структура для значимого человеческого контроля в военном контексте. Militaire Spectator 188 (6), 302–313.

Google Scholar

Фельдман-Баррет, Л. (2017). Как возникают эмоции: тайная жизнь мозга . Бостон, Массачусетс, США: Houghton Mifflin Harcourt.

Финк Дж. (2012). «Антропоморфизм и человеческое подобие в конструкции роботов и взаимодействии человека и робота», в Социальная робототехника. ICSR 2012 . Конспект лекций по информатике . Редакторы С. С. Ге, О. Хатиб, Дж. Дж. Кабибихан, Р. Симмонс и М. А. Уильямс (Берлин, Германия: Springer), 7621.doi: 10.1007 / 978-3-642-34103-8_20

CrossRef Полный текст | Google Scholar

Фернхэм А. и Бу Х. С. (2011). Обзор литературы об эффекте привязки. Дж. Социоэкономика 40, 35–42. doi: 10.1016 / j.socec.2010.10.008

CrossRef Полный текст | Google Scholar

Герла М., Ли Э. К. и Пау Г. (2014). Интернет транспортных средств: от интеллектуальной сети до автономных автомобилей и автомобильных облаков. WF-IoT 12, 241–246. doi: 10.1177 / 1550147716665500

CrossRef Полный текст | Google Scholar

Гибсон, Дж.Дж. (1979). Экологический подход к визуальному восприятию . Бостон, Массачусетс, США: Houghton Mifflin.

Гибсон, Дж. Дж. (1966). Чувства, рассматриваемые как системы восприятия . Бостон, Массачусетс, США: Houghton Mifflin.

Герцель Б. (2007). Общий искусственный интеллект человеческого уровня и возможность технологической сингулярности: реакция на высказывание Рэя Курцвейла, что сингулярность близка, и критика Курцвейла Макдермоттом. Артиф. Разведка 171 (18), 1161–1173.doi: 10.1016 / j.artint.2007.10.011

CrossRef Полный текст | Google Scholar

Goertzel, B., Orseau, L., and Snaider, J. (Editors). (2014). Предисловие. 7-я международная конференция, AGI 2014 г. Квебек, Квебек, Канада, 1–4 августа 2014 г. Материалы Springer.

CrossRef Полный текст | Google Scholar

Hardin, G. (1968). Трагедия общества. Проблема народонаселения не имеет технического решения; это требует фундаментального расширения морали. Наука 162, 1243–1248.DOI: 10.1126 / science.162.3859.1243

Google Scholar

Харинг, К. С., Ватанабе, К., Велонаки, М., Тозелл, К. К., и Финомор, В. (2018). Ffab — систематическая ошибка атрибуции функции формы при взаимодействии человека и робота. IEEE Trans. Cogn. Dev. Syst. 10 (4), 843–851. doi: 10.1109 / TCDS.2018.2851569

CrossRef Полный текст | Google Scholar

Haselton, M. G., Bryant, G. A., Wilke, A., Frederick, D. A., Galperin, A., Frankenhuis, W. E., et al. (2009). Адаптивная рациональность: эволюционный взгляд на когнитивную предвзятость. Soc. Cogn. 27, 733–762. doi: 10.1521 / soco.2009.27.5.733

CrossRef Полный текст | Google Scholar

Haselton, M. G., Nettle, D., and Andrews, P. W. (2005). «Эволюция когнитивных предубеждений» в Справочник по эволюционной психологии . Редактор Д. Басс (Хобокен, Нью-Джерси, США: John Wiley & Sons), 724–746.

Google Scholar

Хоффман Р. Р. и Джонсон М. (2019). «Поиск альтернатив« уровням автоматизации »и« распределению задач »в . Возможности человека в автоматизированных и автономных системах .Редакторы М. Мулуа и П. А. Хэнкок (Бока-Ратон, Флорида, США: CRC Press), 43–68.

CrossRef Полный текст | Google Scholar

Hoffrage, U., Hertwig, R., and Gigerenzer, G. (2000). Предвзятость в ретроспективе: побочный продукт обновления знаний? J. Exp. Psychol. Учиться. Mem. Cogn. 26, 566–581. doi: 10.1037 / 0278-7393.26.3.566

PubMed Аннотация | CrossRef Полный текст | Google Scholar

Джонсон, М., Брэдшоу, Дж. М., Фельтович, П. Дж., Йонкер, К. М., ван Римсдейк, М.Б., и Сьерхейс, М. (2014). Коактивный дизайн: проектирование поддержки взаимозависимости в совместной деятельности. J. Взаимодействие человека и робота 3 (1), 43–69. doi: 10.5898 / JHRI.3.1.Johnson

CrossRef Полный текст | Google Scholar

Kahle, W. (1979). Band 3: nervensysteme und Sinnesorgane , в Taschenatlas de anatomie. Штуттгарт . Редакторы В. Кале, Х. Леонхардт и В. Платцер (Нью-Йорк, Нью-Йорк, США: Thieme Verlag).

Канеман Д. (2011). Мыслить быстро и медленно . Нью-Йорк, штат Нью-Йорк, США: Фаррар, Штраус и Жиру.

Кислер, С., и Хайндс, П. (2004). Введение в этот специальный выпуск о взаимодействии человека и робота. Int J Hum-Comput. Int. 19 (1), 1–8. doi: 10.1080 / 07370024.2004.9667337

CrossRef Полный текст | Google Scholar

Кляйн, Г., Вудс, Д. Д., Брэдшоу, Дж. М., Хоффман, Р. Р., и Фельтович, П. Дж. (2004). Десять задач, которые помогут сделать автоматизацию «командным игроком» в совместной деятельности человека и агента. IEEE Intell. Syst. 19 (6), 91–95. doi: 10.1109 / MIS.2004.74

CrossRef Полный текст | Google Scholar

Korteling, J. E., and Toet, A. (2020). Когнитивные предубеждения. в Энциклопедия поведенческой нейробиологии . 2-е издание (Амстердам-Эдинбург: Elsevier Science) doi: 10.1016 / B978-0-12-809324-5.24105-9

CrossRef Полный текст | Google Scholar

Korteling, J. E., van de Boer-Visschedijk, G.C., Boswinkel, R.A., and Boonekamp, ​​R.C. (2018b). Эффектен ван де Инзет от Нечеловеческих интеллектуальных сотрудников в операциях и обучении [V1719]. Отчет TNO 2018 R11654. Состерберг: TNO Defense Safety and Security , Soesterberg, Нидерланды: TNO, Soesterberg.

Google Scholar

Korteling, J. E., Gerritsma, J., and Toet, A. (2021). Сохранение и передача вмешательств по смягчению когнитивных предубеждений: систематическое исследование литературы. Фронт. Psychol. 1–20. DOI: 10.13140 / RG.2.2.27981.56800

Google Scholar

Кослин, С. М., и Кениг, О. (1992). Wet Mind: новая когнитивная нейробиология .Нью-Йорк, Нью-Йорк, США: Свободная пресса.

Кремер Н. К., фон дер Пюттен А. и Эймлер С. (2012). «Теория взаимодействия человек-агент и человек-робот: сходства и отличия от взаимодействия человека и человека», в Взаимодействие человека и компьютера: взгляд агентства . Исследования в области вычислительного интеллекта . Редакторы М. Закариас и Дж. В. де Оливейра (Берлин, Германия: Springer), 396, 215–240. doi: 10.1007 / 978-3-642-25691-2_9

CrossRef Полный текст | Google Scholar

Kurzweil, R.(2005). Сингулярность около . Нью-Йорк, штат Нью-Йорк, США: Viking press.

Курцвейл Р. (1990). Эпоха интеллектуальных машин . Кембридж, Массачусетс, США: MIT Press.

Лейк, Б. М., Ульман, Т. Д., Тененбаум, Дж. Б., и Гершман, С. Дж. (2017). Создание машин, которые учатся и думают, как люди. Behav. Brain Sci. 40, е253. doi: 10.1017 / S0140525X16001837

PubMed Аннотация | CrossRef Полный текст | Google Scholar

Lichtenstein, S., и Slovic, P. (1971). Изменение предпочтения между ставками и выбором при принятии решений по азартным играм. J. Exp. Psychol. 89, 46–55. doi: 10.1037 / h0031207

CrossRef Полный текст | Google Scholar

McBrearty, S., and Brooks, A. (2000). Революция, которой не было: новая интерпретация происхождения современного человеческого поведения. J. Hum. Evol. 39 (5), 453–563. doi: 10.1006 / jhev.2000.0435

PubMed Аннотация | CrossRef Полный текст | Google Scholar

McDowd, J.М. и Крейк Ф. И. М. (1988). Влияние старения и сложности задачи на выполнение разделенного внимания. J. Exp. Psychol. Гм. Восприятие. Выполните . 14, 267–280.

Минский М. (1986). Общество разума . Лондон, Соединенное Королевство: Саймон и Шустер.

Моравец, Х. (1988). Разумные дети . Кембридж, Массачусетс, США: Издательство Гарвардского университета.

Мюллер, В. К., Бостром, Н. (2016). Будущий прогресс в искусственном интеллекте: обзор мнения экспертов. Фундаментальные вопросы искусственного интеллекта . Чам, Швейцария: Springer. doi: 10.1007 / 978-3-319-26485-1

CrossRef Полный текст | Google Scholar

Никерсон Р. С. (1998). Предвзятость подтверждения: широко распространенное явление во многих обличьях. Rev. Gen. Psychol. 2, 175–220. doi: 10.1037 / 1089-2680.2.2.175

CrossRef Полный текст | Google Scholar

Patt, A., and Zeckhauser, R. (2000). Предвзятость действий и экологические решения. J. Неопределенный риск. 21, 45–72. doi: 10.1023 / a: 1026517309871

CrossRef Полный текст | Google Scholar

Peeters, M. M., van Diggelen, J., van Den Bosch, K., Bronkhorst, A., Neerincx, M. A., Schraagen, J. M., et al. (2020). Гибридный коллективный разум в обществе человека и искусственного интеллекта. AI и общество 38, 217– (238.) Doi: 10.1007 / s00146-020-01005-y

CrossRef Полный текст | Google Scholar

Petraglia, M. D., and Korisettar, R. (1998). Раннее поведение человека в глобальном контексте .Оксфордшир, Великобритания: Рутледж.

Померанц, Дж. (1981). «Перцептивная организация в обработке информации» в Перцептивная организация . Редакторы М. Кубови и Дж. Померанц (Хиллсдейл, Нью-Джерси, США: Лоуренс Эрлбаум).

Google Scholar

Пронин, Э., Лин, Д. Ю. и Росс, Л. (2002). Слепое пятно предвзятости: восприятие предвзятости в себе по сравнению с другими. Персональный. Soc. Psychol. Бык. 28, 369–381. doi: 10.1177 / 0146167202286008

CrossRef Полный текст | Google Scholar

Rich, E., и Найт, К. (1991). Искусственный интеллект . 2-е издание. Нью-Йорк, штат Нью-Йорк, США: Макгроу-Хилл.

Рич Э., Найт К. и Наир С. Б. (2009). Искусственный интеллект . 3-е изд. Нью-Дели, Индия: Тата МакГроу-Хилл.

Роджерс Р. Д. и Монселл С. (1995). Затраты на предсказуемое переключение между простыми познавательными задачами. J. Exp. Psychol. Gen. 124, 207e231. doi: 10.1037 / 0096-3445.124.2.207

CrossRef Полный текст | Google Scholar

Рубинштейн, Дж.С., Мейер, Д. Э., и Эванс, Дж. Э. (2001). Исполнительный контроль когнитивных процессов при переключении задач. J. Exp. Psychol. Гм. Percept Perform. 27, 763–797. doi: 10.1037 // 0096-1523.27.4.763

PubMed Аннотация | CrossRef Полный текст | Google Scholar

Рассел С. и Норвиг П. (2014). Искусственный интеллект: современный подход . 3-е изд. Харлоу, Соединенное Королевство: Pearson Education.

Шнейдерман, Б. (2020а). Уроки дизайна, извлеченные из двух великих целей ИИ: эмуляция человека и полезные приложения. IEEE Trans. Tech. Soc. 1, 73–82. doi: 10.1109 / TTS.2020.29

CrossRef Полный текст | Google Scholar

Шнейдерман, Б. (2020b). Искусственный интеллект, ориентированный на человека: надежный, безопасный и заслуживающий доверия. Внутр. J. Взаимодействие человека и компьютера 36 (6), 495–504. doi: 10.1080 / 10447318.2020.1741118

CrossRef Полный текст | Google Scholar

Siegel, A., and Sapru, H. N. (2005). Основы нейробиологии . Филедельфия, Пенсильвания, США: Липпинкотт Уильямс и Уилкинс.

Сильвер, Д., Шриттвизер, Дж., Симонян, К., Антоноглу, И., Хуанг, А., Гез, А., и др. (2017). Освоение игры в го без человеческого знания. Nature 550 (7676), 354. doi: 10.1038 / nature24270

PubMed Аннотация | CrossRef Полный текст | Google Scholar

Тейлор Д. М. и Дориа Дж. Р. (1981). Предубеждение в атрибуции, связанное с самообслуживанием и служением группе. J. Soc. Psychol. 113, 201–211. doi: 10.1080 / 00224545.1981.91

CrossRef Полный текст | Google Scholar

Тегмарк, М.(2017). Life 3.0: быть человеком в эпоху искусственного интеллекта . Нью-Йорк, Нью-Йорк, США: Книга о борзых, изданная А.А. Кнопф.

Тоэт А., Брауэр А. М., ван ден Бош К. и Кортелинг Дж. Э. (2016). Влияние личностных характеристик на предрасположенность к предвзятым решениям: исследование литературы. Внутр. J. Humanities Soc. Sci. 8, 1–17.

Туби Дж. И Космидес Л. (2005). «Концептуальные основы эволюционной психологии» в Справочник по эволюционной психологии .Редактор Д. Басс (Хобокен, Нью-Джерси, США: John Wiley & Sons), 5–67.

Google Scholar

Тверски А. и Канеман Д. (1973). Доступность: эвристика для оценки частоты и вероятности. Cogn. Psychol. 5, 207–232. doi: 10.1016 / 0010-0285 (73)-9

CrossRef Полный текст | Google Scholar

van den Bosch, K., and Bronkhorst, K. (2018). Сотрудничество человека и искусственного интеллекта на благо принятия военных решений. Состерберг, Нидерланды: TNO.

ван ден Бош, К., и Bronkhorst, K. (2019). Шесть задач для совместного обучения человека и искусственного интеллекта. Адаптивные учебные системы 11597, 572–589. DOI: 10.1007 / 978-3-030-22341-0_45

Werkhoven, P., Neerincx, M., and Kester, L. (2018). Указывая автономным системам, что делать. Труды 36-й Европейской конференции по когнитивной эргономике, ECCE 2018, Утрехт, Нидерланды, 5–7 сентября 2018 г., стр. 1–8. doi: 10.1145 / 3232078.3232238

CrossRef Полный текст | Google Scholar

Уильямс, А., Вайсштейн, Н.(1978). Сегменты линии лучше воспринимаются в связном контексте, чем по отдельности: эффект линии объекта в визуальном восприятии. Mem. Cognit 6, 85–90. doi: 10.3758 / bf03197432

PubMed Аннотация | CrossRef Полный текст | Google Scholar

Вингфилд А. и Бирнс Д. (1981). Психология памяти человека . Нью-Йорк, штат Нью-Йорк, США: Academic Press.

Вуд Р. Э., Менто А. Дж. И Локк Э. А. (1987). Сложность задачи как модератор целевых эффектов: метаанализ. J. Appl. Psychol. 72 (3), 416–425. doi: 10.1037 / 0021-9010.72.3.416

CrossRef Полный текст | Google Scholar

Вайробек, К. А., Бергер, Э. Х., ван дер Лоос, Х. Ф. М. и Солсбери, Дж. К. (2008). К платформе разработки персональной робототехники: обоснование и дизайн искробезопасного персонального робота. Материалы Международной конференции IEEE по робототехнике и автоматизации 2008 г., Пасадена, Калифорния, США, 19-23 мая 2008 г. doi: 10.1109 / ROBOT.2008.4543527

CrossRef Полный текст | Google Scholar

AI не подходит для причуд человеческого интеллекта

Иногда мы можем вести себя как компьютеры, но чаще мы креативны, иррациональны и не всегда слишком сообразительны.

По крайней мере, с 1950-х годов идея о том, что вскоре можно будет создать машину, способную соответствовать всему объему и уровню достижений человеческого интеллекта, была встречена с равным количеством шумихи и истерии. Теперь нам удалось создать машины, которые могут решать конкретные довольно узкие задачи — «умные» машины, которые могут диагностировать болезни, водить машины, понимать речь и побеждать нас в шахматах, — но общий интеллект остается неуловимым.

Давайте избавимся от этого: усовершенствования машинного интеллекта не приведут к безудержным революциям, управляемым машинами.Они могут изменить вид работы, которую выполняют люди, но они не означают конца человеческого существования. Робоапокалипсиса не будет.

Основное внимание при тестировании интеллекта и вычислительных подходах к разведке уделялось хорошо структурированным и формальным задачам. То есть проблемы, у которых есть четкая цель и набор возможных решений. Но мы, люди, творческие, иррациональные и непоследовательные. Сосредоточение внимания на этих хорошо структурированных проблемах может быть похоже на поиск потерянных ключей в наиболее ярком месте.Есть и другие проблемы, которые гораздо более типичны для человеческого интеллекта и заслуживают более пристального внимания.

Одна группа из них — это так называемые проблемы понимания. Проблемы понимания обычно не могут быть решены пошаговой процедурой, например алгоритмом, или, если они могут, процесс чрезвычайно утомителен. Напротив, проблемы понимания характеризуются своего рода реструктуризацией подхода решателя к проблеме. В задачах пути решателю дается представление, которое включает начальное состояние, целевое состояние и набор инструментов или операторов, которые можно применять для перемещения по представлению.В задачах инсайта решателю не дается ничего из этого.

Решая эту задачу, Архимед якобы побежал голым по улицам Сиракуз. Согласно легенде, Иеро II (270–215 гг. До н.э.), царь Сиракуз, подозревал, что вотивная корона, которую он приказал возложить на голову храмовой статуи, не содержала всего золота, которое предполагалось. Архимеду было поручено определить, не обманули ли Иеро. Он знал, что серебро менее плотно, чем золото, поэтому, если он мог измерить объем короны вместе с ее весом, он мог определить, было ли это чистое золото или смесь.Однако форма короны была неправильной, и Архимеду было трудно точно измерить ее объем обычными методами.

По словам Витрувия, написавшего об этом эпизоде ​​много лет спустя, Архимед во время поездки в римские бани понял, что чем больше его тело погружалось в воду, тем больше воды вытеснялось. Он использовал это понимание, чтобы понять, что он может использовать объем вытесненной воды как меру объема короны. Как только он достиг этого понимания, обнаружить, что корона на самом деле фальсифицирована, было легко.

Решая эту проблему, Архимед якобы заставил Архимеда бежать голым по улицам Сиракуз.

Фактический метод, который использовал Архимед, вероятно, был более сложным, чем этот, но эта история иллюстрирует общую схему проблем понимания. Неправильная форма коронки делала невозможным измерение ее объема традиционными методами. Как только Архимед понял, что плотность короны можно измерить другими методами, реальное решение оказалось простым.

При проблемах с путями решатель обычно может оценить, насколько близко текущее состояние системы к целевому состоянию. От этой оценки зависит большинство алгоритмов машинного обучения. В случае проблем с пониманием часто бывает трудно определить, был ли вообще достигнут какой-либо прогресс, пока проблема не будет по существу решена. Их часто ассоциируют с «эффектом Эврики» или «Ага! момент », внезапное осознание ранее непонятного решения.

Другой пример проблемы понимания — проблема носков.Вам говорят, что в ящике есть отдельные коричневые носки и черные носки в соотношении пять черных носков на каждые четыре коричневых носка. Сколько носков нужно вытащить из ящика, чтобы в нем была хотя бы одна пара любого цвета? Нарисовать два носка явно недостаточно, потому что они могут быть разных цветов.

Многие (образованные) люди подходят к этой проблеме как к вопросу выборки. Они пытаются понять, исходя из соотношения черных и коричневых носков, какой большой образец им понадобится, чтобы обязательно получить полную пару.Однако на самом деле соотношение цветов носков отвлекает. Независимо от того, какое соотношение, правильный ответ — вам нужно нарисовать три носка, чтобы обязательно получить подходящую пару. Вот почему:

При двух цветах розыгрыш трех носков гарантированно даст вам один из следующих результатов:

• Черный, черный, черный — пара черных носков
• Черный, черный, коричневый — пара черных носков
• Черный, коричневый, коричневый — пара коричневых носков
• Коричневый, коричневый, коричневый — пара коричневых носков

Соотношение черных и коричневых носков может повлиять на относительную вероятность каждого из этих четырех результатов, но только для этих четырех возможны, если выбраны три носка.Выбор даже не обязательно должен быть случайным. Как только мы понимаем, что есть только четыре возможных исхода, решение проблемы становится простым.

Проблемы Insight обычно формулируются таким образом, что их можно представить разными способами. Архимед был в тупике, пока думал об измерении объема короны с помощью линейки или подобного устройства. Люди, решающие задачу о носках, были в тупике до тех пор, пока они думали о проблеме как о проблеме, требующей оценки вероятности.То, как вы думаете о проблеме, то есть то, как вы представляете ее, может иметь решающее значение для ее решения.

Интересные задачи понимания обычно требуют использования относительно необычного представления. Проблема носков интересна, потому что для большинства из нас проблема, скорее всего, вызовет представление, сосредоточенное на соотношении 5: 4, но это отвлекающий маневр. Основным препятствием для решения подобных проблем является отказ от представления по умолчанию и принятие более продуктивного.После определения альтернативного представления остальная часть процесса решения проблемы может быть очень быстрой. Лабораторные версии задач инсайта обычно не требуют каких-либо специальных глубоких технических знаний. Большинство из них можно решить, получив одну или две идеи, которые меняют характер того, как решатель думает о проблеме.

Вот еще несколько примеров. Город Кенигсберг (ныне Калининград, Россия) был построен по обе стороны реки Прегель. Семь мостов соединили два острова и две стороны реки.Сможете ли вы пройтись по городу, пересекая семь мостов каждый ровно один раз? На карте ниже мосты отмечены серым цветом.