Центр когнитивного моделирования МФТИ
Интеграция методов оптимального управления и обучения с подкреплением для мобильного манипулятора
Мобильные манипуляторы (робототехнические системы, включающие мобильную платформу и прикрепленные к ней манипуляторы) могут применяться для выполнения различных задач в человекоориентированных средах (например, в офисных помещениях).
Подробнее
Воплощенное обучение
Воплощенное познание (embodied cognition) – это концепция обучения интеллектуальных агентов, в которой мы явно учитываем свойства внешней среды и то, какую обратную связь она дает агенту в ответ на его действия.
Подробнее
Интеллектуальное управление антропоморфными роботами
Антропоморфная робототехника – это быстро развивающаяся область знаний. На данный момент создаются роботы, движения которых все более похожи на человеческие.
Подробнее
Адаптивное планирование маневров беспилотного автомобиля
Современные мобильные роботы и беспилотные автомобили активно используют методы планирования и поиска на графе состояний для построения траектории своего движения и для построения различных маневров в динамической среде.
Подробнее
Биологически-правдоподобные модели обучения
Новые архитектуры нейронных сетей могут быть построены с привлечением идей из нейрофизиологии. Особенно перспективными могут оказаться иерархические модели на основе хеббовских правил обучения и модели внутренней мотивации для ускорения обучения.
Подробнее
Автономное обучение с подкреплением
Сбор данных в процессе обучения для современных задач в области обучения с подкреплением является дорогой и трудоемкой процедурой. С другой стороны для очень многих прикладных примеров уже имеются большое количество логов поведения эффективных агентов. В автономном обучении с подкреплением предлагается эффективно использовать эти данные и бороться с проблемой смещения распределений.
Подробнее
Обучение распутанным представлениям
Обучение распутанным представлениям – одно из современных актуальных направления в области нейросетевого обучения представлениям (representation learning).
Формирование структурированного латентного пространства помогает как в создании эффективных генеративных моделей, так и в построении объяснимых систем ИИ. Особенно актуальны распутанные представления для задач генерации поведения в сложных средах.
Подробнее
Обучение с подкреплением на основе модели
Одним из ключевых свойств перцептивной и моторной системы человека является их предметность, т.к. ориентация как распознающей так и действующих подсистем на работу с конкретными объектами внешней среды. Оперирование объектами для предсказания их вида и динамики в перспективе может оказаться существенно более эффективным, чем оперирование цельными сценами.
Подробнее
Объектно-центричное обучение с подкреплением
Одним из ключевых свойств перцептивной и моторной системы человека является их предметность, т.к. ориентация как распознающей так и действующих подсистем на работу с конкретными объектами внешней среды.
Подробнее
Построение трехмерных семантических карт местности
Построение высокоточных карт высокой размерности (HD-Maps) является одной из ключевых составляющих современных систем управления беспилотных автомобилей и автономных роботов.
Подробнее
Обнаружение, трекинг
и прогнозирование траектории движения 3D-объектов
Распознавание и анализ поведения трехмерных объектов по данным бортовых сенсоров транспортных средств и роботов является важнейшим аспектом для обеспечения безопасности их передвижения.
Подробнее
Определение позы и одометрии робота
по изображениям его RGB-D камер
Под позой робота понимается его положение и ориентация в трехмерном пространстве. Понятие одометрии шире и включает также скорости (линейные и угловые), а также ускорение.
Подробнее
Методы автоматического планирования траектории
Особенности методы автоматического планирования траектории:- Среда не полностью наблюдаемая.
- Карта постоянно обновляется (меняется).
- Нужно строить совокупность неконфликтных траекторий сразу для n мобильных агентов.
Подробнее
Оптимизация траектории мобильного робота
Задача планирования траектории мобильных роботов (в т.
ч. беспилотных автомобилей) может решаться методами оптимального управления. Преимуществаметодов – быстрая сходимость, учет кинодинамики робота, одновременное определение скоростей и ускорений вдоль траектории. Сложность – необходимость начальной догадки о траектории, сложность аналитического представления препятствий.
Подробнее
Дифференцируемое представление 3D-сцены
Решает задачу обучаемой 3D реконструкции сцены в виде поверхности (Mesh) по набору изображений камер с неизвестной 3D-позы. Методы NeRF (Neural Radiance Fields) позволяют синтезировать новые представления сложных сцен путем оптимизации базовой функции непрерывной объемной сцены с использованием разреженного набора входных представлений.
Подробнее
Нейросетевое распознавание места по последовательности сенсорных данных
Под позой робота понимается его положение и ориентация в трехмерном пространстве. Понятие одометрии шире и включает также скорости (линейные и угловые), а также ускорение.
Точное определение такого пространственного состояния важно для решения задачи локализации робота и дальнейшего планирования его поведения в трехмерном пространстве.
Подробнее
Шалаболинская писаница | Русское географическое общество
Перспективный проект Красноярского краевого отделения РГО «Сохранение и популяризация объекта культурного наследия Шалаболинская писаница» — это комплекс мероприятий, направленный на изучение и сохранение объектов древней наскальной живописи в Красноярском крае. Он был высоко оценён на самом высоком уровне, выиграв в 2017 году Президентский грант.
На первом этапе предполагается проведение экспедиции в Курагинский район Красноярского края, на место расположения памятника древней культуры «Шалаболинская писаница» для изучения современного состояния памятников наскального искусства, расположенных на правом берегу р. Тубы, уточнение границ их расположения, фотофиксация, картографирование и изготовление копий плоскостей с рисунками.
Шалаболинская писаница — крупный памятник древнего наскального творчества в Красноярском крае.
Рисунки нанесены на правой стороне крутого скального берегового массива реки Туба. Шалаболинская писаница была известна с середины 19 века. Первое исследование писаницы в первой половине XIX в. провел этнограф Н А. Костров, давший ей сегодняшнее название. В дальнейшем рисунки изучали И.Т. Савенков, А.В. Адрианов (1907, 1909 гг.), Э.Р. Рыгдылов (1948 г.), Н.В. Леонтьев (1967 г.), В.Ф. Капелько и Б.Н. Пяткин (1973–1975 гг.). На протяжении 2 км скального массива выделяется 8 мест скопления рисунков, расположенных на различной высоте. Всего зафиксировано более 100 плоскостей с 550 изображениями. Это многофигурные композиции с зоо- и антропоморфными образами: фигуры лосей, быков, маралов, изображения лодок, рогатых антропоморфных фигур с хвостами и неестественно короткими верхними конечностями (относятся к эпохе неолита), антропоморфные образы в круглых масках-личинах и ряд изображений животных (энеолит), многочисленные батальные, скотоводческие сцены (ранний железный век и Средневековье).
География проекта:
Курагинский район Красноярского края. Шалаболинская писаница расположена в 35 км к западу от поселка Курагино.
Цели проекта:
Изучение,сохранение и популяризация объекта культурно-исторического наследия Шалаболинская писаница. Изучить современное состояние памятника наскального искусства Шалаболинская писаница, разработать рекомендации.
Задачи проекта:
Провести экспедицию на месте расположения объекта культурно-исторического наследия Шалаболинская писаница для изучения современного состояния памятников наскального искусства.
Дальнейшее развитие проекта:
После реализации проекта, на основании разработанной научной концепции, можно будет провести комплекс мероприятий экологического характера для защиты этого памятника древней культуры от разрушения как от воздействия человека, так и от природных факторов.
Это создаст основу для формирования информационной базы по наскальным рисункам Шалаболинской писаницы. На основе полученных данных предполагается разработать рекомендации по сохранению и консервации наиболее проблемных участков этого объекта. В последующем с целью популяризации наскального искусства и культурно-исторического наследия Красноярского края планируется изготовления научно-популярного атласа (буклетов) наскальных рисунков Шалаболинской писаницы.
Фотографии Владислава Власова
Опасность антропоморфного языка в роботизированных системах искусственного интеллекта
При описании поведения роботизированных систем мы склонны полагаться на антропоморфизмы.
Камеры «видят», алгоритмы принятия решений «думают», а системы классификации «распознают». Но использование таких терминов может привести нас к неудаче, поскольку они создают ожидания и предположения, которые часто не оправдываются, особенно в умах людей, не имеющих опыта работы с лежащими в их основе технологиями. Это особенно проблематично, потому что многие из задач, которые мы предполагаем для робототехнических технологий, обычно являются теми, которые люди в настоящее время выполняют (или могли бы выполнять) в какой-то части. Естественная тенденция состоит в том, чтобы описывать эти задачи так, как это сделал бы человек, используя «навыки», которыми обладает человек, что может сильно отличаться от того, как робот выполняет задачу. Если спецификация задачи опирается только на «человеческие» спецификации — без четкого определения различий между «роботическими» навыками и «человеческими» навыками, — то вероятность несоответствия между человеческим описанием задачи и тем, что на самом деле делает робот, будет увеличивать.
Проектирование, закупка и оценка ИИ и роботизированных систем, которые являются безопасными, эффективными и ведут себя предсказуемым образом, представляет собой центральную проблему современного искусственного интеллекта, и использование систематического подхода к выбору языка, описывающего эти системы, является первым шагом к снижение рисков, связанных с непроверенными предположениями об искусственном интеллекте и возможностях роботов. В частности, действия, которые мы считаем простыми, должны быть разбиты на части, а их компоненты тщательно сопоставлены с их алгоритмическими и сенсорными аналогами, избегая при этом ловушек антропоморфного языка. Это служит двум целям. Во-первых, это помогает выявить основные предположения и предубеждения за счет более четкого определения функциональности. Во-вторых, это помогает нетехническим экспертам лучше понять ограничения и возможности базовой технологии, чтобы они могли лучше судить, соответствует ли она потребностям их приложений.
Попросите робота поднять яблоко
Рассмотрим, например, эксперта в предметной области, которому было поручено найти роботизированное или искусственное решение для предметно-ориентированной проблемы сбора яблок со стола и помещения их в корзину .
Эксперт в предметной области использует термины задач, характерные для человека («видеть», «выбирать», «место»), чтобы определить, что должен делать робот (процесс закупки). Эксперт в предметной области может также предоставить спецификации для тестирования и оценки — робот должен подобрать не менее 80 % яблок, не повредив их.
Неправильное использование языка на этом этапе может привести к существенному несоответствию между желаемыми спецификациями и тем, что фактически реализовано, поскольку понимание терминов может различаться между закупщиком и разработчиком. «Увидеть яблоко» переводится как «определить красные пиксели», «поднять» плюс «не ушибить» означает «не уронить» для эксперта в предметной области, но не для разработчика. Это несоответствие может еще больше усугубиться, когда система передается операторам, реализующим низкоуровневые части роботизированной системы. У них может быть еще одно понимание того, как должен работать робот, на основе описания человеческой задачи.
Поскольку базовая реализация не соответствует описанию системы (на уровне человека), операторы не могут точно предсказать поведение системы. Это может привести к катастрофическим сбоям, например, если оператор решит, что система может сделать что-то, на что она не способна, или система сделает что-то неожиданное, например, примет изображение воздушного шара на футболке за яблоко.
К сожалению, эти антропоморфизмы привлекательны, поскольку обеспечивают общий язык между людьми с разными специальностями. Мы могли бы избежать проблем, если бы спецификация закупки указывала технические детали: «значение пикселя (232, 3, 3)», но это невозможно без наличия у агента по закупкам подробных технических знаний о системе. Легче сказать «красный», так как все знают, что это такое. Однако в какой-то момент его нужно закрепить, чтобы реализовать. В этом процессе реализации результирующая система может в конечном итоге существенно отклониться от цели антропоморфного термина. Ситуация усугубляется по мере того, как концепции становятся более тонкими.
В то время как «красный» — понятие скользкое, «обнаружить человека» — на порядки хуже.
Мы можем проиллюстрировать этот сбой на простом примере. Допустим, менеджер программы запрашивает роботизированную систему, которая может увидеть яблоко и поднять его. Фактическая реализация — это камера, которая обнаруживает красные пиксели, образующие грубый круг. Робот использует два последовательных изображения для оценки местоположения яблока, выполняет траекторию перемещения захвата к яблоку, затем смыкает пальцы захвата и поднимает яблоко. При развертывании робот ошибается с изображением воздушного шара на рубашке и пытается провести захват через человека, пытаясь поднять его. Эта неудача вовсе не является неожиданностью, учитывая описание реализации, но станет шоком для человека, которому сказали только, что робот может «видеть яблоки и собирать их». Многие из неудач, которые, кажется, досаждают роботам и системам ИИ, совершенно очевидны, если их описать с точки зрения деталей реализации, но кажутся непостижимо глупыми, если описать их антропоморфным языком.
Разборка черного ящика
Ясный, неантропоморфный язык играет центральную роль в развенчании ошибочных представлений об ИИ как о черном ящике. Средний ИИ или роботизированная система по-прежнему гораздо менее сложны, чем обычная бактерия, так почему же обычному человеку трудно рассуждать о том, что эти системы могут (и не могут) делать? Эта трудность возникает в первую очередь из-за языка, в частности, из-за использования языка, который несет в себе ориентированные на человека ожидания и предположения.
Можно возразить, что два утверждения «Робот видит яблоко» и «Робот обнаруживает объект, похожий на яблоко» почти одинаковы, но в своих предположениях о когнитивных способностях они сильно различаются. «Видеть» несет в себе множество внутренних моделей и предположений: яблоки красные или зеленые, помещаются в руке, пахнут как яблоки, хрустят, когда их надкусываешь, находятся на деревьях и вазах с фруктами и т. д. Мы привыкли видеть яблоки в самых разных условиях освещения и с разных точек зрения, и у нас есть некоторое представление о контексте, в котором они могут появиться.
Мы можем отделить изображения яблок от картин или мультфильмов. Мы можем распознавать другие объекты в сцене, которые говорят нам, что это, скорее всего, яблоко или другой красный объект. Другими словами, мы приносим полное внутреннее представление о том, что такое яблоко, когда смотрим на изображение — мы не просто видим пиксели. «Обнаружение», с другой стороны, означает меньше внутренних предположений и вместо этого вызывает образ кого-то, направляющего датчик на яблоко, и оно начинает «звенеть». Это больше похоже на то, как робот «видит» и как он внутренне представляет яблоко. Датчик (камера) направляется на яблоко и проверяется числовое распределение значений пикселей. Если значения пикселей «соответствуют» (численно) ранее изученным примерам распределения пикселей для изображений, помеченных как «яблоки», алгоритм возвращает символ «яблоко». Как алгоритм получает этот набор примерных распределений пикселей? Не бегая вокруг, подбирая предметы и проверяя, пахнут ли они яблоками и имеют ли они вкус, а миллионы помеченных изображений (спасибо, Flickr).
Формулировка проблемы сбора яблока с использованием таких слов, как «обнаружить», «переместить» и «схватить», немедленно выявляет ключевые вопросы, требующие ответов: какое оборудование используется для обнаружения? Каковы его известные неудачи? Какие алгоритмы используются? Вместо этого эти проблемы можно решить с помощью двухстороннего подхода: 1) Обеспечить подробные спецификации, которые четко очерчивают (в непрофессиональном языке) лежащие в основе компьютерные представления вместе с известными случаями отказа и предположениями. 2) Выбирайте языковые термины, которые являются механистическими, а не ориентированными на человека, и будьте очень педантичны в описании функциональности системы.
Критики могут назвать это «простым» примером и задаться вопросом, где находится ИИ.
На самом деле, это одна из самых сложных задач для роботизированной системы (просто для нас это просто), и искусственный интеллект встроен повсюду — от программного обеспечения для машинного обучения, которое обнаруживает яблоко, до планирования пути, которое доставляет захват к яблоку. . Не существует искусственного интеллекта «черного ящика», который просто «делает» то, что вы хотите. Скорее, любая сложная система построена из более мелких компонентов, каждый из которых может быть в общих чертах охарактеризован, протестирован и оценен. Правильное использование механистического, педантичного языка — мощный инструмент для выявления этих компонентов и правильного определения их возможностей.
Синди М. Гримм — профессор Школы механики, промышленности и производства Университета штата Орегон.
Антропоморфный ИИ: обзор
Искусственный интеллект (ИИ) прошел долгий путь с первых дней существования простых алгоритмов и принятия решений на основе правил.
Сегодня ИИ развивается в геометрической прогрессии, и его возможности становятся все более изощренными. Одной из областей, которая привлекла значительное внимание, является разработка антропоморфных характеристик ИИ, которые позволяют ИИ приобретать атрибуты , напоминающие людей. Эта особенность ИИ делает взаимодействие с машинами похожим на человека; имеет потенциал изменить мир. Хотя последствия этих событий вызывают озабоченность, они также предлагают много преимуществ.
Понимание антропоморфизма в ИИ
Антропоморфизм — это процесс придания нечеловеческим объектам или сущностям человекоподобных характеристик. В случае с ИИ антропоморфизм заключается в том, чтобы машины выглядели и реагировали как люди. В настоящее время ИИ разрабатывается для выполнения конкретных задач путем естественного и интуитивного взаимодействия с людьми. Это включает в себя не только обработку речи, но и включение в машины слов и действий, которые имитируют эмоциональный интеллект, эмпатию и даже творчество.
Примеры
Одним из примеров антропоморфного ИИ является София, робот, разработанный Hanson Robotics. София обладает возможностями распознавания лиц, может понимать речь и поддерживать разговор и даже выражать эмоции. Другим примером является ChatGPT, который использует машинное обучение, чтобы узнавать о намерениях своего пользователя с помощью подсказок, а затем эмулирует человеческие разговоры на основе этих знаний.
Преимущества
Развитие антропоморфного ИИ произвело революцию в том, как мы взаимодействуем с машинами, и принесло ряд преимуществ в области технологий. Благодаря включению человеческих характеристик в системы ИИ взаимодействие между пользователями и машинами становится более реалистичным, инстинктивным и персонализированным.
Например, антропоморфный ИИ может помочь улучшить обслуживание клиентов, позволяя ИИ понимать потребности клиентов и реагировать на них более чутко и по-человечески. Его также можно использовать в сфере образования и медицины для предоставления более качественных услуг.
С точки зрения улучшения пользовательского опыта, антропоморфный ИИ может улучшить общение и взаимодействие, особенно для тех, кто изо всех сил пытается понять сложный технический жаргон или у кого могут быть языковые барьеры. В таблице ниже представлены некоторые ключевые особенности и преимущества антропоморфного ИИ.
Опасения
Как и в случае любой новой технологии, антропоморфные характеристики ИИ вызывают озабоченность. Некоторые опасаются, что машины с человеческими качествами могут стать разумными и действовать против своих создателей-людей. Способность антропоморфного ИИ имитировать человеческое поведение может вызывать определенные опасения, которые могут быть неприменимы к другим типам ИИ.
Одной из основных проблем является риск переоценки возможностей антропоморфного ИИ, что приводит к нереалистичным ожиданиям и потенциальному разочарованию, когда ИИ не работает должным образом. Кроме того, существует риск создания ложного чувства эмпатии или связи между пользователями и машинами, что может привести к тому, что пользователи будут делиться личной информацией или развивать эмоциональную привязанность к ИИ.
Еще одной проблемой является способность антропоморфного ИИ увековечивать и укреплять социальные предубеждения и стереотипы, поскольку ИИ может учиться на предвзятых наборах данных или быть запрограммирован с помощью предвзятых алгоритмов. Это может привести к дискриминации определенных групп людей или увековечить существующее социальное неравенство.
Существует также проблема использования антропоморфного ИИ в неэтичных целях, таких как манипуляция или обман, поскольку способность ИИ имитировать человеческое поведение может затруднить различие между ИИ и настоящим человеком.
Наконец, есть опасения по поводу влияния антропоморфного ИИ на занятость людей, поскольку способность ИИ выполнять задачи, подобные человеческим, может привести к вытеснению людей в определенных отраслях.
Чтобы решить эти проблемы, разработчикам и политикам важно тщательно рассмотреть потенциальное воздействие антропоморфного ИИ и внедрить этические нормы и правила, чтобы обеспечить его ответственную разработку и использование.
Текущая реальность
ИИ еще далек от достижения истинных антропоморфных характеристик. В то время как машины становятся все более похожими на людей в своем поведении, они все еще далеки от способности обрести разум или сознание. Машины могут анализировать данные и реагировать на действия пользователей естественным образом, но им не хватает эмоциональной глубины и сложности, которыми обладают люди. На данный момент ИИ по-прежнему сильно зависит от людей, которые научат его вести себя, учиться и адаптироваться к новым ситуациям. Антропоморфный ИИ все еще находится на ранней стадии, и потребуются время и огромные ресурсы, чтобы достичь опасного уровня и стать угрозой для человеческого существования. Опасения по поводу того, что машины действуют против своих создателей, на данном этапе развития преждевременны.
Многообещающее будущее
По мере того, как ИИ становится все более антропоморфным, он сможет выполнять задачи, которые раньше считались невозможными.
Это может помочь улучшить здравоохранение, помочь с образованием и повысить качество обслуживания сотрудников и клиентов. ИИ — это инструмент, который может помочь нам сделать мир лучше, а антропоморфные характеристики послужат только расширению его возможностей.
Возможность создавать машины, способные взаимодействовать с людьми реалистичным и рефлексивным образом, может произвести революцию во многих отраслях. Например, здравоохранение могло бы выиграть от использования антропоморфных роботов, которые могут выполнять операции или помогать в реабилитации. Антропоморфный ИИ также можно использовать для создания виртуальных помощников, которые более эффективно понимают и удовлетворяют образовательные потребности студентов и соискателей.
Будущее антропоморфного ИИ безоблачно, поскольку непрерывный прогресс в области машинного обучения и обработки естественного языка позволяет машинам лучше воспроизводить поведение человека.
Заключение
Антропоморфные характеристики ИИ могут изменить мир.