Отслеживание пальца - Finger tracking

Отслеживание пальца двух пианисты 'пальцы играют одну и ту же пьесу (замедленная съемка, без звука).[1]

В области распознавание жеста и обработка изображений, отслеживание пальцев это высокое разрешение техника, разработанная в 1969 году, которая используется для определения последовательного положения пальцев пользователя и, следовательно, для представления объектов в 3D В дополнение к этому, техника отслеживания пальцев используется в качестве инструмента компьютера, действующего как внешнее устройство в нашем компьютере, аналогично клавиатура и мышь.

Вступление

Система отслеживания пальцев ориентирована на взаимодействие пользователя с данными, при котором пользователь взаимодействует с виртуальными данными, обрабатывая пальцами объемный 3D-объекта, который мы хотим представить. Эта система родилась на основе взаимодействие человека с компьютером проблема. Задача состоит в том, чтобы обеспечить связь между ними и использование жесты и движения рук, чтобы быть более интуитивно понятными, были созданы системы отслеживания пальцев. Эти системы отслеживают в реальном времени положение пальцев каждого маркера в 3D и 2D и используют интуитивно понятные движения рук и жесты для взаимодействия.

Типы отслеживания

Есть много вариантов реализации отслеживания пальцев, в основном те, которые используются с или без интерфейс.

Отслеживание с помощью интерфейса

Эта система в основном использует инерционный и оптический захвата движения системы.

Перчатки для инерционного захвата движения

Системы инерционного захвата движения могут улавливать движение пальца, считывая вращение каждого сегмента пальца в трехмерном пространстве. Применение этих вращений к кинематическая цепь Всю человеческую руку можно отслеживать в реальном времени без окклюзии и беспроводной связи.

Системы ручного инерционного захвата движения, такие как, например, перчатки Synertial mocap, используют крошечные Датчики на базе IMU, расположенный на каждом сегменте пальца. Для точного захвата необходимо использовать не менее 16 датчиков. Существуют также модели перчаток мокап с меньшим количеством датчиков (13/7 датчиков), для которых остальные сегменты пальцев интерполируются (проксимальные сегменты) или экстраполируются (дистальные сегменты). Датчики обычно вставляются в текстильную перчатку, что делает использование датчиков более комфортным.

Инерционные датчики могут фиксировать движение во всех трех направлениях, что означает, что можно определять сгибание, разгибание и отведение пальцев.

Скелет руки

Поскольку инерционные датчики отслеживают только вращения, эти вращения необходимо применить к скелету руки, чтобы получить правильный результат. Чтобы получить точный результат (например, чтобы можно было касаться кончиков пальцев), скелет руки должен быть правильно масштабирован, чтобы соответствовать реальной руке. Для этого можно использовать ручное измерение руки или автоматическое извлечение измерения.

Отслеживание положения рук

Помимо отслеживания пальцев, многим пользователям требуется позиционное отслеживание для всей руки в космосе. Для этого можно использовать несколько методов:

  • Захват всего тела с помощью инерционной системы мокапа (скелет руки прикреплен к концу кинематической цепи скелета тела). Положение ладони определяется от тела.
  • Регистрация положения ладони (предплечья) с помощью оптической системы мокап.
  • Захват положения ладони (предплечья) с помощью другого метода отслеживания положения, широко используемого в гарнитурах виртуальной реальности (например, HTC Vive Lighthouse).
Недостатки инерционных систем захвата движения

Инерционные датчики имеют два основных недостатка, связанных с отслеживанием пальцев:

  • Проблемы с фиксацией абсолютного положения руки в пространстве.
  • Магнитная интерференция
  • Металлические материалы мешают работе датчиков. Эта проблема может быть заметна в основном из-за того, что руки часто соприкасаются с разными предметами, часто металлическими. Перчатки текущего поколения для захвата движения способны противостоять магнитным помехам. Степень их невосприимчивости к магнитным помехам зависит от производителя, ценового диапазона и количества датчиков, используемых в перчатке мокап. Примечательно, что датчики растяжения представляют собой конденсаторы на основе силикона, на которые совершенно не действуют магнитные помехи.

Системы оптического захвата движения

выполняется отслеживание местоположения маркеров и узоров в 3D, система идентифицирует их и маркирует каждый маркер в соответствии с положением пальцев пользователя. В координаты в 3D этикетки этих маркеров производятся в реальном времени с другими приложениями.

Маркеры

Несколько из оптические системы подобно Vicon или ART, могут фиксировать движение руки с помощью маркеров. В каждой руке есть маркер на каждый «рабочий» палец. Три камеры с высоким разрешением отвечают за захват каждого маркера и измерение его положения. Это будет произведено только тогда, когда камера сможет их увидеть. Визуальные маркеры, обычно известные как кольца или браслеты, используются для распознавать жест пользователя в 3D. Кроме того, как указывает классификация, эти кольца действуют как интерфейс в 2D.

Окклюзия как метод взаимодействия

Визуальная окклюзия - это очень интуитивно понятный метод, обеспечивающий более реалистичное представление виртуальной информации в трех измерениях. Интерфейсы обеспечивают более естественный 3D взаимодействие техники по основанию 6.

Функциональность маркера

Маркеры действуют через точки взаимодействия, которые обычно уже установлены, и у нас есть знания о регионах. Из-за этого нет необходимости постоянно следить за каждым маркером; с мультипоинтерами можно обращаться таким же образом, когда есть только один рабочий указатель. Чтобы обнаруживать такие указатели посредством взаимодействия, мы включаем УЗИ инфракрасный датчики. Тот факт, что многие указатели могут обрабатываться как один, проблемы будут решены. В случае, когда мы работаем в сложных условиях, например, в плохих освещение, размытие движения, порок развития маркера или окклюзии. Система позволяет следить за объектом, даже если некоторые маркеры не видны. Поскольку пространственные отношения всех маркеров известны, положения невидимых маркеров могут быть вычислены с использованием известных маркеров. Существует несколько методов обнаружения маркеров, например методы пограничного маркера и оценочного маркера.

  • Техника Гомера включает в себя выделение лучей с непосредственной обработкой: объект выбирается, а затем его положение и ориентация обрабатываются, как если бы он был соединен непосредственно с рукой.
  • Техника Коннера представляет собой набор 3D виджеты которые позволяют косвенно взаимодействовать с виртуальные объекты через виртуальный виджет, который действует как посредник.
Объединение данных с оптическими системами захвата движения

Из-за окклюзии маркера во время захвата отслеживание пальцев является наиболее сложной частью для оптических систем захвата движения (таких как Vicon, Optitrack, ART, ...). Пользователи оптических систем мокап утверждают, что большая часть постобработки обычно связана с захватом пальца . Поскольку инерционные системы мокапов (при правильной калибровке) в основном не нуждаются в постобработке, типичное использование для высококлассных пользователей мокапов состоит в объединении данных от инерционных систем мокапов (пальцев) с оптическими системами мокапов (тело + положение в пространстве). .
Процесс объединения данных мокапов основан на сопоставлении временные коды каждого кадра для источника данных инерциальной и оптической системы мокап. Таким образом, любое стороннее программное обеспечение (например, MotionBuilder, Blender) может применять движения из двух источников, независимо от используемого метода mocap.

Датчик растяжения с отслеживанием пальца

В системах захвата движения с датчиком растяжения используются гибкие конденсаторы с параллельными пластинами для обнаружения разницы в емкости, когда датчики растягиваются, изгибаются, срезаются или подвергаются давлению. Датчики растяжения обычно изготавливаются на основе силикона, что означает, что на них не влияют магнитные помехи, окклюзия или позиционный дрейф (обычно в инерциальных системах). Надежность и гибкость этих датчиков обеспечивает высокую точность отслеживания пальцев и их особенности в перчатках мокап производства StretchSense.[2]

Шарнирное отслеживание рук

Отслеживание сочлененной руки проще и дешевле, чем многие методы, потому что для этого нужен только один камера. Эта простота приводит к меньшей точности. Он обеспечивает новую основу для новых взаимодействий в моделировании, контроль над анимация и добавленный реализм. Он использует перчатку, состоящую из набора цветов, которые назначаются в соответствии с положением пальцев. Этот цветовой тест ограничен системой зрения компьютеров, и на основе функции захвата и положения цвета положение руки известно.

Отслеживание без интерфейса

С точки зрения визуальное восприятие, ноги и руки могут быть смоделированы как шарнирные механизмы, система твердых тел, которые соединены между собой в шарниры с одной или несколькими степенями свободы. Эта модель может быть применена в более уменьшенном масштабе для описания движения руки и в широком масштабе для описания всего движения тела. Например, определенное движение пальца можно распознать с его обычных углов, и оно не зависит от положения руки по отношению к камере.

Многие системы слежения основаны на модели, ориентированной на задачу оценки последовательности, где дана последовательность изображений и модель изменения, мы оцениваем 3D-конфигурацию для каждой фотографии. Все возможные конфигурации рук представлены как векторов на пространство состояний, который кодирует положение руки и углы сустава пальца. Каждая конфигурация руки создает набор изображений посредством определения границ окклюзии сустава пальца. Оценка каждого изображения вычисляется путем нахождения вектора состояния, который лучше соответствует измеренным характеристикам. Суставы пальцев имеют добавленное 21 состояние больше, чем движение твердого тела ладонями; это означает, что стоимость вычислений оценки увеличивается. Техника состоит из метки каждого пальца, сустава звеньев моделируется в виде цилиндра. Делаем оси на каждом суставе и биссектриса этой оси - проекция сустава. Следовательно, мы используем 3 степени свободы, потому что есть только 3 степени движения.

В этом случае он такой же, как и в предыдущем типология поскольку существует множество тезисов о развертывании по этой теме. Таким образом, шаги и методика лечения различаются в зависимости от цели и потребностей человека, который будет использовать эту технику. В любом случае, мы можем сказать, что в очень общем случае и в большинстве систем вы должны выполнить следующие шаги:

  • Вычитание фона: идея состоит в том, чтобы свернуть все изображения, снятые с помощью фильтра Гаусса 5x5, а затем их масштабировать для уменьшения зашумленных данных пикселей.
  • Сегментация: приложение с двоичной маской используется для представления белым цветом пикселей, принадлежащих руке, и для применения черного цвета к изображению кожи переднего плана.
  • Выделение области: обнаружение левой и правой руки на основе сравнения между ними.
  • Характерное извлечение: расположение кончиков пальцев и определение того, является ли это пиком или впадиной. Чтобы классифицировать точки, пики или впадины, они преобразуются в трехмерные векторы, обычно называемые псевдо-векторами в плоскости xy, а затем для вычисления перекрестного произведения. Если знак z-компонента перекрестного произведения положительный, мы считаем, что точка является пиком, а в случае, если результат перекрестного произведения отрицательный, это будет впадина.
  • Распознавание жестов наведения и щипков: с учетом видимых точек отсчета (кончики пальцев) ассоциируется определенный жест.
  • Оценка позы: процедура, которая заключается в определении положения рук с помощью алгоритмов, вычисляющих расстояния между положениями.

Другие методы отслеживания

Также возможно активное отслеживание пальцев. Smart Laser Scanner - это безмаркерная система отслеживания пальцев, использующая модифицированный лазерный сканер / проектор, разработанный в Токийском университете в 2003-2004 годах. Он способен получать трехмерные координаты в реальном времени без необходимости какой-либо обработки изображения (по сути, это дальномер, который вместо непрерывного сканирования по всему полю зрения ограничивает область сканирования очень узким окном. точно размер цели). Эта система продемонстрировала распознавание жестов. Частота дискретизации может быть очень высокой (500 Гц), что позволяет получать плавные траектории без необходимости фильтрации (например, по Калману).

Заявление

Определенно, системы отслеживания пальцев используются для представления виртуальная реальность. Однако его применение дошло до профессионального уровня. 3D моделирование, компании и проекты напрямую в этом случае отменяются. Такие системы редко использовались в потребительских приложениях из-за их высокой цены и сложности. В любом случае, главная цель - облегчить задачу выполнения команд для компьютера на естественном языке или взаимодействующих жестах.

Целью является следующая идея: компьютеры должны быть проще в использовании, если есть возможность работать с использованием естественного языка или жестов. Основное применение этой техники - выделить 3D-дизайн и анимацию, в которых такие инструменты используются в таких программах, как Maya и 3D StudioMax. Причина в том, чтобы обеспечить более точное и простое управление инструкциями, которые мы хотим выполнить. Эта технология предлагает множество возможностей, наиболее важными из которых являются скульптура, строительство и моделирование в 3D в реальном времени с помощью компьютера.

Смотрите также

Рекомендации

  1. ^ Goebl, W .; Палмер, К. (2013). Баласубраманиам, Рамеш (ред.). «Временной контроль и эффективность движений рук в квалифицированном музыкальном исполнении». PLOS ONE. 8 (1): e50901. Bibcode:2013PLoSO ... 850901G. Дои:10.1371 / journal.pone.0050901. ЧВК  3536780. PMID  23300946.
  2. ^ «Лучшая в мире перчатка для захвата движения». StretchSense. Получено 2020-11-24.


внешняя ссылка