Но оказалось, что обучение с учителем мало что умеет и не подходит для нашей роборуки. По задумке Сергея Запуниди iHand должна была научиться манипулировать объектами на ощупь, поэтому алгоритму необходимо постоянно самообучаться и принимать решения.

После обсуждения Сергей предложил Марку сменить подход к обучению нейронной сети на обучение с подкреплением, а полученные в ходе работы результаты использовать для курсовой работы в МГУ. Марк согласился, и они стали думать, как продолжать работу.

Также в ходе проверок и тестирований команда поняла, что механическая часть iHand требует значительной доработки, поэтому было принято решение делать второй вариант роборуки. В нём мы запланировали улучшить её механическую часть и научить нейросеть захватывать и удерживать объект по данным с тактильных датчиков.

Работа предстояла большая! При этом энтузиазм у команды немного погас, ведь исправлять ошибки всегда менее интересно, чем создавать новое. Однако азарт и желание увидеть готовую работающую роборуку придавали сил, чтобы завершить начатое!

На первый взгляд может встать вопрос: «Зачем в роборуке вообще стоит применять машинное обучение, ведь уже был создан цифровой двойник, с помощью которого можно управлять механической рукой?»

Ответ: с помощью цифрового двойника управление будет из разряда «поверни палец на 5 градусов» т. е. чтобы рука схватила предмет, нужны будут чёткие и детальные указания. Классические алгоритмы не всегда смогут с ними справиться, а вот с помощью машинного обучения — это вполне реально.

Чтобы реализовать первый вариант роборуки iHand, нам потребовался целый год.

На этом этапе силами небольшой команды Центра Инженерной Физики МГУ при участии студентов удалось:

• собрать простейшую механическую руку, с использованием готовой китайской роботизированной кисти и оснастить её всей необходимой электроникой

• создать её цифровой двойник, которым можно управлять с компьютера

• начать программирование роборуки

• выбрать нейронную сеть и понять, какой подход к её дальнейшему обучению стоит использовать

Собрав и протестировав первый вариант механической руки, мы поняли, над чем нам предстоит работать дальше.

Изначально, чтобы сэкономить время и деньги, мы купили на AliExpress уже готовую механическую кисть. Для удешевления стоимости, китайские разработчики не лучшим образам её спроектировали и изготовили. Качество сборки деталей оставляло желать лучшего, из-за этого кисть имела значительный люфт и была крайне далека от подвижности руки человека.

Мы решили изготовить новую роботизированную руку с возможностью оперативно менять её конфигурацию, поэтому большую часть деталей предстояло изготовить на 3D принтере, используя PLA и ABS пластик. А чтобы измерять реальные перемещения роборуки, мы решили оснастить её потенциометрами, возвращающими угол поворота подвижных частей руки и датчиками давления, подающими сигнал о том, что кисть обхватила предмет.

Из-за добавления новых компонентов нам требовалось заново настраивать всю электронику.

Предстоящие сложности не испугали команду, и мы приступили к доработкам!

Игорь Дегтярёв стал искать в интернете общедоступные модели и чертежи по изготовлению протезов и механических рук, которые можно было бы взять за основу и доработать. На YouTube он нашёл ролики с работами Will’а Cogley и показал их команде. Всех заинтересовала модель механической руки, созданная по образу и подобию человеческой. Мы захотели подробнее её изучить.

Так как движение пальцев в этом варианте роборуки должно было осуществляется за счёт тросиковой системы и сервоприводов, мы стали искать способ реализовать эту систему, и вот как нам это удалось! От вала сервопривода к каждому подвижному элементу руки мы натянули корд — плетёную рыболовную леску для веса около 12 кг. Мы использовали именно плетёную леску, потому что она не подвержена сильному растяжению при больших нагрузках. Этот корд (леска) проходил в тефлоновой трубке.

Почему именно тефлон? Он имеет низкий коэффициент трения и это позволяет корду проскальзывать по трубке, не нагружая сервоприводы дополнительным сопротивлением. Но тефлоновую трубку требовалось каким-то образом закрепить. Методом проб и ошибок мы нашли вариант как это можно сделать!

Чтобы придать руке завершённый и эстетичный вид, мы закрепили на пальцы и ладонь специальные кожухи. Так как мы внесли значительные доработки всех суставов, то сделать кожухи такими же, как у оригинальной механической руки Will’а Cogley было невозможно, поэтому мы разработали собственные.

К тому моменту в нашей компании уже появился 3D-принтер и мы смогли самостоятельно напечатать на нём подходящие кожухи из ABS пластика. В них мы предусмотрели полости под провода потенциометров и тефлоновые трубки.

Как и в предыдущем варианте роборуки, на кончики пальцев и в середину ладони мы установили плёночные резистивные тензодатчики FSR402, которые мы закрепили к кожухам.

Теперь 3D-модель полностью соответствует прототипу механической руки, и мы решили использовать её для отладки и проверки алгоритмов управления в виртуальном мире.

Довольно сложно проводить необходимые отладки и измерения на макете. Для этого, возможно, придётся его разбирать на отдельные детали, или понадобится использовать дополнительные измерительные стенды. А вот с помощью компьютерной модели можно с необходимой точностью рассчитывать параметры алгоритмов управления: массы звеньев, их тензоры инерции и расстояния между осями сочленений.

Чтобы сохранить соответствие реальной и виртуальной рук мы использовали в 3D-модели виртуальные двойники реальных устройств, которые имели те же физические параметры: те же модели тензодатчиков, потенциометров и систему управления суставами пальцев, что и на механической руке.

Ведь если при создании цифрового двойника использовать ту же компьютерную 3D-модель, что и при изготовлении макета и моделей датчиков и приводов, то можно получить полное совпадение.

Теперь с помощью программы RViz, мы можем отображать реальное положение роборуки в пространстве и оно полностью совпадает с виртуальным в GAZEBO.

Когда все отладки и измерения были проведены, а управление с помощью цифрового двойника настроено, пришло время настраивать алгоритмы для обучения нейронной сети.

Сергей Запуниди и Марк Прихно продолжили работать в этом направлении. Чтобы роборука могла самостоятельно захватывать и удерживать объект, они разработали новую масштабируемую архитектуру обучения нейронной сети. В ней обучение робота и генерация опыта в симуляции, были разделены для оптимизации и ускорения выработки навыков.

Теперь нейронка работает следующим образом: модуль обучения (расположенный в блоке «train NN») отправляет нейронную сеть («NN») в симуляцию с виртуальной рукой (блок «generate experience»).

Нейронная сеть выбирает действия роботизированной руки, отклик симуляции сохраняется в файл («Database»), который посылается в основной модуль обучения и сохраняется в базу данных опыта. Нейронная сеть учится по накопленным данным, совершенствуется и снова отправляется генерировать опыт.

Применение такой архитектуры позволило:

1. Создать несколько симуляций с виртуальными механическими руками для ускорения набора опыта

2. Ввести иерархическую систему обучения: постепенную выработку навыков, от простых к сложным

3. Формировать различные задачи для руки и вырабатывать тем самым различные навыки

4. Автоматизировать обучение: система способна стабильно накапливать опыт без вмешательства пользователя

5. Ввести нейронные сети, принимающие последовательности данных и обладающие памятью

У команды ушёл ещё 1 год на доработки.

Новая конструкция второго варианта роборуки дала более широкие возможности: теперь iHand может схватить и удерживать предметы разные по весу и по текстуре — тонкие, твёрдые, гибкие.

Изначально мы взяли за основу механической руки разработки польского изобретателя Will’а Cogley, однако, чтобы наша роборука функционировала как нам было нужно, нам пришлось многое изменить. Мы переработали суставы и предплечье, спроектировали новые кожухи и сознательно добавили потенциометры, благодаря которым наша iHand умеет передавать информацию на компьютер, чтобы показать в каком положении она находится.

Нейронная сеть уже генерирует опыт и роборука научилась схватывать и удерживать объекты, и делает она это более точно, чем через управление цифровым двойником.

На этом этапе мы были близки к первоначальной задумке Сергея Запуниди, но ещё оставалось, над чем поработать.

Несмотря на значительный прогресс в проектировании второго варианта роборуки, мы все же допустили недочёты, из-за которых механическую руку невозможно было полностью собрать без использования клея или серьёзной механической обработки напечатанных пластиковых деталей. К тому же часть узлов были ужасно неудобны для сборки, например, не было предусмотрено крепление корда к фалангам пальцев, поэтому корд просто заливался клеем.

Посмотрели мы на всё это и подумали: «Нет, это— не дело! Нужно дорабатывать!» Тем более что роборука уже практически готова и её очень хочется довести до первоначальной задумки.

В июне 2021 года в компанию пришёл работать инженер Павел Бычков. Он, как и многие, заинтересовался проектом и захотел взяться за устранение выявленных проблем. Общий функционал предыдущей версии роборуки нас в целом устраивал, поэтому серьёзных изменений вносить в него мы не планировали, а лишь хотели улучшить внешний вид и устранить недочёты в проектировке.

Павел взялся за работу. Ему удалось полностью изменить конструкцию предплечья и при помощи шарового шарнира соединить с ним кисть роботизированной руки. Со сборкой ему помогал Алексей Милюшин, а с настройкой — Игорь Дегтярёв. К этому моменту, наши помощники — студенты уже окончили университет и, к сожалению, не могут достаточно времени уделять проекту, поэтому основную работу доделывают сотрудники ЦИФ МГУ самостоятельно.

Павел, благодаря своим доработкам, внёс значительный вклад: если раньше мы использовали крепление от настольной лампы и роборука выглядела совсем примитивно, то теперь, у нас есть настоящая рука терминатора! Предплечье представляет собой массивное основание с двумя сторонами: с одной находятся сервоприводы, а с другой — вся электроника.

В этом варианте роборуки мы используем уже 21 сервопривод MG90S для управления всеми подвижными частями кисти и сервопривода RDS3115 для управления положением кисти относительно предплечья. Электроника состоит из 1-й платы управления 32-мя сервоприводами и 4-х плат аналого-цифровых преобразователей USBADC10, которые мы разработали самостоятельно. Через них сигналы с потенциометров подаются в программу управления ROS-control.

В настоящий момент роборука iHand доступна для пользователей в двух вариантах:

Для самостоятельных

Мы выложили в открытый доступ детали роборуки в файлах SolidWorks для печати на 3D-принтере и дальнейшей сборки по инструкции. Вы можете изготовить детали и собрать iHand самостоятельно, воспользовавшись нашим опытом, описанным выше.

Для увлеченных

Мы выпускаем iHand в виде конструктора, доступного к покупке. Что-то вроде всем известного Лего, только для любителей роботостроения: роборука собирается по инструкции, из деталей, разложенных по пакетам (в конструктор не входит программное обеспечение, его приобретение обсуждается по запросу).

Такой конструктор может заинтересовать и взрослых, и подростков, увлекающихся робототехникой. Например, его можно поставлять в кружки для робототехники, ведь в нынешних условиях санкций и сложностью с поставкой импортных деталей, он станет полезным импортозамещением!

Для заказа напишите нам на почту info@physlab.ru

Если задумываться о глобальных возможностях применения, то такую роборуку вполне можно использовать в качестве медицинского протеза для людей с ампутацией верхней конечности, где точность движений, сродни человеческой, выгодно отличала бы iHand от других.

Во всяком случае, для реализации таких идей, нам необходимо сотрудничество с теми, кто будет заинтересован в таких разработках. Мы научились сами и сможем повторить этот опыт в партнёрстве с коллегами. Поэтому если наша разработка заинтересует технологическое сообщество, мы с удовольствием примем участие в поиске практического применения iHand и поделимся своим опытом! Вы можете связаться с нами по контактам, указанным ниже.