Искусственный интеллект — важный аспект новой экономики, но такой же опасный, как мирный атом

Экология познания. Наука и техника: Интервью с Ольгой Усковой, президентом российской компании, которая развивает технологии беспилотного управления автомобилем

Автомобили-беспилотники уже пару лет как не кажутся чем-то фантастическим. Напротив, их появление на дорогах, пожалуй, уже просто вопрос времени. Где же именно в ближайшем будущем появятся роботы на дорогах?

Какие именно технологии будут им помогать «видеть» дорогу и других участников дорожных событий? Как их создают? Обо всем этом поговорим с директором группы компаний Cognitive Technologies Ольгой Усковой.

Ольга Ускова

 — Какие последние технологии вы разработали для беспилотных автомобилей?

— На выставке электроники и робототехники в Лас-Вегасе CES (прошла в январе этого года) — это крупнейший мировой консьюмерский форум, он задает тренды на ближайшие годы — мы демонстрировали целый ряд технологий работы в плохих дорожных и погодных условиях. Это наши российские реалии и наше конкурентное преимущество.

И эксперты CES отмечали, что решения такого класса востребованы на 98% дорог мира. В их числе технология «виртуального тоннеля».

В основе этой технологии лежит принцип самоподобия дорожной сцены. Когда вы едете, вы понимаете, что едете по дороге, хотя не видите знаков разметки. Но ваш мозг понимает, что это дорога, по целому ряду признаков.

Разработчики научились выявлять самые общие такие признаки, присущие различным вариантам дорожного полотна.

«Виртуальный тоннель» строится из определения линии горизонта и объектов вдоль дороги. А называется он так, потому что именно такую форму напоминает удаляющаяся последовательность прямоугольных зон интереса — область, окружающую наблюдаемый в данный момент объект или зону.

Эта технология не зависит от разметки, что дает определенную степень свободы и возможность определять направление движения даже в очень тяжелых условиях. Тоннель работает практически 100-процентно. 

— А что за технология предугадывания поведения других участников дорожного движения? 

— Технология предсказания поведения на дороге. Она связана с работами нейронных сетей глубокого обучения и строится по принципам моделирования функций интуиции человека.

Вы чувствуете, что человек справа может начать перестраиваться в ваш ряд, хотя он, кажется, еще ничего не начал делать. Это диктует ваше поведение. Но на самом деле это происходит не потому, что Бог вас поцеловал.

Это достаточно понятная работа мозга, связанная с гиппокампом. У всех развито боковое зрение, благодаря которому мы видим мельчайшие движения. Мы их не осознаем, но вы «на автомате» за ними следите. Например, если вы видите, что колесо у соседней машины пошло немного вбок, вы понимаете, что машина будет перестраиваться и может вас подрезать.

Наши ребята научились распознавать автомобиль не только как единый объект, но и как набор мелких деталей на нем: номера, фары, зеркала. И изменение угла этих мелких деталей позволяет предсказать поведение машины. Это дает возможность предсказывать дорожный сценарий на несколько секунд вперед, или [иными словами, моделировать] интуитивность поведения робота на дороге.

— Для обучения вы наверняка разбираете данные с видеорегистраторов. На каком количестве записей вы учите нейронные сети?

— Здесь есть заблуждение, что данные нужны в большом объеме. Но количество не определяет качество. Если двухлетнего ребенка на весь день посадить перед телевизором, то он примет огромное количество данных, но ничему не научится. Если с ним сядет преподаватель с одной книжкой, но будет объяснять, что нарисовано на картинках, ребенок получит новое знание. Так же устроены и нейронные сети глубокого обучения. Не нужно бесконечное количество данных, данные должны быть правильно размечены. Они должны быть умными. Поступают не сырые данные, поток проходит определенную обработку, размечивание объектов. И система подготовки данных и передачи в нейронную сеть является ноу-хау. Поэтому очень важны регистраторы. И это огромное преимущество России перед Америкой, потому что в США они запрещены.

Но весь прикол не в количестве, а в эксклюзивности материала, который можно получить с видеорегистратора. У нас, например, есть материал по поведению в дорожной ситуации при падении метеорита. Спровоцировать такие ситуации на полигоне невозможно. А то, что снято с видеорегистраторов и постов дорожных служб, дает ценный материал. Для нас это очень большая подмога.

— А после того, как «по-умному» разметили видео, как дальше учите беспилотники?

— Как человека, только быстрее. Через нейронную сеть проходит большое количество данных, и она приобретает определенные навыки.

— А как учите распознавать необычные объекты на дороге? Например, лигерады.

Голландский переднеприводной лигерад Flevobike

— Нестандартные транспортные средства трудно поддаются распознаванию, потому что все объекты этого класса — велосипед, мотоцикл, сам пешеход — не имеют постоянной, четкой формы.

Пешеход может тянуть за собой коляску, толкать перед собой тележку или сидеть в инвалидном кресле.

Это бесконечное количество форм с точки зрения математической системы. И это отдельный алгоритм распознавания, целый набор поведенческих аспектов, которые определяют объект, например скорость. Машина тоже может быть нагружена, ее очертания могут быть нечеткими.

Бывает, в сумерках видятся контуры человека в кресле. Потом ты вдруг включаешь свет и понимаешь, что там валяется пальто. Выключив свет, ты уже никогда не подумаешь, что это человеческая фигура. Так же работает сеть. Если ей определенную форму один раз задать, она уже точно не перепутает этот образ.

— У нас вообще довольно сложные отношения между водителями и велосипедистами. Когда беспилотники выйдут на дорогу, что же будет?

— Я думаю, наличие беспилотников на дороге будет сильно дисциплинировать все стороны и порядка точно будет больше. Но темы с мотоциклистами и так далее — это еще вопрос скоростей. Велосипед никогда не будет быстрее, чем [автомобиль], а мотоцикл — наоборот. То есть это еще набор всяких функций, которые моделируют поведение транспортных средств.

— А где могут появиться беспилотники?

— На сегодня к стадии готового продукта в наибольшей степени готовы технологии беспилотного движения в пробках — traffic jam pilot, что соответствует третьему уровню автоматизации ADS, по классификации SAE International. Благодаря низкому скоростному режиму уровень безопасности движения в пробках гораздо выше, чем на хайвее или других дорожных участках.

Уже при нынешнем уровне развития технологий автономного управления это позволяет перейти на беспилотное управление с гарантированной точностью детекции объектов дорожной сцены и безопасностью.

Такое положение дел будет вполне экономически обусловлено, поскольку в среднем в мире люди тратят по два-три часа в пробках ежедневно. В любом мегаполисе в мире, не только Москве. И спасти эти два-три часа — это понижение стресса, изменение образа жизни. Так что как первый, полностью роботизированный продуктовый ряд я вижу traffic jam pilot.

Cognitive Technologies также активно движется в этом направлении, и я думаю, что уже в 2019—2020 годах на дорогах мира можно будет увидеть автомобили, передвигающиеся в пробках в беспилотном режиме, в том числе и с нашей системой автономного управления Cognitive Pilot.

— Грубо говоря, это будет обычный автомобиль, который будет переключаться на автоматический режим в пробке?

— Да, ты нажимаешь кнопку и занимаешься своими делами. Но при появлении определенного сигнала нужно быть готовым взять управление на себя.

— На каких дорогах такие автомобили в 2019—2020 годах могут появиться? Ведь у нас законодательство этого еще не позволяет.

— На всех, где это будет разрешено законодательно. То есть это Европа, Америка, Япония, Южная Корея. Что касается нашей страны, то все, что было можно, мы сделали. Инициировали слушания и обсуждения в Думе и профильных ведомствах, заваливали бумагами чиновников разного уровня и т.д. К сожалению, в России я сейчас не вижу прорывного движения в этом направлении ни в законодательной, ни в проектной области.

— А какие страны готовы?

— Лидеры — немцы. Дальше идут американцы. Они очень серьезно к этому относятся, инвестируют. Это однозначно финансовый центр и центр наращивания молодых компетенций. Дальше идет Китай, который движется с безумной скоростью. Затем Япония, Корея. Можно также говорить о Латинской Америке: Аргентине и Бразилии. Потом все остальные.

— А в каких других областях видите применение беспилотников?

— Агро. Там они уже работают. Агро — абсолютно готовая к применению область с понятной экономикой. И там сейчас будет разыграно много альянсов и контрактов.

— Это большой сектор. Беспилотники будут работать во всем секторе?

— Это называется точное сельское хозяйство. Оно имеет несколько разновидностей в зависимости от моделей использования. Есть аутсорсинговая модель, она очень популярна в аграрных странах, той же Латинской Америке, где много сезонов сбора урожаев. Там средние хозяйства размером 500 га — 1000 га ставятся на обслуживание роботизированным тракторным станциям. Они делают заявку: мне нужен робот для опрыскивания полей. И на несколько дней к ним привозят робота, оплата почасовая.

Эта модель там очень развита. Такой подход вполне подходит и для подъема сельского хозяйства в России, потому что дает возможность средним и мелким хозяйствам без личных затрат и найма людей наладить полностью роботизированный процесс.

В той же Латинской Америке это субсидируется государством.

И у нас тоже могло бы. Это работает для хозяйств до 1000 га. Для крупных хозяйств размером 100 тыс. га — это уже тема собственного парка, собственных конюшен. Мы испытываем свою технику в хозяйстве «Союз-Агро» в Татарстане, там большая территория.

Там зерновое хозяйство и разрабатывается система контроля за сбором зерна. Насколько это будет масштабировано на всю страну из того же «Союз-Агро», — вопрос.

— Беспилотники часто критикуют из-за возможных ситуаций, в которых в любом случае придется принести кого-то в жертвы. Что вы по этому поводу думаете?

— Есть два типа ситуации: первый — это как переход от гужевого транспорта к транспорту с двигателями внутреннего сгорания. Здесь скорее сила привычки. Человек привык к лошади, а тут машина с двигателем. Переучиваться потребуется какое-то время.

То же самое и с беспилотниками. Мы думали, что это будет сложно, но с учетом изменившегося менталитета, компьютерных игр, голливудских фильмов и так далее на самом деле все с удовольствием влезут в беспилотники. Период привыкания будет, но он не будет сложный. Видно, что ментальность подготовлена: много сериалов, фильмов, игр. И человек внутренне хочет такую машину.

Вторая часть связана с этикой взаимодействия человек—робот в новом, смешанном обществе. Появились существа, которые начали с нами взаимодействовать, и надо какие-то правила игры обосновать. Если говорить про морально-этические проблемы, когда авария неизбежна, то давайте посмотрим, как это происходит сейчас.

В моей жизни была ситуация: в 1997 году меня вез водитель одной из крупных ИТ-компаний в Бергамо (Италия). Дорогу ремонтировали, но знак ремонта не поставили. Я сидела на заднем сидении справа. Столкновение было неизбежно, но у водителя было несколько вариантов поведения: он мог развернуть машину левым боком или правым боком.

Он развернул машину моим боком. Это не значит, что он меня ненавидел и так сделал. Это совокупность его навыков и опыта, его реакция на стресс.

Сейчас, когда происходит авария с выбором, — это целый набор сложных генетических и приобретенных особенностей индивида плюс его состояние. Поэтому хуже, чем сейчас, быть уже не может. Сейчас ситуация на дороге полностью недетерминирована.

В ситуации с роботом человечество должно договориться, по какому принципу идет: минимизация количества жертв, или спасение самых молодых и жертвовать самыми пожилыми, или спасение женщин за счет мужчин, или мужчин за счет женщин? Это условия задачи, которые надо задать системе. Просто для того, чтобы принять такую ответственность, надо сесть за стол переговоров.

Это очень сильно напоминает ситуацию с атомным оружием. Когда бомбу создали, ученые объявили параметры поражения, надо было сесть и договориться. Никто этого не сделал, пока американцы не показали все это на нескольких сотнях тысяч японцев. Когда все увидели кровь, этот ад, все быстро сели за стол переговоров.

Для чего было это делать через убийство такого количества невинных людей? Так человечество устроено.

— Звучит совсем безрадостно.

— Будет еще хуже. Если не сядем договариваться, то человечество кончится в принципе, потому что искусственный интеллект проходит разные стадии формирования. И в какой-то момент он выйдет в режим суперинтеллекта (Ольга, по-видимому, ссылается на концепцию Ника Бострома, весьма популярную среди IT-предпринимателей. Среди симпатизирующих идеям Бострома — например, Илон Маск).

Это произойдет неизбежно и с высокой скоростью. Если к этому моменту не будет выстроена система моральных критериев ограничений, если останутся лазейки для самостоятельного развития, оно самостоятельно разовьется.

Превратится это в помощника или в оружие — это большой вопрос. Даже у того уровня нейронных сетей, который есть сейчас, есть режим самообучения, который мы не всегда до конца понимаем.

Иногда для нас получаются сюрпризы даже на этом уровне. Через 10 лет может стать поздно. Надо воспринимать искусственный интеллект как очень мощный и очень важный аспект новой экономики, но такой же опасный, как мирный атом.

— Когда беспилотники появятся на дорогах, вы будете ими пользоваться?

— Я и сейчас пользуюсь, в США и Японии, на городских трассах Калифорнии и Токио. У нас движение в беспилотном режиме по дорогам общего пользования запрещено, поэтому пользовалась автомобилем с беспилотным режимом управления на российских полигонах в Набережных Челнах, Сколково и Московской области. Это был и наш грузовик КАМаЗ, и легковые автомобили с нашей системой автономного управления.

— Нравится?

— Нравится, конечно. Если сделаем «пробку», то это просто развяжет руки. Недавно надо было ехать из Лос-Анджелеса в Лас Вегас. Там хороший, сухой хайвэй, мало машин. И меня так раздражало, что нельзя включить режим автопилота, что надо зачем-то держаться за руль. Было ощущение, что набираю текст не на компьютере, а на печатной машинке. опубликовано econet.ru  Если у вас возникли вопросы по этой теме, задайте их специалистам и читателям нашего проекта здесь.

Автор: Алиса Веселкова

P.S. И помните, всего лишь изменяя свое потребление - мы вместе изменяем мир! © econet