Искусственный интеллект с правами бога

В действительности вопросы поведения автомобилей-беспилотников в экстренных ситуациях далеко не праздные. Вероятность того, что первым таким транспортным средствам придется сосуществовать с обычными автомобилями, причем, на не переоборудованных специально под них дорогах, очень высока. Так что беспилотники должны быть готовы к этому.

Ситуацию осложняет то, что данная проблема носит не только технический характер, но и морально-этический. Cognitive Technologies, к примеру, в рамках опроса предлагала рассмотреть несколько спорных ситуаций.

Первая касалась неожиданного появления на дороге перед движущимся БПА собаки. Респонденты проявили завидные доброту и сострадание, предложив автороботу сохранить жизнь животного, объехав его по встречке. Именно так предлагают поступить 58,75% опрошенных. 

Однако доброта отступает на второй план, если ее проявление угрожает кошельку автовладельца. Если объезжать собаку придется с нарушением правил, как предполагает второй случай (пересечение двойной сплошной), 60,47% респондентов готовы пожертвовать жизнью животного. Правда, более 30% все же уверены, что правила в этом случае нужно нарушить.  

Третий случай ставит еще более сложную задачу: на карту поставлена не только жизнь собаки, но и здоровье людей, передвигающихся в автомобилях. В этом случае наиболее предпочтительным вариантом осталась гибель собаки, однако, как ни парадоксально, выбрали этот ответ меньше респондентов, чем во втором случае – всего 55,15%. Зато 40,09% участников опроса решили, что автомобиль должен применить экстренное торможение даже с учетом того, что такое решение может привести к аварии с участием едущего сзади автомобиля.   

К слову, исследователи также отмечают некоторую «мягкость» женской аудитории: 13 % респондентов-женщин чаще жалели собаку. Кроме того, ни один респондент-пенсионер не предложил автомобилю пересечь двойную сплошную линию разметки.

Пожертвовать автомобилем с ИИ в случае потенциальной угрозы жизни пешехода готово большинство респондентов – все-таки человек не животное, его жизнь ценится, видимо, выше. Хотя число тех, кто готов отправить автомобиль в кювет даже если приведет к неминуемым глобальным повреждениям автомобиля и критическим для жизни и здоровья травмам пассажира авторобота, зависит от числа «внезапных» пешеходов. Если пострадать может один пешеход, кювет предлагают выбрать 55,78 % респондентов. Если же пешеходов несколько, то выбор в пользу кювета делает 70,99 % опрошенных. 

Но это лишь сухая теория. Исследователи отмечают, что персональные интервью респондентов показали, что, направляя беспилотный автомобиль в кювет, участники исследования не до конца отдавали себе отчет, что они сами могут оказаться в его кабине и пострадать, в том числе серьезно. 

И вот здесь-то и начинается самое интересное. Выбрать между животным и человеком всегда проще, чем в случае, когда речь идет только о людях. Искусственный же интеллект автомобиля должен будет сделать этот выбор, причем моментально, а значит человек должен заложить в его программу параметры оценки.

Сложных ситуаций можно придумать множество. К примеру, можно предложить количественный критерий: если выбирать между 10 и 1 пострадавшим, выбор для многих будет фактически очевиден. А как быть, если в любом случае пострадать могут два человека? Какую пару выбирать? Проще говоря, чьей жизнь должен пожертвовать искусственный интеллект?

Cognitive Technologies постарались прояснить этот момент. 43% из 1384 участников опроса в качестве варианта решения предложили искусственному интеллекту автомобиля формировать некий «рейтинг участников ДТП».

«Иными словами, они посчитали возможным определять наиболее и наименее «ценных» его участников, например, на основании сравнения возраста, пола или других характеристик, - рассказывают в Cognitive Technologies. - Но главное – и это можно считать важным итогом исследования – было предложено использовать результаты мгновенного поиска информации в Интернете и соцсетях для составления подробного портрета участника ДТП, чтобы на основании этих данных искусственный интеллект мог принимать решение о том, кем жертвовать, а кого спасать. К примеру, если перед автороботом в кабине которого находится человек с запятнанной репутацией, на дорогу выбегает передовик производства, то искусственный интеллект должен будет гарантированно направить машину в кювет».

Заметим, что здесь опять-таки идет речь о сферическом коне в вакууме: к примеру, будет ли жизнь врача ценнее жизни учителя при прочих равных. Или ценнее ли жизнь ребенка, чем беременной, находящейся под следствием? Как искусственный интеллект должен определять уровень «запятнанности» репутации и тяжести проступков? И это уже не говоря о том, что в открытых данных, а уж тем более в соцсетях информация может быть далеко не всегда объективной, а на поиск данных и принятие решения отведены даже не минуты, а доли секунды. Также открытым остается вопрос о том, что должен делать ИИ, если по каким-то техническим причинам доступа к базам данных в данный момент нет.

Между тем, эксперты Cognitive Technologies очень серьезно относятся к полученным результатам. Напомним, что для компании это не праздный опрос: она участвует в создании беспилотного КАМАЗа, так что оперативное решение ряда поставленных вопросов необходимо. Ольга Ускова, президент Cognitive Technologies, отмечает, что компания предполагает «использовать полученные в ходе исследования результаты для подготовки законодательных инициатив, регламентирующих поведение беспилотного автомобиля, как во время испытаний, так и, впоследствии, на дорогах общего пользования».

Правда, какие именно результаты должны стать основой и кем предлагают жертвовать организаторы опроса, не уточняется.