На пороге технологической сингулярности: ускорять или тормозить

Напомним, что технологическая сингулярность – это гипотетическое время, когда технический прогресс станет настолько быстрым и сложным, что окажется недоступным пониманию человека. При этом скорость этого прогресса возрастет многократно, так как технологии будут порождать технологии. Понятно, что приближение технологической сингулярности связано с развитием и распространением искусственного интеллекта. Эксперты называют разное время наступления технологической сингулярности – в основном это промежуток между 2030 и 2040 годам.

Как напомнил Дмитрий Песков, директор направления «Молодые профессионалы» АСИ, в связи с грядущей технологической сингулярностью нам необходимо определиться с тем, как в ней существовать. Именно поэтому вопросы регулирования становятся так важны.  

Он отметил, что мы уже перестаем понимать, как технологическая сингулярность возникает, можем ли мы с ней справиться и к каким изменениям она ведет. Последнее очень важно, так как сингулярность – это не только возможности, но и угрозы. При этом люди, которые занимаются разработкой нормы и законов, обладают уникальной компетенцией ускорять или тормозить наступление сингулярности. Осталось только определить, что нужно сейчас – ускорять ее наступление или сдерживать.

Александр Гурко, президент НП «Содействие развитию и использованию навигационных технологий» (НП «ГЛОНАСС»), заявил, что сейчас организация при работе над нормативной базой не выполняет ничей заказ, поскольку «имеет наглость считать, что консолидированного запроса на это не существует». Так что в НП пытаются приоритеты расставлять самостоятельно, формируют свою идеологию в нормативной базе, а уже потом обсуждают с членами сообщества.

В частности, регулированию беспилотных транспортных средств НП «ГЛОНАСС» пытается придать некую осмысленность, хотя сегодня для организации, как отметил г-н Гурко, не очевидна полезность беспилотного транспорта на ближайшие 5-7 лет. И все же если какие-то изменения неизбежны, то с ними бороться бесполезно.

Игорь Дроздов, председатель правления Фонда «Сколково», заметил, что не стоит преувеличивать роль права – технологии важнее. Правда, в случае с отдельными технологиями регулирование может влиять по-разному. Если говорить про беспилотники, то они просто не появятся на улицах, пока не изменится регуляторика, а следовательно, ее надо быстрее разрабатывать. А в случае с криптовалютами не так: они будут существовать, пока их не запретят.

«Мы в работе больше прагматики, все эти визионерские истории присутствуют, но в фоновом режиме. Сейчас есть конкретные задачи, которые хотелось бы решить, и абсолютизировать идеи не нужно», - подчеркнул Дроздов. Так что, когда речь заходит про беспилотный транспорт, стоит думать не о движении по дорогам общего пользователя полностью управляемого ИИ автомобиля, а о более продвинутых системах автоматизации управления или удаленном управлении оператором. Ведь самолеты летают на автопилоте и это никого не смущает.

Руслан Ибрагимов, вице-президент по корпоративным и правовым вопросам, член правления ПАО «МТС», согласился с тем, что право не надо рассматривать как нечто абсолютное, хотя его роль в последнее время действительно возрастает. «В некоторых случаях регулирование должно снять барьеры, как в случае с беспилотниками. В других – создать дополнительные регулирующие нормы, как в телемедицине. А в некоторых – включать оборонительную функцию, как в случае с ИИ», - подчеркнул Ибрагимов.

Бояться же сингулярности не стоит: если юристы будут выполнять свою работу хорошо, то и людям тоже будет хорошо. Зато над точно расставить приоритеты. Сейчас, в связи с приближением технологической сингулярности, первоочередной задачей является обеспечение контроля над технологическими процессами и прежде всего – определиться с правовым регулированием ИИ. В основе фундаментальный вопрос, на который мы пока не можем ответить: будет ли ИИ объектом правоотношений или субъектом.

Если будет субъектом, то право придаст ему признаки человека и мы рискуем вступить в конкуренцию с роботами, чего не хотелось бы. А если придать ему статус объекта, то нужно будет облечь это в правовые рамки: обеспечить наличие «красной кнопки» для отключения ИИ, выработать правила распределения ответственности и т.д. В этом случае мы сможем контролировать искусственный интеллект. При этом Руслан Ибрагимов подчеркнул, что мы даже с точки зрения Конституции на готовы к соперничеству с ИИ – ведь в Конституции декларируется высшая ценность человека.

Любопытно, но в наступление технологической сингулярности верят не все. Сергей Краевой, заместитель министра здравоохранения РФ, убежден, что сингулярность никогда не будет достигнута. Он напомнил известный анекдот. Профессор читает лекцию в институте, и говорит, что коммунизм уже на горизонте. Один студент спрашивает его: «А что такое горизонт?». «Горизонт – это воображаемая линия, в которой небо соединяется с землей и которая удаляется от нас, когда мы приближаемся к ней», отвечает профессор.

Так вот, по мнению Сергея Краевого, с сингулярностью ситуация обстоит примерно так же. К этому надо готовиться, но жить при сингулярности никому не придется. Когда новое появляется, появляется и регуляторика, и уже на основании правил и законов мы будем создавать технологии. «В обществе всегда найдется разумное существо, которое предложит правила, чтобы сохранить себя. Если этого не сделать, жизнь закончится», - резюмировал Сергей Краевой.

Мэйр Пугач, профессор Хайфского университета, также уверен, что роботы нас не завоюют, а компьютеры не изменят, так как регулятивные меры будут подстраиваться под рынок.

Александр Брычкин, генеральный директор корпорации «Российский учебник», убежден, что если регулирование будет меняться в том же темпе, что и технологии, то мы придем к бюрократической сингулярности, а не к технологической, и просто не сможем с таким законодательством работать. Так что регулирование должно быть не запрещающим, а целеполагающим и показывающим возможности.

Таким образом, единого или хотя бы более-менее похожего мнения относительно роли регулирования инноваций у бизнеса и представителей регулятора нет. Понятно только одно: никто не позволит технологиям развиваться без норм и законов. А определяться с тем, запрещать что-то или разрешать, придется уже в процессе.