Новое умение – обманывать ИИ

Gartner заявляет, что к 2023 году 10% сотрудников – т.е. более одного из десяти – будут стремиться обмануть системы отслеживания контроля на основе искусственного интеллекта. Данное умение разовьется в ответ на тренд, в рамках которого пандемия COVID-19 стимулирует использование инструментов отслеживания производительности удаленных сотрудников с поддержкой ИИ.

Аналитики отмечают, что многие компании на постоянной основе переходят на удаленную работу с полной или частичной занятостью, что может быть дорогостоящим процессом и требовать культурных изменений. В тех организациях, которые привыкли полагаться на прямое наблюдение за поведением сотрудников, переход на удаленную работу потребует усиления полномочий в области цифрового мониторинга деятельности сотрудников,  причем в некоторых случаях с помощью ИИ.

Так же, как это происходит с любой другой технологией, направленной на ограничение пользователей, сотрудники быстро обнаруживают пробелы в стратегиях наблюдения на основе ИИ. Они могут делать это по разным причинам – например, в интересах снижения рабочей нагрузки, повышения заработной платы или просто назло работодателю. Кто-то может даже посчитать обман инструментов мониторинга на основе ИИ более привлекательной игрой, которую нужно выиграть, чем неуважение к метрике, которую руководство имеет право знать.

Организации используют системы с поддержкой ИИ для анализа поведения сотрудников так же, как ИИ используется для понимания покупателей, клиентов и представителей общественности. Эти инструменты обеспечивают базовое ведение журнала активности с предупреждениями или, в более сложных версиях, могут пытаться обнаружить положительные действия или неправильное поведение с помощью многовариантного анализа.

Многие работодатели используют системы мониторинга производительности, несмотря на то что высокий процент работников находит такие инструменты непривлекательными. Еще до пандемии исследование Gartner показало, что работники опасались новых технологий, используемых для отслеживания и контроля рабочих привычек. По прогнозам Gartner, по мере того как эти инструменты становятся все более распространенными, организации все чаще будут сталкиваться с работниками, которые стремятся уклоняться от них и подавлять их.

Сотрудники могут искать слепые зоны, где показатели не отражают активность, подотчетность неясна или ИИ можно обмануть, создав ложные или вводящие в заблуждение данные. Такая деятельность уже наблюдалась в организациях, ориентированных на цифровые технологии: например, водители такси иногда работают в двух разных службах одновременно, чтобы максимизировать личный доход.

ИТ-руководители, которые рассматривают возможность развертывания инструментов мониторинга производительности с поддержкой ИИ, должны внимательно изучить источники данных, дизайн пользовательского интерфейса и первоначальный вариант использования, предназначенный для этих инструментов, прежде чем вкладывать средства, уверены в Gartner. Нужно определить, помогает ли инструментарий и объем сбора данных сотрудникам выполнять свою работу лучшим образом. Тем, кто все же решит инвестировать в этом направлении, придется убедиться, что технология внедряется этично, проверив ее на соответствие ключевому набору ориентированных на человека принципов проектирования.

Редактор раздела: Александр Авдеенко (info@mskit.ru)

Рубрики: ПО, Кадры

наверх
 
 
     

А знаете ли Вы что?

     
 

ITSZ.RU: последние новости Петербурга и Северо-Запада

25.02.2021 Госсегмент увеличит траты на IT

17.02.2021 Менее четверти россиян работают в удаленном или гибридном режиме

12.02.2021 В киберпространстве наступили девяностые

11.02.2021 Цифровое ускорение для социального предпринимательства

10.02.2021 Импортозамещение на Java становится значимым трендом

09.02.2021 Новое умение – обманывать ИИ

02.02.2021 Применение биометрии в платежах вырастет на 650%

27.01.2021 COVID заставил ангелов падать

MSKIT.RU: последние новости Москвы и Центра

NNIT.RU: последние новости Нижнего Новгорода