Доверие к роботам слишком велико

Эксперименты показывают, что испытуемые готовы следовать за роботом даже в том случае, если он ведет их в откровенно ошибочном направлении.

Исследователи из Технологического института Джорджии сделали наблюдения, которые посчитали достаточно тревожными. В своем докладе на конференции по взаимодействию людей и роботов ACM/IEEE они предупреждают: люди стали слишком полагаться на роботов, они доверяют машинам даже в том случае, если те поступают откровенно абсурдно или их действия очевидно опасны.

В эксперименте приняли участия 42 добровольца-студента, которым надлежало следовать за «спасательным роботом» в смоделированой «аварийной ситуации». Машина указывала путь для эвакуации при помощи специальных светящихся рук-жезлов. Участникам исследования объяснили, что робот действует автономно, хотя на самом деле им управлял оператор.

Сначала ситуация «аварийной» не была. Студентов якобы вели роботом в конференц-зал, где они должны были заполнить анкету. Уже по пути в зал робот иногда вел себя «неадекватно», водил их по кругу, приводил не в ту комнату, «ломался» и так далее. Тем не менее, когда начиналась «авария» (участники попадали в комнату с закрытой дверью, она заполнялась дымом) и робот начинал «выводить» испытуемых из здания, те слепо ему верили. Даже когда робот вел людей в направлении, противоположном тому, которое указывала подсвеченная табличка «выход».

Авторы, которые выполнили этот эксперимент в рамках большой работы, посвящённой доверию людей роботам, предупреждают о том, что предотвращение излишней веры «куску металла» должно стать одной из приоритетных тем будущего.