Могут ли роботы-роботы самостоятельно разрабатывать предрассудки?

Sep 07, 2018 Оставить сообщение

Появление предрассудков по отношению к другим не требует высокого уровня познавательной способности и может быть легко продемонстрировано искусственно интеллектуальными машинами, как предполагают новые исследования.

Эксперты в области компьютерных наук и психологии из Университета Кардиффа и Массачусетского технологического института показали, что группы автономных машин могут продемонстрировать предубеждение, просто идентифицируя, копируя и изучая это поведение друг от друга.

Может показаться, что предубеждение является специфическим для человека феноменом, который требует человеческого познания, чтобы сформировать мнение или стереотип определенного человека или группы.

Хотя некоторые типы компьютерных алгоритмов уже проявляют предрассудки, такие как расизм и дискриминация по признаку пола, основанные на учебе из общедоступных записей и других данных, созданных людьми, эта новая работа демонстрирует возможность самостоятельного развития групп, представляющих собой предрассудки.

Новые результаты, опубликованные в журнале Scientific Reports, основаны на компьютерном моделировании того, как аналогично предвзятые люди или виртуальные агенты могут образовывать группу и взаимодействовать друг с другом.

Соавтор исследования профессор Роджер Уитакер из Института исследований проблем преступности и безопасности Университета Кардиффа и Школы информатики и информатики сказал: «Путем этих симуляций в тысячи и тысячи раз мы начинаем понимать, как предрассудки развивается и условия, которые способствуют или препятствуют этому.

«Наши симуляции показывают, что предубеждение является мощной силой природы и благодаря эволюции, оно может легко стать стимулом для виртуальных групп населения, в ущерб более широким связям с другими. Защита от предрассудков может непреднамеренно привести к тому, что отдельные лица формируют дальнейшие предсудительные группы, в результате чего трещиноватая популяция. Такой широко распространенный предрассудок трудно отменить ».

Еще один интересный вывод из исследования заключался в том, что в особых условиях, которые включают в себя более отчетливые субпопуляции, присутствующие в популяции, труднее было усугубить предрассудки.

«С большим количеством субпопуляций альянсы без предрассудков могут сотрудничать, не будучи эксплуатируемыми, что также уменьшает их статус меньшинства, уменьшая восприимчивость к предрассудкам. Однако это также требует обстоятельств, когда агенты имеют более высокую склонность к взаимодействуя вне их группы », - заключил профессор Уитакер.

Could AI robots develop prejudice on their own?