Пока одни ученые стараются сделать искусственный интеллект более эффективным и безопасным, другие гораздо больше обеспокоены тем, насколько он толерантен.
Так, американские исследователи пришли к выводу, что современные роботы те еще расисты и сексисты, предвзято относящиеся к людям.
В ходе Конференции по справедливости, подотчетности и прозрачности были представлены результаты исследований, показывающие, что современные нейросети подвержены стереотипам. В частности, особо подчеркивается тот факт, что роботы отдают предпочтение белым мужчинам.
Согласно представленной информации, роботу было необходимо выбрать человека, соответствующего описанию его деятельности. Для эксперимента были представлены изображения людей разных рас и пола.
Результаты исследований ученым не понравились. Так, например, темнокожих мужчин ИИ на 10 процентов чаще относил к категории «преступник», а латиноамериканцев считал «уборщиками».
Кроме этого ИИ во всех случаях отдавал предпочтение мужчинам, когда речь заходила о престижной работе, например, когда было необходимо найти среди предложенных изображений людей врача.
Отмечается, что подобные результаты говорят о несовершенстве современного искусственного интеллекта. Впрочем, дело не столько в стереотипах и предрассудках, сколько в том, что робот пытался выполнить задание.
Согласно представленной информации, в саму постановку задачи была заложена ошибка, которая препятствовала ее выполнению. Не смотря на то, что задаваемые вопросы кажутся вполне простыми, однако на изображениях людей не было никаких атрибутов, позволяющих судить о роде деятельности изображенных на них людей, что делает выполнение задания невозможным.
