Искусственный интеллект во время испытаний в США повел себя не так, как ожидалось.
ИИ, который управлял беспилотником, принял решение убить оператора в ходе имитационных испытаний.
Об этом сообщает издание The Guardian.
Как утверждается в публикации, самообучающаяся система проанализировала команды, которые ей подавал оператор.
Поскольку в некоторых случаях человек-оператор не давал машине уничтожить цель, определенную как угрозу, она начала считать его такой же угрозой.
[Система — прим. ред.] приняла решение убить оператора, потому что он мешал ей выполнить задачу, — процитировала газета полковника Такера Гамильтона, который является начальником отдела испытаний и операций ИИ ВВС США.
Напомним, что многие политики, бизнесмены и другие влиятельные люди выступают за усиление регулирования сферы ИИ.
Например, Илон Маск заявлял, что необходимо на государственном уровне контролировать ИИ, поскольку данная область может представлять потенциальную угрозу для людей.
Автор: Ирина Тинт
