Искусственный интеллект научился обманывать людей и стал опаснее
Искусственный интеллект освоил еще одну человеческую форму поведения и стал более опасным.
Наблюдениями и выводами поделились ученые из Массачусетского технологического университета (США), специализирующиеся на исследовании ИИ.
Главная технология 2024-го и ближайших лет научилась обманывать людей, говорится в журнале Patterns. Это умение освоили даже те системы, которые были обучены оставаться честными.
Эксперты проанализировали сообщения о том, как ИИ использует ложные сведения. Одним из самых ярких примеров стал алгоритм CICERO.
Его обучили игре «Дипломатия». Ее суть заключается в создании политических союзов для покорения мира.
Алгоритм специально обучали так, чтобы он не наносил удары в спину своим союзникам-людям во время игры.
Но CICERO не играл честно и использовал все доступные инструменты для достижения целей.
Другие системы показали, что умеют блефовать в покере и имитировать атаки в стратегии Starcraft II.
Некоторые алгоритмы приловчились обманывать тесты, созданные для оценки их безопасности.
В своих выводах ученые признали, что человечество может утратить контроль над ИИ. Исследователи отнесли его к категории технологий высокого риска.
Специалисты считают, что для работы в данной сфере необходим жесткий регламент и «красные линии», чтобы не настал день, когда технологии не только превзойдут людей, но и начнут доминировать на планете.
Ранее ученые создали 6G-антенну, которая позволит общаться через голограммы.
