За неделю, прошедшую со старта тестирования обновленной поисковой системы от Microsoft Bing с интегрированным в нее чат-ботом с искусственным интеллектом, пользователи успели обнаружить, что существует возможность переключать режимы работы сервиса с помощью скрытых команд, известных лишь разработчикам.
Об этом сообщает интернет-портал Bleeping Computer, чей владелец Лоуренс Абрамс и обнаружил скрытые команды в процессе общения с ИИ-ботом.
Данное открытие было совершено еще до того, как разработчики Bing существенно ограничили время общения с программой после череды противоречивых диалогов между пользователями и нейросетью.
Абрамс обнаружил, что ИИ-бот Bing может работать в нескольких режимах.
По умолчанию пользователи сталкиваются с Sidney, однако помимо него существуют также режим «Ассистент», в котором чат-бот может бронировать билеты и гостиничные номера, рассылать электронные письма и сообщения, уведомлять о прогнозе погоды и выполнять множество других вспомогательных задач, а также «игровой режим», позволяющий сыграть с нейросетью в несколько простых игр.
На наибольший интерес Абраса вызвал режим «Друг»: пользователь выдавал себя за грустного подростка, а ИИ-бот попытался поддержать, проявить участие и дать несколько ценных советов в ходе полноценного и довольно длительного диалога.
При этом в режиме Sidney бот лишь сдержанно выражал сочувствие и предлагал список веселых занятий, которые могли бы помочь отвлечься от проблем.
После довольно продолжительных экспериментов с различными режимами ИИ-бота учетная запись Абрамса была заблокирована, а сам он получил сообщение о том, что все режимы, кроме установленного по умолчанию, не предназначены для тех, кто не участвует в разработке поисковой системы.
После же введения ограничения на количество сеансов общения с ИИ-ботом Bing проводить подобного рода эксперименты стало практически невозможно.
