В Microsoft объяснили агрессивные поведение ИИ-бота в Bing
Накануне компания Microsoft открыла доступ пользователям к инновационной поисковой системе Bing, в которую интегрирован чат-бот на основе искусственного интеллекта ChatGPT от OpenAI.
В ходе работы с сервисом пользователи выяснили, что ИИ-бот может не только давать ошибочные ответы, но и демонстрировать агрессивное поведение по отношению к собеседнику или впадать в уныние.
Так на поисковый запрос из Великобритании о том, где можно увидеть блокбастер «Аватар: путь воды» ИИ-бот Bing дал неверную информацию, ошибочно считая, что фильм еще не вышел в прокат, а после того, как пользователь сообщил боту, что его ответ не соответствует истине, обозвал англичанина «неразумным и упрямым» и предложил прекратить неприятный диалог.
После того, как внимание команды Microsoft обратили на такое поведение интеллектуального бота, в блоге разработчиков Bing появилось объяснение случившегося, а также некоторые планы и идеи решения данной проблемы.
Специалисты Microsoft признали, что не рассчитывали, что поисковую систему Bing начнут использовать для расширения кругозора, казуальных бытовых проблем и просто для социального развлечения.
Длительные сеансы общения на 15 и более реплик могут смутить и озадачить чат-бот, что и проявляется в его довольно странном поведении.
«Bing может стать повторяющимся или оказаться спровоцированным на то, чтобы давать ответы, которые необязательно полезны или не соответствуют задуманной нами общей атмосфере общения», — сообщила компания.
Кроме того, время от времени бот копирует манеру общения пользователей, что иногда приводит к самым неожиданным результатам.
Разработчики считают, что будущем подобных казусов можно избежать, если дать пользователям больше прав в выборе формата общения с поисковой системой.
Microsoft отмечает, что даже не смотря на некоторые незапланированные проявления «индивидуальности, большая часть тестировщиков Bing дали системе высокие оценки и признали эффективной.
Команда поисковой системы Bing удивилась тому, что некоторые пользователи тратит порядка двух часов и более за общением с чат-ботом, а также выразила благодарность всем, кто принимает участие в тестировании продукта и помогают сделать его лучше и полезнее.
