Ученые получили неожиданный ответ от искусственного интеллекта во время конференции в Оксфорде.
Британские ученые Алекс Коннок и Эндрю Стивен захотели подискутировать с ИИ на тему этики.
В общении принимала участие модель естественного языка Мегатрона-Тьюринга, которую обучали при помощи материалов «Википедии» и Reddit, а также англоязычных статей новостных сайтов за 2016-2019 годы.
Ученые выдвинули тезис, что ИИ никогда не научится быть этичным. На удивление публики, нейросеть подтвердила утверждение британцев, добавив, что ИИ – это инструмент, который люди используют как для благих, так и для вредительских целей.
Далее нейросеть предостерегла человечество от гонок вооружения, в которых задействуется ИИ. Алгоритм подчеркнул, что людям вовсе стоит отказаться от подобных разработок.
Но ИИ добавил, что проанализировал будущее и нашел сценарии, в которых нейросеть используется только для создание чего-то лучшего, чем «лучшие люди».
В конце конференции ученые признали, что на данном этапе их ИИ «сыроват» для участия в подобных обсуждениях, передает портал The Conversation.
