Физик оценил вероятность «восстания машин» из-за развития нейросетей
Гипотетическое восстание машин может стать возможным из-за совершения множества технологических ошибок в ходе развития и обучения искусственного интеллекта.
Об этом пишет издание «ВЗГЛЯД», с журналистами которого побеседовал физик Алексей Федоров.
Эксперт утверждает, что на сегодняшний день такой исход развития ИИ невозможен и является не более чем фантастической выдумкой.
Однако с течением времени и форсированным развитием данной технологии, такой сценарий может быть воплощен в жизни после череды ошибок, допущенных разработчиками.
На сегодняшний день лишь треть россиян не верит в то, что электротехника, электроника и роботы со временем перестанут подчиняться людям и начнут проявлять агрессию по отношению к ним.
36% полагают, что такой исход технологического развития человечества маловероятен.
А вот 30% жителей России убеждены, что именно так и произойдет в течении ближайшего полувека.
«Использование любой продвинутой технологии без должной осмотрительности может привести к негативным последствиям. Конкретно в случае машинного обучения и искусственного интеллекта один из корней проблем – отсутствие интерпретируемости, зачастую невозможность понять, почему получаются те или иные результаты», – считает Федоров, признавая гипотетические риски.
При этом эксперт соглашается в тем, что иногда ИИ умеет удивлять своими предположениями и ответами на запросы, однако даже если в ходе обучения некоторых нейросетей и закрались ошибки, сейчас они не носят фатального для людей характера.
Для того, чтобы ИИ и продолжал оставаться полезным и безопасным, полагает Федоров, человечество должно сформировать регламенты разработки и использования нейросетей, особенно в областях, имеют отношение к стратегической безопасности.
