Несколько лет назад искусственный интеллект не казался грозным оружием, однако стремительное развитие ИИ резко изменило отношение человека к нему.
Об этом сообщил сооснователь Института исследования машинного интеллекта Элиезер Юдковский, главный IT-экспертов современности, в своем эмоциональном прогнозе в колонке для Time.
Современная языковая модель GPT уже достигла такого прогресса, что созданные ею тексты неотличимы от написанных человеком, и это создает претендент, который перетягивает в лагерь противников самых продвинутых исследователей, включая Илона Маска.
Элиезер Юдковский предлагает полностью прекратить любые исследования в этой области, кроме тех, которые могут оказать содействие, чтобы избежать гибели человечества.
Он говорит, что слишком мощный ИИ становится опасным, и его дальнейшее развитие может привести к тому, что умрет каждый представитель человеческого рода, включая детей.
Илон Маск подчеркивает, что современный ИИ намного опаснее неправильного проектирования самолетов и производства плохих автомобилей.
Ключевая опасность ИИ в том, что он начнет конкурировать с человеком и превосходить его.
