На сайте компании Anthropic появилась статья, которая пророчит появление искусственного интеллекта, способного к полному автономному развитию и самосовершенствованию. Это явление, известное как “рекурсивное самосовершенствование”, пока остается в области теоретических прогнозов, однако, по мнению авторов, может случиться раньше, чем человечество успеет подготовиться.
Технологии еще не достигли этого уровня, а рекурсивное самосовершенствование не является неизбежным. Однако, как утверждают специалисты Anthropic, развитие может обогнать готовность большинства институтов. В качестве примера приводится нейросеть Claude, разработка которой во многом осуществляется самой моделью.
Авторы статьи признают, что не могут предсказать, как будет выглядеть мир, где ИИ развивает себя все быстрее, сталкиваясь с социальными и управленческими структурами. Это неизвестное будущее вызывает опасения, требуя размышлений о возможных последствиях.
В статье подчеркивается необходимость замедления или временной приостановки разработки передовых технологий ИИ, чтобы дать обществу возможность адаптироваться. Это позволит социальным структурам и исследованиям в области согласования идти в ногу с технологическим прогрессом.
