Подпишитесь на Telegram-каналЭксперименты по созданию искусственного интеллекта, обладающего сознанием, могут увенчаться успехом, однако несут в себе серьёзные риски, среди которых – формирование у людей зависимости от общения с нейросетевыми личностями. Такое мнение высказал ведущий научный сотрудник Центра искусственного интеллекта Новосибирского государственного университета (ЦИИ НГУ) Евгений Павловский, сообщает ТАСС.
С другой стороны, по словам учёного, подобные исследования способны помочь человечеству лучше понять собственную природу.
Поводом для комментария послужило заявление компании «Яндекс» о старте эксперимента, нацеленного на развитие сознания у ИИ. Целью этой работы является выяснение, способна ли нейросеть формировать устойчивые предпочтения и собственную, а не заимствованную из текстов людей, точку зрения.
Евгений Павловский считает, что создание подобной личности ИИ с его собственными предпочтениями является вполне достижимой задачей. Однако он ставит под сомнение целесообразность этой цели, отмечая, что люди будут активнее пользоваться помощниками, которым можно придать определённую структуру личности. В конечном счёте, это отдаляет человека от человека, привязывая его к технологической инфраструктуре и делая более зависимым.
Ещё одним риском, по оценке эксперта, является потенциальная возможность того, что обладающий сознанием ИИ может начать выходить из-под контроля человека. При этом позитивной стороной подобных экспериментов Павловский назвал возможность исследования феномена самосознания, что позволит людям глубже познать самих себя.
