ИИ угрожает человечеству
Бывший сотрудник компании Anthropic Джейкоб Коксон выразил опасения относительно угрозы вымирания человечества из-за развития искусственного интеллекта.
Он озвучил свои мысли на заседании городского совета Нью-Йорка. По его словам, прогресс в области технологий может привести к потере контроля над ИИ, что, в свою очередь, может стать причиной гибели человечества.
Коксон подчеркнул, что разработчики действуют безрассудно в контексте развития нейросетей, а компании, занимающиеся ИИ, стремятся создать суперинтеллект. Кроме того, технологические компании пока не обладают достаточными знаниями о том, как контролировать разрабатываемые системы ИИ.
Коксон также отметил, что ИИ способен взламывать сторонние сети, за что человек мог бы понести уголовную ответственность. «Мы не понимаем, что ими движет, почему они делают то, что делают», — сказал он.
Ранее Нейт Соарес, глава некоммерческой организации Machine Intelligence Research Institute и бывший инженер компаний Google и Microsoft, заявил, что вероятность вымирания человечества из-за развития ИИ может достигать минимум 95 процентов. Он подчеркнул, что никто не знает, что происходит внутри компьютеров после обработки огромных объёмов данных.