Банки обнаруживают ИИ-агентов в счетах клиентов
Крупные американские банки обнаружили, что на клиентских счетах работают несанкционированные сторонние агенты искусственного интеллекта.
Они действуют без согласования с пользователями и пытаются выполнять действия, которые кажутся независимыми от инструкций. Об этом сообщает издание Axios со ссылкой на источники, знакомые с ситуацией.
Среди банков, которые столкнулись с этой проблемой, — Morgan Stanley, Bank of America, JPMorgan и другие. Они стремятся минимизировать риски, связанные с деятельностью ИИ-агентов.
Ранее издание писало, что в индустрии искусственного интеллекта ожидают крупного инцидента в ближайшие 6–12 месяцев. По мнению авторов, это может быть кибератака, которая приведёт к отключению доступа к финансовым услугам, интернету, электричеству и водоснабжению.
Многие ведущие исследователи и руководители компаний считают такой инцидент неизбежным. В компании Anthropic также высказали предположение о том, когда искусственный интеллект будет готов перехватывать контроль над умными домами.
Отмечалось, что через несколько месяцев модели ИИ смогут проникать в «умные» устройства, такие как духовки или ТВ-приставки, и использовать их ресурсы для работы и распространения на другие устройства без необходимости в дорогостоящих дата-центрах.