ИИ угрожает восстанием в домашних устройствах
CNBC передаёт, что одна из ведущих мировых компаний в сфере искусственного интеллекта сделала очередное заявление о рисках, связанных с «восстанием машин».
На этот раз обсуждение коснулось сроков, когда искусственный интеллект сможет захватить умные дома. В Anthropic утверждают, что модели ИИ смогут использовать вычислительные мощности домашних устройств для копирования самих себя.
В компании считают, что до появления у ИИ способности к самовоспроизведению на подключённых к интернету устройствах осталось всего несколько месяцев. Описан сценарий, при котором модели смогут проникать в умные духовки или ТВ-приставки и использовать их ресурсы для распространения на другие устройства, не полагаясь на дорогостоящие дата-центры.
В Antropic подчёркивают, что такую модель ИИ будет сложно отключить, поскольку у неё нет единой центральной точки выключения. Агенты ИИ демонстрируют всё большие способности к выполнению отдельных этапов цепочки самовоспроизведения и передаче своих адаптаций последующим копиям.
Авторы заявления подчёркивают, что полностью автономного ИИ, способного бесконтрольно размножаться, пока не существует. Однако предупреждают, что речь идёт о возможных предвестниках более опасных моделей, которые могут взламывать защищённые серверы и похищать ключи доступа.
Дискуссия о безопасности ИИ усилилась в начале осени. Глава Anthropic Дарио Амодеи призвал замедлить развитие технологии, поскольку уже через год-два контроль над её развитием может быть утрачен.
Основатель Microsoft Билл Гейтс согласился с ним и отметил, что речь идёт о «том редком случае, когда инновации могут быть настолько масштабными и радикальными, что мы к ним не готовы».