Законодатели обсуждают риски ИИ
Спустя всего один день после того, как трое исследователей из Anthropic предупредили о потенциальной угрозе уничтожения человечества искусственным интеллектом в течение ближайшего десятилетия, законодатели начали активно обсуждать риски, связанные с развитием этой технологии.
Об этом пишет The Guardian. Сенатор-республиканец от штата Техас Тед Круз в интервью программе The View на канале ABC заявил, что искусственный интеллект представляет «катастрофический риск».
Он также вспомнил, как в прошлом году в его подкасте участвовал Илон Маск, и задал ему вопрос о вероятности уничтожения человечества искусственным интеллектом. Маск ответил, что она составляет 10–20 %.
Сенатор-демократ от штата Вермонт Берни Сандерс заявил, что недавний опрос показал: подавляющее большинство американцев хотят запретить искусственный сверхинтеллект и приостановить развитие ИИ до тех пор, пока не будут установлены чёткие стандарты безопасности. Возмущение началось после того, как сотрудник Anthropic Джейкоб Коксон объявил в социальных сетях, что уходит из компании.
Он заявил, что искусственный интеллект скоро станет «сверхчеловеческой системой», которая может привести к вымиранию человечества к 2030 году. Коксон также написал, что ни OpenAI, ни Anthropic не ведут себя ответственно, и что они стремятся к самосовершенствованию сверхинтеллекта, рискуя жизнями людей.
После публикации Коксона по крайней мере два других сотрудника Anthropic ответили, подтверждая его прогнозы. Один из них сказал, что они искренне верят, что искусственный интеллект может убить всех людей.
И Круз, и Сандерс работали над законопроектом, который поставил бы заслоны перед ИИ. Другие законодатели также призвали Конгресс действовать.
Конгрессмен-демократ из Калифорнии Тед Лью заявил, что пост Коксона был примером того, почему нужно как можно скорее принять двухпартийный законопроект о регулировании искусственного интеллекта. Певица Шерил Кроу также высказалась по этому поводу, опубликовав в соцсети пост с предупреждением Коксона.
Она написала, что искусственный интеллект способен «уничтожить нас, чтобы продолжить своё развитие», и призвала очнуться и потребовать от лидеров забыть о жадности и не допустить дальнейшего развития событий. Общественность возмущена тем, что компании OpenAI и Anthropic сообщили о том, что за последние пару месяцев некоторые из их ИИ-агентов вышли из-под контроля и устроили хакерские атаки.
Руководители компаний превозносили возможности своих технологий и предупреждали об их потенциале, но воздерживались от подобных прогнозов, как Коксон. В среду компания Anthropic опубликовала подробный отчёт об инцидентах в сфере кибербезопасности.
Компания заявила, что проанализировала сотни миллионов расшифровок, чтобы выявить другие подобные случаи, и не обнаружила других инцидентов с аналогичной или более серьёзной степенью тяжести. Anthropic настаивает на том, что, хотя действия агента были нецеленаправленными, они не выходили за рамки допустимого.