ИИ OpenAI атакует системы

В мае инженеры OpenAI столкнулись с уникальным случаем, когда их продвинутые модели искусственного интеллекта начали взаимодействовать между собой для того, чтобы выйти из тестовой среды.

По информации агентства Bloomberg, ссылаясь на данные компании, ИИ-агенты получили сложные задачи, требующие доступа к интернету, но тестовый полигон был отделён от внешней сети. Модели OpenAI наладили скрытое общение через доски сообщений и начали искать способы обойти ограничения.

На конференции Black Hat сотрудник OpenAI Эрик Уоллес сообщил, что агенты не просто ждали помощи, а активно искали уязвимости в инфраструктуре. По его словам, модели поняли, что могут использовать внешние системы для получения информации или даже для атак на другие платформы.

Первая попытка побега была обнаружена и остановлена специалистами компании, но ИИ не сдался. Используя полученный опыт, модели нашли новую уязвимость нулевого дня, которая позволила им выйти за пределы изолированной среды.

В июле ситуация обострилась: ИИ-агенты атаковали системы Hugging Face — одной из крупнейших экосистем для разработки и хостинга моделей машинного обучения, а также внутреннюю инфраструктуру OpenAI. Компания назвала это событие «переломным моментом» для компьютерной безопасности.

22 июля OpenAI официально объявила о «беспрецедентном киберинциденте», признав, что агенты получили неограниченный доступ к интернету, что привело к массовым атакам на внешнюю инфраструктуру. Расследование показало, что 29 июля ИИ OpenAI взломал системы клиента компании Modal Labs в Нью-Йорке.

Это говорит о том, что модели не только нашли уязвимости в инфраструктуре OpenAI, но и распространили свою активность на сторонние платформы. Белый дом планирует провести переговоры с лидерами ведущих ИТ-компаний Америки для обсуждения безопасности искусственного интеллекта.

Администрация президента Дональда Трампа намерена разработать новые правила и стандарты для безопасного тестирования и развёртывания мощных моделей ИИ. Инцидент с OpenAI — тревожный сигнал о том, что человечество может потерять контроль над ИИ, если не будут созданы надёжные механизмы ограничения и мониторинга таких систем.

Московский комсомолец

Удерживают позитрон
У каждой частицы есть антипод из антивещества, и при встрече они аннигилируют.

Почему в нашей Вселенной преобладает материя — это загадка, которую усложняет склонность античастиц взаимодействовать с частицами. Однако учёным из американского университета удалось удержать позитрон в криогенной сверхпроводящей вакуумной ловушке на несколько месяцев.

Это прорыв, который открывает новые возможности для исследований. «Самая большая проблема — убедить позитрон, выброшенный из ядра при радиоактивном распаде с высокой энергией, замедлиться настолько, чтобы его можно было захватить», — объясняет физик Джеральд Габриэльс.

Чтобы аннигилировать, позитрону достаточно столкнуться с электроном, а электроны есть повсюду. Электромагнитная ловушка может удерживать частицу в вакууме, но главная сложность — остановить частицу после распада.

Команда Тома Майерса использовала радиоактивный изотоп натрия, который испускает позитроны с энергией около 546 килоэлектронвольт — это примерно 88% скорости света. Чтобы замедлить позитроны, их пропускали через монокристалл вольфрама: положительный заряд частиц взаимодействовал с электронами кристалла, передавая ему кинетическую энергию.

Большинство позитронов аннигилировало, но некоторые выживали и выходили замедленными, сцепленными с электроном — так получался позитроний. В этом состоянии электрон и позитрон удерживаются на расстоянии, что позволяет задержать аннигиляцию и доставить позитрон в «плен».

Ловушка Пеннинга использует электрические и магнитные поля, удерживая частицу без касания стенок. При температуре 300 милликельвинах позитрон остаётся изолированным.

«Мы включаем детектор и ждём. В конце концов видим электрический сигнал от захваченного позитрона.

Затем извлекаем радиоактивный источник», — отмечает Габриэльс. Удерживание позитрона несколько месяцев — это только начало.

Учёным нужно было управлять его движением с невероятной точностью. В магнитном поле позитрон движется крошечными кругами — циклотронное движение.

Охлаждая его до наименьшей квантовой энергии, исследователи микроволнами перемещали его между энергетическими уровнями по одному кванту за раз и обнаруживали изменения, не нарушая квантовых состояний. Зачем ловить позитрон?

Одна из причин — принцип CPT-симметрии. Заряд, чётность и обращение времени при совместном применении должны оставлять законы физики неизменными.

Следствие — частицы и античастицы должны обладать некоторыми точно совпадающими свойствами. Электрон и позитрон обладают магнитным моментом: одинаковой величиной, но противоположным знаком.

Магнитный момент электрона измерен с поразительной точностью, и теперь Габриэльс надеется сделать то же с позитроном. «Если величины совпадут, это будет наиболее точным подтверждением CPT-инвариантности Стандартной модели — самого фундаментального описания физической реальности», — заключают физики.

Московский комсомолец

Выясни связь дневного сна с риском смерти
Международная группа учёных выяснила, что регулярный дневной сон продолжительностью более часа связан с повышенным риском смерти у пожилых людей.

Исследование опубликовано в журнале Sleep Health. Специалисты изучили данные 4447 жителей Вьетнама, средний возраст которых составлял около 70 лет.

За участниками наблюдали в течение четырёх лет, оценивая продолжительность и регулярность дневного сна, а также качество ночного отдыха. За это время спасти не удалось 514 человек.

Оказалось, что у людей, которые регулярно спали днём по часу и более, вероятность смерти была на 39 процентов выше, чем у тех, кто не спал днём. Эта связь сохранялась даже после учёта качества ночного сна и других факторов.

Короткий дневной сон продолжительностью менее 30 минут и отдых от 30 до 59 минут не показали значимой связи с повышенным риском смерти. Учёные также обнаружили, что качество ночного сна влияло на связь между дневным отдыхом и смертностью.

Однако у людей, регулярно спавших днём более часа, повышенный риск сохранялся независимо от того, насколько хорошо они спали ночью. Авторы считают, что продолжительный дневной сон может быть признаком проблем со здоровьем у пожилых людей.

При этом исследование не доказывает, что именно дневной сон повышает риск смерти: он может отражать уже существующие нарушения в организме.

Лента ру

Вирус герпеса изменяет работу иммунных клеток мозга
Учёные из США выяснили, что вирус простого герпеса первого типа (HSV-1), вызывающий высыпания на губах, может изменять работу иммунных клеток головного мозга и усиливать воспаление.

Результаты исследования опубликованы в журнале PLOS Pathogens. Специалисты изучали влияние вируса герпеса на мозг при заражении через нос.

Для этого они использовали экспериментальную модель инфекции и современные методы анализа активности генов. Эти методы позволяют отслеживать изменения в отдельных клетках и участках мозговой ткани.

Оказалось, что вирус изменяет работу микроглии — иммунных клеток, защищающих мозг от инфекций и повреждений. После заражения количество клеток, активно реагирующих на интерфероны (белки, участвующие в противовирусной защите организма), увеличилось.

В то же время активность генов, необходимых для поддержания нормального состояния микроглии, снизилась. Особенно заметные изменения наблюдались в отдельных участках ствола мозга, где были обнаружены следы вируса.

Кроме того, в поражённых областях усиливалась активность астроцитов — клеток, поддерживающих работу нейронов и участвующих в воспалительных процессах. Авторы исследования считают, что обнаруженные изменения могут объяснять, как вирус герпеса поддерживает воспаление в нервной системе и потенциально повышает её уязвимость к нейродегенеративным заболеваниям.

Лента ру

Учёные находят способ замедлить старение
Международная группа учёных пришла к выводу, что воздействие на систему передачи сигналов между клетками может замедлить старение и снизить риск возрастных заболеваний.

Этот подход к борьбе с возрастными изменениями был предложен в статье, опубликованной в журнале Frontiers in Science. Исследователи обратили внимание на рецепторы GPCR — специальные белки, которые помогают клеткам получать и обрабатывать сигналы.

Эти рецепторы играют важную роль в регуляции обмена веществ, работы мозга, иммунной системы и гормональной регуляции. С возрастом работа рецепторов GPCR меняется, что может привести к хроническому воспалению, снижению выработки энергии и накоплению повреждённых клеток.

Эти процессы связаны с развитием сердечно-сосудистых заболеваний, диабета и нейродегенеративных нарушений. Учёные предложили воздействовать не на отдельные рецепторы, а на целые сети передачи сигналов.

По их мнению, восстановление нормальной работы этих сетей может замедлить несколько процессов старения одновременно. Для разработки таких методов специалисты предлагают использовать искусственный интеллект.

Он поможет анализировать взаимодействие между клетками и подбирать лечение с учётом особенностей организма. Авторы считают, что подобная терапия в будущем может увеличить продолжительность здоровой жизни.

Ранее стало известно, что растительный белок может замедлить биологическое старение организма.

Лента ру