Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Нейросеть
Китай запустил ракету Лицзянь-1
Представители телеканала CCTV объявили, что китайская ракета-носитель Лицзянь-1 Y15 успешно вывела на орбиту пять спутников, предназначенных для мониторинга космического пространства и наблюдения за поверхностью Земли.

Запуск ракеты Лицзянь-1, разработанной компанией CAS Space, которая является дочерним предприятием Академии наук Китая, произошёл в 07:33 по пекинскому времени (02:33 по Москве). Старт был осуществлён со стартовой площадки в зоне коммерческих космических инноваций Дунфэн, находящейся вблизи космодрома Цзюцюань на северо-западе страны.

Все пять спутников были выведены на заданные орбиты, что стало значимым достижением для китайской космической программы. Этот запуск стал пятнадцатым полётом ракеты Лицзянь-1.

На данный момент ракеты серии Лицзянь успешно доставили в космос более ста спутников, а общая масса выведенной на орбиту полезной нагрузки превысила 20 тонн. Лицзянь-1 — это лёгкая твердотопливная конструкция весом 135 тонн, высотой 30 метров и шириной 2,65 метра.

Она способна выводить на низкую околоземную орбиту полезную нагрузку до 1,5 тонн, что делает её эффективным инструментом для запуска спутников различного назначения.

Московский комсомолец

Началась магнитная буря
Лаборатория солнечной астрономии ИКИ и ИСЗФ СО РАН сообщила, что магнитосфера Земли отреагировала на длительное воздействие солнечного ветра, и около двух часов назад началась вторая магнитная буря за июль.

Учёные отметили, что это произошло под конец двухдневного пребывания Земли в возмущённой плазме корональной дыры. Буря достигла минимального уровня G1 и не является рекордной.

Однако её возникновение подтвердило точность прогнозов специалистов. По расчётам астрономов, текущее геомагнитное возмущение не будет продолжительным и полностью утихнет к середине дня 24 июля по московскому времени.

Метеозависимым людям рекомендуется соблюдать щадящий режим в этот период. Автор текста — Юлия Широбокова.

Московский комсомолец

Нейросеть
Импетиго растёт в Нидерландах
В Нидерландах наблюдается увеличение числа обращений к врачам из-за импетиго — бактериальной инфекции кожи, которая передаётся при контакте.

Институт исследований здравоохранения Nivel сообщает, что волна заболеваемости в этом году началась раньше и протекает тяжелее, чем в предыдущие годы. В первой половине июля каждую неделю регистрировалось около 370 обращений на 100 тысяч детей до 14 лет.

Это на треть больше, чем за аналогичный период 2025 года, и более чем вдвое превышает уровень 2024 года. Особенно заметен рост среди малышей до пяти лет: в конце июня показатель достиг почти 600 на 100 тысяч.

У детей от пяти до 14 лет он превысил 300. Специалисты выделили две волны роста заболеваемости — в конце мая — начале июня и в конце июня — начале июля.

Эти периоды совпали с аномальной жарой в Европе, но учёные пока не подтвердили прямую связь между этими явлениями. Импетиго проявляется пузырьками, мокнущими участками и желтовато-коричневыми корочками, чаще всего вокруг рта и носа.

Тёплая и влажная погода считается одним из факторов распространения инфекции, а наиболее уязвимой группой остаются маленькие дети. Точных цифр по общему числу заболевших нет, так как многие переносят болезнь в лёгкой форме и не обращаются к врачам, а медики не обязаны уведомлять власти о каждом случае.

Московский комсомолец

Объяснена роль мутаций в старении
Учёные задумались о том, что будет, если убрать все признаки старения, такие как воспаление, окислительный стресс и нарушение регуляции генов.

Они хотели выяснить, останутся ли только случайные мутации, которые накапливаются в клетках при каждом делении. Была создана модель, которая отслеживала, как частота мутаций влияет на работу основных органов.

Оказалось, что наиболее уязвимы те ткани, где клетки не обновляются — сердечная мышца и нейроны головного мозга. Именно они ограничивают максимальную продолжительность жизни.

В то же время кожа и печень, которые постоянно обновляются, могли бы функционировать гораздо дольше. Однако общая система организма не может бесконечно компенсировать ущерб, который накапливается в этих важных органах.

Ранее считалось, что соматические мутации могут быть главной причиной старения. Однако новая работа показывает, что они лишь один из многих факторов.

Если бы старение определялось только мутациями, средняя продолжительность жизни составляла бы около 156 лет. Сейчас люди живут в два раза меньше, что подтверждает роль других механизмов, таких как воспаление, метаболические нарушения и повреждение белков.

Для создания всеобъемлющей теории старения потребуется скоординированная работа многих научных групп в разных областях — от генетики до клеточной биологии и математического моделирования. Авторы работы подчёркивают, что их расчёт — это инструмент, который может помочь оценить вклад различных процессов в старение и определить, на какие механизмы стоит направить усилия для разработки вмешательств.

Даже при идеальном устранении всех других причин старения предел составляет около 200 лет. Любые попытки продлить жизнь человека за эту отметку должны учитывать фундаментальные ограничения, связанные с накоплением мутаций в постмитотических клетках.

Московский комсомолец

Другие новости