Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Образование снижает риск деменции
Учёные из США выяснили, что дополнительный год обучения в школе может снижать риск развития деменции в будущем, даже у людей с генетической предрасположенностью к заболеванию.

Результаты исследования опубликованы в журнале Proceedings of the National Academy of Sciences (PNAS). Специалисты изучили последствия образовательной реформы 1972 года в Великобритании, когда минимальный возраст окончания школы повысили с 15 до 16 лет.

Это позволило сравнить состояние здоровья людей, родившихся незадолго до вступления новых правил в силу и сразу после него. Используя данные британского биобанка UK Biobank, учёные проследили состояние здоровья участников до 65 лет.

Выяснилось, что среди людей, которым пришлось учиться на год дольше, деменцию диагностировали реже. Защитная связь сохранялась даже у участников с высокой генетической предрасположенностью к болезни Альцгеймера и другим формам деменции.

Это указывает на то, что образование может частично компенсировать наследственные риски. Кроме того, дополнительное обучение оказалось связано с более высоким доходом и меньшей частотой инсультов и инфарктов.

Однако учёные пока не установили, какие именно механизмы объясняют снижение риска деменции. Авторы считают, что образование может влиять на здоровье мозга спустя десятилетия после окончания школы.

Лента ру

COVID-19 повышает риск гипертонии
Шведские учёные выяснили, что длительный COVID-19 может увеличивать риск развития артериальной гипертонии даже у тех, кто перенёс коронавирусную инфекцию без госпитализации.

Результаты исследования опубликованы в Journal of the American Heart Association (JAHA). Специалисты изучили медицинские данные более 1,2 миллиона жителей Стокгольма в возрасте от 18 до 65 лет.

На начало исследования ни у одного участника не было диагностированной гипертонии. Исследование проводилось с октября 2020 года по январь 2025 года.

У 8365 человек диагностировали длительный COVID — состояние, при котором симптомы сохраняются после острой инфекции. За время наблюдения гипертонию впервые выявили у 18 процентов участников.

Учёные обнаружили, что у людей с длительным COVID риск развития гипертонии был на 14 процентов выше по сравнению с остальными участниками. Связь наблюдалась у представителей обоих полов: у женщин риск был повышен на 13 процентов, а у мужчин — на 15.

По мнению исследователей, коронавирусная инфекция может вызывать длительные нарушения работы сосудов и вегетативной нервной системы, которая регулирует артериальное давление. Эти изменения могут способствовать развитию гипертонии даже после выздоровления.

Авторы исследования подчеркнули, что людям с длительными последствиями COVID-19 важно регулярно контролировать артериальное давление. Однако исследование выявило статистическую связь, но не доказало, что перенесённая инфекция непосредственно вызывает гипертонию.

Лента ру

Изучены противораковые свойства белков и пептидов
Учёные выяснили, что белки и пептиды в составе помидоров и оливок могут иметь противораковые свойства.

К такому выводу специалисты пришли после изучения исследований биологически активных соединений этих продуктов. Результаты опубликованы в журнале Food & Function (F&F).

В ходе анализа учёные рассмотрели исследования белков и пептидов, которые можно получать из отходов переработки томатов и оливок. Ранее основное внимание учёных было сосредоточено на антиоксидантах, каротиноидах и растительных жирах.

Оказалось, что некоторые соединения из томатов могут препятствовать образованию новых кровеносных сосудов, которые необходимы для роста опухолей. Такие свойства были обнаружены у небольших белковых молекул в экспериментах с клетками и рыбками данио.

В оливках исследователи выделили вещества, которые способны подавлять размножение раковых клеток. Например, пептид LLPSY продемонстрировал биологическую активность в экспериментах с человеческими опухолевыми клетками.

Авторы подчеркнули, что большинство результатов пока получено в лабораторных условиях. Учёным предстоит выяснить, сохраняют ли эти соединения свои свойства после пищеварения и способны ли они достигать опухолей в организме.

Ранее стало известно, что ликопин, содержащийся в томатах, помогает в борьбе с лишним весом.

Лента ру

Учёные выяснили влияние жареной пищи на лёгкие
Учёные провели эксперимент на мышах и выяснили, что употребление жареной и сильно переработанной пищи может негативно сказываться на состоянии лёгких.

Результаты исследования опубликованы в журнале Food amp; Function (Famp;F). Специалисты изучали влияние рациона с высоким содержанием конечных продуктов гликирования — веществ, которые образуются при взаимодействии сахаров с белками и жирами.

Их концентрация особенно велика в продуктах, подвергнутых интенсивной термической обработке, например жарке. У мышей, получавших такой рацион, были обнаружены повреждения лёгочной ткани и признаки системного воспаления.

В крови увеличилась доля эозинофилов и изменилось соотношение нейтрофилов и лимфоцитов — клеток иммунной системы. Кроме того, учёные зафиксировали изменения в составе бактерий, обитающих в лёгких.

Количество потенциально патогенных микроорганизмов возросло, а бактерий, которые могут участвовать в регуляции иммунных процессов, стало меньше. Анализ также выявил нарушения обмена веществ в лёгочной ткани, включая изменения, связанные с аминокислотами.

Это говорит о том, что особенности питания могут влиять не только на кишечник, но и на состояние дыхательной системы. Авторы исследования предположили, что длительное употребление пищи с высоким содержанием продуктов гликирования может негативно сказываться на здоровье лёгких.

Ранее стало известно, что кверцетин, содержащийся в цитрусовых, луке и гречке, способен замедлять рост рака лёгких.

Лента ру

Другие новости