Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Результаты изысканий размещены в журнале Nature Communications. В основе методики — исследование состояния гликокаликса, тонкого защитного слоя из сахаров и белков, который покрывает внутреннюю часть кровеносных сосудов.

Этот слой особенно уязвим к повреждениям и реагирует на развитие заболеваний одним из первых. Исследователи установили, что во время циркуляции крови эритроциты «обмениваются» частицами гликокаликса со стенками сосудов.

В итоге на поверхности красных кровяных клеток образуется своеобразный биохимический «отпечаток», который отражает состояние сосудистой системы. Авторы утверждают, что такие изменения можно обнаружить гораздо раньше, чем появятся традиционные симптомы болезни.

Раньше для оценки подобных повреждений применялись биопсия тканей и сложная микроскопия. Новая методика может помочь выявлять микроскопические нарушения в сосудах до развития опасных осложнений.

Учёные подчёркивают, что этот метод также может ускорить оценку эффективности лекарств, которые восстанавливают сосудистую стенку.

Такой вывод сделали авторы обзора, который опубликован в журнале Nature Metabolism. Учёные изучили данные о распространённых подсластителях — столовом сахаре и кукурузном сиропе с высоким содержанием фруктозы.

Оба содержат глюкозу и фруктозу, однако, как утверждают исследователи, именно фруктоза инициирует активное накопление жира и синтез триглицеридов. По мнению авторов, фруктоза действует не просто как источник калорий, но и как специфический метаболический сигнал.

При избытке пищи её регулярное употребление может привести к метаболическому синдрому, ожирению и жировой болезни печени. Кроме того, есть данные о потенциальной связи избытка фруктозы с деменцией и некоторыми видами рака.

Исследователи обращают внимание на то, что в организме существует собственный путь выработки фруктозы из глюкозы. Это, по их словам, усложняет влияние фруктозы на обмен веществ и требует дополнительного изучения роли сладких продуктов в развитии хронических заболеваний.

Они опубликовали результаты исследования в журнале Age and Ageing (AA). Учёные изучили данные почти 5500 человек, которые участвовали в крупном английском проекте по исследованию старения.

Исследователи сравнили людей, которые ухаживают за родственниками, с теми, у кого нет таких обязанностей, и оценили, как меняются память, скорость мышления и способность концентрироваться на протяжении многих лет. Выяснилось, что наиболее заметное ухудшение когнитивных функций было у людей, которые тратили на уход более 50 часов в неделю, жили вместе с человеком, который нуждается в помощи, или ухаживали за супругом или партнёром.

Авторы исследования подсчитали, что дополнительное снижение работы мозга у таких людей соответствовало примерно трети обычного возрастного ухудшения за год. Умеренная помощь — около 5–9 часов в неделю — наоборот, была связана с более медленным снижением когнитивных функций.

Положительный эффект особенно наблюдался у тех, кто помогал родителям или родственникам вне собственного дома. Учёные считают, что умеренная вовлечённость может поддерживать умственную активность, чувство полезности и социальные контакты, а чрезмерная нагрузка приводит к хроническому стрессу и переутомлению.

Такой вывод сделали учёные, которые опубликовали результаты масштабного анализа в журнале British Journal of Sports Medicine (BJSM). Специалисты изучили данные 31 клинического исследования, в которых приняли участие более 1345 человек.

Они сравнили, как разные виды физической активности влияют на суточное артериальное давление — более точный показатель сердечно-сосудистых рисков, чем разовые измерения у врача. Наибольший эффект продемонстрировали комбинированные тренировки, которые сочетают кардио- и силовые упражнения, а также интервальные тренировки высокой интенсивности.

В среднем такие нагрузки снижали систолическое давление на 5–6 миллиметров ртутного столба в сутки. Неплохие результаты показали и обычные аэробные нагрузки: ходьба, бег и велосипед.

Авторы исследования подчёркивают, что регулярная физическая активность способствует улучшению состояния сосудов и снижению нагрузки на сердечно-сосудистую систему. Ранее учёные выяснили, что употребление сои, фасоли и чечевицы снижает риск развития гипертонии.