Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Исследователи изучили данные почти трёх тысяч женщин в постменопаузе и обнаружили, что при снижении минеральной плотности костей бедренной кости до уровня остеопороза риск смертности возрастает на 47 процентов. Особенно заметная связь прослеживалась у женщин, у которых уже были остеопоротические переломы.

Авторы работы объясняют, что после менопаузы уменьшение уровня эстрогена ускоряет разрушение костной ткани и ухудшает процессы её восстановления. Это не только увеличивает вероятность переломов, но и может свидетельствовать об общем ухудшении состояния организма, включая сердечно-сосудистую систему и обмен веществ.

Учёные подчёркивают важность ранней диагностики остеопороза. Они считают, что регулярные физические нагрузки, питание с достаточным количеством кальция и своевременное лечение могут помочь снизить риски не только переломов, но и других возрастных заболеваний.

Ранее исследователи выяснили, что риск сердечно-сосудистых заболеваний повышает вероятность переломов.

Учёные проанализировали 18 клинических работ и включили в итоговый метаанализ данные 3758 человек с лишним весом и ожирением. Участники исследования проходили программы изменения образа жизни, которые включали диету, повышение физической активности и подсчёт шагов.

В начале исследований люди проходили в среднем около 7,2 тысячи шагов в день. Во время активного этапа похудения участники увеличили этот показатель до 8454 шагов и в среднем потеряли около 4 килограммов.

После завершения диеты большинство сохранило высокий уровень активности — примерно 8241 шаг в день — и удержало значительную часть результата. Средняя долгосрочная потеря веса составила около 3 килограммов.

Авторы работы подчёркивают, что увеличение количества шагов почти не влияло на скорость снижения веса во время самой диеты — главную роль на этом этапе, вероятно, играло ограничение калорий. Однако именно регулярная ходьба оказалась связана с меньшим риском повторного набора веса.

Руководитель исследования отметил, что около 80 процентов людей после похудения в течение нескольких лет снова набирают часть или весь потерянный вес. Учёные считают, что ежедневная ходьба по 8500 шагов может стать простым и доступным способом снизить этот риск.

Результаты изысканий размещены в журнале Nature Communications. В основе методики — исследование состояния гликокаликса, тонкого защитного слоя из сахаров и белков, который покрывает внутреннюю часть кровеносных сосудов.

Этот слой особенно уязвим к повреждениям и реагирует на развитие заболеваний одним из первых. Исследователи установили, что во время циркуляции крови эритроциты «обмениваются» частицами гликокаликса со стенками сосудов.

В итоге на поверхности красных кровяных клеток образуется своеобразный биохимический «отпечаток», который отражает состояние сосудистой системы. Авторы утверждают, что такие изменения можно обнаружить гораздо раньше, чем появятся традиционные симптомы болезни.

Раньше для оценки подобных повреждений применялись биопсия тканей и сложная микроскопия. Новая методика может помочь выявлять микроскопические нарушения в сосудах до развития опасных осложнений.

Учёные подчёркивают, что этот метод также может ускорить оценку эффективности лекарств, которые восстанавливают сосудистую стенку.

Такой вывод сделали авторы обзора, который опубликован в журнале Nature Metabolism. Учёные изучили данные о распространённых подсластителях — столовом сахаре и кукурузном сиропе с высоким содержанием фруктозы.

Оба содержат глюкозу и фруктозу, однако, как утверждают исследователи, именно фруктоза инициирует активное накопление жира и синтез триглицеридов. По мнению авторов, фруктоза действует не просто как источник калорий, но и как специфический метаболический сигнал.

При избытке пищи её регулярное употребление может привести к метаболическому синдрому, ожирению и жировой болезни печени. Кроме того, есть данные о потенциальной связи избытка фруктозы с деменцией и некоторыми видами рака.

Исследователи обращают внимание на то, что в организме существует собственный путь выработки фруктозы из глюкозы. Это, по их словам, усложняет влияние фруктозы на обмен веществ и требует дополнительного изучения роли сладких продуктов в развитии хронических заболеваний.