Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Средний возраст участников составлял 59 лет, за ними наблюдали примерно 11 лет, оценивая их рацион с помощью анкет. За время наблюдения деменция была диагностирована у более чем 21 тысячи человек.

Анализ показал, что важен не сам факт преобладания растительной пищи, а её качество. Люди, придерживавшиеся более качественной растительной диеты — с упором на цельнозерновые продукты, овощи, фрукты, орехи и бобовые — имели на 7 процентов более низкий риск деменции по сравнению с теми, чьё питание было менее сбалансированным.

Диета с большим количеством переработанных продуктов, сахара и рафинированных углеводов, даже если она оставалась растительной, была связана с повышением риска. Дополнительный анализ показал, что изменения рациона со временем также имеют значение.

Участники, которые переходили к менее качественной диете, демонстрировали рост риска деменции на 25 процентов, тогда как улучшение питания, напротив, снижало его. Авторы исследования подчёркивают, что полученные данные указывают на важность не только выбора растительной диеты, но и её качества для поддержания здоровья мозга.

Ранее учёные выяснили, что высокий уровень витамина D снижает проявления болезни Альцгеймера.

Результаты исследования опубликованы в журнале Medicine & Science in Sports & Exercise (MSSE). В эксперименте участвовали 58 взрослых с недавно диагностированным сахарным диабетом 2 типа.

В течение 26 недель учёные отслеживали физическую активность участников с помощью фитнес-браслетов и анализировали изменения уровня глюкозы и гликированного гемоглобина — ключевого показателя долгосрочного контроля сахара. Оказалось, что именно длительность занятий сильнее всего связана с улучшением показателей.

Ни интенсивность, ни тип тренировок — силовые или аэробные — сами по себе не оказывали значимого влияния. Особенно важную роль длительные тренировки играли в первые недели после начала программы.

По оценкам учёных, увеличение средней продолжительности занятия с 30 до 45 минут связано со снижением уровня гликированного гемоглобина примерно на 0,3 процента. Этот эффект может показаться небольшим, но при регулярных тренировках он способен существенно повлиять на общее состояние здоровья.

Авторы исследования подчёркивают, что результаты помогают упростить рекомендации для пациентов. Вместо сложных схем тренировок достаточно сосредоточиться на увеличении времени активности.

Формирование привычки к более длительным, но комфортным занятиям может стать одной из самых эффективных стратегий контроля уровня сахара.

К такому заключению пришли учёные, чья статья была опубликована в журнале Science Advances (SciAdv). Исследователи обнаружили новый механизм, который связывает лёгкие и мозг.

Оказалось, что под воздействием никотина определённые клетки лёгких начинают вырабатывать экзосомы — микроскопические частицы, переносящие биологически активные молекулы. Эти экзосомы влияют на обмен железа в нейронах, нарушая его баланс.

Этот процесс связан с развитием нейродегенеративных заболеваний, в том числе болезни Альцгеймера. В ходе эксперимента учёные использовали клетки лёгких, полученные из стволовых клеток человека.

После воздействия никотина они активно выделяли экзосомы, содержащие белки, которые регулируют транспорт железа. По словам авторов, это может запустить каскад изменений в мозге, включая окислительный стресс, нарушения работы митохондрий и гибель нервных клеток.

Ранее считалось, что связь между курением и деменцией объясняется в основном ухудшением кровоснабжения мозга. Однако новые данные указывают на дополнительный путь — через сигналы от лёгких, которые напрямую влияют на состояние нейронов.

Авторы подчёркивают, что их работа не доказывает прямую причинно-следственную связь, но помогает объяснить, почему интенсивное курение в среднем возрасте может значительно повысить риск деменции в будущем. Ранее стало известно, что злоупотребление алкоголем может привести к раннему снижению когнитивных функций.

Об этом говорится в исследовании, опубликованном в журнале Communications Medicine (CM). Учёные изучили электронные медицинские записи взрослых пациентов за почти 20 лет.

В анализ были включены как препараты, одобренные для лечения заболевания, так и часто применяемые средства: антидепрессанты, спазмолитики и противодиарейные препараты. Это позволило оценить долгосрочные последствия терапии, которые обычно не учитываются в клинических испытаниях.

Выяснилось, что длительное использование антидепрессантов связано с увеличением риска смерти примерно на 35 процентов. Противодиарейные средства, такие как лоперамид и дифеноксилат, показали ещё более выраженную связь — риск смерти у их пользователей был примерно в два раза выше.

Другие методы лечения, включая одобренные препараты и спазмолитики, такой связи не продемонстрировали. Авторы подчёркивают, что исследование выявляет статистическую связь, но не доказывает, что препараты напрямую приводят к смерти.

Повышенные риски могут быть связаны с общим состоянием пациентов, сопутствующими заболеваниями или осложнениями, например, сердечно-сосудистыми событиями и инсультами. Ранее учёные выяснили, что препараты из группы агонистов GLP-1 защищают от тяжёлых инфекций.