Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Снизь риск потери костной массы гормональной терапией
На ежегодной конференции ENDO 2026 были представлены результаты исследования, согласно которым гормональная терапия в период менопаузы существенно снижает риск потери костной массы у женщин.

Учёные изучили данные 387 женщин в постменопаузе, которым с 2021 по 2025 год проводили исследование плотности костей. Примерно треть участниц получала гормональную терапию, а остальные — нет.

Исследователи сравнили частоту остеопении и остеопороза — состояний, связанных со снижением плотности костной ткани и повышенным риском переломов. Выяснилось, что у женщин, получавших гормональную терапию, риск низкой минеральной плотности костей в позвоночнике и бедре был примерно на 69 процентов ниже.

Эта связь сохранилась даже после учёта возраста, времени, прошедшего после менопаузы, уровня витамина D, курения и других факторов здоровья. Авторы отмечают, что многие женщины избегают гормональной терапии из-за опасений по поводу её безопасности.

Однако результаты исследования показывают, что, помимо облегчения симптомов менопаузы, она может играть важную роль в сохранении здоровья костей. Ранее стало известно, что экстракт женьшеня помогает при остеопорозе и улучшает состояние костной ткани.

Лента ру

Витамин C сохраняет мозг здоровым
В журнале PLOS ONE опубликованы результаты исследования, проведённого учёными из Японии.

Они выяснили, что у пожилых людей с более высоким уровнем витамина C в крови состояние мозга лучше. В исследовании участвовали 2044 человека, средний возраст которых составлял 69 лет.

Всем участникам делали магнитно-резонансную томографию мозга и измеряли уровень витамина C в плазме крови. Исследователи оценили объём серого и белого вещества, а также состояние сети пассивного режима работы мозга — системы взаимосвязанных областей, участвующих в памяти, мышлении и саморефлексии.

Анализ показал, что у людей с более низким уровнем витамина C объём серого вещества меньше. Кроме того, у них была более слабая связь между участками сети пассивного режима работы мозга.

Эти закономерности сохранялись даже после учёта возраста, пола, уровня образования, физической активности, а также наличия диабета, гипертонии и других факторов риска. Авторы исследования подчёркивают, что их работа не доказывает причинно-следственную связь, но результаты указывают на возможную роль витамина C в поддержании структуры мозга и сохранении нейронных связей.

Ранее стало известно, что препараты для снижения холестерина уменьшают риск возрастной слабости у пожилых людей.

Лента ру

Семаглутид снижает риск переломов
Специалисты из Стэнфордского университета обнаружили, что семаглутид, который применяется для лечения диабета второго типа и борьбы с лишним весом, может снижать риск переломов костей.

Это было представлено на конференции ENDO 2026. Учёные изучили данные более чем 59 тысяч взрослых пациентов с диабетом второго типа, которые ранее не имели переломов и не принимали лекарства от остеопороза.

Одну группу лечили семаглутидом, а другую — альтернативными препаратами для контроля веса и диабета, такими как дулаглутид, фентермин с топираматом и комбинация бупропиона с налтрексоном. Выяснилось, что пациенты, принимавшие семаглутид, теряли больше веса и реже получали переломы.

В группе семаглутида зафиксировали 794 перелома, а в группе сравнения — 1045. После статистического анализа стало ясно, что применение семаглутида связано со снижением риска переломов примерно на 15 процентов.

Авторы подчёркивают, что результаты оказались неожиданными, так как ранее некоторые исследования связывали быстрое похудение с потерей костной массы и повышенным риском переломов. Новые данные показывают, что воздействие семаглутида на костную ткань может отличаться от опасений, которые возникли вокруг препаратов этого класса.

Лента ру

Чеснок снижает воспаление в лёгких
Учёные изучили действие выдержанного экстракта чеснока и пришли к выводу, что он может уменьшать сильное воспаление в лёгких при остром респираторном дистресс-синдроме.

Результаты исследования опубликованы в журнале Food & Function (F&F). В работе учёные проверили влияние экстракта на иммунные клетки, которые участвуют в воспалительном процессе, а также на мышиной модели повреждения лёгких.

В лабораторных условиях экстракт подавлял выработку молекул воспаления, таких как IL-6 и MCP-1, и снижал активность сигнального пути NF-κB, запускающего воспалительную реакцию. Особенно заметный эффект наблюдался при использовании экстракта чеснока в сочетании с низкой дозой дексаметазона.

Эта комбинация более эффективно подавляла воспалительные сигналы, уменьшала приток иммунных клеток в лёгкие и снижала степень повреждения лёгочной ткани у мышей. Авторы исследования считают, что в будущем выдержанный экстракт чеснока может стать дополнением к противовоспалительной терапии.

Это позволит снизить дозы стероидов и уменьшить риск побочных эффектов.

Лента ру

Другие новости