Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Бобовые, злаки, орехи и семена — это не только источники белка, но и кладезь клетчатки и биологически активных веществ. Они помогают регулировать аппетит, улучшают обмен веществ и поддерживают здоровье кишечника.

Исследования показывают, что регулярное употребление растительных белков связано с более низким риском сердечно-сосудистых заболеваний, диабета 2-го типа и хронической болезни почек. Это объясняется их способностью снижать уровень «плохого» холестерина, улучшать чувствительность к инсулину и уменьшать воспаление.

Учёные подчёркивают, что наибольшую пользу приносит не отдельный продукт, а общий сбалансированный рацион. Сочетание растительного белка с клетчаткой и другими компонентами пищи усиливает положительное влияние на здоровье и может стать основой профилактики хронических заболеваний.

Они изучили метаболические и клеточные механизмы, которые лежат в основе этого эффекта, и опубликовали результаты в журнале Frontiers in Nutrition. Оказалось, что при таком режиме питания организм переключается с использования сахара на жиры, в результате чего вырабатываются кетоновые тела — альтернативный источник энергии для мозга.

Это имеет большое значение при болезни Альцгеймера, поскольку при этом заболевании нарушается использование глюкозы. Благодаря интервальному голоданию мозг получает «запасной» источник питания.

Кроме того, при интервальном голодании активизируются процессы «очистки» клеток — аутофагия, что способствует удалению повреждённых белков и снижению воспаления в мозге. Также повышается уровень BDNF — вещества, которое поддерживает нейроны и улучшает связи между ними.

Это важно для памяти и мышления. Авторы исследования подчёркивают, что все эти эффекты в совокупности могут снижать накопление токсичных белков, связанных с болезнью Альцгеймера, и поддерживать когнитивные функции.

Однако, несмотря на перспективность результатов, учёные отмечают, что для подтверждения пользы такого подхода для людей необходимы дополнительные клинические исследования. Ранее было установлено, что добавки с омега-3 жирными кислотами могут быть связаны с ускоренным снижением памяти.

В эксперименте участвовали 102 человека, которые придерживались либо кетогенной диеты с резким ограничением углеводов, либо обычной низкокалорийной диеты. Выяснилось, что у тех, кто следовал кетогенному режиму питания, жир в печени уменьшался значительно быстрее: выраженное улучшение зафиксировали у 84 процентов участников, в то время как во второй группе этот показатель составил 45 процентов.

Исследователи объясняют это тем, что сокращение углеводов снижает уровень инсулина и тормозит образование жира в печени. В свою очередь, организм начинает активнее использовать жиры как источник энергии, что ускоряет их «сжигание», в том числе в области внутренних органов.

Вместе с тем кетогенная диета приводила к более заметной потере мышечной массы, поэтому специалисты советуют сочетать её с достаточным потреблением белка и физической активностью. Ранее учёные установили, что ожирение, повышенное давление и апноэ увеличивают риск жировой болезни печени.

Результаты исследования опубликованы в журнале European Respiratory Journal (ERJ). В работе проанализированы данные более чем 11 тысяч человек с астмой, за которыми наблюдали в течение 20 лет.

Оказалось, что среди пациентов с тяжёлой формой заболевания умерли 34%, тогда как среди людей с лёгкой и средней астмой — около 20%. В результате риск преждевременной смерти у пациентов с тяжёлой формой астмы оказался почти в два раза выше.

Повышенная смертность связана не столько с приступами астмы, сколько с сопутствующими заболеваниями. У людей с тяжёлой астмой чаще развиваются сердечно-сосудистые болезни и онкологические патологии, которые и становятся основной причиной смерти.

Частые обострения и постоянная нагрузка на организм ухудшают общее состояние здоровья. Авторы подчёркивают, что тяжёлая астма встречается у сравнительно небольшой доли пациентов — около 3–8%, однако именно эта группа требует особого внимания.

Результаты исследования указывают на необходимость более точной диагностики, регулярного наблюдения и персонализированного лечения для снижения рисков и улучшения прогноза.