Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Об этом говорится в систематическом обзоре, опубликованном китайскими учёными в журнале Frontiers in Nutrition. Саркопения — снижение скелетной мышечной массы и силы, связанное с возрастом — оказалась значительно более распространена среди пациентов с НАЖБП, чем среди людей без этого диагноза: 23 процента против 15.

Наличие саркопении было связано с повышением риска жировой болезни печени в 1,58 раза. Риск одновременного развития фиброза печени — более тяжёлой стадии поражения — увеличивался более чем в два раза.

Авторы обзора отмечают, что связь между саркопенией и НАЖБП сохранялась при разных методах оценки мышечной массы, однако различалась в зависимости от способа диагностики заболевания печени. Наиболее выраженные ассоциации наблюдались при подтверждении НАЖБП с помощью компьютерной томографии.

При использовании транзиентной эластографии статистическая значимость в некоторых анализах снижалась. Исследователи подчёркивают, что полученные данные указывают на возможную роль саркопении как модифицируемого фактора риска.

Однако из-за разнородности критериев диагностики и дизайна включённых исследований говорить о прямой причинно-следственной связи пока преждевременно.

К такому выводу пришли учёные из Университета штата Огайо. Результаты их работы опубликованы в журнале Brain, Behavior, and Immunity (BBI).

В ходе эксперимента молодых и пожилых крыс кормили различными вариантами рафинированной диеты с разным содержанием жиров и сахара в течение трёх дней. Всех животных объединяло отсутствие клетчатки в рационе.

У пожилых крыс, независимо от доли жира и сахара, наблюдались нарушения долговременной эмоциональной памяти, связанной с миндалиной — структурой мозга, отвечающей за формирование ассоциаций между опасными событиями и их последствиями. У молодых крыс такого выраженного эффекта не было.

Дополнительный анализ показал, что у животных на «безволоконной» диете резко снижался уровень бутирата — вещества, которое образуется в кишечнике при переработке клетчатки микробиотой. Бутират известен своими противовоспалительными свойствами и способностью проникать через гематоэнцефалический барьер.

Его дефицит может способствовать неконтролируемому воспалению в мозге. При этом негативные изменения возникали задолго до развития ожирения, что ставит под сомнение представление о том, что именно лишний вес является главным фактором когнитивных нарушений.

Авторы исследования подчёркивают, что работа проведена на животных, однако результаты указывают на потенциальную уязвимость стареющего мозга к рационам, бедным клетчаткой. В дальнейшем учёные планируют проверить, способна ли добавка клетчатки или бутирата обратить возрастные когнитивные изменения.

Ранее учёные выяснили, что потребление ягод связано с умеренными улучшениями когнитивных функций.

Этот вывод был опубликован в журнале Food and Function (F&F). Согласно полученным данным, совместное применение веществ оказалось более эффективным, чем использование каждого из них по отдельности.

В нормальных условиях комбинация увеличила длительность сна на 44 процента. У животных с нарушением сна, вызванным кофеином, эффект составил 32 процента, а в модели индуцированной бессонницы — 37 процентов.

При этом магний или апигенин по отдельности не показали такого выраженного действия. Учёные отмечают синергетический эффект: совместное применение усилило результат сверх ожидаемого суммарного влияния компонентов.

Анализ показал, что сочетание магния и апигенина снизило уровень провоспалительных цитокинов, в частности TNF-α, как в крови, так и в гипоталамусе — ключевой зоне мозга, которая регулирует цикл сна и бодрствования. Также наблюдалось подавление активации микроглии и сигнального пути NF-κB, связанного с нейровоспалением.

Это указывает на возможный противовоспалительный механизм улучшения сна. Авторы подчёркивают, что исследование проводилось на животных моделях, поэтому говорить о клиническом эффекте у людей пока рано.

Однако полученные данные позволяют рассматривать комбинацию магния и апигенина как потенциальную натуральную стратегию поддержки сна и как объект дальнейших клинических исследований. Ранее учёные выяснили, что употребление арахиса и грецких орехов улучшает качество сна.

Исследование опубликовано в журнале iScience. В результате у пациентов с болезнью Паркинсона были обнаружены более низкие уровни железа и меди, а также повышенные концентрации марганца и мышьяка.

Особенно устойчивым отличием стало снижение уровня железа. По словам авторов, этот показатель может быть использован для диагностики, так как волосы отражают длительные изменения в организме, в отличие от крови или слюны.

Дальнейшие эксперименты на мышах показали, что снижение железа в волосах связано с нарушениями работы кишечника. У животных с симптомами, похожими на болезнь Паркинсона, была ослаблена барьерная функция кишечника и изменена активность генов, отвечающих за усвоение железа.

Это подтверждает предположение о тесной связи между кишечником и мозгом при нейродегенеративных заболеваниях. Авторы отмечают, что исследование носит предварительный характер и требует подтверждения на более крупных выборках.

Однако, если результаты подтвердятся, в будущем для раннего выявления болезни Паркинсона может потребоваться лишь анализ пряди волос. Ранее учёные выяснили, что депрессия может быть ранним признаком развития нейродегенеративных заболеваний.