Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Их обзор, опубликованный в журнале Nature Reviews Gastroenterology & Hepatology (NRGH), основан на анализе десятков исследований. Они обнаружили, что микроскопические частицы пластика присутствуют в печени человека и животных.

Эти частицы могут вызывать воспаление, окислительный стресс и фиброз — процессы, характерные для тяжёлых заболеваний печени. Печень выполняет роль фильтра, обрабатывая всё, что попадает в организм с пищей, водой и воздухом.

Поэтому она становится одной из главных мишеней для загрязнений. Авторы обзора отмечают, что традиционные факторы риска, такие как ожирение и алкоголь, не полностью объясняют рост заболеваний печени во всём мире.

По мнению исследователей, микропластик может усиливать уже существующие повреждения печени, а также переносить в организм токсичные вещества, бактерии и соединения, нарушающие гормональный баланс. В связи с этим они предложили новый термин — «пластик-индуцированное повреждение печени».

Учёные подчёркивают, что прямое влияние микропластика на здоровье человека пока изучено не до конца и необходимы дополнительные клинические данные. Однако сам факт накопления пластика в тканях вызывает серьёзные опасения.

Исследователи изучили данные 30 доклинических работ и обнаружили, что семаглутид (например, препарат «Оземпик») и лираглутид снижают накопление амилоида-бета и тау-белка — ключевых молекул, которые связаны с развитием болезни Альцгеймера. Эти вещества образуют бляшки и клубки в мозге, что нарушает работу нейронов и постепенно приводит к ухудшению памяти и мышления.

Лираглутид показал наиболее устойчивые результаты: в большинстве экспериментов он уменьшал оба типа патологических белков. Семаглутид и дулаглутид также продемонстрировали положительный эффект, хотя данных по ним пока меньше.

Исследования на людях дают ограниченные результаты: явного улучшения когнитивных функций пока не обнаружено, но есть признаки сохранения активности мозга и снижения ранних биомаркеров заболевания. Авторы подчёркивают, что речь идёт скорее о профилактическом эффекте, а не о лечении уже развившейся деменции.

Однако полученные данные указывают на новый возможный подход: препараты, изначально разработанные для контроля сахара и веса, могут влиять на воспаление, обмен веществ в мозге и процессы образования вредных белков. Это потенциально позволяет замедлить развитие болезни.

Ранее учёные выяснили, что семаглутид положительно влияет на здоровье печени.

Результаты исследования опубликованы в журнале Alzheimer’s & Dementia: Diagnosis Assessment & Disease Monitoring (A&D). В эксперименте участвовали более 2100 взрослых жителей Австралии, у которых не было деменции.

Специалисты изучили их рацион и когнитивные способности. Выяснилось, что чем больше в рационе участников было ультраобработанных продуктов, тем хуже они справлялись с тестами на внимание и скорость обработки информации.

Ультраобработанные продукты — это еда, которая подверглась серьёзной промышленной обработке и содержит различные добавки, усилители вкуса, стабилизаторы и другие технологические ингредиенты. К таким продуктам относятся сладкие газированные напитки, чипсы, фастфуд и готовые блюда.

По мнению авторов исследования, увеличение доли такой еды всего на 10 процентов в день примерно соответствует одной стандартной пачке чипсов. Даже такая незначительная прибавка была связана с заметным снижением способности концентрироваться.

Исследователи подчёркивают, что вредный эффект сохранялся независимо от общего качества питания. Это говорит о том, что проблема не только в нехватке полезных продуктов, но и в глубокой переработке пищи.

Такая обработка меняет структуру продукта и может добавлять вещества, которые неблагоприятно влияют на мозг. При этом прямой связи с потерей памяти учёные не обнаружили, но внимание является важной основой для обучения, мышления и решения повседневных задач.

Результаты исследования опубликованы в журнале JAMA Network Open. В эксперименте участвовали свыше двух тысяч человек, у которых на начальном этапе не было признаков деменции.

Специалисты измерили уровень гемоглобина — белка, переносящего кислород, — и наблюдали за состоянием участников примерно девять лет. За этот период деменция проявилась у 362 человек.

Анализ показал, что риск деменции у людей с анемией был на 66 процентов выше. У них также чаще находили биомаркеры, которые связаны с болезнью Альцгеймера и повреждением нервных клеток.

Особенно высокий риск наблюдался у тех, у кого анемия сочеталась с повышенными уровнями таких белков, как p-tau217, NfL и GFAP. По словам учёных, причина может заключаться в том, что при анемии мозг получает меньше кислорода.

Это со временем может привести к повреждению клеток и ускорить нейродегенеративные процессы. Авторы подчёркивают, что анемия может быть значимым и потенциально контролируемым фактором риска.

Ранее стало известно, что антигистаминные препараты могут повысить риск развития деменции.