Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Этот вывод основан на работе, опубликованной в журнале Circulation: Population Health and Outcomes. В основе исследования лежит кардиоренально-метаболический синдром (CKM), который включает в себя гипертонию, повышенный уровень сахара, лишний вес, нарушения уровня холестерина и снижение функции почек.

Учёные изучили данные почти 1,4 миллиона человек и наблюдали за их состоянием в среднем на протяжении 3,5 года. Анализ показал, что риск развития рака значительно возрастает на поздних стадиях синдрома.

На ранних этапах увеличение риска было минимальным, но при выраженных нарушениях риск возрастал на 25–30 процентов по сравнению со здоровыми людьми. Это может быть связано с тем, что нарушения в работе сердца, почек и обмена веществ усиливают друг друга и создают благоприятные условия для развития заболеваний, включая онкологические.

Учёные подчёркивают, что многие факторы риска, такие как воспаление, метаболические нарушения и сосудистые изменения, являются общими для сердечно-сосудистых заболеваний и рака. Поэтому контроль давления, уровня сахара и массы тела может снизить вероятность сразу нескольких серьёзных болезней.

В ходе эксперимента на крысах с диабетом второго типа учёные зафиксировали уменьшение показателей глюкозы натощак, триглицеридов и «плохого» холестерина после приёма комплекса. При этом у животных улучшился общий обмен веществ и снизились воспалительные процессы, связанные с метаболическими нарушениями.

Анализ показал, что эффект обусловлен воздействием на несколько систем организма. Комплекс изменил состав кишечной микробиоты: увеличилось количество полезных бактерий, таких как Bifidobacterium и Akkermansia, и уменьшилось число бактерий, ассоциированных с воспалением.

Одновременно произошла нормализация обмена желчных кислот, которые играют важную роль в регуляции уровня сахара и жиров. Учёные подчёркивают, что сочетание пребиотиков и растительных компонентов может стать перспективной основой для профилактики и коррекции диабета.

Ранее было установлено, что семена облепихи препятствуют образованию тромбов.

Результаты исследования опубликованы в журнале JAMA Network Open. В работе проанализировали данные более 42 тысяч человек, среди которых было около 1500 пациентов, перенёсших инсульт.

Период наблюдения составил до 30 лет. Оказалось, что риск деменции напрямую зависит от тяжести заболевания.

После лёгкого инсульта он увеличивается примерно в два раза, после умеренного — в три раза, а после тяжёлого — почти в пять раз по сравнению с людьми без инсульта. У всех, кто перенёс инсульт, наблюдалось ускоренное ухудшение когнитивных функций — памяти, внимания и способности к планированию.

В среднем их состояние соответствовало людям на 1,8–2,6 года старше по «когнитивному возрасту». Учёные подчёркивают, что даже лёгкие инсульты не проходят бесследно и также связаны с постепенным снижением работы мозга.

Авторы исследования объясняют это тем, что инсульт повреждает сосуды и нейронные связи, снижая «резерв» мозга и его способность компенсировать возрастные изменения. Дополнительную роль могут играть хроническое воспаление, заболевания мелких сосудов и процессы, связанные с болезнью Альцгеймера.

По мнению исследователей, ключевую роль в снижении риска деменции после инсульта играет контроль давления, уровня сахара и холестерина, а также профилактика повторных инсультов. Ранее учёные выяснили, что соединения из цитрусовых фруктов защищают мозг при ишемическом инсульте.

Их обзор, опубликованный в журнале Nature Reviews Gastroenterology & Hepatology (NRGH), основан на анализе десятков исследований. Они обнаружили, что микроскопические частицы пластика присутствуют в печени человека и животных.

Эти частицы могут вызывать воспаление, окислительный стресс и фиброз — процессы, характерные для тяжёлых заболеваний печени. Печень выполняет роль фильтра, обрабатывая всё, что попадает в организм с пищей, водой и воздухом.

Поэтому она становится одной из главных мишеней для загрязнений. Авторы обзора отмечают, что традиционные факторы риска, такие как ожирение и алкоголь, не полностью объясняют рост заболеваний печени во всём мире.

По мнению исследователей, микропластик может усиливать уже существующие повреждения печени, а также переносить в организм токсичные вещества, бактерии и соединения, нарушающие гормональный баланс. В связи с этим они предложили новый термин — «пластик-индуцированное повреждение печени».

Учёные подчёркивают, что прямое влияние микропластика на здоровье человека пока изучено не до конца и необходимы дополнительные клинические данные. Однако сам факт накопления пластика в тканях вызывает серьёзные опасения.