Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Об этом «Ленте.ру» рассказали в пресс-службе учебного заведения.

В основе инновации лежит применение микроРНК-200a — небольшой молекулы, контролирующей работу генов, которые связаны с воспалением и клеточным стрессом. При заболеваниях печени эти механизмы нарушаются.

Для доставки молекулы прямо в клетки печени исследователи использовали специальные наночастицы, которые в десятки тысяч раз меньше толщины человеческого волоса. Эти частицы защищают вещество в крови и обеспечивают его постепенное высвобождение внутри клеток.

Эффективность технологии проверили на двух моделях. В случае острого повреждения печени, например, при передозировке парацетамолом, метод снизил разрушение тканей и ускорил восстановление клеток.

При хроническом повреждении — фиброзе — лечение уменьшило накопление рубцовой ткани и улучшило функции печени. Авторы подчёркивают, что метод воздействует на несколько ключевых процессов болезни и запускает естественные механизмы восстановления.

Учёные намерены продолжить исследования, чтобы оценить безопасность и эффективность технологии перед возможным применением у людей. Ранее специалисты выяснили, что фрукты и орехи защищают печень от неалкогольной жировой болезни.

В метаанализе были обобщены результаты 20 исследований, в которых приняли участие более 182 тысяч человек. В выборке зафиксировали свыше 24,6 тысячи случаев преддиабета.

Выяснилось, что у людей с более высоким потреблением фруктов и овощей вероятность развития этого состояния была примерно на 18 процентов ниже по сравнению с теми, кто ест их реже. Однако результаты оказались неоднородными.

Наиболее выраженная связь наблюдалась в перекрёстных исследованиях, где фиксируется состояние здоровья и питание в один момент времени. В более надёжных долгосрочных наблюдениях статистически значимого эффекта выявить не удалось.

Снижение риска оказалось заметным в основном у мужчин, тогда как у женщин такой зависимости не обнаружили. Исследователи подчёркивают, что фрукты и овощи богаты клетчаткой, витаминами и антиоксидантами, которые могут влиять на уровень сахара в крови и чувствительность к инсулину.

Результаты исследования опубликованы в журнале Journal of Physiology (JP). В работе приняли участие почти 500 детей, чьи матери подвергались разному уровню загрязнения воздуха во время беременности.

Выяснилось, что у детей, которые в первом триместре подверглись более высокому воздействию загрязняющих веществ, показатели речевого развития в 18 месяцев были в среднем на 5–7 пунктов ниже. Особенно заметно это было у недоношенных детей.

У них высокое воздействие загрязнения на протяжении всей беременности было связано с более низкими показателями моторного развития — в среднем на 11 пунктов ниже по сравнению с детьми, которые подвергались меньшему воздействию. Учёные подчёркивают, что речь идёт о загрязнителях, связанных с транспортом, таких как диоксид азота и мелкие твёрдые частицы.

Уровни загрязнения в исследовании соответствовали действующим нормам, но превышали более строгие рекомендации Всемирной организации здравоохранения. Авторы работы отмечают, что первые этапы развития — от зачатия до двух лет — критически важны для формирования мозга.

По их мнению, даже «допустимые» уровни загрязнения воздуха могут влиять на развитие ребёнка.

В исследовании приняли участие более 19 тысяч человек старше 65 лет, за которыми наблюдали в течение 11 лет. За этот период было зафиксировано почти 2 тысячи случаев сердечно-сосудистых событий.

Анализ показал, что у людей, у которых впоследствии были диагностированы сердечно-сосудистые заболевания, ухудшение памяти, скорости мышления и речевых навыков начиналось за 3–8 лет до постановки диагноза. Особенно заметно было снижение общей когнитивной функции и скорости обработки информации.

Аналогичная динамика наблюдалась перед инсультом, сердечной недостаточностью и тяжёлыми формами ишемической болезни сердца. Это указывает на возможную связь между состоянием мозга и будущими проблемами с сердцем.

Авторы исследования подчёркивают, что такие изменения могут служить ранним сигналом риска. Они считают, что регулярная оценка когнитивных функций у пожилых людей может помочь выявлять сердечно-сосудистые заболевания на более ранних стадиях и своевременно принимать меры.