Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Почти 500 госпитализированных пациентов из шести стран приняли участие в исследовании. Препарат, который обычно используется в виде инъекций для предотвращения образования тромбов, в аэрозольной форме продемонстрировал не только антикоагулянтные, но и противовирусные и противовоспалительные свойства.

Пациенты, вдыхавшие гепарин, быстрее восстанавливали дыхание, улучшали насыщение крови кислородом и реже нуждались в интенсивной терапии. Учёные подчёркивают, что низкая цена препарата может сделать его особенно важным для стран с ограниченными ресурсами.

Авторы исследования отмечают, что уникальное сочетание свойств делает гепарин перспективным средством не только против COVID-19, но и против других тяжёлых респираторных инфекций, включая грипп и пневмонию. Сейчас команда учёных готовит новые клинические испытания и работает над усовершенствованной формой препарата для ингаляций.

Ранее учёные создали экспериментальный мРНК-препарат, который способен защищать от нескольких вирусов, включая COVID-19 и грипп.

Исследование, опубликованное в журнале Science Advances, показало, что это вещество уменьшает тяжесть инсульта у животных и на клеточных моделях. Оно снижает объём поражённых тканей, препятствует образованию отёков и восстанавливает повреждённые сосуды мозга.

При инсульте часто разрушается гематоэнцефалический барьер — «фильтр» между кровеносной системой и мозгом. Это усиливает воспаление и приводит к гибели клеток.

DMT помогает сохранять этот барьер и улучшает работу астроцитов — клеток, которые поддерживают здоровье нейронов. Кроме того, соединение снижает активность микроглии и выработку провоспалительных цитокинов, дополнительно защищая мозг от повреждений.

Уникальность DMT заключается в том, что оно действует в двух направлениях: укрепляет сосудистую защиту мозга и уменьшает воспаление. Авторы работы считают, что такой комплексный эффект делает его перспективным дополнением к существующим методам лечения инсульта, эффективность которых пока ограничена.

Сейчас DMT проходит клинические испытания как средство для восстановления когнитивных функций у людей после инсульта. Если его эффективность будет подтверждена, это вещество может стать основой нового поколения терапий, которые существенно повысят шансы пациентов на выздоровление.

Ранее учёные показали, что пересадка нейральных стволовых клеток также способна восстанавливать мозг после инсульта.

Учёные выяснили, что такие факторы, как оптимизм, качественный сон, поддержка близких и умение противостоять стрессу, связаны с тем, что мозг человека выглядит моложе его паспортного возраста. Результаты исследования опубликованы в издании Brain Communications.

В эксперименте участвовали 128 человек среднего и пожилого возраста, некоторые из них страдали от хронической боли в суставах. С помощью МРТ и системы машинного обучения учёные определяли «возраст мозга» и сравнивали его с реальным.

Выяснилось, что разница между ними значительна: у людей с полезными привычками мозг был в среднем на восемь лет моложе. Более того, в течение двух лет наблюдения их мозг старел заметно медленнее.

Специалисты отметили, что на мозг негативно влияют хроническая боль, низкий доход и стресс. Однако наибольшую защиту обеспечивают именно положительные факторы.

Особенно сильный эффект оказывают регулярный крепкий сон, здоровый вес, отказ от табака и социальные связи. Всё это снижает риски потери памяти и развития деменции.

Авторы исследования подчёркивают, что полезные привычки можно выработать в любом возрасте. Каждая дополнительная мера — будь то улучшение сна или умение справляться со стрессом — приносит заметную пользу мозгу.

Вывод учёных прост: образ жизни действует как лекарство для мозга.

Они выяснили, что употребление верблюжьего молока с пробиотиком в течение четырёх недель помогает пациентам с диабетом 2-го типа снизить уровень сахара в крови и улучшить показатели холестерина. В эксперименте участвовали 28 человек: одни получали молоко с добавкой Bifidobacterium animalis, другие — обычное.

Через месяц у первой группы снизился уровень глюкозы натощак, улучшилось соотношение «плохого» и «хорошего» холестерина, а в крови стало меньше воспалительных маркеров. Кроме того, учёные заметили положительные сдвиги в работе мышц и изменениях микробиоты кишечника — увеличилось количество полезных бифидобактерий.

Это может способствовать контролю метаболизма и снижению рисков осложнений диабета. Авторы исследования считают, что верблюжье молоко с пробиотиком может стать перспективным элементом диетической поддержки при диабете, несмотря на то, что эксперимент был небольшим.

Ранее уже было обнаружено, что верблюжье молоко способно уменьшать тяжесть аллергической астмы, которая вызвана пылевыми клещами.