Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Учёные изучали действие порошка ферментированного козьего молока, содержащего пробиотические бактерии, на мышах. Оказалось, что продукт богат соединениями, которые связаны с антиоксидантной защитой, такими как креатин, холин, бетаин и ацетил-L-карнитин.

У животных, получавших добавку, улучшилось состояние кишечника: увеличилась высота кишечных ворсинок и уменьшилась глубина крипт. Это свидетельствует о более здоровой слизистой.

Также изменился состав микрофлоры: снизилось количество потенциально опасных бактерий Escherichia–Shigella и выросла доля полезных микроорганизмов. Кроме того, у мышей усилилась антиоксидантная защита селезёнки и снизились признаки клеточного повреждения.

Авторы работы считают, что ферментированное козье молоко может поддерживать здоровье кишечника и иммунной системы за счёт влияния на микробиоту и процессы воспаления.

Результаты исследования опубликованы в журнале Journal of Prevention of Alzheimer’s Disease (JPAD). В работе приняли участие 69 женщин старше 65 лет.

Они рассказали о качестве сна, прошли тесты на память и сканирование мозга, которое позволяет оценить накопление тау-белка — одного из основных маркеров болезни Альцгеймера. Учёные обнаружили, что у женщин с высокой генетической предрасположенностью к болезни плохой сон был связан с ухудшением зрительной памяти и более выраженным накоплением тау-белка в областях мозга, которые поражаются на ранних стадиях заболевания.

При этом у участниц с низким генетическим риском такой связи не выявили. Авторы исследования подчёркивают, что нарушения сна и болезнь Альцгеймера могут взаимно усиливать друг друга.

По их мнению, жалобы на сон могут помочь в выявлении людей с повышенным риском деменции. Исследователи также полагают, что улучшение качества сна в будущем может стать одной из стратегий профилактики болезни Альцгеймера.

Ранее стало известно, что ожирение ускоряет развитие болезни Альцгеймера через специфические жировые молекулы.

Об этом стало известно после публикации результатов исследования в журнале Trends in Biotechnology (TB). Специалисты из Женевского университета и Университетской больницы Женевы разработали материал под названием Amniogel, в который помещают островковые клетки поджелудочной железы, производящие инсулин.

Этот гель создаёт вокруг клеток сеть микрососудов, что способствует их лучшей приживаемости после трансплантации и обеспечивает их питание. В ходе экспериментов на мышах с диабетом было установлено, что такие импланты поддерживают нормальный уровень сахара в крови в течение не менее чем 100 дней.

Результаты оказались значительно лучше по сравнению с обычной пересадкой клеток без использования защитного геля. Основой для Amniogel стала амниотическая мембрана плаценты, получаемая после родов.

Авторы исследования подчёркивают, что материал также может частично защищать пересаженные клетки от иммунной атаки. В перспективе технология может лечь в основу создания полноценной биоинженерной поджелудочной железы и применяться не только при диабете, но и в других видах клеточной терапии.

В экспериментах участники употребляли различные формы острого перца, включая порошок красного перца, перцовый сок, ферментированную пасту кочуджан и добавки с экстрактами перца. Учёные проанализировали данные 14 клинических исследований, посвящённых изучению капсаициноидов — веществ, которые придают перцу остроту.

Выраженного влияния на артериальное давление исследователи не обнаружили, однако в работах продолжительностью более 12 недель было зафиксировано небольшое снижение диастолического давления — примерно на 0,8 миллиметра ртутного столба. Также у участников в среднем снижалась частота сердечных сокращений — примерно на полтора удара в минуту.

Авторы работы подчёркивают, что эффект оказался статистически значимым, но пока недостаточно выраженным для того, чтобы говорить о серьёзной клинической пользе. Тем не менее результаты указывают на потенциальное влияние острого перца на сердечно-сосудистую систему.

Ранее стало известно, что регулярные физические тренировки значительно снижают артериальное давление.